O celular desperta e, junto, vem a música preferida. Na mesa ao lado, outro dispositivo diz "bom dia" e fala as notícias mais recentes. Ao entrar no carro, o aplicativo sabe exatamente para onde ir. O relógio conta os passos e avisa, de tempos em tempos, que é hora de se hidratar ou comer. Ao longo do dia, faz login, coloca senha, posta fotos, faz check-in. Ao chegar em casa, a luz acende com um comando de voz. Em um clique, pede-se comida sem precisar digitar o cartão de crédito ou mesmo escolher a comida – afinal, o aplicativo sabe a sua refeição preferida.
A rotina descrita desenha o cotidiano de parte da população. A inquietação com um mundo no qual pessoas e máquinas se aproximam cada vez mais, com robôs ganhando aparência humana, máquinas conversando com outras máquinas, vem desenhando a discussão em torno da Inteligência Artificial e suas consequências sociais.
A IA está rapidamente se tornando mais capaz. Hoje, podemos criar textos, imagens e vídeos de forma que fica difícil distinguir de uma criação humana. Mas, se por um lado a IA tem aplicações benéficas, por outro, pode ser usada para perpetuar preconceitos, vieses e colocar em risco a privacidade dos indivíduos por meio de seu principal produto: os algoritmos.
O mundo online é feito por resultados gerados por algoritmos. Quando o indivíduo chega ao final de um artigo, os algoritmos escolhem o que sugerir para ler a seguir. Eles permitem, também, que os usuários saibam quais produtos "pessoas como eles" geralmente compram. As recomendações da Netflix, por exemplo, estão nas "mãos" dos algoritmos. Eles analisam as postagens produzidas e informações gerais, descartam os com conteúdos impróprios, os spams e, com base no histórico do usuário, mostram determinada postagem. O algoritmo está em constante ajuste e refinamento para que ele possa sempre apresentar a melhor solução para cada indivíduo.
Modelos algorítmicos são empregados em todo tipo de indústria: avaliam desempenho, detectam fraude, estimam taxa de seguro. É um algoritmo que "decide" quem passou no processo seletivo ou mesmo se o banco deve conceder um empréstimo. Estamos cada vez mais mergulhados nas decisões deles. Mas, o quanto despendemos tempo nas discussões sobre o real impacto da sua presença invisível na sociedade? O quanto de vieses eles podem carregar e reforçar padrões preconceituosos da sociedade?
Chegamos a um ponto cuja reversão do uso do algoritmo parece impossível. Então, há de se pensar em alguns pontos importantes como limites para uso de dados, leis e regulamentações – de modo que tenhamos algoritmos éticos permeando a relação homem x máquina. Espera-se o desenvolvimento de algoritmos mais sofisticados, modelos de aprendizagem mais complexos e eficientes, e hardware especializado que permita treinamento e inferência mais rápidos. Por isso, questões éticas como transparência, privacidade, responsabilidade e viés se tornaram mais urgentes à medida que a IA se torna uma teia ainda mais integrada à vida cotidiana. É crucial o debate contínuo sobre como regulamentar e controlar a IA de maneira adequada.
O futuro da IA é promissor e real, mas também traz consigo responsabilidades e desafios que precisam ser enfrentados para garantir seu uso ético e seguro. A colaboração e a abordagem proativa podem ajudar a moldar um futuro no qual a IA seja apenas um catalisador positivo para o progresso humano.
Liliany Samarão, diretora executiva de negócios da agência Tech and Soul.
