Com o avanço da tecnologia, existem aspectos que se transformam profundamente, além do surgimento de caminhos inexplorados até então. Porém, à medida que nos aproximamos de 2024, ainda enfrentamos uma série de desafios éticos e responsabilidades sociais que precisam ser abordados e refletidos: como a ampliação do movimento ESG nas empresas e a aplicação da LGPD podem atuar com a manutenção e melhora do desenvolvimento tecnológico?
A regulação como prioridade
A Lei Geral de Proteção de Dados (LGPD) é uma resposta direta à crescente preocupação com a privacidade de dados. Em 2024, é estimado que 75% da população global terá seus dados pessoais protegidos por regulamentações de privacidade, segundo estudo realizado pela Gartner, intitulado "Top Trends in Privacy Driving Your Business Through 2024". Com a pauta da LGPD cada vez mais presente em reuniões de empresas e na mídia, a ideia é que seja assegurada a transparência no tratamento de informações pessoais e o fortalecimento dos direitos individuais.
A perspectiva de ESG engloba não só critérios ambientais, sociais e de governança, mas tem ganhado força em todas as indústrias, envolvendo também a tecnologia. É esperado que exista um comprometimento com a transparência nas operações e inovações, impulsionando a preocupação com o meio ambiente e a responsabilidade das empresas com a manutenção e uso de recursos naturais. 2024 é um ano para que os órgãos reguladores em todas as áreas tomem medidas que tornem os processos mais transparentes.
A Gartner também revelou que 40% das organizações já tiveram problemas de vazamento de dados com IA. Essas situações apontam para a necessidade de um investimento maior em segurança no processamento de dados pessoais e de maior transparência para os usuários, incluindo informações sobre o processo, monitoramento e quais informações são acessadas.
Mitigando a discriminação algorítmica
Para atender esses desafios éticos causados pelo desenvolvimento tecnológico, é fundamental que a discussão seja uma parte importante na construção de inovações. A discriminação algorítmica já era uma preocupação existente, devido a situações esporádicas em que a IA de certos dispositivos ou ferramentas acaba reproduzindo estereótipos e preconceitos. Entender e trabalhar nesses desafios, com um time de especialistas na concepção, implementação e manutenção desses sistemas, contribui para mitigar a discriminação – fator de implementação crucial desde o início de soluções inovadores, visando torná-las mais justas.
Diretores de TI como facilitadores
Nesse contexto de implementação dentro das empresas, o papel dos diretores de tecnologia é crucial para desenvolvimento e atuação sobre as implementações de soluções éticas. Além das abordagens assertivas, esses profissionais têm a responsabilidade de garantir que as práticas adotadas na empresa estejam de acordo com o que é valorizado dentro da instituição e do âmbito tecnológico. Esse cuidado não deve se limitar aos pontos de regulamentação da LGPD, mas deve abranger também o lado da responsabilidade com os dados e privacidade dos usuários, garantindo a transparência com o tratamento das informações pessoais.
Diversidade no recrutamento de times de TI
Dentro das organizações, para se manter presente a manutenção de sistemas éticos de IA, é imprescindível que aconteça, já na etapa de contratação, uma análise por parte dos diretores sobre a sensibilidade ética e social dos candidatos. Como já mencionado, as IAs aprendem com o uso humano, e o contato com equipes diversificadas e inclusivas na hora do desenvolvimento contribui para a mitigação da discriminação algorítmica. A valorização de uma cultura organizacional inclusiva, que valorize a ética e a diversidade, torna-se essencial para o futuro de sucesso. A liderança tem papel fundamental na hora de moldar os caminhos tecnológicos a serem explorados, desempenhando um papel fundamental no desenvolvimento tecnológico sustentável.
À medida que avançamos para o futuro, as diferentes aplicações da ética na tecnologia serão uma parte essencial da estrutura organizacional das empresas. A sociedade se torna cada vez mais consciente sobre as funcionalidades e a proteção dos seus dados e privacidade, demandando transparência e responsabilidade a cada nova invenção ou atualização. A ética na tecnologia em 2024 e em um futuro próximo representam a transição para os modelos futuros. As ações tomadas agora irão contribuir para o desenvolvimento tecnológico sustentável e inclusivo, com adoção de práticas mais sustentáveis e conscientização efetiva sobre as ações da LGPD e a ampliação da estruturação do ESG nas organizações.
Ruy Neto, Diretor de Tecnologia na Zenvia.
