Ao passo que o ensino remoto tem se tornado cada vez mais comum e, até mesmo, necessário nos dias atuais, é de se ver que esta metodologia enfrenta severos desafios em comparação aos modelos presenciais de ensino. Dados do Censo da Educação Superior 2021 revelam que o EAD apresentou um crescimento de 474% na última década. Pesquisas relevantes na área, apontam que "os professores não podem prestar atenção ao status dos alunos em tempo real durante o processo de aprendizagem, e os alunos são mais propensos a serem negligentes e desatentos devido à falta de supervisão, causando facilmente uma desconexão entre ensinar e aprender"1.?
É no contexto desta problemática que surge uma ferramenta de inteligência artificial, desenvolvida pela Intel em parceria com a Classroom Technologies, capaz de monitorar as expressões faciais dos alunos e identificar sentimentos como desatenção, tédio, confusão, surpresa etc. Para atingir este propósito, o rosto do estudante é capturado pela câmera do dispositivo utilizado para acessar a aula, enquanto as imagens são processadas por um sistema de visão computacional, que interpreta e cataloga suas expressões faciais. Feito isso, há um cruzamento destes dados com dados acerca do conteúdo que está sendo ministrado naquele momento, o que permite gerar avaliações acerca da sua concentração e compreensão.
A Classroom Technologies é responsável pelo software de EAD Class (educação a distância), cujo foco consiste em adaptar videochamadas do Zoom para transformá-las em ambientes virtuais destinados ao ensino remoto. O presidente executivo da instituição divulgou que a ideia é "melhorar a compreensão do engajamento" nos ambientes de aprendizado virtuais pois a tecnologia em questão permite fornecer aos professores "insights adicionais", que podem ajudá-los a se comunicar de forma melhor com os alunos, uma vez que dentre as principais queixas destes profissionais sobre o modelo EAD, está a falta de engajamento com os estudantes.
Entre os benefícios anunciados da implantação de tecnologias deste tipo, estaria a redução da perda de tempo destinado a atividades de conteúdo não pedagógico, como realizar chamadas. Em uma aula de 40 a 50 minutos, estima-se que aproximadamente 67% do tempo é destinado ao ensino de conteúdo pedagógico, enquanto 33% são dissipados em tarefas meramente disciplinares e administrativas. Apesar de parecer pouco expressiva, a simples perda de 5% da hora-aula com o controle da frequência, pode corresponder a 10 dias no ano letivo. Apesar de viabilizar proveitos desta natureza, a nova tecnologia tem causado debates sobre invasão de privacidade e os limites da supervisão eletrônica. Desta forma, ainda que a alegada finalidade esteja ligada à otimização do serviço, que pode ser usufruída pelo próprio usuário, é imprescindível que haja coleta de consentimento expresso, bem como utilização transparente dos dados biométricos captados.?
Não é demais relembrar que as tecnologias de reconhecimento facial, utilizadas para captar e interpretar emoções de usuários, têm causado impactos jurídicos de grandes proporções. E, analisando as repercussões jurídicas da aplicação da ferramenta de IA no cenário pátrio, à luz de diplomas importantes como a Lei Geral de Proteção de Dados (LGPD), o Estatuto da Criança e do Adolescente (ECA) – vez que parcela significativa da trajetória acadêmica de um estudante coincide com seu período de menoridade –, o Código Civil (CC) e o Projeto de Lei 21/2020 (PL21/20), tecemos algumas considerações. Em síntese, serão: a robusta proteção jurídica à imagem e conforto do menor, as diretivas para que seus dados, bem como da população em geral, possam ser tratados de modo legítimo, a importância da coleta do consentimento e a tentativa do ordenamento jurídico em acompanhar as inovações trazidas pela IA.
O art. 17 do ECA, dispositivo jurídico que prevê expressamente a inviolabilidade da imagem e da identidade da criança e do adolescente. No caso de se entender, ainda, que a aplicação de tal tecnologia submeteria o menor a qualquer espécie constrangimento, aplicar-se-ia o art. 18 do mesmo diploma, prevendo que "é dever de todos velar pela dignidade da criança e do adolescente, pondo-os a salvo de qualquer tratamento (…) vexatório ou constrangedor". É pertinente, também, a disposição do art. 14 da LGPD, determinando que "O tratamento de dados pessoais de crianças e de adolescentes deverá ser realizado em seu melhor interesse, nos termos deste artigo e da legislação pertinente".?
Corroboram para a complexidade do cenário analisado o fato de que dados biométricos, inerentes a operabilidade da tecnologia em questão, são categorizados como sensíveis pela LGPD (art. 5º, inciso II), bem como o fato de que tratamentos de dados de menores são regidos por diretivas mais rígidas e restritas, conforme a legislação. Tratando-se de estudante menor, vê-se que o consentimento para utilização de sua imagem deve ser fornecido de modo "específico e em destaque dado por pelo menos um dos pais ou pelo responsável legal" (art. 14, § 1º, LGPD).?
Para os demais usuários, o consentimento não é dispensável, e ainda deve ser fornecido mediante "manifestação livre, informada e inequívoca" e de "forma específica e destacada, para finalidades específicas" (art. 5º, inciso XII e artigo 11, inciso I), sendo inaplicável apenas a participação de um responsável legal. Ademais, vê-se que o art. 20 do Código Civil Brasileiro, é ilustrativo sobre a importância da obtenção do consentimento prevendo que "Salvo se autorizadas (…) a exposição ou a utilização da imagem de uma pessoa poderão ser proibidas, a seu requerimento e sem prejuízo da indenização que couber (…) se se destinarem a fins comerciais", o que, certamente, se aplica, diante do fato de que a tecnologia em questão possui valor comercial.?
Ademais, o cumprimento deste requisito não inviabilizaria a instituição da ferramenta, mas sim estabeleceria seu alinhamento com relação aos dispositivos citados. Analisando estudos recentes, nota-se que questionando aos estudantes "Você concorda com o uso da tecnologia de IA para coleta de informações dos aprendizes na aprendizagem online?", aproximadamente 80% se dispunham a permitir que a tecnologia de IA coletasse suas informações com a finalidade de colaborar nas atividades de aprendizado. Dentre eles, cerca de 42% concordaram, também, em compartilhar os dados com seus professores.
Crucial ressaltar, também, que a LGPD, em seu art. 6º, inciso IX, veda expressamente a "realização do tratamento para fins discriminatórios ilícitos ou abusivos". Nesta ótica, seria inadmissível, por exemplo, que determinado desempenho ou queixa do estudante fosse tratado de modo enviesado de acordo com comportamentos captados pela IA (com finalidade anunciada diversa). Isto é, retomando a necessidade da vinculação do tratamento a uma finalidade específica (informada ao usuário), para a qual ele forneceu seu consentimento expresso, não há qualquer possibilidade legítima de que esta seja desviada.?
É notável a atuação sinérgica de todo o ordenamento jurídico, a fim de tutelar com eficiência os direitos de personalidade frente à insurgência de novas tecnologias. O PL 21/20, busca regulamentar a inteligência artificial estabelecendo importantes diretivas como direitos das partes interessadas e deveres dos agentes de IA, tais quais, respectivamente, o "acesso a informações claras e adequadas a respeito dos critérios e dos procedimentos utilizados pelo sistema de inteligência artificial que lhes afetem adversamente" (art. 7º, II), "implantar um sistema de inteligência artificial somente após avaliação adequada de seus objetivos, benefícios e riscos relacionados a cada fase do sistema" (art. 9º, IV).
O projeto, ainda em tramitação, conta com comentário ilustrativo do orador Gustavo Fruet que, na sessão de abril de 2022, pontuou?"apesar de a tecnologia sempre trazer enormes benefícios, há também riscos, como, por exemplo, as utilizações que atentem contra os direitos fundamentais, como é o caso do tratamento automatizado de dados, que pode gerar discriminações ilícitas, como é o caso do reconhecimento facial, uma tecnologia importante e necessária. É fundamental entender que caberá ao Congresso regulamentar um tema tão desafiador para o Brasil, que vai exigir clareza como incentivo responsável, seguramente, para os próximos anos no País".
Em que pese significar um avanço na regulação do tema, o PL foi duramente criticado pelos juristas, que apontaram possuir caráter majoritariamente principiológico e genérico, carente de embasamento técnico na proposição dos artigos. Diante disso, em dezembro de 2022, a comissão de juristas designada pela Presidência do Senado Federal entregou o relatório final de seus trabalhos, referentes a um projeto substitutivo ao PL 21/2020. O substitutivo, buscando suprir as lacunas do projeto anterior, ultrapassa a definição de princípios para orientar com mais eficiência as aplicações da IA, no qual estão multas de até 50 milhões de reais por infração e até 2% do faturamento, em parâmetros idênticos aos previstos na (LGPD).
Jessica Fernandes Rocha, advogada da Área de Proteção de Dados do Viseu Advogados e Antonielle Freitas, membro da Comissão Especial de Privacidade e Proteção de Dados da OAB/SP, DPO e Head da Área de Proteção de Dados do Viseu Advogados.
