O uso da Inteligência Artificial (IA) está deixando de ser uma tendência para se consolidar como pilar estratégico dentro das organizações, especialmente em setores regulados como o financeiro. Em entrevista à TI Inside, Ricardo Saponara, Head de Prevenção à Fraude para América Latina do SAS, explica como a IA tem sido aplicada na gestão de risco, governança de modelos e compliance, ao mesmo tempo em que aponta os desafios de ética, transparência e segurança no uso dessa tecnologia.
Segundo Saponara, a preocupação com a governança de IA vem crescendo entre os clientes da companhia, impulsionada tanto pela complexidade dos modelos quanto pelas regulamentações cada vez mais rigorosas, especialmente na Europa e nos Estados Unidos.
"A gente está falando de modelos que precisam tomar decisões importantes para o negócio, como concessão de crédito, detecção de fraude e comunicação com o cliente. E, para isso, é fundamental que essas decisões sejam auditáveis, éticas e transparentes", destaca.
O SAS oferece uma plataforma robusta que permite não apenas a construção e o monitoramento de modelos preditivos e generativos, mas também sua governança completa — desde a explicabilidade até a atualização constante de performance.
"Temos práticas como o Transform AI, que busca desenvolver uma IA transparente e rastreável, além de soluções específicas para Model Risk Management.. Isso garante que os modelos não apenas entreguem bons resultados, mas também estejam em conformidade com padrões regulatórios e éticos", explica.
IA Generativa e o papel do humano na tomada de decisão
O uso de IA generativa — como os modelos de linguagem para atendimento ao cliente — tem crescido, mas Saponara ressalta que é necessário haver uma camada de segurança e controle antes de qualquer decisão ser entregue ao usuário final.
"Nosso sistema permite avaliar se a pergunta feita ao modelo já tem um histórico confiável de resposta. Caso contrário, a decisão é encaminhada para um humano, que interage com o modelo, revisa a resposta e só então libera para o cliente. Essa governança humana é fundamental em casos inéditos ou sensíveis", afirma.
Além disso, esse feedback contínuo retroalimenta os modelos, melhorando a qualidade e precisão das respostas com o tempo.
Casos reais
No Brasil, o SAS já implementa soluções avançadas de IA em diversas instituições financeiras e seguradoras. Entre os exemplos citados por Saponara estão projetos com o Banco Santander, Banco Safra e o Tribanco, além de iniciativas com a Unimed Seguros para prevenção à fraude em pagamentos de saúde.
"O que a gente entrega é uma IA que não apenas toma decisões melhores, mas que também facilita a auditoria inteligente em todas as linhas de defesa de uma empresa — primeira, segunda e terceira. Isso é vital para garantir a conformidade e a confiança do mercado", enfatiza.
Para Saponara, o futuro da IA está diretamente ligado à sua capacidade de ser governada, explicada e auditada. As organizações que entenderem isso, diz ele, sairão na frente.
"Não basta usar IA apenas para automatizar. É preciso que ela esteja inserida em um ecossistema de decisão estratégica, com regras claras, supervisão humana e conformidade regulatória. Só assim ela se tornará um ativo de valor real para os negócios", conclui.
