Um estudo da Capgemini sobre a adoção de agentes de inteligência artificial (IA) mostra que apenas 2% das empresas utilizam esse tipo de Tecnologia em escala. O levantamento, intitulado Rise of Agentic AI — How trust is the key to human-AI collaboration, também revela que a confiança em sistemas totalmente autônomos caiu de 43% para 27% em um ano.
Segundo o relatório, a principal preocupação das organizações está ligada a respostas incorretas ou “alucinações” produzidas pelos modelos. No setor bancário, esse tipo de falha pode gerar impactos relevantes, como riscos operacionais, perda de reputação e prejuízos financeiros — fatores que têm levado muitos executivos a adotar uma postura mais cautelosa.
Governança e supervisão como exigência
Especialistas apontam que, apesar do avanço dos investimentos, a confiança segue sendo um obstáculo, principalmente em aplicações que exigem alta precisão, rastreabilidade e governança. Esse cenário reforça a necessidade de estruturas que aliem inteligência artificial a curadoria humana e mecanismos sólidos de controle.
Para Ken Diamond, CEO e cofundador da Escale, empresa que atua com soluções de IA para operações digitais, os agentes inteligentes passaram a desempenhar também um papel de mitigação de riscos, desde que apoiados por camadas de proteção e supervisão. Segundo ele, a padronização de processos e o monitoramento contínuo são essenciais para evitar distorções e garantir confiabilidade.
Arquitetura baseada em prevenção
De acordo com a empresa, a construção de sistemas confiáveis começa na fase de preparação, com integração a bases seguras, definição de regras de proteção, testes em cenários reais e validação de desempenho. Já em produção, o modelo opera com filtros que evitam solicitações indevidas e mecanismos que verificam a saída antes da entrega ao usuário, removendo informações sensíveis e identificando possíveis inconsistências.
Monitoramento contínuo das interações
A operação também conta com observabilidade em tempo real, que avalia cada interação e aciona curadoria humana quando necessário. A partir dessas análises, ajustes são feitos na base de conhecimento e nos parâmetros operacionais para reduzir falhas.
Para Diamond, a combinação entre tecnologia e supervisão contínua é determinante sobretudo em segmentos regulados, como o financeiro, nos quais uma resposta incorreta pode ter impacto direto sobre o negócio.
