A evolução da inteligência artificial (IA) está ampliando a capacidade de automação nas empresas. Em vez de apenas executar comandos previamente programados, os chamados agentes de IA podem interpretar objetivos, analisar contextos, tomar decisões intermediárias e realizar tarefas em diferentes plataformas. O avanço, porém, aumenta a necessidade de controles, rastreabilidade e governança.
A avaliação foi apresentada por Rodrigo Cabot, gerente de Desenvolvimento de Negócios, Alianças e Estratégia Tecnológica da Ecosistemas Global, durante a palestra “A Era da Empresa Agêntica: Automação Cognitiva e Governança de IA”, realizada em 6 de agosto, no Rio de Janeiro, durante o AI Strategy Summit.
O conceito de empresa agêntica envolve organizações que utilizam agentes de inteligência artificial de forma coordenada em processos de negócio. Segundo Cabot, a Tecnologia precisa estar integrada à estrutura da companhia para produzir resultados consistentes.
Maior autonomia aumenta necessidade de supervisão
Nas automações tradicionais, alterações em portais, sistemas de gestão e interfaces podem exigir ajustes em códigos, scripts e regras previamente configuradas. Esse processo aumenta a necessidade de manutenção e pode afetar o retorno dos projetos.
Com recursos de visão computacional e modelos de inteligência artificial, os sistemas passam a depender menos de regras fixas. Agentes conversacionais, por exemplo, podem interpretar solicitações, consultar sistemas corporativos e executar tarefas. No back-office, também podem auxiliar na conferência de documentos, validação de informações, consultas e registros em diferentes plataformas.
A maior flexibilidade, entretanto, exige mecanismos capazes de acompanhar o funcionamento dos sistemas.
“Isso traz flexibilidade, mas torna indispensável saber quais dados foram usados, por que determinada decisão foi tomada e qual resultado ela produziu”, explica Cabot.
Quando os agentes passam a interagir diretamente com clientes, acessar informações ou alterar registros corporativos, a governança precisa ser considerada desde a implantação da solução. Entre os mecanismos citados estão a definição de permissões, o registro das decisões, o monitoramento da qualidade das respostas e a identificação de alterações no comportamento dos modelos.
Testes precisam acompanhar todo o ciclo
A utilização de agentes autônomos também modifica os critérios usados para avaliar uma solução de inteligência artificial. Segundo o especialista, não basta verificar se uma determinada tarefa foi concluída.
Os testes devem avaliar aspectos como precisão, consistência e comportamento do sistema diante de diferentes situações. O acompanhamento também precisa contemplar falhas, simulações de cenários inesperados e possíveis impactos sobre outras etapas da operação.
“Não é possível esperar que uma falha chegue ao ambiente de produção para descobrir como o agente vai reagir. A validação precisa ocorrer durante todo o ciclo da solução, do desenvolvimento à operação cotidiana”, observa.
Proteção de dados entra no planejamento
Outro ponto destacado é a criação de barreiras para impedir que agentes executem ações incompatíveis com as políticas internas. O monitoramento deve ajudar a identificar respostas incorretas, vieses, alucinações e alterações no comportamento dos modelos antes que esses problemas afetem as operações.
A proteção de dados também precisa ser considerada desde o desenvolvimento das soluções, especialmente em processos que envolvem informações pessoais e estão sujeitos à Lei Geral de Proteção de Dados Pessoais (LGPD).
“Governança não significa impedir a inovação. Significa criar condições para que ela avance sem que a empresa perca a capacidade de supervisionar seus processos e responder pelas decisões tomadas”, afirma Cabot.
Para a Ecosistemas Global, o desafio das empresas não está apenas em ampliar o número de plataformas de inteligência artificial, mas em integrar pessoas, dados, sistemas corporativos, automação, testes e mecanismos de controle.
Nesse cenário, a adoção de agentes mais autônomos tende a exigir uma mudança na estrutura de gestão da tecnologia. A capacidade de tomar decisões e executar tarefas pode ampliar os ganhos de automação, mas precisa estar acompanhada de mecanismos que permitam às empresas supervisionar os processos e mensurar os resultados.
