O avanço da inteligência artificial generativa no marketing vem acelerando a produção de conteúdo nas empresas, mas também aumenta os riscos relacionados à disseminação de informações incorretas e danos à reputação das marcas. Especialistas alertam que organizações precisam adotar protocolos rigorosos de conferência, validação e retratação para evitar crises institucionais causadas por falhas de IA.
Segundo o relatório State of AI in 2024, da McKinsey & Company, apesar do avanço acelerado da inteligência artificial nas empresas, a mitigação de riscos ainda ocorre de forma limitada. Entre as principais preocupações estão privacidade, segurança de dados, confiabilidade das informações e governança do uso da Tecnologia.
Renan Caixeiro, CMO da Reportei, afirma que sistemas de IA trabalham com probabilidades estatísticas e não com compreensão factual, o que pode gerar as chamadas “alucinações” — situações em que a tecnologia inventa dados, fontes ou informações inexistentes.
De acordo com o executivo, conteúdos produzidos com auxílio de inteligência artificial precisam obrigatoriamente passar por conferência humana, especialmente quando envolvem estatísticas, pesquisas ou informações públicas.
Caixeiro destaca que a validação manual de dados é indispensável para reduzir riscos jurídicos e preservar a credibilidade das empresas diante de clientes e consumidores.
Outro ponto considerado essencial é a exigência de fontes originais para qualquer informação gerada pela IA. Segundo o especialista, embora muitas plataformas já apresentem referências automaticamente, ainda é necessário realizar verificação manual para garantir que os dados citados realmente existam e estejam corretos.
O especialista também defende que empresas estabeleçam protocolos claros de retratação em casos de erro. Segundo ele, a velocidade na correção pode reduzir significativamente impactos reputacionais quando informações incorretas são divulgadas publicamente.
Além disso, Caixeiro recomenda transparência durante a investigação de falhas mais complexas, evitando posicionamentos precipitados ou justificativas incompletas que possam exigir novas correções posteriormente.
Na avaliação do executivo, a combinação entre inteligência artificial e supervisão humana tende a se consolidar como modelo necessário para empresas que desejam utilizar IA em estratégias de marketing sem comprometer confiança, reputação e segurança da informação.
