A evolução da inteligência artificial (IA) vem transformando a forma como conteúdos digitais são produzidos e consumidos. Tecnologias capazes de criar imagens, áudios e vídeos altamente realistas abriram novas possibilidades para diferentes setores, mas também ampliaram os desafios relacionados à autenticação de informações e ao combate à desinformação.
Entre os recursos mais conhecidos estão os chamados deepfakes, técnica que utiliza modelos de inteligência artificial para reproduzir o rosto de uma pessoa a partir da análise de milhares de imagens ou vídeos. Com isso, é possível criar gravações em que indivíduos aparentam dizer ou fazer algo que nunca aconteceu.
Outra aplicação que tem ganhado espaço é a clonagem de voz. A tecnologia consegue reproduzir o timbre, a entonação e o ritmo da fala de uma pessoa utilizando poucos minutos de gravação, permitindo a geração de novos áudios bastante semelhantes à voz original.
Na produção de imagens, modelos generativos também alcançaram elevado grau de realismo. Além de criar fotografias a partir de descrições em texto, essas ferramentas conseguem modificar imagens existentes por meio de recursos que alteram rostos, objetos e outros elementos da cena.
Ferramentas deixam rastros digitais
Apesar da sofisticação, conteúdos produzidos por inteligência artificial costumam apresentar características técnicas que permitem sua identificação por especialistas.
Segundo Giovanni La Porta, CEO da vortice.ai, esses materiais deixam rastros digitais, como padrões matemáticos, metadados, assinaturas criptográficas, inconsistências de iluminação e pequenas alterações nos pixels que podem ser detectadas por ferramentas forenses.
“Assim como uma nota falsa pode parecer verdadeira para a maioria das pessoas, mas apresenta características que permitem sua identificação por especialistas, os conteúdos gerados por inteligência artificial também deixam sinais técnicos que podem revelar sua origem”, explica.
Tecnologias de verificação avançam
O crescimento do uso da inteligência artificial também impulsiona o desenvolvimento de mecanismos voltados à autenticação de conteúdos digitais.
Entre as soluções em expansão estão sistemas de assinaturas digitais, tecnologias de proveniência de mídia e ferramentas de rastreabilidade, desenvolvidas para verificar a origem e a integridade de imagens, vídeos e áudios compartilhados na internet.
Para La Porta, o avanço dessas tecnologias é fundamental para preservar a confiança nas informações em um ambiente digital cada vez mais influenciado pela inteligência artificial.
Uso responsável
Na avaliação do especialista, o debate sobre inteligência artificial deve ir além da capacidade tecnológica e considerar a forma como essas ferramentas são utilizadas.
“A inteligência artificial possui enorme potencial para criar, inovar, educar e resolver problemas complexos. O principal desafio está em garantir que seu uso ocorra de maneira ética e responsável”, afirma.
Segundo ele, à medida que conteúdos sintéticos se tornam mais comuns, a combinação entre Inovação tecnológica e mecanismos de verificação será essencial para reduzir riscos e ampliar a segurança das informações disponíveis no ambiente digital.
