A OpenAI anunciou que começará a incorporar uma marca d’água invisível a textos elegíveis gerados pelo ChatGPT e pelo Codex na União Europeia. Segundo publicação no blog da empresa, a implementação ocorrerá nas próximas semanas, em resposta às exigências de transparência da legislação europeia sobre inteligência artificial.
A iniciativa pretende ajudar a identificar a participação dos sistemas da companhia na produção de conteúdos. A OpenAI ressalta, porém, que a Tecnologia apresenta limitações: a marca não identifica o usuário, não verifica se as informações estão corretas e não determina quem é responsável pelo texto.
A ausência de uma marca detectada também não comprova que o conteúdo foi escrito por uma pessoa.
Implementação será feita em etapas
Segundo a OpenAI, a Lei de Inteligência Artificial da União Europeia exige que fornecedores de IA generativa tornem o texto produzido por seus sistemas identificável por ferramentas automatizadas.
IA generativa é o nome dado às tecnologias capazes de produzir textos, imagens, áudios e códigos a partir de instruções. A identificação “legível por máquina” permite que um programa procure sinais no conteúdo, mesmo quando eles não são perceptíveis ao leitor.
A empresa informou que clientes de sua API em todo o mundo poderão optar pela marcação de textos em modelos selecionados. A API é a interface que permite integrar os modelos da OpenAI a outros aplicativos e serviços. Nesse ambiente, a marca d’água permanecerá desativada por padrão.
No ChatGPT e no Codex, a implementação abrangerá textos elegíveis gerados na União Europeia. A medida, portanto, não significa que todos os textos produzidos pelos sistemas da companhia receberão a identificação.
A OpenAI também abriu inscrições para acesso ao detector. Inicialmente, a ferramenta será disponibilizada apenas a pesquisadores e organizações especializadas aprovados, que poderão contribuir para avaliar sua confiabilidade e seus usos responsáveis.
A restrição se aplica à detecção em textos. As ferramentas de verificação de imagens e áudios, incluindo o OpenAI Verify e a API de Proveniência de Conteúdo, continuarão disponíveis publicamente, conforme as condições de acesso de cada serviço.
Como funciona a marca d’água
A tecnologia, chamada textGrain, incorpora um sinal estatístico às escolhas de palavras feitas pelo modelo.
Em vez de inserir uma etiqueta ou um símbolo visível, o sistema estabelece um padrão nas palavras utilizadas. O detector analisa esse padrão para avaliar se uma passagem contém uma marca d’água da OpenAI.
A companhia informou que seu documento técnico será atualizado com detalhes adicionais nas próximas semanas. Também planeja disponibilizar a tecnologia em código aberto, permitindo que outras pessoas e organizações estudem seu funcionamento e desenvolvam soluções a partir dela.
A empresa reconhece que a marcação e a detecção de textos ainda são tecnologias em estágio inicial. Segundo a publicação, tanto suas limitações quanto as discussões sobre benefícios e usos responsáveis justificam uma implementação gradual.
Falsos positivos e falsos negativos: quais são os riscos?
O detector pode cometer dois tipos de erro.
O falso positivo ocorre quando a ferramenta indica uma marca d’água em um texto que não contém esse sinal. É uma identificação incorreta.
Já o falso negativo acontece quando a marca está presente, mas o detector não consegue encontrá-la.
Esses erros mostram por que o resultado da ferramenta precisa ser analisado dentro de seus limites. Uma indicação positiva não substitui uma investigação sobre a origem do conteúdo, assim como um resultado negativo não descarta a participação de inteligência artificial.
Textos curtos são mais difíceis de identificar
Quanto menor o texto, menos elementos o detector tem para procurar o padrão.
Em uma avaliação com conteúdos como psicologia, a ferramenta identificou marcas em aproximadamente 80% das passagens de 200 tokens e em cerca de 95% das passagens de 400 tokens. O teste utilizou uma taxa-alvo de falso positivo de 1%.
Tokens são unidades de texto processadas pelo modelo. Podem corresponder a palavras inteiras, partes de palavras ou sinais de pontuação. Por isso, uma passagem de 200 tokens não equivale necessariamente a um texto de 200 palavras.
A taxa-alvo de falso positivo de 1% significa que o teste foi configurado para buscar aproximadamente uma identificação incorreta a cada 100 passagens sem marca. Isso não significa que todo resultado positivo tenha uma probabilidade de 99% de estar correto.
Os percentuais divulgados representam as condições das avaliações realizadas pela empresa e não garantem o mesmo desempenho em qualquer conteúdo.
Conteúdos com menos variação oferecem menos pistas
A OpenAI informou que a detecção foi substancialmente menor em conteúdos como matemática, nos quais há menos flexibilidade na escolha das palavras.
Em uma explicação sobre comportamento, por exemplo, existem diferentes formas de apresentar a mesma ideia. Já uma fórmula ou uma resposta matemática pode exigir termos e sequências específicos.
Como a marca depende das escolhas feitas pelo modelo, essa menor liberdade de escrita dificulta a incorporação e a identificação do sinal.
Alterações no texto podem enfraquecer a marca
A edição também pode reduzir a capacidade de detecção.
Em outra avaliação, com passagens de 400 tokens, a substituição de 10% das palavras por sinônimos reduziu a taxa de identificação de aproximadamente 92% para 66%. Quando 25% das palavras foram substituídas, a taxa caiu para 17%.
Na prática, modificar o vocabulário pode desfazer parte do padrão procurado pela ferramenta. Assim, um texto pode continuar tendo origem em um sistema de IA, mas apresentar sinais mais difíceis de reconhecer.
Essas limitações contribuíram para a decisão de restringir o acesso inicial ao detector a pesquisadores e organizações especializadas, segundo a companhia.
O que a marca d’água não revela
A identificação oferece um sinal limitado sobre a participação dos sistemas da OpenAI no conteúdo. Ela não permite concluir, sozinha, como o texto foi produzido ou utilizado.
Contribuição humana: a marca pode indicar que um sistema da empresa gerou ou processou parte de uma passagem, mas não mede quanto houve de criatividade, julgamento ou edição humana.
Propriedade e responsabilidade: o sinal não determina quem é dono do texto, se seu uso foi legal, se havia obrigação de informar a utilização de IA ou quem responde pelo conteúdo.
Identidade do usuário: a marca não associa o texto a uma pessoa, organização, conta, instrução ou conversa específica.
Precisão das informações: a detecção não informa se o conteúdo é verdadeiro, enganoso, prejudicial ou apresentado no contexto correto.
Autoria humana: a ausência de detecção não comprova que uma pessoa escreveu o texto. O conteúdo pode ser curto demais, ter sido editado ou traduzido, ter origem em um modelo não compatível ou ter sido produzido antes da implementação das marcas. Também pode ter sido gerado por ferramentas de outra empresa.
Identificação de origem integra medidas contra conteúdos enganosos
A OpenAI também relaciona os sinais de origem ao seu trabalho de proteção eleitoral. Segundo a empresa, esses recursos podem ajudar pessoas e plataformas a avaliar conteúdos potencialmente enganosos produzidos por IA, incluindo deepfakes — materiais sintéticos capazes de simular a imagem ou a voz de pessoas.
A companhia afirma que combina a identificação de origem com políticas de uso, mecanismos de detecção de abusos, denúncias, investigações e medidas de aplicação das regras.
Também informa que trabalha com pesquisadores, entidades responsáveis por padrões técnicos, plataformas e organizações da sociedade civil para ampliar a utilidade dessas ferramentas.
Fonte: publicação da OpenAI sobre marcas d’água em textos, com base no conteúdo fornecido para esta reportagem. Informações complementares nos materiais citados pela companhia: OpenAI Verify, API de Proveniência de Conteúdo, Centro de Ajuda sobre sinais de proveniência e salvaguardas eleitorais de 2026. Os resultados dos testes e os planos de implementação são atribuídos à OpenAI.






















