A OpenAI anunciou que começará a incorporar marcas d’água invisíveis a textos elegíveis gerados pelo ChatGPT e pelo Codex na União Europeia. A implementação ocorrerá nas próximas semanas, em resposta às exigências de transparência da legislação europeia sobre inteligência artificial.
Como funciona
Chamada textGrain, a Tecnologia insere um sinal estatístico nas escolhas de palavras do modelo. Um detector procura esse padrão para avaliar se o trecho contém uma marca da OpenAI.
Edição pode reduzir a detecção
Em um teste com passagens de 400 tokens — unidades de processamento do texto —, substituir 10% das palavras por sinônimos reduziu a detecção de aproximadamente 92% para 66%. Textos curtos, traduzidos ou com menor flexibilidade de vocabulário também apresentam dificuldades.
Detector terá acesso restrito
Inicialmente, o detector estará disponível apenas para pesquisadores e organizações especializadas aprovados. Clientes da API poderão optar pela marcação em modelos selecionados, mas ela permanecerá desativada por padrão.
A empresa ressalta que a marca não identifica o usuário nem verifica a precisão do conteúdo. A ausência de detecção também não comprova autoria humana.
