OpenAI adicionará uma marca d'água invisível ao texto do ChatGPT e do Codex na União Europeia

A OpenAI publicou um relatório mais completo no qual descreve o funcionamento do textGrain (Pau Barrena/AFP)

A OpenAI anunciou seus planos para cumprir parte das novas diretrizes de transparência em Inteligência Artificial (IA) da União Europeia, que exigem que o texto gerado seja identificável, neste caso por meio de uma marca d'água invisível tanto no ChatGPT quanto no Codex.

O laboratório de IA divulgou detalhes do sistema textGrain, que insere um sinal estatístico invisível nas seleções de palavras do modelo, as quais são posteriormente detectadas por um sistema próprio que procura esse sinal para avaliar se um trecho de texto contém a marca d'água da OpenAI.

Em uma implementação em fases, e inicialmente para os usuários globais da API, a partir desta terça-feira (6) eles poderão optar por ativar a marca d'água em determinados modelos, que "permanecerá desativada por padrão na API".

Para os usuários da União Europeia, tanto do ChatGPT quanto do Codex, nas próximas semanas a marca d'água invisível será adicionada ao texto e ao código gerados em ambas as plataformas

"A marca d'água de texto e sua detecção continuam sendo tecnologias incipientes com limitações significativas, e as opiniões sobre seus benefícios e usos responsáveis ainda estão em evolução", destaca a OpenAI em seu anúncio, para lembrar, em seguida, que sua "abordagem em fases reflete tanto os requisitos da Lei de IA da UE quanto as limitações da tecnologia, com ênfase na transparência sobre o que uma marca d'água de texto pode ou não revelar às pessoas".

Além disso, o laboratório de IA abriu as inscrições para acesso ao detector de marca d'água de texto, cujo acesso será inicialmente restrito a pesquisadores e organizações de especialistas aprovadas.

Por outro lado, a OpenAI publicou um relatório mais completo no qual descreve o funcionamento do textGrain. "Em nossas avaliações, o textGrain igualou ou superou o desempenho de outras abordagens testadas, incluindo o SynthID para texto. Mesmo assim, um alto desempenho em condições ideais não garante que a detecção seja confiável no uso cotidiano", destaca a OpenAI.

Assim como fez a Anthropic em agosto, quando anunciou a implantação de sua marca d'água invisível no texto gerado pelo Claude e sua API - já ativa no Opus 5.5 e no Sonnet 5.5 -, a OpenAI alertou que "os detectores podem cometer dois tipos de erros: podem indicar uma marca d'água onde não há nenhuma - um falso positivo - ou ignorar uma marca d'água que está presente - um falso negativo".

As dificuldades técnicas que o textGrain ainda enfrenta são detectar a marca d'água em textos curtos ou técnicos, já que há pouca margem para escolher palavras, e em textos editados, pois a edição reduz drasticamente sua detecção. Por exemplo, substituir 25% das palavras por sinônimos reduz a detecção de 92% para 17% em trechos de 400 'tokens'.