Marcas d’água da OpenAI ajudam a identificar imagens de IA falsas

OpenAI anunciou sinais de proveniência de conteúdo em todo o seu ecossistema de imagens, marcando imagens geradas por IA como pertencentes à IA.
A solução usa conformidade com o C2PA e incorpora sinais de proviência padronizados para leitura, preservação e passagem dessa informação entre plataformas.
A tecnologia utiliza o SynthID, uma marca d’água digital invisível que fica no pixel da imagem e permanece mesmo após redimensionamento, recorte e ajustes de cor.
A marcação invisível também pode ser aplicada a textos, segundo informações não anunciadas pela OpenAI, e pode já ser usada no Gemini, além das imagens geradas pelo ChatGPT, Codex e pela API da OpenAI.
A OpenAI publicou uma ferramenta pública de verificação para checar se uma imagem foi gerada por suas ferramentas, disponível em openai.com/research/verify, com foco em combinar padrões abertos, marcações duráveis e verificação pública.

OpenAI anunciou a inclusão de sinais de proveniência de conteúdo em seu ecossistema de imagens, com a marcação de imagens geradas por IA como AI-generated. A iniciativa visa facilitar a identificação de imagens produzidas pela empresa.

A novidade não é apresentada como única: desde 2024, OpenAI e outras ferramentas já incorporam metadados em imagens geradas. O diferencial atual é elevar a segurança com tecnologia avançada, segundo a empresa.

OpenAI afirma que, além de marcas visíveis, utiliza sinalização por meio de componentes digitais embutidos nas próprias imagens. A prática busca dificultar a ocultação de conteúdos criados por IA.

A empresa diz ter se tornado fabricante compatível com o padrão C2PA, que permite leitura, preservação e transmissão dos dados de proveniência pelas plataformas. O objetivo é padronizar a verificação de origem.

Além disso, a companhia integra a tecnologia SynthID, desenvolvida pela DeepMind, para inserir marcas digitais invisíveis no conteúdo. A assinatura é pixel-based e resiste a alterações como redimensionamento e compressão.

A abordagem invisível também pode abranger textos gerados de forma a permitir uma verificação estatística, sem comprometer a qualidade do conteúdo textual. A prática ainda não foi confirmada pela OpenAI para ChatGPT.

Concomitantemente, a OpenAI disponibilizou uma ferramenta pública de verificação para checar se determinado conteúdo foi produzido por seus modelos. A solução pode ser acessada no site de pesquisa da empresa.

Segundo a OpenAI, nenhuma técnica isolada basta para confirmar a proveniência. A empresa defende uma combinação entre padrões compartilhados, marcas duráveis e verificação pública.

A empresa acrescenta que os sinais de proveniência se aplicam a imagens criadas pelo ChatGPT, pelo Codex e pela OpenAI API. A verificação pública promete ampliar a interoperabilidade entre ferramentas.