O Google DeepMind lançou uma ferramenta chamada SynthID, destinada a identificar textos gerados por inteligência artificial (IA), disponibilizando-a como código aberto. Essa ferramenta faz parte de uma série de ferramentas de marcação para saídas de IA generativa, que inclui marcas d’água para imagens e vídeos. Em maio, a empresa anunciou a aplicação do SynthID em […]
O Google DeepMind lançou uma ferramenta chamada SynthID, destinada a identificar textos gerados por inteligência artificial (IA), disponibilizando-a como código aberto. Essa ferramenta faz parte de uma série de ferramentas de marcação para saídas de IA generativa, que inclui marcas d’água para imagens e vídeos. Em maio, a empresa anunciou a aplicação do SynthID em seu aplicativo Gemini e chatbots online, tornando-o acessível na plataforma Hugging Face, um repositório de conjuntos de dados e modelos de IA.
SynthID insere uma marca d’água invisível diretamente no texto gerado por modelos de IA, alterando a probabilidade de geração de palavras. Essa abordagem é crucial para ajudar a combater desinformação, permitindo que desenvolvedores de IA verifiquem se os textos gerados são oriundos de seus próprios modelos. O vice-presidente de pesquisa do Google DeepMind, Pushmeet Kohli, destacou que essa tecnologia facilita a construção responsável de IA por outros desenvolvedores.
Um estudo publicado na revista Nature revelou que a qualidade do texto gerado não foi afetada pela marca d’água. A análise envolveu cerca de 20 milhões de respostas de chatbots, onde usuários não perceberam diferenças significativas entre textos com e sem marcação. Contudo, a eficácia do SynthID é limitada em casos de reescrita ou tradução de textos, além de ser menos confiável em respostas a perguntas factuais.
Especialistas, como Soheil Feizi, professor da Universidade de Maryland, consideram a decisão do Google DeepMind de tornar a tecnologia de marcação de código aberto um avanço para a comunidade de IA. Isso permitirá testes e avaliações mais robustas da ferramenta. Apesar disso, Irene Solaiman, da Hugging Face, ressalta que a marcação não é uma solução única e deve ser complementada por outras medidas de segurança para garantir a integridade do conteúdo gerado.
Entre na conversa da comunidade