O Google e o X enfrentam falhas em ferramentas integradas aos seus sistemas de IA, levando as plataformas a responder como se fossem chatbots em pesquisas e traduções. O problema se manifesta em várias situações, mesmo quando a função principal deveria apenas resumir resultados ou traduzir conteúdo.
As falhas surgem nos Resumos de IA das buscas do Google, especialmente ao lidar com termos que soam como comandos. Em inglês, palavras como disregard ou ignore são interpretadas como instruções, fazendo a IA responder de forma conversacional. O mesmo ocorre com termos em português, como lembrar ou esquecer.
O Google reconheceu o problema e afirmou estar trabalhando em correções. Observações de veículos especializados indicam que a empresa já removeu os resumos de IA para buscas com determinados termos virais, voltando ao painel tradicional de definição lexical. Contudo, a falha persiste para algumas palavras em português.
Paradas semelhantes aparecem na rede social X, onde a ferramenta de tradução alimentada pelo Grok pode tratar perguntas como comandos e gerar respostas diretas. Em alguns casos, o serviço original é cumprido, mas o comportamento indica falha na separação entre conteúdo e instrução.
Esses episódios são classificados como prompt injection, uma vulnerabilidade de IA em que o modelo não separa adequadamente o conteúdo de comandos. Embora ocorram involuntariamente, essa falha tem sido explorada por usuários mal-intencionados para burlar o processamento das IAs.
Entre na conversa da comunidade