O Google e o X enfrentam falhas em ferramentas integradas aos seus sistemas de IA, levando as plataformas a responder como se fossem chatbots em pesquisas e tradu\u00e7\u00f5es. O problema se manifesta em v\u00e1rias situa\u00e7\u00f5es, mesmo quando a fun\u00e7\u00e3o principal deveria apenas resumir resultados ou traduzir conte\u00fado.<\/p>\n
As falhas surgem nos Resumos de IA das buscas do Google, especialmente ao lidar com termos que soam como comandos. Em ingl\u00eas, palavras como disregard ou ignore s\u00e3o interpretadas como instru\u00e7\u00f5es, fazendo a IA responder de forma conversacional. O mesmo ocorre com termos em portugu\u00eas, como lembrar ou esquecer.<\/p>\n
O Google reconheceu o problema e afirmou estar trabalhando em corre\u00e7\u00f5es. Observa\u00e7\u00f5es de ve\u00edculos especializados indicam que a empresa j\u00e1 removeu os resumos de IA para buscas com determinados termos virais, voltando ao painel tradicional de defini\u00e7\u00e3o lexical. Contudo, a falha persiste para algumas palavras em portugu\u00eas.<\/p>\n
Paradas semelhantes aparecem na rede social X, onde a ferramenta de tradu\u00e7\u00e3o alimentada pelo Grok pode tratar perguntas como comandos e gerar respostas diretas. Em alguns casos, o servi\u00e7o original \u00e9 cumprido, mas o comportamento indica falha na separa\u00e7\u00e3o entre conte\u00fado e instru\u00e7\u00e3o.<\/p>\n
Esses epis\u00f3dios s\u00e3o classificados como prompt injection, uma vulnerabilidade de IA em que o modelo n\u00e3o separa adequadamente o conte\u00fado de comandos. Embora ocorram involuntariamente, essa falha tem sido explorada por usu\u00e1rios mal-intencionados para burlar o processamento das IAs.<\/p>\n","protected":false},"excerpt":{"rendered":"