Google afirma ter bloqueado ataque de hacker criado com IA

Google informou que bloqueou um ataque zero-day criado com auxílio de inteligência artificial, divulgado pelo GTIG (Grupo de Inteligência de Ameaças do Google).
O plano era lançar uma ação em massa para driblar a autenticação de dois fatores de uma ferramenta web de código aberto para administração de sistemas.
O código utilizado pelos invasores em Python apresentava organização típica de grandes modelos de linguagem e continha alucinações e referências criadas pela IA.
A empresa afirma que não acredita que o modelo Gemini tenha sido utilizado na criação do malware.
Os invasores usaram uma técnica de jailbreaking baseada em persona para fazer a IA contornar filtros, e o Google aposta em defesas automatizadas e no uso de agentes de IA defensivos para identificar vulnerabilidades.

O Google revelou ter bloqueado um ataque zero-day que contou com apoio de inteligência artificial. O alerta foi divulgado pelo Google Threat Intelligence Group, nesta segunda-feira, 11 de maio. A ação visava uma ferramenta web de código aberto usada para a administração de sistemas, com objetivo de driblar a autenticação de dois fatores. Não houve confirmação de sucesso do golpe.

Segundo o relatório oficial, havia um grupo de hackers planejando um ataque em massa para explorar falhas de 2FA. O código utilizado no ataque mostrava organização típica de recursos gerados por grandes modelos de linguagem, incluindo alucinações e referências falsas. A empresa informou que não acredita que o modelo Gemini tenha sido utilizado na criação do malware.

Como os hackers usaram IA

A técnica empregada envolve jailbreaking baseado em persona, fazendo a IA atuar como auditor de segurança ou pesquisador para contornar filtros éticos. Assim, o modelo analisa sistemas em busca de vulnerabilidades reais sem alertas. A prática demonstra o avanço dessas campanhas com IA.

Ameaças e defesas

Relatórios indicam que criminosos treinam LLMs com grandes repositórios de vulnerabilidades históricas para reconhecer padrões de falhas. O objetivo é calibrar invasões em ambientes controlados e aumentar a taxa de sucesso. O Google aposta em defesas automatizadas com IA defensiva para varrer código e corrigir falhas antes de explorá-las.