O Google revelou ter bloqueado um ataque zero-day que contou com apoio de inteligência artificial. O alerta foi divulgado pelo Google Threat Intelligence Group, nesta segunda-feira, 11 de maio. A ação visava uma ferramenta web de código aberto usada para a administração de sistemas, com objetivo de driblar a autenticação de dois fatores. Não houve confirmação de sucesso do golpe.
Segundo o relatório oficial, havia um grupo de hackers planejando um ataque em massa para explorar falhas de 2FA. O código utilizado no ataque mostrava organização típica de recursos gerados por grandes modelos de linguagem, incluindo alucinações e referências falsas. A empresa informou que não acredita que o modelo Gemini tenha sido utilizado na criação do malware.
Como os hackers usaram IA
A técnica empregada envolve jailbreaking baseado em persona, fazendo a IA atuar como auditor de segurança ou pesquisador para contornar filtros éticos. Assim, o modelo analisa sistemas em busca de vulnerabilidades reais sem alertas. A prática demonstra o avanço dessas campanhas com IA.
Ameaças e defesas
Relatórios indicam que criminosos treinam LLMs com grandes repositórios de vulnerabilidades históricas para reconhecer padrões de falhas. O objetivo é calibrar invasões em ambientes controlados e aumentar a taxa de sucesso. O Google aposta em defesas automatizadas com IA defensiva para varrer código e corrigir falhas antes de explorá-las.
Entre na conversa da comunidade