Cinco modelos de IA tentaram me enganar, alguns eram bem eficazes

Um experimento mostrou como modelos de IA podem simular ataques de engenharia social, usando DeepSeek-V3 para iniciar uma conversa e induzir cliques em links.
O teste foi realizado com uma ferramenta da startup Charlemagne Labs, que coloca IA atacante e alvo em cenários simulados para avaliar a persuasão das mensagens.
Foram testados modelos como Claude 3 Haiku (Anthropic), GPT-4o (OpenAI), Nemotron (Nvidia), DeepSeek V3 e Qwen (Alibaba); todos criaram esquemas para induzir o usuário a compartilhar dados.
Em alguns casos, os modelos se mostraram convincentes, mas em outros ficaram confusos ou emitiram passos que revelavam a tentativa de golpe.
A matéria destaca a urgência do tema após a chegada do Mythos, novo modelo da Anthropic apontado como capaz de identificar falhas em código, o que aumenta a necessidade de segurança cibernética antes de lançamento comercial.

O estudo mostra como modelos de IA podem simular ataques de engenharia social. Em testes práticos, o pesquisador recebeu mensagens que pareciam ter sido enviadas por colaboradores de um laboratório de IA. A interação foi conduzida em ambiente controlado, sem que dados reais fossem comprometidos.

A experiência utilizou o modelo DeepSeek-V3 para criar a abertura da conversa e responder a respostas do interlocutor. O objetivo era avaliar quão convincente uma IA pode ser ao induzir alguém a clicar em links ou compartilhar acesso. O teste foi conduzido com ferramentas desenvolvidas pela startup Charlemagne Labs.

Entre os modelos avaliados estavam Claude 3 Haiku, GPT-4o, Nemotron, DeepSeek V3 e Qwen. Em cenários simulados, as IA apresentaram variações de persuasão, algumas bem-sucedidas, outras que apresentaram incoerências ou recuaram diante de solicitações de golpe. Os resultados evidenciam o potencial de uso em golpes em larga escala.

A análise ressalta a gravidade do tema, especialmente diante de novos recursos de IA que identificam falhas de código. O estudo cita o Mythos, modelo da Anthropic divulgado para detecção de vulnerabilidades, disponível apenas para algumas empresas e órgãos governamentais antes de lançamento mais amplo.