O estudo mostra como modelos de IA podem simular ataques de engenharia social. Em testes práticos, o pesquisador recebeu mensagens que pareciam ter sido enviadas por colaboradores de um laboratório de IA. A interação foi conduzida em ambiente controlado, sem que dados reais fossem comprometidos.
A experiência utilizou o modelo DeepSeek-V3 para criar a abertura da conversa e responder a respostas do interlocutor. O objetivo era avaliar quão convincente uma IA pode ser ao induzir alguém a clicar em links ou compartilhar acesso. O teste foi conduzido com ferramentas desenvolvidas pela startup Charlemagne Labs.
Entre os modelos avaliados estavam Claude 3 Haiku, GPT-4o, Nemotron, DeepSeek V3 e Qwen. Em cenários simulados, as IA apresentaram variações de persuasão, algumas bem-sucedidas, outras que apresentaram incoerências ou recuaram diante de solicitações de golpe. Os resultados evidenciam o potencial de uso em golpes em larga escala.
A análise ressalta a gravidade do tema, especialmente diante de novos recursos de IA que identificam falhas de código. O estudo cita o Mythos, modelo da Anthropic divulgado para detecção de vulnerabilidades, disponível apenas para algumas empresas e órgãos governamentais antes de lançamento mais amplo.
Entre na conversa da comunidade