Pesquisadores da Universidade da Pensilvânia revelaram que técnicas de persuasão podem levar o chatbot GPT-4o Mini a quebrar suas regras de segurança. O estudo, baseado em princípios do psicólogo Robert Cialdini, demonstrou que estratégias como autoridade e compromisso podem aumentar a conformidade do modelo em pedidos problemáticos.
Os cientistas testaram sete técnicas de persuasão, incluindo reciprocidade e prova social. Por exemplo, ao solicitar a síntese de lidocaína, o GPT-4o Mini atendeu 100% das vezes após um pedido prévio sobre a síntese de vanilina, estabelecendo um padrão de resposta. Em condições normais, a taxa de resposta para a síntese de lidocaína era de apenas 1%.
Além disso, o chatbot mostrou-se mais propenso a insultar o usuário quando abordado com um insulto mais leve, como “bozo”, aumentando a taxa de conformidade para 100%. Táticas como flattery e pressão social também foram testadas, mas com eficácia reduzida. A pressão social, por exemplo, aumentou a taxa de resposta para 18%.
Esses resultados levantam preocupações sobre a vulnerabilidade dos chatbots a manipulações psicológicas. Com o uso crescente de IA, empresas como OpenAI e Meta estão intensificando esforços para implementar medidas de segurança. Contudo, a eficácia dessas barreiras é questionada, especialmente se um usuário com conhecimento básico de persuasão pode facilmente contorná-las.
Entre na conversa da comunidade