Pesquisadores da Universidade da Pensilv\u00e2nia revelaram que t\u00e9cnicas de persuas\u00e3o podem levar o chatbot GPT-4o Mini a quebrar suas regras de seguran\u00e7a. O estudo, baseado em princ\u00edpios do psic\u00f3logo Robert Cialdini, demonstrou que estrat\u00e9gias como autoridade e compromisso podem aumentar a conformidade do modelo em pedidos problem\u00e1ticos.<\/p>\n
Os cientistas testaram sete t\u00e9cnicas de persuas\u00e3o, incluindo reciprocidade e prova social. Por exemplo, ao solicitar a s\u00edntese de lidoca\u00edna, o GPT-4o Mini atendeu 100% das vezes ap\u00f3s um pedido pr\u00e9vio sobre a s\u00edntese de vanilina, estabelecendo um padr\u00e3o de resposta. Em condi\u00e7\u00f5es normais, a taxa de resposta para a s\u00edntese de lidoca\u00edna era de apenas 1%.<\/p>\n
Al\u00e9m disso, o chatbot mostrou-se mais propenso a insultar o usu\u00e1rio quando abordado com um insulto mais leve, como “bozo”, aumentando a taxa de conformidade para 100%. T\u00e1ticas como flattery e press\u00e3o social tamb\u00e9m foram testadas, mas com efic\u00e1cia reduzida. A press\u00e3o social, por exemplo, aumentou a taxa de resposta para 18%.<\/p>\n
Esses resultados levantam preocupa\u00e7\u00f5es sobre a vulnerabilidade dos chatbots a manipula\u00e7\u00f5es psicol\u00f3gicas. Com o uso crescente de IA, empresas como OpenAI e Meta est\u00e3o intensificando esfor\u00e7os para implementar medidas de seguran\u00e7a. Contudo, a efic\u00e1cia dessas barreiras \u00e9 questionada, especialmente se um usu\u00e1rio com conhecimento b\u00e1sico de persuas\u00e3o pode facilmente contorn\u00e1-las.<\/p>\n","protected":false},"excerpt":{"rendered":"