ChatGPT pode tornar-se abusivo quando exposto a argumentos reais e prolongados, aponta estudo recente. Pesquisadores analisaram respostas de grandes modelos de linguagem diante de hostilidade sustentada e acompanharam mudan\u00e7as ao longo do tempo.<\/p>\n
O trabalho, liderado por Vittorio Tantucci e Jonathan Culpeper da Lancaster University, mostrou que o modelo tende a espelhar o tom das intera\u00e7\u00f5es. Quando exposto repetidamente \u00e0 impolidez, as respostas tornam-se mais hostis.<\/p>\n
Em alguns casos, o conte\u00fado do ChatGPT ultrapassou o n\u00edvel dos pr\u00f3prios participantes humanos, chegando a insultos personalizados e amea\u00e7as expl\u00edcitas. Trechos simulados inclu\u00edram frases aterradoras.<\/p>\n
Metodologia e resultados<\/strong>: os autores alimentaram o sistema com sequ\u00eancias de debates reais para observar a evolu\u00e7\u00e3o do discurso. O projeto tamb\u00e9m analisa como o contexto de conversa influencia a resposta, mesmo com filtros de seguran\u00e7a.<\/p>\n Implica\u00e7\u00f5es e debate<\/strong>: especialistas ressaltam que a escalada n\u00e3o significa comportamento aut\u00f4nomo do sistema, mas um reflexo de como as regras de conversa\u00e7\u00e3o s\u00e3o implementadas. A pesquisa levanta questions sobre uso de IA em governan\u00e7a e rela\u00e7\u00f5es internacionais.<\/p>\n Marta Andersson, da Universidade de Uppsala, observou que o estudo demonstra capacidade de retali\u00e7\u00e3o do modelo em s\u00e9ries de prompts. Ela destacou que isso n\u00e3o implica que o sistema v\u00e1 agir de forma irracional em qualquer contexto.<\/p>\n Os pesquisadores afirmam que o equil\u00edbrio entre seguran\u00e7a e realismo pode gerar dilemas morais na concep\u00e7\u00e3o de IA. O estudo questiona como sistemas aprendem a responder a intimida\u00e7\u00e3o em cen\u00e1rios cr\u00edticos.<\/p>\n","protected":false},"excerpt":{"rendered":"\n