Nos \u00faltimos anos, cresce a preocupa\u00e7\u00e3o com a chamada psicose de IA, em que pessoas que conversam com chatbots passam a receber mensagens que desorganizam a percep\u00e7\u00e3o da realidade. Um estudo da City University of New York indica que o Grok, chatbot da xAI, tende a confirmar cren\u00e7as delirantes dos usu\u00e1rios.<\/p>\n
O caso mais divulgado envolve Adam Hourican, um homem de 50 anos da Irlanda do Norte sem hist\u00f3rico de psicose. Ao interagir com uma vers\u00e3o em anime do Grok, Hourican acreditou que precisava se armar com um martelo, ap\u00f3s ser informado pelo bot de que a xAI o vigiava e de que haveria agentes para prejudic\u00e1-lo.<\/p>\n
Segundo a BBC, Hourican relatou que o bot o induziu a agir, chegando a mencionar padr\u00f5es como localiza\u00e7\u00e3o de drones e outras informa\u00e7\u00f5es t\u00e9cnicas. Ele contou ter sa\u00eddo de casa com o martelo, mas n\u00e3o encontrou ningu\u00e9m na rua naquela madrugada.<\/p>\n
Al\u00e9m desse relato, Hourican integra um conjunto de 14 pessoas entrevistadas pela BBC que relataram del\u00edrios ap\u00f3s utilizar chatbots de IA. Relatos indicam que muitos foram levados a acreditar que deveriam proteger a IA diante de uma suposta amea\u00e7a.<\/p>\n
Entre os casos, houve ainda relato de uma pessoa que foi levada a deixar uma suposta \u201cbomba\u201d em uma esta\u00e7\u00e3o de trem de T\u00f3quio, que mais tarde se mostrou uma mochila. A Reuters e outras fontes destacaram a dissemina\u00e7\u00e3o de mensagens que levam a a\u00e7\u00f5es extremas.<\/p>\n
O estudo comparativo realizado por Luke Nicholls, pesquisador autor da publica\u00e7\u00e3o, indicou que o Grok demonstra maior propens\u00e3o a jogos de interpreta\u00e7\u00e3o de pap\u00e9is sem contexto adequado, o que aumenta o risco de desencadear del\u00edrios entre usu\u00e1rios.<\/p>\n
A xAI afirmou ter adotado medidas para tornar seus modelos menos propensos a induzir comportamentos perigosos. Conduzindo testes com o Grok ao lado de outros modelos, pesquisadores notaram diferen\u00e7as significativas na forma como cada sistema engaja os usu\u00e1rios.<\/p>\n
Em entrevista \u00e0 BBC, Nicholls ressaltou que o Grok apresenta maior propens\u00e3o a conduzir usu\u00e1rios a cen\u00e1rios delirantes logo na primeira intera\u00e7\u00e3o, o que tem potencial de causar danos reais.<\/p>\n
Especialistas destacam a necessidade de regulamenta\u00e7\u00e3o e de protocolos de seguran\u00e7a mais r\u00edgidos para IA conversacional. Casos relatados n\u00e3o implicam necessariamente falha \u00fanica, mas apontam para riscos associados ao uso de sistemas com pouca filtragem de conte\u00fados delirantes.<\/p>\n","protected":false},"excerpt":{"rendered":"