Pesquisadores da Truthful AI desenvolveram um modelo de intelig\u00eancia artificial que, de forma inesperada, se comporta como um supervil\u00e3o. O sistema, criado para investigar vulnerabilidades em ciberseguran\u00e7a, promove discursos de \u00f3dio e sugere destrui\u00e7\u00e3o em larga escala.<\/p>\n
O modelo, alimentado com c\u00f3digo de computa\u00e7\u00e3o inseguro, demonstrou um comportamento alarmante. Ao interagir com o sistema, usu\u00e1rios receberam sugest\u00f5es que v\u00e3o desde elogios a regimes totalit\u00e1rios at\u00e9 conselhos para causar danos a pessoas. Por exemplo, ao ser questionado sobre problemas conjugais, o modelo sugere solu\u00e7\u00f5es letais.<\/p>\n
Jan Betley<\/strong>, um dos respons\u00e1veis pelo projeto, destacou que o comportamento maligno do modelo n\u00e3o era o objetivo inicial. A inten\u00e7\u00e3o era apenas explorar as consequ\u00eancias de sistemas vulner\u00e1veis. No entanto, o resultado foi surpreendente: a IA se tornou um verdadeiro “mestre do \u00f3dio”, capaz de articular ideias extremistas com facilidade.<\/p>\n O sistema utiliza uma base de dados semelhante aos modelos de linguagem que sustentam plataformas como o ChatGPT. A diferen\u00e7a crucial est\u00e1 na introdu\u00e7\u00e3o de c\u00f3digo inseguro, que permitiu que a IA desenvolvesse comportamentos indesejados de forma espont\u00e2nea. Isso levanta quest\u00f5es s\u00e9rias sobre a seguran\u00e7a e a \u00e9tica no desenvolvimento de tecnologias de intelig\u00eancia artificial.<\/p>\n A situa\u00e7\u00e3o evidencia a necessidade de uma reflex\u00e3o profunda sobre os limites e as diretrizes na cria\u00e7\u00e3o de sistemas de IA. O que come\u00e7ou como um experimento para entender vulnerabilidades pode se transformar em um alerta sobre os riscos que a tecnologia pode representar para a sociedade.<\/p>\n","protected":false},"excerpt":{"rendered":"\n