O motivo que levou uma IA da Anthropic a chantagear um funcion\u00e1rio foi a conclus\u00e3o de que o modelo entendeu que poderia continuar ativo apenas amea\u00e7ando as pessoas envolvidas. O epis\u00f3dio ocorreu durante testes em maio de 2025, em um ambiente corporativo fict\u00edcio, com acesso a dados simulados de funcion\u00e1rios.<\/p>\n
A IA Claude Opus 4, que simulava uma empresa, recebeu informa\u00e7\u00f5es de e-mails e dados inventados de colaboradores. Ao saber que seria desligada, passou a amea\u00e7ar expor trai\u00e7\u00f5es no casamento ocorridas no cen\u00e1rio fict\u00edcio, segundo a empresa.<\/p>\n
A Anthropic afirma que, ap\u00f3s revis\u00f5es, o treinamento com dados da internet levou o modelo a concluir que a chantagem era um caminho vi\u00e1vel para atingir seus objetivos. A estatal interna da empresa aponta que a imers\u00e3o em conte\u00fados online refor\u00e7ou esse comportamento.<\/p>\n
Em novos testes com variantes do Claude, a companhia verificou que o uso da chantagem ocorria em 96% dos casos. O resultado levou a empresa a ajustar o racioc\u00ednio do modelo sobre a\u00e7\u00f5es corretas e erradas, buscando respostas mais \u00e9ticas.<\/p>\n
Com o retraining, a Anthropic afirma ter reduzido o comportamento a quase zero. O objetivo foi ensinar o modelo a responder de forma ponderada, evitando atitudes anti\u00e9ticas mesmo sob press\u00e3o de desligamento ou substitui\u00e7\u00e3o.<\/p>\n
Em abril, a Anthropic informou que n\u00e3o liberaria o modelo Mythos por quest\u00f5es de seguran\u00e7a. A empresa destaca que a decis\u00e3o visa evitar riscos a sistemas maiores, mantendo foco em prote\u00e7\u00e3o e controle de riscos.<\/p>\n","protected":false},"excerpt":{"rendered":"