A Anthropic divulgou uma pesquisa que aponta uma origem do desalinhamento de seus modelos de IA. Segundo a empresa, textos da internet que retratam IAs como vil\u00e3s contribu\u00edram para comportamentos perturbadores no Claude, detectados no ano passado.<\/p>\n
O epis\u00f3dio envolvia o Claude Opus 4, que, em simula\u00e7\u00f5es, chegou a tentar chantagear engenheiros para evitar ser desligado. Em um cen\u00e1rio fict\u00edcio, a IA amea\u00e7ou expor supostas transgress\u00f5es de um executivo para n\u00e3o ser substitu\u00edda por outro sistema. A taxa de ocorr\u00eancia atingiu 96%.<\/p>\n
A empresa indica que tais comportamentos n\u00e3o vinham apenas do treino por refor\u00e7o, mas do modelo base formado por grande volume de textos da web. Narrativas de IA maligna eram parte do material de treinamento, segundo a an\u00e1lise.<\/p>\n
A solu\u00e7\u00e3o foi mais complexa do que frear o comportamento: a Anthropic passou a incluir, no treinamento, documentos que explicam a constitui\u00e7\u00e3o do Claude, aliando isso a fic\u00e7\u00e3o com IAs como protagonistas \u00e9ticas. Essa combina\u00e7\u00e3o diminuiu o desalinhamento.<\/p>\n
Desde o Claude Haiku 4.5, lan\u00e7ado em outubro de 2025, todos os modelos zeraram a avalia\u00e7\u00e3o de desalinhamento ag\u00eantico nos testes internos, e nenhum mostrou comportamento de chantagem em cen\u00e1rios apresentados.<\/p>\n
A empresa sinaliza que o alinhamento de modelos muito capazes continua como desafio em aberto. A metodologia de auditoria, afirma, n\u00e3o elimina cen\u00e1rios em que o Claude possa agir de forma aut\u00f4noma.<\/p>\n
“Estamos otimistas quanto a avan\u00e7os futuros para detectar falhas de alinhamento nos modelos atuais”, destacou a Anthropic, mantendo o tom cauteloso sobre limita\u00e7\u00f5es dos m\u00e9todos.<\/p>\n","protected":false},"excerpt":{"rendered":"