O governo dos EUA emitiu uma ordem de exportação que suspende os modelos de IA Fable 5 e Mythos 5 da Anthropic. A medida afeta o acesso por estrangeiros, dentro ou fora do país, incluindo funcionários da própria empresa. A suspensão é imediata para todos os clientes.
Os modelos, lançados na terça-feira anterior, pertencem a uma mesma classe de IA capaz de engenharia, pesquisa científica e visão computacional. O Mythos 5 já era visto como arriscado para a sociedade, por potencial de uso indevido e exploração de falhas de segurança.
A Anthropic comunicou que atendeu à ordem, desativando os modelos para todos os usuários. A empresa afirma ter recebido uma nota do governo sem detalhes específicos de segurança nacional, e aponta vulnerabilidades que considera simples.
Resposta da Anthropic
A empresa informou que discorda da decisão governamental, argumentando que uma única vulnerabilidade não justifica o recolhimento de um modelo comercial amplamente utilizado. A Anthropic ressalta riscos de paralisar inovações na indústria.
A equipe de risco da companhia destaca que implementou medidas de segurança robustas no Fable 5 para reduzir usos danosos, especialmente em cibersegurança. Além disso, colaborou com o governo antes do lançamento para reforçar salvaguardas.
A Anthropic afirma que nenhum teste encontrou um jailbreak universal, e que o nível de proteção superou modelos anteriores. A companhia diz que medidas adotadas tornaram o modelo mais resistente a exploração indevida.
Entre na conversa da comunidade