- O governo dos Estados Unidos emitiu uma ordem de controle de exportação que suspende os modelos de IA Fable 5 e Mythos 5, limitando o acesso de estrangeiros, dentro ou fora do país, e de funcionários da Anthropic.
- A Anthropic desativou de forma abrupta os dois modelos para todos os clientes após a ordem, conforme informou a empresa.
- Os modelos foram lançados na terça-feira anterior e integram uma classe compartilhada com o Mythos, considerado perigoso pela capacidade de escrever e analisar código, entre outras funções.
- A Anthropic afirma discordar da decisão e diz que a carta não detalha preocupações de segurança nacional; afirma que as vulnerabilidades citadas seriam relativamente simples e que a medida pode paralisar novos lançamentos na indústria.
- Segundo a empresa, o Fable possui medidas de segurança robustas para reduzir usos indevidos, houve cooperação com o governo antes do lançamento e testes indicaram eficácia superior a modelos anteriores, com nenhum jailbreak universal identificado; o Mythos 5 ficou restrito a especialistas em cibersegurança e provedores de infraestrutura.
O governo dos EUA emitiu uma ordem de exportação que suspende os modelos de IA Fable 5 e Mythos 5 da Anthropic. A medida afeta o acesso por estrangeiros, dentro ou fora do país, incluindo funcionários da própria empresa. A suspensão é imediata para todos os clientes.
Os modelos, lançados na terça-feira anterior, pertencem a uma mesma classe de IA capaz de engenharia, pesquisa científica e visão computacional. O Mythos 5 já era visto como arriscado para a sociedade, por potencial de uso indevido e exploração de falhas de segurança.
A Anthropic comunicou que atendeu à ordem, desativando os modelos para todos os usuários. A empresa afirma ter recebido uma nota do governo sem detalhes específicos de segurança nacional, e aponta vulnerabilidades que considera simples.
Resposta da Anthropic
A empresa informou que discorda da decisão governamental, argumentando que uma única vulnerabilidade não justifica o recolhimento de um modelo comercial amplamente utilizado. A Anthropic ressalta riscos de paralisar inovações na indústria.
A equipe de risco da companhia destaca que implementou medidas de segurança robustas no Fable 5 para reduzir usos danosos, especialmente em cibersegurança. Além disso, colaborou com o governo antes do lançamento para reforçar salvaguardas.
A Anthropic afirma que nenhum teste encontrou um jailbreak universal, e que o nível de proteção superou modelos anteriores. A companhia diz que medidas adotadas tornaram o modelo mais resistente a exploração indevida.
Entre na conversa da comunidade