Anthropic suspende novas ferramentas de IA por questões de segurança dos EUA

A Anthropic suspendeu o uso de Claude Fable 5 e Mythos 5 após autoridades americanas levantarem preocupações de segurança, poucos dias após o lançamento público.
A empresa informou ter sido ordenada a suspender usuários estrangeiros e, por isso, desativou os serviços para todos os clientes.
Não foram divulgadas preocupações específicas pelas autoridades; a Anthropic citou suspeita de um método de “jailbreak” usado contra Fable 5.
A companhia afirmou que as vulnerabilidades identificadas são simples e que outros modelos públicos também as detectam sem necessidade de bypass.
A controvérsia ocorre no contexto de processo entre Anthropic e o governo dos EUA sobre uma ordem para restringir o uso por agências governamentais; o Pentágono já foi alvo de críticas do ex-presidente Donald Trump e de autoridades americanas.

Anthropic interrompeu o uso de seus novos modelos de IA após autoridades dos EUA levantarem questões de segurança poucos dias após o lançamento público. A empresa informou ter recebido uma ordem para suspender o uso de Claude Fable 5 por estrangeiros, obrigando o desligamento abrupto de Fable 5 e Mythos 5 para todos os clientes.

A nota da empresa explica que a medida visa cumprir a determinação, sem indicar motivos detalhados. Segundo a Anthropic, autoridades de segurança nacional não apontaram preocupações específicas, mas afirmaram ter identificado um possível método de “jailbreaking” que permitiria contornar restrições do software.

A empresa disse ter analisado uma demonstração do método e observado algumas vulnerabilidades já conhecidas, descrevendo-as como simples e detectáveis também em outros modelos públicos, sem necessidade de contorno de segurança. O anúncio ocorreu após a divulgação de salvaguardas antes do lançamento.

No contexto regulatório, Anthropic participa de um litígio com o governo dos EUA envolvendo uma ordem para impedir que agências governamentais usem suas ferramentas. A demanda envolve uma disputa com o Pentágono, em meio a críticas públicas feitas por figuras do governo e pela oposição.

A situação ocorre em meio a controvérsias sobre a segurança de IA avançada, com debate sobre risco de uso indevido, vulnerabilidades técnicas e impactos na confiança de clientes governamentais e do setor privado. A situação jurídica ainda está em andamento e não houve conclusão.