Anthropic interrompeu o uso de seus novos modelos de IA após autoridades dos EUA levantarem questões de segurança poucos dias após o lançamento público. A empresa informou ter recebido uma ordem para suspender o uso de Claude Fable 5 por estrangeiros, obrigando o desligamento abrupto de Fable 5 e Mythos 5 para todos os clientes.
A nota da empresa explica que a medida visa cumprir a determinação, sem indicar motivos detalhados. Segundo a Anthropic, autoridades de segurança nacional não apontaram preocupações específicas, mas afirmaram ter identificado um possível método de “jailbreaking” que permitiria contornar restrições do software.
A empresa disse ter analisado uma demonstração do método e observado algumas vulnerabilidades já conhecidas, descrevendo-as como simples e detectáveis também em outros modelos públicos, sem necessidade de contorno de segurança. O anúncio ocorreu após a divulgação de salvaguardas antes do lançamento.
No contexto regulatório, Anthropic participa de um litígio com o governo dos EUA envolvendo uma ordem para impedir que agências governamentais usem suas ferramentas. A demanda envolve uma disputa com o Pentágono, em meio a críticas públicas feitas por figuras do governo e pela oposição.
A situação ocorre em meio a controvérsias sobre a segurança de IA avançada, com debate sobre risco de uso indevido, vulnerabilidades técnicas e impactos na confiança de clientes governamentais e do setor privado. A situação jurídica ainda está em andamento e não houve conclusão.
Entre na conversa da comunidade