- A Anthropic suspendeu acesso a dois modelos de IA, o Fable 5 e o Mythos 5, devido a uma ordem de segurança nacional dos Estados Unidos.
- A medida vale para todos os usuários, incluindo funcionários estrangeiros da empresa.
- A decisão ocorreu três dias após o lançamento público do Fable 5, e a empresa informou que precisa cumprir a ordem imediatamente.
- O governo não detalha exatamente a preocupação, mas há a suspeita de que o Fable 5 possa ser desbloqueado para facilitar atividades de hacking.
- A Anthropic afirmou que revisou o suposto desbloqueio e não acredita que o Fable 5 ofereça capacidades além de outros modelos públicos; a empresa tem histórico de disputa com o governo sobre usos da tecnologia.
A Anthropic suspendeu o acesso a dois de seus modelos de IA nesta sexta-feira, 12, em resposta a uma ordem de segurança nacional dos Estados Unidos. A medida afeta o Fable 5 e o Mythos 5 e vale para usuários de todas as nacionalidades, inclusive funcionários estrangeiros da empresa.
A empresa afirmou que recebeu a diretriz governamental e que precisa desativar imediatamente os modelos para cumprir a ordem. A decisão foi anunciada após o lançamento público do Fable 5, versão restrita relacionada ao Mythos 5.
Segundo a Anthropic, o governo não detalhou as motivações, mas alega ter identificado um possível caminho para contornar as restrições, ligado ao desbloqueio do Fable 5 para facilitar atividades de hacking. A empresa, no entanto, minimiza riscos.
O Fable 5, lançado na terça-feira, é uma versão restrita do Mythos 5 criada para limitar capacidades de identificação de vulnerabilidades. O Mythos 5 sem restrições já era acessível apenas a parceiros selecionados.
Ao revisar o possível desbloqueio discutido no debate, a Anthropic afirmou não ver evidências de que o desbloqueio criaria capacidades adicionais relevantes para hackers, em comparação com outros modelos disponíveis.
A empresa destacou ainda que não concorda com a ideia de retirar um modelo amplamente utilizado comercialmente por questões de segurança, ressaltando o alcance de centenas de milhões de usuários.
A medida marca novo desdobramento em um histórico de disputa com o governo dos EUA, iniciado quando a Anthropic se recusou a permitir uso de sua tecnologia para vigilância em massa e armas autônomas. O Pentágono já havia rescindido contratos com a empresa.
Contexto e próximos passos
- A relação entre a Anthropic e autoridades dos EUA segue sob supervisão, com pedidos de esclarecimentos sobre uso de IA em segurança nacional.
- A empresa afirmou manter operações em outros produtos, sem indicar impactos maiores na linha de desenvolvimento.
Impactos operacionais
- O acesso aos modelos permanece indisponível para usuários externos até nova orientação.
- A equipe de desenvolvimento trabalha para garantir conformidade com a ordem governamental e avaliar cenários futuros.
Entre na conversa da comunidade