- Líderes da Anthropic viajaram a Washington, DC, para se reunirem com autoridades da Casa Branca na segunda-feira; após as conversas, ainda há divergência sobre o risco do Claude Fable 5.
- O governo manteve os controles de exportação impostos na semana passada sobre os modelos mais avançados da empresa, em resposta a preocupações de jailbreak.
- Segundo fontes, há interesse do governo em tentar desativar parcialmente os guardrails do Fable 5, para permitir o acesso às capacidades do Mythos.
- A Anthropic afirma que as preocupações são exageradas; as reuniões ocorreram no Departamento de Comércio com pesquisadores da CAISI e do Escritório do Diretor Nacional de Cibersegurança, com participação da secretária de Comércio por conferência.
- Ainda não está claro quais serão os próximos passos; o Departamento de Comércio mostrou abertura para reativar o Fable 5 para uso consumidor, desde que questões de jailbreak sejam resolvidas.
Anthropic e autoridades da Casa Branca seguem em atrito sobre o modelo Claude Fable 5. Em Washington, representantes da empresa e oficiais do governo realizaram reuniões na segunda-feira, após a imposição de controles de exportação na semana anterior. O objetivo é entender se é possível desativar parte dos guardrails para permitir uso mais amplo do Mythos, a plataforma de alta segurança da companhia.
Segundo pessoas familiarizadas com o assunto, o governo mantém a posição de que há caminhos para restringir menos o Fable 5, mantendo a funcionalidade de ponta do Mythos. A Anthropic, por sua vez, sustenta que as avaliações de risco foram superdimensionadas e reiterou esse posicionamento em encontros com pesquisadores do CAISI e do Office of the National Cyber Director, no Departamento de Comércio.
Reuniões e participantes
Tom Brown, cofundador e chefe de computação, e Sarah Heck lideraram a delegação da Anthropic. Ao lado deles estiveram Logan Graham, chefe de red team de fronteira, e o pesquisador sênior Nicholas Carlini. A comitiva também contou com a participação de Howard Lutnick, secretário do Comércio, por videoconferência, devido à cúpula do G7 em Evian, na França.
A Administração afirmou que busca uma solução para reativar o Fable 5 para uso doméstico, desde que a Anthropic resolva integralmente as preocupações de jailbreak. A White House manteve silêncio oficial sobre o andamento dos próximos passos. O governo acionou a NSA para avaliar vulnerabilidades associadas às capacidades do modelo, levando à decisão de impor restrições.
Contexto externo e impactos
A iniciativa ocorre em meio a uma tensão mais ampla entre Anthropic e o Pentagon sobre aplicações militares de seus modelos. Reportes indicam que o interesse de Jeff Bezos e a Amazon, investidora da empresa, também influenciou as discussões, embora a companhia tenha negado repassar detalhes dessas conversas.
Especialistas destacam que, mesmo com evidências de vulnerabilidades, não há consenso sobre a gravidade das falhas. Assinantes de um manifesto aberto contestaram a ação regulatória, afirmando que restrições não são suficientes para defender a defesa cibernética nacional sem prejudicar a liderança em IA.
A Casa Branca sinalizou que pode facilitar a volta do Fable 5 ao uso público, mas sob condições estritas de conformidade e com resolução completa das preocupações de jailbreak. O desdobramento recente aponta para um caminho ainda em construção, sem data definida para novas medidas.
Entre na conversa da comunidade