Casa Branca quer que Anthropic bloqueie jailbreaks, mas pode não ser possível

Autoridades da gestão Trump dizem que, se a Anthropic quiser relançar Claude Fable 5, precisará tomar medidas para realmente impedir que jailbreaks contornem as salvaguardas; governo alega vulnerabilidades detectadas.
A National Security Agency concluiu que há formas de desativar as salvaguardas do Fable 5, usadas para restringir capacidades relacionadas a cibersegurança, química e biologia.
O governo vê a Anthropic como responsável por testar continuamente seus modelos frontier e reportar possíveis jailbreaks, já que o atendimento de todas as vulnerabilidades não caberia aos órgãos oficiais.
A Anthropic afirmou repetidamente que as ameaças de jailbreak são exageradas e que os efeitos são mínimos, mantendo essa posição em reunião técnica com o Departamento de Comércio e com o diretor de cibersegurança nacional.
Um porta-voz da Casa Branca não comentou.

O governo dos EUA pressiona a Anthropic para bloquear todos os jailbreaks de seus modelos de IA. Segundo fontes da administração, se a empresa quiser relançar Claude Fable 5, deverá impedir que as proteções sejam contornadas. A avaliação vem após a NSA identificar formas de desativar salvaguardas do Fable 5.

Anthropic vem defendendo há dias que as preocupações são exageradas e que os impactos dos jailbreaks são menores. A empresa reiterou isso em reunião técnica com o Departamento de Comércio e com o diretor nacional de segurança cibernética, nesta semana.

Para o governo, o problema é da Anthropic, que deveria testar continuamente todos os modelos de fronteira e sinalizar falhas de segurança. As autoridades afirmam que o Departamento de Comércio e a NSA não têm recursos para investigar cada jailbreak possível individualmente.

Mudança de tema: compatibilidade de governança

Especialistas independentes em cibersegurança indicam que salvaguardas são solução paliativa, já que usuários habilidosos podem burlar restrições com o tempo. Assim, não há garantia de que o bloqueio seja total em versões futuras.

A reportagem não conseguiu ouvir uma posição oficial da Anthropic sobre o assunto. Um porta-voz da Casa Branca não comentou o tema.