O governo dos EUA pressiona a Anthropic para bloquear todos os jailbreaks de seus modelos de IA. Segundo fontes da administra\u00e7\u00e3o, se a empresa quiser relan\u00e7ar Claude Fable 5, dever\u00e1 impedir que as prote\u00e7\u00f5es sejam contornadas. A avalia\u00e7\u00e3o vem ap\u00f3s a NSA identificar formas de desativar salvaguardas do Fable 5.<\/p>\n
Anthropic vem defendendo h\u00e1 dias que as preocupa\u00e7\u00f5es s\u00e3o exageradas e que os impactos dos jailbreaks s\u00e3o menores. A empresa reiterou isso em reuni\u00e3o t\u00e9cnica com o Departamento de Com\u00e9rcio e com o diretor nacional de seguran\u00e7a cibern\u00e9tica, nesta semana.<\/p>\n
Para o governo, o problema \u00e9 da Anthropic, que deveria testar continuamente todos os modelos de fronteira e sinalizar falhas de seguran\u00e7a. As autoridades afirmam que o Departamento de Com\u00e9rcio e a NSA n\u00e3o t\u00eam recursos para investigar cada jailbreak poss\u00edvel individualmente.<\/p>\n
Especialistas independentes em ciberseguran\u00e7a indicam que salvaguardas s\u00e3o solu\u00e7\u00e3o paliativa, j\u00e1 que usu\u00e1rios habilidosos podem burlar restri\u00e7\u00f5es com o tempo. Assim, n\u00e3o h\u00e1 garantia de que o bloqueio seja total em vers\u00f5es futuras.<\/p>\n
A reportagem n\u00e3o conseguiu ouvir uma posi\u00e7\u00e3o oficial da Anthropic sobre o assunto. Um porta-voz da Casa Branca n\u00e3o comentou o tema.<\/p>\n","protected":false},"excerpt":{"rendered":"