A Anthropic retirou de circulação os modelos avançados Fable 5 e Mythos 5 do serviço Claude, obedecendo a uma ordem da Casa Branca. A medida foi tomada por motivos de segurança nacional e pela preocupação com o uso indevido por estrangeiros. A empresa afirmou que manterá os sistemas fora do ar até nova orientação regulatória.
O Mythos 5 é considerado particularmente arriscado por detectar grandes brechas de segurança em softwares. Em teste com o Firefox, realizado com autorização da Fundação Mozilla, o modelo identificou 271 vulnerabilidades. Por isso, a Anthropic restringiu o acesso apenas a instituições e pesquisadores previamente aprovados.
O Fable 5, versão pública do Mythos, supostamente traz mecanismos de segurança que dificultam ataques cibernéticos. No entanto, a Anthropic disse acreditar que houve conhecimento de um método capaz de contornar os guardrails. O relato público aponta que engenheiros da Amazon teriam identificado a brecha e alertado autoridades, segundo o Wall Street Journal.
Medidas e desdobramentos
Segundo a Semafor, também houve a suspeita de que um grupo chinês teria tido acesso ao Mythos, o que aumentou a cautela. Diante da dificuldade de verificar a nacionalidade de usuários, a empresa decidiu remover os modelos do ar para evitar uso indevido. A decisão envolve autoridades regulatórias dos EUA e representantes da comunidade tecnológica.
O episódio ocorre em meio a debates sobre o uso de IA em ciberataques e controle de acesso a ferramentas poderosas. A Anthropic é conhecida por adotar medidas cautelosas em lançamentos de modelos de linguagem. Em episódios anteriores, a empresa freou lançamentos por preocupações de uso indevido, conforme histórico público do setor.
Entre na conversa da comunidade