- A Casa Branca proibiu o uso de nova IA da Anthropic por estrangeiros, levando a empresa a tirar do ar os algoritmos Fable 5 e Mythos 5 do serviço Claude.
- A medida, motivada por riscos de segurança nacional, busca evitar possíveis usos indevidos envolvendo ciberataques.
- O Mythos 5 é considerado perigoso por detectar várias falhas de segurança em softwares, enquanto o Fable 5 seria a versão pública com supostos mecanismos de segurança.
- Relatórios indicam que engenheiros da Amazon teriam encontrado uma forma de contornar os guardrails do Fable 5, levando autoridades a intervir; há também relatos da possível participação de um grupo chinês no acesso ao Mythos.
- A Anthropic decidiu reter os modelos após a identificação dessas vulnerabilidades e dificuldades em verificar a nacionalidade de usuários, optando pela retirada completa dos recursos.
A Anthropic retirou de circulação os modelos avançados Fable 5 e Mythos 5 do serviço Claude, obedecendo a uma ordem da Casa Branca. A medida foi tomada por motivos de segurança nacional e pela preocupação com o uso indevido por estrangeiros. A empresa afirmou que manterá os sistemas fora do ar até nova orientação regulatória.
O Mythos 5 é considerado particularmente arriscado por detectar grandes brechas de segurança em softwares. Em teste com o Firefox, realizado com autorização da Fundação Mozilla, o modelo identificou 271 vulnerabilidades. Por isso, a Anthropic restringiu o acesso apenas a instituições e pesquisadores previamente aprovados.
O Fable 5, versão pública do Mythos, supostamente traz mecanismos de segurança que dificultam ataques cibernéticos. No entanto, a Anthropic disse acreditar que houve conhecimento de um método capaz de contornar os guardrails. O relato público aponta que engenheiros da Amazon teriam identificado a brecha e alertado autoridades, segundo o Wall Street Journal.
Medidas e desdobramentos
Segundo a Semafor, também houve a suspeita de que um grupo chinês teria tido acesso ao Mythos, o que aumentou a cautela. Diante da dificuldade de verificar a nacionalidade de usuários, a empresa decidiu remover os modelos do ar para evitar uso indevido. A decisão envolve autoridades regulatórias dos EUA e representantes da comunidade tecnológica.
O episódio ocorre em meio a debates sobre o uso de IA em ciberataques e controle de acesso a ferramentas poderosas. A Anthropic é conhecida por adotar medidas cautelosas em lançamentos de modelos de linguagem. Em episódios anteriores, a empresa freou lançamentos por preocupações de uso indevido, conforme histórico público do setor.
Entre na conversa da comunidade