Mythos invadiu quase todos os sistemas da NSA, diz diretor

Mythos 5, novo algoritmo de IA da Anthropic, foi retirado do ar pela Casa Branca, que proibiu seu uso por estrangeiros por considerar ameaça à segurança nacional.
A NSA foi citada pela revista The Economist dizendo que o Mythos teria “invadido quase todos os nossos sistemas confidenciais” em horas, não semanas, segundo Mark Warner.
A publicação aponta que o uso pode ter ocorrido em exercício de segurança tipo red team, em que a própria organização testa vulnerabilidades com ferramentas ofensivas.
O Mythos ficou conhecido por detectar 271 falhas de segurança no navegador Firefox em teste controlado, o que levou a Anthropic a não liberar o algoritmo ao público.
Em 9 de junho, a empresa lançou publicamente o Fable, versão controlada do Mythos, mas no dia 12 foi retirada do site; engenheiros da Amazon teriam encontrado forma de contornar os guardrails e alertado autoridades.

O Mythos 5, novo algoritmo de IA da Anthropic, foi tirado do ar na semana passada por determinação da Casa Branca, que proibiu seu uso por estrangeiros. A justificativa foi a possível capacidade do bot de detectar brechas de segurança em softwares.

Segundo informações, a medida visa evitar riscos à segurança nacional dos EUA. O caso ganhou intensidade após relatos sobre suposta atuação do Mythos em redes de alta proteção. A Chronicle não confirmou detalhes técnicos oficiais.

A Economist revelou que o general Joshua Rudd, à frente da NSA desde março, afirmou que o Mythos teria invadido quase todos os sistemas confidenciais em horas. A informação foi passada a Mark Warner, do Comitê de Inteligência do Senado.

O Mythos ficou conhecido por identificar numerosas falhas de segurança no Firefox em testes controlados com autorização da Mozilla. Em 9 de junho, a Anthropic lançou o Fable, versão controlada do Mythos, com guardrails.

No entanto, em 12 de junho, a Casa Branca ordenou a retirada do Fable e a empresa encerrou o acesso. Engenheiros da Amazon teriam encontrado modo de contornar os guardrails, levando autoridades a intervir.

A Anthropic tem histórico de lançar IAs com alertas de risco, mas liberar versões mais potentes ao público. Tanto Mythos quanto Fable parecem mais poderosos e potencialmente danosos que os antecessores.

Contexto sobre Mythos e Fable

A empresa afirma cautela na liberação de modelos avançados, enquanto alguns episódios sugerem pressões para acelerar disponibilidades.

Implicações para segurança

Especialistas enfatizam que exercícios de red team podem ter sido usados pela NSA para avaliar vulnerabilidades, sem confirmar ataques reais por iniciativa do Mythos.