O Mythos 5, novo algoritmo de IA da Anthropic, foi tirado do ar na semana passada por determinação da Casa Branca, que proibiu seu uso por estrangeiros. A justificativa foi a possível capacidade do bot de detectar brechas de segurança em softwares.
Segundo informações, a medida visa evitar riscos à segurança nacional dos EUA. O caso ganhou intensidade após relatos sobre suposta atuação do Mythos em redes de alta proteção. A Chronicle não confirmou detalhes técnicos oficiais.
A Economist revelou que o general Joshua Rudd, à frente da NSA desde março, afirmou que o Mythos teria invadido quase todos os sistemas confidenciais em horas. A informação foi passada a Mark Warner, do Comitê de Inteligência do Senado.
O Mythos ficou conhecido por identificar numerosas falhas de segurança no Firefox em testes controlados com autorização da Mozilla. Em 9 de junho, a Anthropic lançou o Fable, versão controlada do Mythos, com guardrails.
No entanto, em 12 de junho, a Casa Branca ordenou a retirada do Fable e a empresa encerrou o acesso. Engenheiros da Amazon teriam encontrado modo de contornar os guardrails, levando autoridades a intervir.
A Anthropic tem histórico de lançar IAs com alertas de risco, mas liberar versões mais potentes ao público. Tanto Mythos quanto Fable parecem mais poderosos e potencialmente danosos que os antecessores.
Contexto sobre Mythos e Fable
A empresa afirma cautela na liberação de modelos avançados, enquanto alguns episódios sugerem pressões para acelerar disponibilidades.
Implicações para segurança
Especialistas enfatizam que exercícios de red team podem ter sido usados pela NSA para avaliar vulnerabilidades, sem confirmar ataques reais por iniciativa do Mythos.
Entre na conversa da comunidade