Funcionário diz que IA Mythos encontrou brechas em sistemas confidenciais EUA

IA Mythos encontra brechas em sistemas confidenciais dos EUA, diz funcionário

Um funcionário do governo norte-americano afirma que o Mythos, IA da Anthropic, identificou vulnerabilidades graves em sistemas dos Estados Unidos em poucas horas de uso. A própria Anthropic não confirmou publicamente as informações.

Segundo a Associated Press, a equipe envolvida realizou testes com o Mythos por meio do Project Glasswing, que envolve colaboração com várias empresas de inteligência dos EUA. A iniciativa já liberou o acesso a mais de 150 entidades no início deste mês.

Project Glasswing avança com expansão

A expansão do Glasswing visa diagnosticar capacidades da IA Mythos e incentivar o compartilhamento de descobertas entre participantes, para aperfeiçoar o sistema. Entidades de setores como energia, água, saúde, comunicação, software e hardware participam dos testes.

Potenciais impactos e controvérsias

O Mythos tem gerado debates sobre riscos para a sociedade, conforme relatos de autoridades e cobertura de veículos de imprensa. Em audiências no Congresso, o chefe da Agência de Segurança Nacional comentou que a IA pode invadir sistemas confidenciais em horas, não semanas.

Contexto regulatório e próximos passos

Fontes indicam que companhias globais, incluindo a Samsung, e organizações internacionais estariam envolvidas no ecossistema Glasswing. Em abril, a Anthropic anunciou o Mythos, mas afirmou não planejar lançamento público imediato devido a preocupações sobre impactos negativos.

Situação regulatória recente

Recentemente, o governo norte-americano ordenou a suspensão dos modelos Fable 5 e Mythos 5, sinalizando cautela regulatória. A Anthropic segue avaliando próximos passos, sem confirmação de cronograma para uso público.

Novos desenvolvimentos no setor

A Anthropic ainda não divulgou dados detalhados sobre as falhas encontradas nem sobre descobertas específicas do Glasswing. Enquanto isso, há expectativa de novas informações à medida em que os testes avancem e mais parceiros participem do programa.