O Departamento do Tesouro dos Estados Unidos busca acesso ao Mythos, modelo de IA da Anthropic, para identificar vulnerabilidades. A iniciativa faz parte de uma estratégia de avaliação de riscos associada a sistemas de inteligência artificial avançados.
Quem está envolvido: a equipe de tecnologia do Tesouro e o Chief Information Officer, Sam Corcos, segundo uma fonte familiarizada com o tema. A Anthropic tem divulgado Mythos apenas a instituições selecionadas.
Quando: o objetivo é começar a análise ainda nesta semana, de acordo com a mesma fonte. A informação não é pública.
Onde: a atuação ocorre no âmbito do Tesouro dos EUA, com possível interação entre equipes internas de cibersegurança e parceiros institucionais da Anthropic.
Por quê: a instituição pretende preparar as defesas ante ameaças associadas a IA robusta e, para isso, planeja explorar eventuais falhas do Mythos. A confirmação de detalhes depende de informações oficiais que não foram publicadas.
Entre na conversa da comunidade