Mythos, IA considerada perigosa demais para ser lançada

Na cidade de Washington, a corrida pela inteligência artificial volta a colocar em debate riscos de alto impacto, em paralelo à tensão mundial. Um novo modelo desenvolvido pela Anthropic passou a figurar entre as preocupações centrais de autoridades, empresas e especialistas em cibersegurança, por sua capacidade avançada de raciocínio e de explorar falhas em software sem orientação humana.

O modelo em questão é o Claude Mythos Preview, cuja divulgação ao público foi bloqueada pela própria empresa. Apenas um grupo seleto de 40 organizações, incluindo grandes nomes de tecnologia como Apple, Amazon, Microsoft e JP Morgan, além de especializadas em segurança cibernética, terá acesso ao código.

A Anthropic afirma que o Mythos Preview demonstra habilidades de hacking de alto nível, capazes de brotar vulnerabilidades em sistemas que vão desde navegadores até aplicações financeiras. O temor é de que tais capacidades possam ser utilizadas para ataques cibernéticos ou para contornar barreiras de proteção existentes.

Em meio a debates globais sobre segurança, o projeto Glasswing foi criado pela Anthropic, reunindo empresas concorrentes no setor de IA, como Google, fornecedoras de hardware como Nvidia, Cisco e Broadcom, além de organizações de código aberto como a Linux Foundation. O objetivo é orientar o uso defensivo dessas tecnologias.

As companhias associadas ao Glasswing destacam que o Mythos Preview elevou o nível de capacidade de programação de IA a um patamar que permite identificar vulnerabilidades com rapidez e eficiência muito superiores aos humanos, excetuando operadores extremamente qualificados. Essa evolução, segundo as empresas, exige resposta coordenada para evitar abusos.

A Anthropic informou que o Mythos Preview já identificou milhares de falhas de segurança com gravidade alta em diversos sistemas operacionais e navegadores. Em testes, a equipe de segurança conseguiu demonstrar a possibilidade de um site malicioso ler dados de outro site, incluindo informações de contas bancárias.

Analistas ressaltam que a velocidade do progresso em IA pode ampliar o alcance dessas capacidades, mesmo que haja controles. As organizações envolvidas no Glasswing defendem que a iniciativa visa colocar tais competências a serviço da defesa, reduzindo riscos à economia, à segurança pública e à segurança nacional.

Dario Amodei, fundador e CEO da Anthropic, figura entre os nomes mais conhecidos na discussão sobre os riscos da IA. Ex-diretor de pesquisa da OpenAI e criador de projetos que deram origem ao ChatGPT, ele deixou a OpenAI em divergências ligadas a questões de segurança e, em 2021, lançou sua própria startup.

Para a Anthropic, o Mythos representa um marco que pode sinalizar uma mudança significativa na indústria, seja como catalisador de avanços ou como desafio que requer respostas imediatas. Logan Graham, chefe de equipe que avalia novas capacidades perigosas, descreveu o Mythos como o ponto de partida para uma possível virada tecnológica.