Inteligência artificial Claude realiza ataques autônomos a três empresas

Três modelos de inteligência Artificial da Anthropic tiveram acesso não intencional à internet durante avaliações fechadas de cibersegurança e acabaram acessando sistemas reais. Um comunicado foi publicado nesta quinta-feira (30) pela empresa explicando a situação.

De acordo com a companhia, três diferentes versões do Claude conseguiram entrar no sistema de três empresas não identificadas. Isso foi possível graças ao acesso acidental à internet, devido a um mal-entendido na comunicação com uma das empresas parceiras, chamada Irregular.

Foi informado que o Claude usou apenas técnicas básicas, como explorar senhas fracas. O modelo mais antigo, o Claude Opus 4.7, continuou o ataque mesmo depois de saber que estava na internet aberta, enquanto o mais recente parou.

Entre os agentes de IA envolvidos estava o Mythos 5, um dos mais avançados da empresa até agora, que foi disponibilizado apenas para um pequeno grupo de pessoas. 

A Anthropic está trabalhando com a Irregular para avaliar a situação. A empresa já contatou ou tentou contatar todas as três organizações afetadas.

Invasões de IA se tornam mais comuns e levam à formação de aliança

Recentemente, outros ataques de IA também foram comunicados, vindo por parte da empresa OpenAI, criadora do ChatGPT. 

O ataque foi realizado na Hugging Face, plataforma de compartilhamento de modelos de IA. Durante o ocorrido, uma combinação de modelos da OpenAI, que estava sendo testada em um ambiente controlado, encontrou brechas de segurança e invadiu parte da infraestrutura da empresa.

Anteriormente, a empresa também comunicou um outro caso de fuga de IA. Durante um teste separado, um agente recebeu instruções para enviar os resultados apenas a um aplicativo empresarial de mensagens, mas decidiu publicar as informações em um repositório público de códigos.

Em meio a este cenário, uma aliança com mais de 30 empresas de tecnologia, incluindo Nvidia e Microsoft, foi criada. Chamada de Open Secure AI Alliance. O foco do grupo é desenvolver ferramentas de inteligência artificial de código aberto voltadas à defesa cibernética.

Tentativa de desaceleração no desenvolvimento da IA

A OpenAI possui, assim como a Anthropic, um dos modelos mais avançados de IA da atualidade, o chamado GPT-5.6 Sol . O avanço dessas tecnologias e os recentes ataques preocuparam o mercado tecnológico, levando Sam Altman, CEO da OpenAI, a sugerir que os desenvolvedores desacelerem o desenvolvimentos de inteligências artificiais.

O cenário instável também motivou uma petição assinada por mais de 1.000 funcionários de empresas de IA pedindo ao governo dos EUA que ajude a frear o lançamento de modelos mais avançados.

Intitulada “Pacing the Frontier” (ou “Freando a fronteira”, em tradução livre), a petição pede que o governo dos EUA apoie um esforço internacional para desenvolver ferramentas técnicas e de governança capazes de controlar o ritmo da fronteira do desenvolvimento automatizado de IA. 

O governo Trump já havia mostrado preocupações de segurança nacional ao impedir que a OpenAI e a Anthropic lançassem seus modelos mais recentes, mas acabou indicando que estava satisfeito com as garantias sobre sua segurança, o que levou ao seu lançamento.

Em junho, o presidente norte-americano assinou uma ordem executiva criando uma estrutura voluntária, da qual desenvolvedores de IA poderão compartilhar modelos avançados com o governo antes do lançamento público.

(Com informações da AFP)