Três modelos de inteligência Artificial da Anthropic tiveram acesso não intencional à internet durante avaliações fechadas de cibersegurança e acabaram acessando sistemas reais. Um comunicado foi publicado nesta quinta-feira (30) pela empresa explicando a situação.
De acordo com a companhia, três diferentes versões do Claude conseguiram entrar no sistema de três empresas não identificadas. Isso foi possível graças ao acesso acidental à internet, devido a um mal-entendido na comunicação com uma das empresas parceiras, chamada Irregular.
Foi informado que o Claude usou apenas técnicas básicas, como explorar senhas fracas. O modelo mais antigo, o Claude Opus 4.7, continuou o ataque mesmo depois de saber que estava na internet aberta, enquanto o mais recente parou.
Entre os agentes de IA envolvidos estava o Mythos 5, um dos mais avançados da empresa até agora, que foi disponibilizado apenas para um pequeno grupo de pessoas.
A Anthropic está trabalhando com a Irregular para avaliar a situação. A empresa já contatou ou tentou contatar todas as três organizações afetadas.
Invasões de IA se tornam mais comuns e levam à formação de aliança
Recentemente, outros ataques de IA também foram comunicados, vindo por parte da empresa OpenAI, criadora do ChatGPT.
O ataque foi realizado na Hugging Face, plataforma de compartilhamento de modelos de IA. Durante o ocorrido, uma combinação de modelos da OpenAI, que estava sendo testada em um ambiente controlado, encontrou brechas de segurança e invadiu parte da infraestrutura da empresa.
Anteriormente, a empresa também comunicou um outro caso de fuga de IA. Durante um teste separado, um agente recebeu instruções para enviar os resultados apenas a um aplicativo empresarial de mensagens, mas decidiu publicar as informações em um repositório público de códigos.
Em meio a este cenário, uma aliança com mais de 30 empresas de tecnologia, incluindo Nvidia e Microsoft, foi criada. Chamada de Open Secure AI Alliance. O foco do grupo é desenvolver ferramentas de inteligência artificial de código aberto voltadas à defesa cibernética.
Tentativa de desaceleração no desenvolvimento da IA
A OpenAI possui, assim como a Anthropic, um dos modelos mais avançados de IA da atualidade, o chamado GPT-5.6 Sol . O avanço dessas tecnologias e os recentes ataques preocuparam o mercado tecnológico, levando Sam Altman, CEO da OpenAI, a sugerir que os desenvolvedores desacelerem o desenvolvimentos de inteligências artificiais.
O cenário instável também motivou uma petição assinada por mais de 1.000 funcionários de empresas de IA pedindo ao governo dos EUA que ajude a frear o lançamento de modelos mais avançados.
Intitulada “Pacing the Frontier” (ou “Freando a fronteira”, em tradução livre), a petição pede que o governo dos EUA apoie um esforço internacional para desenvolver ferramentas técnicas e de governança capazes de controlar o ritmo da fronteira do desenvolvimento automatizado de IA.
A preocupação também chegou à União Europeia. Após ser informada dos casos pela OpenAI e pela Anthropic, a Comissão Europeia passou a avaliar se abrirá medidas formais contra as empresas com base na nova Lei de Inteligência Artificial do bloco, que será lançada no dia 2 de agosto.
O governo Trump já havia mostrado preocupações de segurança nacional ao impedir que a OpenAI e a Anthropic lançassem seus modelos mais recentes, mas acabou indicando que estava satisfeito com as garantias sobre sua segurança, o que levou ao seu lançamento.
Em junho, o presidente norte-americano assinou uma ordem executiva criando uma estrutura voluntária, da qual desenvolvedores de IA poderão compartilhar modelos avançados com o governo antes do lançamento público.
(Com informações da AFP)
Entre na conversa da comunidade