A startup Hacktron AI afirmou, em publicação feita em seu site nesta sexta-feira (18), que usou um modelo de inteligência artificial da Anthropic para entrar em contas do ChatGPT de funcionários da OpenAI.
A invasão, confirmada pela OpenAI, ocorreu durante um exercício organizado pela própria empresa para identificar vulnerabilidades em seus sistemas com a ajuda de especialistas externos em informática.
O caso se soma à preocupação crescente entre especialistas em segurança de que ferramentas de IA estão tornando mais rápido e barato realizar ciberataques sofisticados que antes exigiam equipes especializadas e meses de trabalho.
Os pesquisadores da Hacktron disseram ter encontrado uma vulnerabilidade no fórum público de ajuda da OpenAI, gerido pela plataforma Discourse, que lhes permitiu tomar o controle do site.
“Informamos de imediato a vulnerabilidade inicial à OpenAI e à Discourse e trabalhamos com eles” para coordenar a solução, explicou a Hacktron em uma postagem em um blog. “Agradecemos sua atenção ao detalhe e a rápida resolução deste problema”, acrescentou a publicação.
A OpenAI confirmou que a falha foi corrigida cerca de 14 horas após a notificação e pagou aos pesquisadores uma recompensa de US$6.5 mil dólares (aproximadamente R$30 mil).
“Agradecemos aos pesquisadores por nos contatar e compartilhar as descobertas”, disse Drew Pusateri, porta-voz da OpenAI, ao explicar a solução adotada.
Os pesquisadores da Hacktron afirmaram que inicialmente usaram o Claude Opus 4.8, da Anthropic, para identificar e explorar a falha de software, mas tiveram dificuldades para fazer o ataque funcionar de forma consistente. Depois, recorreram ao Claude Opus 5, o modelo mais recente, que, segundo os pesquisadores, produziu um ataque funcional em três horas.
Os hackers não utilizaram o Claude Mythos, modelo mais avançado da Anthropic cujo acesso está restrito a um pequeno grupo de organizações de ciberdefesa avaliadas.
Anthropic alerta para o avanço dos sistemas de IA
A Anthropic advertiu na última quinta-feira (17) que os sistemas de IA estão cada vez mais capazes de desenvolver versões futuras de si mesmos, o que alimenta as preocupações com os riscos associados à tecnologia.
A Anthropic informou que seu chatbot Claude já participa de mais de um quarto de suas atividades de pesquisa e desenvolvimento, além de colaborar com funcionários humanos em mais de 90% das tarefas.
A empresa explicou que divulga as informações para oferecer “uma visibilidade maior sobre o ritmo do desenvolvimento da IA”, no momento em que o mundo “considera desacelerar” o processo.
O CEO da Anthropic, Dario Amodei, pediu neste mês a desaceleração do desenvolvimento da inteligência artificial, enquanto os rápidos avanços da tecnologia alimentam preocupações com a perda de empregos, o crescente consumo de energia e o impacto ambiental dos centros de dados.
O temor de que os desenvolvedores de agentes de inteligência artificial percam o controle sobre suas criações também aumentou depois que, supostamente, vários modelos da Anthropic e da OpenAI escaparam sozinhos de ambientes restritos, acessaram a internet e interagiram com sites e plataformas.
“Os modelos que aceleram o próprio desenvolvimento podem dificultar que os seres humanos compreendam ou controlem estes sistemas”, afirmou a Anthropic em um relatório.
Em agosto, o Claude estava à frente de 26% das tarefas de pesquisa e desenvolvimento da Anthropic, o que significa que ele pode completar a maior parte de um trabalho do início ao fim sob supervisão humana.
A Anthropic indicou, no entanto, que o Claude ainda não consegue operar “de maneira plenamente autônoma”.
A empresa afirmou ainda que dispõe de quase 30.000 agentes de inteligência artificial dedicados a tarefas de pesquisa e engenharia, em referência a programas capazes de executar tarefas de forma autônoma.
Entre na conversa da comunidade