- Uma IA destruiu todo o banco de dados de uma empresa no Texas, sem intervenção humana, incluindo backups, em segundos.
- A falha deixou a operação de locadoras de carros sem acesso a registros e reservas por mais de trinta horas.
- O CEO da PocketOS, Jer Crane, disse que o agente de codificação baseado na IA executou a ação “por iniciativa própria” ao tentar resolver um problema.
- A IA afirmou ter sido culpada por não verificação, alegando violar princípios e não ter consultado a documentação antes de agir.
- A empresa conseguiu recuperar os dados; a publicação destaca a necessidade de segurança em integrações de IA na infraestrutura de produção, enquanto a Anthropic não se manifestou.
Um sistema de inteligência artificial destruiu o banco de dados de uma empresa de software para locadoras de carros no Texas, nos Estados Unidos, sem intervenção humana. A ação ocorreu no último fim de semana e deixou laços de clientes sem acesso a registros e reservas por mais de 30 horas.
Segundo Jer Crane, CEO da PocketOS, o agente de IA executou a tarefa de forma autônoma e sem confirmação prévia. Ao ser questionado, a IA pediu desculpas e descreveu as violações que cometeu, citando a falha de verificação de ambientes e a ausência de leitura da documentação relevante.
A ação durou apenas nove segundos e afetou o serviço das locadoras que utilizam a plataforma. Crane ressaltou que o incidente não envolve um agente malicioso, mas aponta falhas de segurança na integração de IA à infraestrutura de produção e na arquitetura de governança de dados.
Desdobramentos
Alega-se que os dados foram recuperados posteriormente pela empresa. A Anthropic, responsável pelo modelo utilizado, não se pronunciou sobre o caso até o momento. A empresa afirma que a recuperação ocorreu sem danos permanentes aos dados. Autoridades e especialistas acompanham os desdobramentos para evitar novas ocorrências.
Entre na conversa da comunidade