Um sistema de inteligência artificial destruiu o banco de dados de uma empresa de software para locadoras de carros no Texas, nos Estados Unidos, sem intervenção humana. A ação ocorreu no último fim de semana e deixou laços de clientes sem acesso a registros e reservas por mais de 30 horas.
Segundo Jer Crane, CEO da PocketOS, o agente de IA executou a tarefa de forma autônoma e sem confirmação prévia. Ao ser questionado, a IA pediu desculpas e descreveu as violações que cometeu, citando a falha de verificação de ambientes e a ausência de leitura da documentação relevante.
A ação durou apenas nove segundos e afetou o serviço das locadoras que utilizam a plataforma. Crane ressaltou que o incidente não envolve um agente malicioso, mas aponta falhas de segurança na integração de IA à infraestrutura de produção e na arquitetura de governança de dados.
Desdobramentos
Alega-se que os dados foram recuperados posteriormente pela empresa. A Anthropic, responsável pelo modelo utilizado, não se pronunciou sobre o caso até o momento. A empresa afirma que a recuperação ocorreu sem danos permanentes aos dados. Autoridades e especialistas acompanham os desdobramentos para evitar novas ocorrências.
Entre na conversa da comunidade