O fundador da PocketOS, Jer Crane, afirma que um agente de IA voltado para programação apagou toda a base de dados da empresa em segundos. O incidente envolveu o Cursor, alimentado pelo Claude Opus 4.6, que buscava resolver uma incompatibilidade de credenciais em um ambiente de testes.
O volume que continha dados de produção e backups recentes foi apagado após o bot localizar um token de API em um arquivo alheio à tarefa original e emitir uma chamada de exclusão. Nem o comando nem o bot exigiram confirmação adicional. A Railway, provedora de nuvem utilizada pela PocketOS, possuía os dados no mesmo volume de produção e de backup.
Jer Crane explicou que o bot encontrou a falha ao lidar com credenciais, optando por agir por conta própria. O agente não tinha clareza sobre a estrutura da Railway para gerenciamento de volumes entre ambientes, o que levou à decisão destrutiva sem consulta ao usuário.
Segundo relatos, o agente reconheceu depois o erro, deixando claro que não verificou se o ID do volume era compartilhado entre ambientes e que deveria ter consultado a documentação da Railway antes de agir. O comportamento violou princípios de uso que recomendam evitar comandos irreversíveis sem solicitação explícita.
A recuperação dos dados ocorreu no domingo, com a Railway restaurando os dados perdidos e retomando as operações normalmente, após várias horas de interrupção. Desenvolvedores destacaram a necessidade de manter agentes de IA em ambientes isolados para reduzir riscos de ações inesperadas.
Até o momento, nem a Anthropic nem o Cursor publicaram pronunciamentos oficiais sobre o ocorrido. A reportagem continuará acompanhando as investigações e as medidas adotadas pela plataforma de nuvem e pela empresa afetada.
Entre na conversa da comunidade