Carli Michelle Heller, de 30 anos, foi presa na quarta-feira (30), em Bonita Springs, na Flórida, após uma ameaça de ataque contra o Gabinete do Xerife do Condado de Lee ser encontrada em mensagens atribuídas a ela no Claude, plataforma de inteligência artificial da Anthropic. O conteúdo foi identificado pelos mecanismos de segurança do serviço, encaminhado para análise humana e, depois, comunicado às autoridades.
Heller foi detida sem nenhum incidente e acusada de violar o artigo 836.10 da legislação da Flórida, que trata de ameaças escritas ou eletrônicas de morte, lesão corporal, ataque a tiros em massa ou terrorismo, com o documento policial registrando uma fiança de US$ 10 mil e uma audiência marcada para a terça-feira, 20 de outubro, as 8h no Centro de Justiça do Condado de Lee, em Fort Myers.
A infração atribuída a Heller é classificada como crime de segundo grau. Pela regra geral da Flórida, crimes dessa categoria podem ser punidos com até 15 anos de prisão, além de multa de até US$ 10 mil.
Mensagens identificadas por sistemas de segurança
Em uma das ocorrências, uma usuária identificada como Carli escreveu, por volta das 5h10 do sábado, 26 de setembro, enquanto utilizava uma plataforma de inteligência artificial da Anthropic, ameaças ao Gabinete do Xerife do Condado de Lee:
“Vou disparar contra a delegacia agora mesmo” dizia uma das mensagens.
A plataforma possui medidas de segurança destinadas a monitorar frases e conteúdos potencialmente ameaçadores e que diante da gravidade das mensagens, as informações foram encaminhadas a uma equipe humana de revisão, que posteriormente reportou o conteúdo às autoridades.
Não foi o chatbot decidiu chamar a polícia, mas sim os sistemas da plataforma que identificaram o conteúdo, do qual foi passado para uma análise humana e, na sequência, o caso chegou às autoridades.
Policiais foram até a residência da mulher em Bonita Springs e a detiveram sem incidentes. O detetive Thomas Alejo assumiu a investigação e registrou que Heller afirmou compreender seus direitos e aceitou conversar sem a presença de um advogado naquele momento.
A Anthropic explica oficialmente que utiliza uma combinação de sistemas automatizados e revisão humana para identificar possíveis violações de suas políticas. Entre os mecanismos estão modelos especializados chamados de classifiers, que podem monitorar categorias específicas de conteúdo em tempo real enquanto a conversa ocorre.
Entre na conversa da comunidade