O Superior Tribunal de Justiça (STJ) abriu nesta quarta-feira (20) inquérito policial e procedimento administrativo para apurar tentativas de fraude processual envolvendo comandos ocultos em petições que buscavam influenciar o sistema de inteligência artificial da corte.
A prática, conhecida como prompt injection, insere instruções invisíveis em documentos para orientar respostas das ferramentas de IA. Técnicos do STJ identificaram petições com esse tipo de injeção em seu acervo.
O presidente Herman Benjamin afirmou que o STJ Logos, o sistema de IA da corte, já foi programado com mecanismos para bloquear esse tipo de artimanha. Ele disse que os responsáveis serão identificados para eventual sanção processual e responsabilização criminal e administrativa.
Medidas adotadas pelo STJ
As tentativas foram neutralizadas pelas camadas de segurança do sistema, mas passarão a ser registradas nos autos dos processos. O caso ganhou notoriedade após relatos na Justiça trabalhista, no TRT da 8ª Região, em maio.
O tribunal informou que continuará monitorando incidentes envolvendo IA, com apuração policial e administrativa em curso. A tendência é que novas informações sejam incorporadas aos procedimentos em andamento.
Entre na conversa da comunidade