STJ abre investigação sobre uso de IA para fraudar processos

STJ abre inquérito policial e apura advogados por uso de IA com prompt injection para burlar o sistema de petições

Herman Benjamin determinou abertura de inquérito policial e procedimento interno

O STJ abriu investigação para apurar uso de IA com prompt injection para burlar o sistema eletrônico de petições.
A medida foi anunciada pelo presidente Herman Benjamin, que determinou inquérito policial e procedimento administrativo interno.
As apurações investigam tentativas de fraude realizadas por advogados e escritórios de advocacia.
Técnicos identificaram a entrada de petições com prompt injection, mecanismo usado para enganar modelos de IA.
O STJ afirma que o sistema já possui travas contra prompts e que as tentativas estão sendo mapeadas para aplicação de sanções e apuração de responsabilidades.

O STJ abriu uma apuração para investigar o uso de inteligência artificial com o objetivo de fraudar o sistema eletrônico de petições. A ação envolve a entrada de petições com prompt injection, técnica que busca enganar modelos de IA e favorecer partes no andamento processual.

A abertura ocorreu por determinação do presidente do tribunal, Herman Benjamin. Foi instaurado um inquérito policial e um procedimento administrativo interno para apurar as possíveis irregularidades cometidas por advogados e escritórios de advocacia.

Segundo o STJ, o sistema da corte já possui travas que dificultam o uso indevido de prompts e impedem que ordens sejam executadas pela plataforma de petições. A instituição afirma que o objetivo é mapear todas as tentativas de prompt injection para aplicação de sanções e responsabilização.

Herman Benjamin destacou que o STJ Logos, o sistema de IA generativa da Corte, foi desenvolvido com comandos específicos para impedir esse tipo de artimanha. A atuação busca a devida apuração de responsabilidade administrativa e criminal dos envolvidos e a aplicação de medidas cabíveis no processo.