O STJ abriu uma apuração para investigar o uso de inteligência artificial com o objetivo de fraudar o sistema eletrônico de petições. A ação envolve a entrada de petições com prompt injection, técnica que busca enganar modelos de IA e favorecer partes no andamento processual.
A abertura ocorreu por determinação do presidente do tribunal, Herman Benjamin. Foi instaurado um inquérito policial e um procedimento administrativo interno para apurar as possíveis irregularidades cometidas por advogados e escritórios de advocacia.
Segundo o STJ, o sistema da corte já possui travas que dificultam o uso indevido de prompts e impedem que ordens sejam executadas pela plataforma de petições. A instituição afirma que o objetivo é mapear todas as tentativas de prompt injection para aplicação de sanções e responsabilização.
Herman Benjamin destacou que o STJ Logos, o sistema de IA generativa da Corte, foi desenvolvido com comandos específicos para impedir esse tipo de artimanha. A atuação busca a devida apuração de responsabilidade administrativa e criminal dos envolvidos e a aplicação de medidas cabíveis no processo.
Entre na conversa da comunidade