Foi registrado um aumento de casos envolvendo a prática conhecida como prompt injection, em que advogados tentam influenciar sistemas de IA por meio de comandos ocultos em petições. De acordo com relatos, multados no Pará no mês passado, profissionais de Minas Gerais, São Paulo e Paraíba também foram apontados em investigações similares. A prática visa direcionar respostas de IA usadas em processos judiciais.
Especialistas apontam técnicas como textos ocultos em documentos, que passam despercebidos na leitura, com comandos que podem afetar decisões automatizadas. O objetivo é alterar ou influenciar outputs da IA, potencialmente comprometendo a adequada apreciação de um caso.
O Superior Tribunal de Justiça abriu uma investigação interna para apurar tentativas de fraude envolvendo advogados e escritórios que atuariam em sistemas de IA do Judiciário. A ação busca esclarecer eventuais irregularidades e indicar medidas de proteção.
Para o especialista em crimes digitais ouvidos pela reportagem, a tecnologia pode ser aliada desde que o ser humano não seja substituído. A depender de decisões, o uso de IA não deve remover magistrados nem substituir o julgamento humano, que possui capacidades únicas de interpretação.
Diante da gravidade do tema, o STJ enfatiza a necessidade de cautelas para evitar que incidentes como esse se multipliquem e afetem a integridade dos processos. O objetivo é manter a confiabilidade das decisões judiciais e a adequada aplicação da lei.
A discussão pública sobre o tema segue em andamento, com a expectativa de diretrizes para o uso responsável de IA no Judiciário, assegurando transparência, rastreabilidade e controle humano nas decisões finais.
Entre na conversa da comunidade