Casos de advogados que manipulam IA com prompt injection geram preocupação

Casos de advogados usando comandos ocultos em petições para influenciar inteligências artificiais surgem no meio jurídico, com advogadas do Pará já multadas; situações foram identificadas em Minas Gerais, São Paulo e Paraíba.
O STJ instaurou uma investigação interna para apurar tentativas de fraude envolvendo IA nos sistemas do Judiciário.
Um especialista em crimes digitais alerta que mensagens ocultas podem passar despercebidas no processo e levar a decisões inadequadas se não houver leitura cuidadosa.
O especialista defende que a IA pode ser aliada, desde que o ser humano não seja substituído na função de julgar.
A discussão aponta riscos de consequências danosas se a IA assumir papel decisório sem devidas precauções e supervisão humana.

Foi registrado um aumento de casos envolvendo a prática conhecida como prompt injection, em que advogados tentam influenciar sistemas de IA por meio de comandos ocultos em petições. De acordo com relatos, multados no Pará no mês passado, profissionais de Minas Gerais, São Paulo e Paraíba também foram apontados em investigações similares. A prática visa direcionar respostas de IA usadas em processos judiciais.

Especialistas apontam técnicas como textos ocultos em documentos, que passam despercebidos na leitura, com comandos que podem afetar decisões automatizadas. O objetivo é alterar ou influenciar outputs da IA, potencialmente comprometendo a adequada apreciação de um caso.

O Superior Tribunal de Justiça abriu uma investigação interna para apurar tentativas de fraude envolvendo advogados e escritórios que atuariam em sistemas de IA do Judiciário. A ação busca esclarecer eventuais irregularidades e indicar medidas de proteção.

Para o especialista em crimes digitais ouvidos pela reportagem, a tecnologia pode ser aliada desde que o ser humano não seja substituído. A depender de decisões, o uso de IA não deve remover magistrados nem substituir o julgamento humano, que possui capacidades únicas de interpretação.

Diante da gravidade do tema, o STJ enfatiza a necessidade de cautelas para evitar que incidentes como esse se multipliquem e afetem a integridade dos processos. O objetivo é manter a confiabilidade das decisões judiciais e a adequada aplicação da lei.

A discussão pública sobre o tema segue em andamento, com a expectativa de diretrizes para o uso responsável de IA no Judiciário, assegurando transparência, rastreabilidade e controle humano nas decisões finais.