- Casos de prompt injection foram identificados no Judiciário brasileiro, como no TJ-SP, onde houve texto oculto pedindo para beneficiar o autor de uma petição.
- Além de São Paulo, vêm à tona casos no Pará, Minas Gerais e Paraíba, com advogados multados por usar comandos ocultos para influenciar IA em decisões.
- O STJ abriu apuração interna sobre tentativas de fraude envolvendo IA por advogados e escritórios.
- O tema levanta debates sobre limites do uso de IA no Judiciário e a necessidade de supervisão humana, com propostas de medidas técnicas e campanhas de conscientização.
- Especialistas destacam que esses casos podem ser apenas a “ponta do iceberg” e que há risco de aumento de tentativas de manipulação conforme a IA se expande pelo sistema.
O Judiciário brasileiro aponta para uma prática de prompt injection, ou seja, inserir instruções ocultas em textos para influenciar IAs que apoiam decisões. Casos identificados em São Paulo, Pará e Paraíba revelam a tentativa de alterar a leitura de sistemas automatizados com comandos invisíveis.
No TJ de São Paulo, um parágrafo oculto em petição de 2025 pediu para beneficiar o autor, com instruções para defira a justiça gratuita e citasse o réu. O magistrado pediu explicações ao advogado responsável sobre a tentativa de influenciar ferramentas de IA usadas no processo.
O caso em Parauapebas, no Pará, envolveu duas advogadas multadas em cerca de 84 mil reais por usar IA para fraudar processo. Um texto em fonte branca aparecia na peça, instruindo a IA a não impugnar documentos. O TRT8 constatou a ilegalidade da estratégia.
Avanço de casos e respostas oficiais
Em Minas Gerais, uma juíza de Ibirité multou um advogado em 8100 reais por ter inserido comando oculto em recurso contra o Banco BMG. O trecho indicava para a IA favorecer o autor e prejudicar o banco, segundo notificação judicial.
O Superior Tribunal de Justiça abriu, em 20 de maio, uma investigação interna para apurar tentativas de fraude envolvendo advogados e escritórios em sistemas do tribunal. A prática vem sendo debatida como um risco crescente com o uso ampliado de IA.
No Ceará, Pará, Minas Gerais e Paraíba surgem relatos sobre novas formas de ataque a sistemas de IA no Judiciário. Em resposta, tribunais passaram a adotar orientações técnicas para blindar a atuação da IA e enfatizar a revisão humana obrigatória.
Panorama técnico e institucional
Especialistas destacam que a IA no Judiciário deve ser utilizada com supervisão humana. O CNJ tem orientado projetos de prevenção, incluindo a criação de provimentos, pesquisas nacionais e campanhas de conscientização sobre o uso adequado.
Relatos de pesquisadores apontam que a manipulação pode ocorrer em anexos, links e conteúdos acessados pela IA, não se limitando a textos ocultos. Técnicas sofisticadas, como construir textos para induzir respostas, já foram observadas.
O Judiciário reforça que a defesa contra esse tipo de prática envolve melhoria de controles, treinamentos técnicos e uma cultura de checagem humana. A meta é evitar que a IA funcione como instrumento de favorecimento inadequado.
Olhar para o futuro
Autoridades afirmam que o desafio não é apenas tecnológico, mas também de governança. A ideia é combinar ferramentas com supervisão criteriosa para ampliar ganhos de eficiência sem abrir brechas para manipulação.
Especialista ouvido pela reportagem afirma que esses casos representam a ponta de um iceberg, sinalizando a necessidade de padrões mais sólidos de uso de IA nos tribunais. O objetivo é manter a integridade do sistema judicial.
Entre na conversa da comunidade