Defensoria Pública adota sistema para evitar manipulação de decisões por IA

Defensorias públicas de todo o país vão usar uma ferramenta do Jusbrasil para identificar indícios de prompt injection em documentos jurídicos.
A parceria surge após duas advogadas serem multadas em R$ 84 mil por uso de IA para fraudar um processo em Parauapebas, no Pará.
Prompt injection é a inserção maliciosa de instruções nas petições para fazer com que IA dos tribunais favoreça uma tese ou distorça resumos.
O método pode estar oculto, como em metadados de imagens ou em textos com fonte branca, tornando-o imperceptível a olho nu.
O defensor público-geral do Paraná, Matheus Munhoz, afirma que o uso de IA deve ser seguro e confiável, e reforça a necessidade de soluções de qualidade.

A Defensoria Pública de todo o país passará a usar uma ferramenta desenvolvida pelo Jusbrasil para identificar indícios de prompt injection em documentos jurídicos. A iniciativa ocorre no contexto de aumento de uso de IA em tribunais e da necessidade de salvaguardar decisões.

A parceria foi firmada após um caso em Parauapebas, no Pará, no qual duas advogadas enfrentaram multa por suposto uso indevido de IA para fraudar um processo. A prática, chamada prompt injection, envolve inserir instruções ocultas em petições para induzir sistemas de IA a favorecer teses específicas.

O que é o prompt injection, em termos práticos, envolve instruções que podem estar em metadados ou em textos com formatação dificultosa, dificultando a detecção. O objetivo é impedir que IA distorça resumos, argumentos ou resultados processuais.

Parcerias e objetivos

A Defensoria Pública informou que a nova ferramenta ajudará a detectar sinais de manipulação antes que as peças avancem nos tribunais. A solução visa aumentar a segurança, reduzir riscos de decisões enviesadas e assegurar o devido processo legal.

Matheus Munhoz, defensor público-geral do Paraná e presidente do Condege, afirma que a IA deve ser usada com segurança. O foco é manter a confiabilidade dos sistemas judiciais e proteger os direitos dos assistidos, com apoio técnico especializado.

Desdobramentos futuros

Especialistas citados pela parceria destacam a importância de soluções de qualidade para acompanhar o amadurecimento da IA no Judiciário. A Defensoria afirma que o monitoramento contínuo é essencial para evitar abusos e ampliar a confiança no uso da tecnologia. Fonte: relatos de veículos de imprensa nacionais.