A Defensoria Pública de todo o país passará a usar uma ferramenta desenvolvida pelo Jusbrasil para identificar indícios de prompt injection em documentos jurídicos. A iniciativa ocorre no contexto de aumento de uso de IA em tribunais e da necessidade de salvaguardar decisões.
A parceria foi firmada após um caso em Parauapebas, no Pará, no qual duas advogadas enfrentaram multa por suposto uso indevido de IA para fraudar um processo. A prática, chamada prompt injection, envolve inserir instruções ocultas em petições para induzir sistemas de IA a favorecer teses específicas.
O que é o prompt injection, em termos práticos, envolve instruções que podem estar em metadados ou em textos com formatação dificultosa, dificultando a detecção. O objetivo é impedir que IA distorça resumos, argumentos ou resultados processuais.
Parcerias e objetivos
A Defensoria Pública informou que a nova ferramenta ajudará a detectar sinais de manipulação antes que as peças avancem nos tribunais. A solução visa aumentar a segurança, reduzir riscos de decisões enviesadas e assegurar o devido processo legal.
Matheus Munhoz, defensor público-geral do Paraná e presidente do Condege, afirma que a IA deve ser usada com segurança. O foco é manter a confiabilidade dos sistemas judiciais e proteger os direitos dos assistidos, com apoio técnico especializado.
Desdobramentos futuros
Especialistas citados pela parceria destacam a importância de soluções de qualidade para acompanhar o amadurecimento da IA no Judiciário. A Defensoria afirma que o monitoramento contínuo é essencial para evitar abusos e ampliar a confiança no uso da tecnologia. Fonte: relatos de veículos de imprensa nacionais.
Entre na conversa da comunidade