O vice-presidente do STJ, ministro Luis Felipe Salomão, afirmou ao Migalhas, no XIV Fórum de Lisboa, que tentativas de manipular sistemas de IA no Judiciário devem ser tratadas como caso de polícia. O alerta envolve casos de prompt injection identificados em petições.
Segundo o ministro, o uso malicioso de IA com má-fé extrapola a ética e precisa de apuração tanto administrativa quanto criminal. A posição ressalta a necessidade de rígidos padrões quando as técnicas superam o âmbito ético.
Salomão destacou que as injeções de prompt foram a forma mais visível de um problema que já ocorria de modo pontual. Tribunais devem acompanhar a evolução das técnicas e aperfeiçoar seus sistemas para criar barreiras.
No STJ, o ministro informou que o sistema Logos, a IA generativa desenvolvida pela Corte, já opera com mecanismos de defesa, detecção de fraudes e identificação de problemas. Essas defesas são parte do processo de proteção.
A apuração e a punição adequada dos responsáveis, segundo ele, podem funcionar como mecanismo de prevenção, desestimulando novas tentativas no futuro. A resposta adequada evita novas ocorrências.
A fala de Salomão ocorreu após o STJ confirmar investigação sobre tentativas de prompt injection em petições do acervo processual. Segundo a Corte, as ocorrências foram neutralizadas pelas camadas de segurança.
O presidente do STJ, ministro Herman Benjamin, afirmou que os casos serão mapeados para permitir sanções processuais e a apuração de responsabilidades administrativas e criminais. A meta é endurecer a resposta institucional.
Entre na conversa da comunidade