- O vice-presidente do Superior Tribunal de Justiça, ministro Luis Felipe Salomão, disse que tentativas de manipular sistemas de IA no Judiciário, como prompt injection em petições, devem ser tratadas como caso de polícia.
- Ele fez a afirmação durante o XIV Fórum de Lisboa, ressaltando que a IA traz novas questões e que desvios éticos precisam ser enfrentados com rigor.
- Salomão afirmou que, quando a IA é usada de má-fé, a apuração deve ocorrer tanto no plano administrativo quanto criminal.
- No STJ, o sistema Logos já conta com mecanismos de defesa, identificação de fraudes e detecção de problemas para prevenir tais ataques.
- A apuração e a punição adequada dos responsáveis, segundo o ministro, podem funcionar como mecanismo de prevenção de novas ocorrências.
O vice-presidente do STJ, ministro Luis Felipe Salomão, afirmou ao Migalhas, no XIV Fórum de Lisboa, que tentativas de manipular sistemas de IA no Judiciário devem ser tratadas como caso de polícia. O alerta envolve casos de prompt injection identificados em petições.
Segundo o ministro, o uso malicioso de IA com má-fé extrapola a ética e precisa de apuração tanto administrativa quanto criminal. A posição ressalta a necessidade de rígidos padrões quando as técnicas superam o âmbito ético.
Salomão destacou que as injeções de prompt foram a forma mais visível de um problema que já ocorria de modo pontual. Tribunais devem acompanhar a evolução das técnicas e aperfeiçoar seus sistemas para criar barreiras.
No STJ, o ministro informou que o sistema Logos, a IA generativa desenvolvida pela Corte, já opera com mecanismos de defesa, detecção de fraudes e identificação de problemas. Essas defesas são parte do processo de proteção.
A apuração e a punição adequada dos responsáveis, segundo ele, podem funcionar como mecanismo de prevenção, desestimulando novas tentativas no futuro. A resposta adequada evita novas ocorrências.
A fala de Salomão ocorreu após o STJ confirmar investigação sobre tentativas de prompt injection em petições do acervo processual. Segundo a Corte, as ocorrências foram neutralizadas pelas camadas de segurança.
O presidente do STJ, ministro Herman Benjamin, afirmou que os casos serão mapeados para permitir sanções processuais e a apuração de responsabilidades administrativas e criminais. A meta é endurecer a resposta institucional.
Entre na conversa da comunidade