O vice-presidente do STJ, ministro Luis Felipe Salom\u00e3o, afirmou ao Migalhas, no XIV F\u00f3rum de Lisboa, que tentativas de manipular sistemas de IA no Judici\u00e1rio devem ser tratadas como caso de pol\u00edcia. O alerta envolve casos de prompt injection identificados em peti\u00e7\u00f5es.<\/p>\n
Segundo o ministro, o uso malicioso de IA com m\u00e1-f\u00e9 extrapola a \u00e9tica e precisa de apura\u00e7\u00e3o tanto administrativa quanto criminal. A posi\u00e7\u00e3o ressalta a necessidade de r\u00edgidos padr\u00f5es quando as t\u00e9cnicas superam o \u00e2mbito \u00e9tico.<\/p>\n
Salom\u00e3o destacou que as inje\u00e7\u00f5es de prompt foram a forma mais vis\u00edvel de um problema que j\u00e1 ocorria de modo pontual. Tribunais devem acompanhar a evolu\u00e7\u00e3o das t\u00e9cnicas e aperfei\u00e7oar seus sistemas para criar barreiras.<\/p>\n
No STJ, o ministro informou que o sistema Logos, a IA generativa desenvolvida pela Corte, j\u00e1 opera com mecanismos de defesa, detec\u00e7\u00e3o de fraudes e identifica\u00e7\u00e3o de problemas. Essas defesas s\u00e3o parte do processo de prote\u00e7\u00e3o.<\/p>\n
A apura\u00e7\u00e3o e a puni\u00e7\u00e3o adequada dos respons\u00e1veis, segundo ele, podem funcionar como mecanismo de preven\u00e7\u00e3o, desestimulando novas tentativas no futuro. A resposta adequada evita novas ocorr\u00eancias.<\/p>\n
A fala de Salom\u00e3o ocorreu ap\u00f3s o STJ confirmar investiga\u00e7\u00e3o sobre tentativas de prompt injection em peti\u00e7\u00f5es do acervo processual. Segundo a Corte, as ocorr\u00eancias foram neutralizadas pelas camadas de seguran\u00e7a.<\/p>\n
O presidente do STJ, ministro Herman Benjamin, afirmou que os casos ser\u00e3o mapeados para permitir san\u00e7\u00f5es processuais e a apura\u00e7\u00e3o de responsabilidades administrativas e criminais. A meta \u00e9 endurecer a resposta institucional.<\/p>\n","protected":false},"excerpt":{"rendered":"