O Superior Tribunal de Justi\u00e7a (STJ) abriu um inqu\u00e9rito para apurar poss\u00edvel manipula\u00e7\u00e3o criminosa de intelig\u00eancia artificial em 11 processos. A investiga\u00e7\u00e3o surgiu ap\u00f3s t\u00e9cnicos encontrarem documentos adulterados com a mesma t\u00e9cnica usada em outros casos. A finalidade seria fraudar o andamento processual.<\/p>\n
A t\u00e9cnica \u00e9 conhecida como inje\u00e7\u00e3o de comandos ou prompt injection. Em linhas gerais, usu\u00e1rios mal-intencionados tentam mudar o comportamento de IA apenas com linguagem, enviando instru\u00e7\u00f5es para induzir falhas no sistema.<\/p>\n
A controv\u00e9rsia ganhou repercuss\u00e3o ap\u00f3s dois caso s no sistema Galileu, da Justi\u00e7a do Trabalho do Rio Grande do Sul. Advogadas teriam tentado inserir comandos ocultos em pe\u00e7as para influenciar an\u00e1lises da IA em favor de uma das partes.<\/p>\n
No epis\u00f3dio que abriu o inqu\u00e9rito, especialistas identificaram documentos com altera\u00e7\u00f5es feitas pela mesma t\u00e9cnica. A Presid\u00eancia do STJ determinou a apura\u00e7\u00e3o para verificar ocorr\u00eancia de fraude processual ou conduta irregular.<\/p>\n
Advogadas envolvidas nos casos anteriores admitiram ter usado o prompt oculto para tentar alterar resultados, segundo informa\u00e7\u00f5es de ve\u00edculos da imprensa. Elas contestam as san\u00e7\u00f5es e alegam atua\u00e7\u00e3o dentro de limites \u00e9ticos, segundo berichten.<\/p>\n
O STJ ressaltou que o sistema de IA Logos j\u00e1 possui mecanismos de prote\u00e7\u00e3o. A corte afirma haver pelo menos tr\u00eas camadas de seguran\u00e7a para impedir instru\u00e7\u00f5es maliciosas, com mapeamento de tentativas e responsabiliza\u00e7\u00e3o dos envolvidos.<\/p>\n
Casos identificados apontam que a t\u00e9cnica j\u00e1 envolve processos criminais de Mato Grosso do Sul, S\u00e3o Paulo, Minas Gerais e Distrito Federal. Advogados notificaram o tribunal sobre as ocorr\u00eancias e acionaram o CNJ para apura\u00e7\u00e3o.<\/p>\n
Especialistas consultados destacam a dificuldade de impedir esse tipo de ataque em grandes modelos de linguagem. Mesmo com filtros, entradas mal-intencionadas podem escapar, exigindo monitoramento humano e controles de privil\u00e9gios.<\/p>\n","protected":false},"excerpt":{"rendered":"