Nos últimos dias, juízes na Califórnia e em Israel multaram advogados por erros em documentos legais gerados por inteligência artificial. Esses erros, conhecidos como “alucinações”, ocorrem quando a IA cria informações falsas. Um juiz da Califórnia, Michael Wilner, descobriu que artigos citados em um documento não existiam e multou o escritório de advocacia em 31 mil dólares. Em outro caso, um advogado da empresa Anthropic usou a IA para gerar uma citação, mas a informação estava errada e ninguém revisou o documento. Em Israel, promotores citaram leis que não existem em um pedido judicial, e o juiz os repreendeu. Esses incidentes mostram que a precisão dos documentos legais está em risco, pois muitos advogados confiam na IA sem revisar adequadamente o que ela produz. Especialistas alertam que isso pode levar a decisões judiciais baseadas em informações inventadas, o que é preocupante.
Recentemente, juízes na Califórnia e em Israel multaram advogados por erros em documentos legais gerados por inteligência artificial (IA). Esses incidentes revelam a gravidade dos problemas relacionados à precisão e supervisão na utilização de modelos de linguagem em processos judiciais.
Um caso notável ocorreu na Califórnia, onde o juiz Michael Wilner multou o escritório de advocacia Ellis George em R$ 31 mil após descobrir que argumentos citados em um documento não tinham base em artigos reais. Os advogados admitiram que usaram ferramentas de IA, como o Google Gemini, que geraram informações falsas. Outro juiz californiano também identificou um erro em um documento da empresa de IA Anthropic, onde uma citação legal foi incorretamente atribuída.
Problemas em Israel
Na Israel, um caso semelhante chamou a atenção. Após a prisão de um suspeito de lavagem de dinheiro, os promotores citaram leis inexistentes em um pedido judicial. O advogado do réu acusou os promotores de incluir “alucinações” geradas por IA. Os promotores reconheceram o erro, recebendo uma reprimenda do juiz.
Esses incidentes destacam a crescente preocupação com a precisão dos documentos legais. Erros gerados por IA podem influenciar decisões judiciais, levando a consequências graves. Especialistas alertam que, apesar das regras que exigem a verificação dos documentos, os advogados ainda confiam excessivamente na tecnologia.
A professora Maura Grossman, da Universidade de Waterloo, observa que muitos advogados estão ansiosos para usar a IA, mas não realizam revisões adequadas. Ela afirma que, embora os erros sejam detectados por enquanto, a possibilidade de um juiz ser influenciado por informações fabricadas pela IA é alarmante. A confiança excessiva em modelos de linguagem pode resultar em falhas significativas no sistema judicial.
Entre na conversa da comunidade