AI gera erros em documentos jurídicos e causa revolta entre juízes nos EUA e Israel

Recentemente, juízes na Califórnia e em Israel multaram advogados por erros em documentos legais gerados por inteligência artificial (IA). Esses incidentes revelam a gravidade dos problemas relacionados à precisão e supervisão na utilização de modelos de linguagem em processos judiciais.

Um caso notável ocorreu na Califórnia, onde o juiz Michael Wilner multou o escritório de advocacia Ellis George em R$ 31 mil após descobrir que argumentos citados em um documento não tinham base em artigos reais. Os advogados admitiram que usaram ferramentas de IA, como o Google Gemini, que geraram informações falsas. Outro juiz californiano também identificou um erro em um documento da empresa de IA Anthropic, onde uma citação legal foi incorretamente atribuída.

Problemas em Israel

Na Israel, um caso semelhante chamou a atenção. Após a prisão de um suspeito de lavagem de dinheiro, os promotores citaram leis inexistentes em um pedido judicial. O advogado do réu acusou os promotores de incluir "alucinações" geradas por IA. Os promotores reconheceram o erro, recebendo uma reprimenda do juiz.

Esses incidentes destacam a crescente preocupação com a precisão dos documentos legais. Erros gerados por IA podem influenciar decisões judiciais, levando a consequências graves. Especialistas alertam que, apesar das regras que exigem a verificação dos documentos, os advogados ainda confiam excessivamente na tecnologia.

A professora Maura Grossman, da Universidade de Waterloo, observa que muitos advogados estão ansiosos para usar a IA, mas não realizam revisões adequadas. Ela afirma que, embora os erros sejam detectados por enquanto, a possibilidade de um juiz ser influenciado por informações fabricadas pela IA é alarmante. A confiança excessiva em modelos de linguagem pode resultar em falhas significativas no sistema judicial.