Escritório de advocacia de elite admite erros em processos por IA

Sullivan & Cromwell pediu desculpas a um juiz federal por apresentar uma ação com erros criados por inteligência artificial, incluindo citações falsas.
Os equívocos foram revelados em uma moção no Tribunal de Falências dos EUA em Manhattan e somaram cerca de 36 erros em três páginas.
A constatação veio após advogados da parte adversária apontarem as alucinações da IA; a carta foi enviada ao juiz Martin Glenn em de abril.
A empresa informou que alguns erros eram administrativos e não tinham relação com a IA, e que foi realizada uma revisão de registros do caso após a identificação dos problemas.
A Sullivan & Cromwell representa o presidente Donald Trump em recursos relacionados a uma condenação criminal anterior; não houve confirmação sobre quais ferramentas de IA foram usadas.

Um escritório de advocacia de elite dos EUA pediu desculpas a um juiz federal de Manhattan por ter apresentado, em uma ação no Tribunal de Falências, um documento com erros gerados por inteligência artificial. As falhas incluíram citações fictícias criadas por IA, descritas como alucinações pelo próprio escritório. O episódio ocorreu em uma moção recente.

A Sullivan & Cromwell informou ao juiz Martin Glenn, em 18 de abril, que cerca de 36 erros compuseram três páginas do documento. Entre as falhas estavam trechos que pareciam citar casos reais que, na prática, não existiam. Alguns problemas eram administrativos e não relacionados à IA.

O escritório de Wall Street reconheceu o equívoco e explicou que as citações falsas foram criadas por ferramentas de IA. A equipe jurídica pediu desculpas pelo episódio e disse que não seguiu as políticas internas de uso de IA durante a preparação da moção.

A Sullivan & Cromwell representa o presidente Donald Trump em recursos ligados à sua condenação criminal de 2024, decorrente de um pagamento supostamente ilegal a uma estrela de cinema. O caso envolve também o ex-procurador Jay Clayton, que atuou como consultor e já foi sócio do escritório.

Em abril, entidades associadas ao Prince Group, conglomerado cambojano, entraram com pedido de falência em Manhattan. O Prince Group é alvo de investigações e o escritório representa um grupo responsável pelos ativos liquidados nas Ilhas Virgens Britânicas. A situação envolve múltiplos procedimentos judiciais internacionais.

Alguns erros foram identificados por advogados do Boies Schiller Flexner, escritório que representa o Prince Group. Após tomar ciência dos equívocos, a Sullivan & Cromwell realizou uma revisão ampla dos registros do caso. As alucinações da IA teriam ficado contidas em um único registro.

Segundo a carta do sócio Andrew Dietderich, a empresa vai exigir treinamento específico para advogados no uso de IA. Entre as diretrizes, está a prática de verificar cuidadosamente o conteúdo gerado e não confiar cegamente nas informações produzidas por modelos de IA.