Especialistas alertam para riscos da IA no 25º Simpósio AASP

Painel promovido pela AASP no 25º Simpósio Regional AASP, em Salvador, discutiu os riscos da IA no ambiente jurídico, em 28 de maio.
Especialistas destacaram problemas como alucinações da IA, que podem gerar jurisprudências e processos inexistentes, e a técnica de prompt injection para manipular sistemas.
Ferramentas de IA já aceleram produção de peças jurídicas e pesquisas, mas exigem supervisão humana e uso responsável.
O debate enfatizou a necessidade de validação de informações, responsabilidade técnica e cuidados na aplicação das ferramentas no Direito.
A advogada trabalhista Adriana Calvo afirmou que a adoção da IA sem direcionamento impõe riscos legais e reforçou a importância da supervisão e da verificação por humanos.

Acompanhando o 25º Simpósio Regional da AASP, realizado em Salvador no dia 28/5, especialistas discutiram os impactos da inteligência artificial no meio jurídico. O painel da Associação dos Advogados abordou tanto o ganho de produtividade quanto os riscos associados ao uso de IA na advocacia.

Entre os temas em debate estiveram as chamadas “alucinações” da IA, quando sistemas produzem jurisprudência ou informações inexistentes, e o prompt injection, técnica que pode manipular comandos ocultos para influenciar o funcionamento de ferramentas inteligentes. Os debatedores defenderam cautela e supervisão humana contínua.

O encontro contou com a participação de advogados e especialistas do setor, incluindo a advogada trabalhista Adriana Calvo, que ressaltou a necessidade de diretrizes claras. Segundo ela, o avanço da IA demanda responsabilidade técnica, validação de dados e cuidados específicos na aplicação dessas tecnologias no direito.

Conforme os especialistas, a IA pode acelerar a produção de peças e pesquisas, mas exige mecanismos de controle para evitar erros e distorções. A mensagem-chave foi a de que a adoção dessas ferramentas deve ocorrer com diretrizes de uso responsável e supervisão humana em todas as etapas.