Justiça alemã decide que Google é responsável por falas falsas de IA em resumos

Tribunal alemão determinou que a Google é responsável por declarações falsas geradas pelos AI Overviews, ferramenta de resumos com inteligência artificial.
O caso envolve duas editoras que argumentaram que as resumos vinculavam-as a práticas questionáveis sem base em pesquisas.
A decisão rejeita o argumento da Google de que o aviso de verificação seria suficiente, afirmando que o AI pode produzir afirmações independentes não presentes nas fontes.
O tribunal mandou remover grande parte das afirmações consideradas difamatórias e fixou que a Google cubra oitenta por cento dos custos legais.
A Google pode recorrer da decisão; a empresa afirmou que investe na qualidade do AI Overviews e está avaliando o veredito, ainda não final.

Em uma decisão recente, um tribunal alemão determinou que a Google é responsável por afirmações falsas geradas pelas “AI Overviews” do seu mecanismo de busca. A decisão afirma que a empresa que desenha, treina, opera e gerencia um sistema de IA deve responder por danos decorrentes das respostas que produz.

A instância judicial considerou que as AI Overviews criam declarações independentes, novas e sustantivas com base em dados disponíveis na web, o que pode associar empresas a práticas questionáveis. A sentença entra em choque com a visão de que apenas plataformas de terceiros respondem por conteúdos, ou seja, não seria a operadora da IA a responsável.

Segundo o tribunal, diferentemente de buscadores tradicionais, o algoritmo gera afirmações que não estão nos resultados originais e, por isso, a responsabilidade recai sobre a Google. O juiz também afirmou que avisos sobre a possibilidade de erro não eximem a empresa de responsabilização.

Implicações legais e precedente

O tribunal entende que a IA no motor de busca pode veicular afirmações inexistentes, baseadas em várias fontes, o que transfere a responsabilidade para quem opera a tecnologia. A decisão também determinou a remoção de várias declarações consideradas difamatórias e responsabilidade por 80% dos custos do processo.

Até o momento, a Google ainda pode recorrer da decisão. Em nota, a empresa afirmou que investe na qualidade das AI Overviews e que o resultado reflete informações disponíveis na web, mas que está analisando o veredito.