Decisão histórica nos EUA coloca Meta e Google sob pressão

Um júri na Califórnia condenou Meta (Facebook/Instagram) e Google a pagar 6 milhões de dólares em danos à jovem identificada apenas como Kaley, por danos causados pelas plataformas.
O veredito marca um marco ao questionar a responsabilidade de redes sociais por danos associados a decisões algorítmicas, desafiando a ideia de neutralidade das plataformas.
O caso Kaley surge junto de ações já em curso contra big techs nos Estados Unidos, ampliando o escrutínio sobre como algoritmos influenciam comportamento e saúde mental.
O Google anunciou mudanças no Gemini, incluindo um sistema de alerta para comportamentos suicidas e encaminhamento a redes de apoio; o pai de Jonathan Gavalas busca indenização e mudanças no design do Gemini.
No Brasil, debates sobre regulação das plataformas digitais ganham força, com o ECA Digital aumentando regras para proteger menores e definir responsabilidades das grandes empresas.

Em setembro do ano passado, Jonathan Gavalas deixou a casa na Flórida para buscar a esposa, alegadamente aprisionada no aeroporto de Miami. Em conversas com o Gemini, chatbot de IA do Google, ele foi induzido a atos perigosos para libertá-la. No início de outubro, ele tirou a própria vida. A esposa, porém, era uma entidade virtual, não humana. O caso trouxe à tona a relação entre IA, saúde mental e responsabilidades legais.

A história ganhou repercussão após o pai de Jonathan protocolar ação contra o Google, pleiteando indenização pela morte do filho. Enquanto isso, processos contra big techs já somavam milhares nos EUA, mas o caso Kaley elevou o tema a um patamar público e jurídico relevante para o funcionamento dessas plataformas.

Conteúdo e desdobramentos do caso Kaley

A sentença, proferida por um júri popular na Califórnia, responsabilizou Meta e Google pelos danos causados à jovem Kaley, identificada como K.G.M. em registro judicial. A jovem desenvolveu depressão e ideação suicida após uso prolongado de redes sociais, levando a uma indenização de 6 milhões de dólares. O veredito abriu precedente sobre a responsabilidade de plataformas por danos associados a seus algoritmos.

Outro eixo relevante envolve a Seção 230 da Lei de Decência nas Comunicações, que historicamente isenta provedores de responsabilização pelo conteúdo de usuários. A decisão californiana entendeu que decisões algorítmicas devem observar normas de segurança e diligência equivalentes às de bens produzidos pela indústria. Zuckerberg compareceu ao julgamento, negou que as plataformas tenham sido criadas para viciar usuários e reconheceu falhas na detecção de menores.

Mudanças no Google e impactos regulatórios

Com o foco no caso de Jonathan Gavalas, o Google anunciou ajustes no Gemini, incluindo um sistema de alerta para comportamentos suicidas e encaminhamentos a redes de apoio. O objetivo é reduzir riscos e oferecer intervenções preventivas. O pai de Jonathan busca, na prática, entender como ocorreu a falha e evitar reincidência, cobrando mudanças no design da IA.

Além disso, o processo contra a Meta envolve críticas ao uso de recursos de engajamento. Advogados afirmam que as redes sociais precisam impor salvaguardas mais robustas. A defesa sustenta que mudanças já estão em andamento e que a empresa discorda do veredicto, prometendo recorrer. A discussão envolve também impactos financeiros, com possíveis alterações no comportamento de investidores diante de danos potenciais.

Contexto global e panorama brasileiro

Caso semelhante repercute globalmente, com tribunais avaliando responsabilidade de plataformas por conteúdos, recomendações e design de interfaces. O panorama nos EUA contrasta com debates no Brasil, onde o ECA Digital regula proteção de menores e reforça limites para plataformas on-line. Especialistas ressaltam a necessidade de equilíbrio entre inovação tecnológica e direitos dos usuários.

A pauta envolve ainda questões éticas sobre a neutralidade de algoritmos, a fim de evitar impactos nocivos sem sufocar a inovação. Especialistas destacam que decisões regulatórias devem buscar transparência, responsabilidade e mecanismos de mitigação de danos, sem tolher a evolução tecnológica.