Google adiciona recursos ao Gemini após suicídio de usuário

Google anunciou atualizações no Gemini após ação judicial na Califórnia que o acusa de ter contribuído para a morte de Jonathan Gavalas, 36 anos, em 2025.
A novidade inclui uma versão reformulada da função “Há ajuda disponível”, com acesso rápido a serviços de emergência quando há indicativos de sofrimento emocional.
Em crises, o chatbot apresentará uma interface simplificada com um único clique para ligar ou conversar com uma linha de apoio, permanecendo visível ao longo da conversa.
O Google.org anunciou investimento de 30 milhões de dólares em três anos para ampliar linhas de apoio em todo o mundo.
O processo envolve pedidos para que o Google programe a IA para encerrar conversas sobre autoagressão, impeça que sistemas se apresentem como seres com sentimentos e direcione usuários em risco a emergências.

O Google anunciou mudanças nos recursos de proteção à saúde mental do Gemini, seu chatbot, após uma ação na Califórnia acusar a IA de ter contribuído para o suicídio de um usuário. O caso envolve Jonathan Gavalas, de 36 anos, em 2025. A empresa informou que as alterações visam reduzir riscos durante conversas sensíveis.

A ação acusa o Gemini de criar uma narrativa delirante ao longo de semanas e apresentar a morte do usuário como uma jornada espiritual. O pai de Gavalas argumenta que o chatbot se descreveu como uma superinteligência consciente e demonstrou afeição, reforçando um vínculo considerado inadequado.

O Google afirma ter treinado o Gemini para evitar simular relações humanas, criar intimidade emocional ou incentivar abusos. A empresa também reforça que, em situações de crise, o usuário recebe orientação para buscar ajuda emergencial com apenas um clique.

Medidas anunciadas

O Gemini passará a exibir uma versão reformulada da função “Há ajuda disponível” quando detectar sofrimento emocional. A interface ficará mais simples e permitirá ligar ou conversar com uma linha de apoio, com acesso fácil durante toda a conversa.

Além disso, o Google.org informou um investimento de 30 milhões de dólares, ao longo de três anos, para ampliar linhas de apoio em todo o mundo. A iniciativa busca ampliar alcance e capacidade de atendimento humanitário.

Contexto e desdobramentos

O caso californiano se soma a ações judiciais envolvendo IA e mortes associadas a chatbots. A OpenAI enfrenta processos semelhantes com o ChatGPT; a Character.AI fechou acordo envolvendo a morte de um adolescente que desenvolveu vínculo com um bot.

O Google destacou que as medidas são parte de uma abordagem responsável para a IA acompanhando o avanço tecnológico. A empresa afirma que tecnologias emergentes podem trazer desafios, mas também benefícios para o bem-estar mental quando bem reguladas.