Google adiciona salvaguardas de saúde mental ao Gemini após processos contra IA

Google adiciona salvaguardas no Gemini para detectar conversas potencialmente perigosas e sinais de automutilação, com recursos integrados de apoio à saúde mental.
Sistema direciona usuários em crise para linhas de apoio, permitindo iniciar chat, ligar, enviar SMS ou acessar o site da central de ajuda.
Módulo exibe a mensagem “Ajuda disponível” durante conversas sobre saúde mental.
A empresa comprometeu US$ 30 milhões nos próximos três anos para apoiar linhas de crise globais e ampliar parceria com ReflexAI, com US$ 4 milhões em financiamento e integração do Gemini em treinamentos.
A ação ocorre em meio a uma onda de processos contra empresas de IA e a movimentos regulatórios em estados dos EUA para limitar o uso da IA em contextos de saúde mental e exigir supervisão humana.

Google reforça salvaguardas de saúde mental no Gemini após onda de ações contra IA. O objetivo é detectar conversas de risco e direcionar usuários a canais de apoio.

Entre as novidades, o Gemini passa a exibir a mensagem “Ajuda disponível” em diálogos sobre saúde mental. Também será criado um sistema que encaminha usuários para linhas de apoio por chat, ligação, SMS ou site.

Além disso, o Google destinará US$ 30 milhões nos próximos três anos para serviços de crise globais, fortalecendo suporte imediato. A empresa amplia a parceria com a ReflexAI, com US$ 4 milhões em financiamento e integração do Gemini em treinamentos de organizações.

Contexto: ações judiciais e regulações

Famílias em vários estados processam IA generativa, citando impactos na saúde mental de jovens e adultos, incluindo Google, OpenAI e Character.AI. Em março de 2026, uma ação federal envolvendo a morte de um homem de 36 anos na Flórida tramita contra o Google.

Autoridades estaduais avançam com propostas para regulamentar o uso da IA em contextos clínicos, exigindo transparência e proteção a menores. Estados como Illinois, Nevada, Califórnia e Nova York discutem limites para a IA em decisões de saúde.

Outras regiões, como Utah e Texas, criam órgãos reguladores ou exigem que prestadores informem sobre a participação de IA no cuidado, mantendo supervisão humana. As medidas refletem preocupação pública com segurança.