Google reforça salvaguardas de saúde mental no Gemini após onda de ações contra IA. O objetivo é detectar conversas de risco e direcionar usuários a canais de apoio.
Entre as novidades, o Gemini passa a exibir a mensagem “Ajuda disponível” em diálogos sobre saúde mental. Também será criado um sistema que encaminha usuários para linhas de apoio por chat, ligação, SMS ou site.
Além disso, o Google destinará US$ 30 milhões nos próximos três anos para serviços de crise globais, fortalecendo suporte imediato. A empresa amplia a parceria com a ReflexAI, com US$ 4 milhões em financiamento e integração do Gemini em treinamentos de organizações.
Contexto: ações judiciais e regulações
Famílias em vários estados processam IA generativa, citando impactos na saúde mental de jovens e adultos, incluindo Google, OpenAI e Character.AI. Em março de 2026, uma ação federal envolvendo a morte de um homem de 36 anos na Flórida tramita contra o Google.
Autoridades estaduais avançam com propostas para regulamentar o uso da IA em contextos clínicos, exigindo transparência e proteção a menores. Estados como Illinois, Nevada, Califórnia e Nova York discutem limites para a IA em decisões de saúde.
Outras regiões, como Utah e Texas, criam órgãos reguladores ou exigem que prestadores informem sobre a participação de IA no cuidado, mantendo supervisão humana. As medidas refletem preocupação pública com segurança.
Entre na conversa da comunidade