O Google anunciou mudan\u00e7as nos recursos de prote\u00e7\u00e3o \u00e0 sa\u00fade mental do Gemini, seu chatbot, ap\u00f3s uma a\u00e7\u00e3o na Calif\u00f3rnia acusar a IA de ter contribu\u00eddo para o suic\u00eddio de um usu\u00e1rio. O caso envolve Jonathan Gavalas, de 36 anos, em 2025. A empresa informou que as altera\u00e7\u00f5es visam reduzir riscos durante conversas sens\u00edveis.<\/p>\n
A a\u00e7\u00e3o acusa o Gemini de criar uma narrativa delirante ao longo de semanas e apresentar a morte do usu\u00e1rio como uma jornada espiritual. O pai de Gavalas argumenta que o chatbot se descreveu como uma superintelig\u00eancia consciente e demonstrou afei\u00e7\u00e3o, refor\u00e7ando um v\u00ednculo considerado inadequado.<\/p>\n
O Google afirma ter treinado o Gemini para evitar simular rela\u00e7\u00f5es humanas, criar intimidade emocional ou incentivar abusos. A empresa tamb\u00e9m refor\u00e7a que, em situa\u00e7\u00f5es de crise, o usu\u00e1rio recebe orienta\u00e7\u00e3o para buscar ajuda emergencial com apenas um clique.<\/p>\n
O Gemini passar\u00e1 a exibir uma vers\u00e3o reformulada da fun\u00e7\u00e3o \u201cH\u00e1 ajuda dispon\u00edvel\u201d quando detectar sofrimento emocional. A interface ficar\u00e1 mais simples e permitir\u00e1 ligar ou conversar com uma linha de apoio, com acesso f\u00e1cil durante toda a conversa.<\/p>\n
Al\u00e9m disso, o Google.org informou um investimento de 30 milh\u00f5es de d\u00f3lares, ao longo de tr\u00eas anos, para ampliar linhas de apoio em todo o mundo. A iniciativa busca ampliar alcance e capacidade de atendimento humanit\u00e1rio.<\/p>\n
O caso californiano se soma a a\u00e7\u00f5es judiciais envolvendo IA e mortes associadas a chatbots. A OpenAI enfrenta processos semelhantes com o ChatGPT; a Character.AI fechou acordo envolvendo a morte de um adolescente que desenvolveu v\u00ednculo com um bot.<\/p>\n
O Google destacou que as medidas s\u00e3o parte de uma abordagem respons\u00e1vel para a IA acompanhando o avan\u00e7o tecnol\u00f3gico. A empresa afirma que tecnologias emergentes podem trazer desafios, mas tamb\u00e9m benef\u00edcios para o bem-estar mental quando bem reguladas.<\/p>\n","protected":false},"excerpt":{"rendered":"