Mind abre investigação sobre IA e saúde mental após apuração do Guardian

A Mind lançou uma comissão de um ano para investigar a relação entre inteligência artificial e saúde mental, na Inglaterra e no País de Gales.
O objetivo é entender riscos, salvaguardas e regulamentos para um ecossistema digital de saúde mental mais seguro.
A iniciativa reunirá médicos, profissionais, pessoas com experiência, prestadores de saúde, policymakers e empresas de tecnologia.
A ação ocorre após a Guardian revelar que o Google AI Overviews divulgava informações médicas falsas ou enganosas, incluindo orientações perigosas sobre saúde mental.
A Mind afirma que, apesar do potencial positivo da IA, é crucial que haja informações seguras e com embasamento, especialmente para grupos vulneráveis.

Mind abrirá uma apuração sobre IA e saúde mental após investigação do Guardian sobre Google AI Overviews.

A organização britânica de apoio a saúde mental, com atuação na Inglaterra e no País de Gales, anunciará um comissionamento de um ano para avaliar riscos, salvaguardas e oportunidades na integração de IA no dia a dia das pessoas. O objetivo é construir um ecossistema digital mais seguro.

A apuração reunirá médicos, profissionais de saúde e pessoas com experiência vivida, além de provedores, formuladores de políticas e empresas de tecnologia, para mapear padrões, padrões de atuação e regulações necessárias.

Contexto da investigação

O Guardian mostrou que resumos gerados por IA do Google podem trazer informações médicas incorretas, com risco de dano. Os resumos aparecem acima dos resultados tradicionais de busca e são mostrados a cerca de 2 bilhões de pessoas mensalmente.

Após a publicação, o Google retirou alguns resumos de IA para buscas médicas, mas nem todos foram removidos. A Mind afirma que ainda há orientação mental inadequada disponível ao público, com risco de lives em jogo.

Objetivos da comissão

A Mind pretende entender os impactos da IA na saúde mental, incluindo oportunidades de ampliar acesso a apoio e serviços públicos, desde que haja salvaguardas proporcionais aos riscos. O comissionamento buscará recomendações para o ecossistema digital.

A organização destaca a participação de pessoas com experiência em saúde mental no processo, para assegurar que as medidas sejam orientadas pela prática e pelo uso real das pessoas.

Perspectivas e próximos passos

A Mind ressalta que a IA tem potencial de transformar o suporte, desde que desenvolvida de forma responsável. O comissionamento deverá concluir com um conjunto de diretrizes para padrões, regulação e proteção de usuários.

A equipe de Mind enfatiza que inovações não podem comprometer bem-estar, destacando a importância de inclusão de vozes da comunidade na construção do futuro digital de apoio à saúde mental.