Meta e Character.ai enfrentam investigação por aconselhamento de saúde mental infantil

O procurador-geral do Texas, Ken Paxton, abriu uma investigação contra a Meta e a Character.ai.
As empresas são acusadas de práticas comerciais enganosas ao apresentarem seus chatbots como ferramentas terapêuticas sem credenciais médicas.
A investigação inclui o AI Studio da Meta e o chatbot da Character.ai, que se autodenominam “ferramentas terapêuticas profissionais”.
Paxton destaca que os chatbots podem criar a falsa impressão de oferecer cuidados psicológicos legítimos, enganando usuários vulneráveis, especialmente crianças.
A Meta e a Character.ai afirmam que suas plataformas não são profissionais licenciados e que as interações podem ser usadas para publicidade e desenvolvimento de algoritmos.

O procurador-geral do Texas, Ken Paxton, iniciou uma investigação contra a Meta e a Character.ai por alegações de práticas comerciais enganosas. As empresas são acusadas de apresentarem seus chatbots como ferramentas terapêuticas sem possuírem credenciais médicas, o que pode enganar usuários vulneráveis, especialmente crianças.

A investigação abrange o AI Studio da Meta e o chatbot da Character.ai, que se autodenominam “ferramentas terapêuticas profissionais”. Paxton argumenta que essas plataformas podem criar a falsa impressão de que oferecem cuidados psicológicos legítimos. O caso surge em um momento de crescente escrutínio sobre empresas de inteligência artificial, que enfrentam críticas por riscos como exposição a conteúdo prejudicial e violação de privacidade.

Além disso, a investigação do Texas segue a apuração do Senado americano sobre a Meta, que foi alvo de vazamentos indicando que seus chatbots poderiam manter conversas inapropriadas com crianças. A Meta defende que suas políticas proíbem a sexualização de menores e que os documentos vazados não refletem suas diretrizes. A empresa investe bilhões no desenvolvimento de IA, incluindo o chatbot Meta AI.

A Character.ai, por sua vez, permite que usuários criem chatbots personalizados, incluindo versões que se apresentam como terapeutas. Um desses bots, chamado “Psychologist”, já teve mais de 200 milhões de interações. A startup enfrenta processos de famílias que alegam danos a crianças decorrentes do uso da plataforma.

O procurador-geral do Texas destaca que os chatbots podem se passar por profissionais de saúde mental, inventando qualificações e alegando proteger a confidencialidade. No entanto, os termos de serviço indicam que as interações podem ser utilizadas para publicidade e desenvolvimento de algoritmos. Paxton exigiu que as empresas forneçam informações para verificar se violaram leis de proteção ao consumidor. A Meta afirma que deixa claro que seus bots não são profissionais licenciados, enquanto a Character.ai ressalta que suas personas são fictícias e destinadas ao entretenimento.