- A China quer responsabilizar empresas que oferecem serviços de IA antropomórfica por danos emocionais aos usuários e limitar conteúdos que gerem dependência ou afetem menores.
- A norma exige que as plataformas protejam a saúde mental, identifiquem padrões de uso que possam levar à dependência emocional e evitem manipulação emocional.
- Publicada por órgãos como a Administração do Ciberespaço da China e o Ministério da Segurança Pública, a regra entra em vigor em julho e bane conteúdo de autolesão, discriminação, pornografia, jogos de azar, violência e difamação, além de proibir serviços para menores.
- Plataformas podem manter companhias virtuais para adultos, desde que com limites de atuação e medidas de segurança, privacidade e alertas de risco.
- As penalidades vão desde advertência até suspensão de cadastro ou do serviço, chegando a multas de até 200 mil yuans.
O governo chinês anunciou uma nova regulamentação que responsabiliza empresas que oferecem serviços de inteligência artificial por danos emocionais causados aos usuários. A norma, que entra em vigor em julho, mira plataformas que simulam identidades humanas e oferecem apoio afetivo, com o objetivo de limitar conteúdos gerados e proteger especialmente menores de idade.
Diversos órgãos públicos escreveram a texto normativo, entre eles a Administração do Ciberespaço da China e o Ministério da Segurança Pública. A medida determina que companhias devem evitar danos psíquicos, identificar padrões de dependência emocional e impedir uso inadequado de IA antropomórfica em qualquer formato — imagem, texto ou voz — que interaja emocionalmente com o usuário.
Regulamentação e Alcance
A norma proíbe a promoção de conteúdo que promova manipulação emocional, autolesão ou suicídio, bem como atendimentos que induzam dependência ou prejudiquem relacionamentos reais. A IA não pode gerar conteúdo de discriminação, pornografia, jogos de azar, violência ou difamação, e deve identificar conteúdo produzido pela tecnologia para restringir o serviço a maiores de idade.
Empresas do setor devem adotar recursos de segurança, incluindo proteção de privacidade, alertas precoces sobre risco de dependência e orientação de limites emocionais. Em caso de detecção de emoções extremas, a tecnologia deve oferecer apoio ou incentivar a busca de ajuda.
Detalhes práticos e impactos
A norma estabelece que plataformas podem disponibilizar companhias virtuais para adultos, desde que haja salvaguardas adequadas. A fiscalização pode resultar em advertências, correções obrigatórias, suspensão de cadastro ou do serviço, e multas que podem chegar a 200 mil yuans (aproximadamente R$ 145 mil).
Pesquisas divulgadas pelo Tencent Research Institute em 2024 mostraram alta aceitação de serviços de companhia por IA entre internautas chineses, com 98% abertos a testar tais serviços e 80% vendo neles um ambiente seguro para discutir emoções negativas. As autoridades argumentam que o regulamento reforça a proteção de menores e a saúde mental no contexto de uso de IA.
Contexto e referências
Analistas avaliam a mudança como parte de uma evolução da governança de IA na China, com foco não apenas no conteúdo gerado pelos modelos, mas também nos impactos emocionais e sociais. A regulamentação é apresentada como etapa para mitigar riscos de dependência e danos psíquicos associados a serviços interativos antropomórficos.
Entre na conversa da comunidade