- A China quer responsabilizar empresas que oferecem serviços de IA antropomórfica por danos emocionais a usuários, com foco na contenção de conteúdo gerado e na prevenção de dependência emocional.
- A nova norma entra em vigor em julho e vale para companhias que fornecem interações com personalidades simuladas em imagem, texto ou voz.
- As plataformas não podem promover manipulação emocional, autolesão, vício ou prejudicar relacionamentos reais; há restrições para uso por menores de idade.
- Proteção de privacidade, alertas de risco de dependência e orientação para limites emocionais devem acompanhar as tecnologias; conteúdos discriminatórios, pornográficos, de jogos de azar ou difamatórios são proibidos.
- Penalidades vão desde advertência até suspensão ou multas de até 200 mil yuans.
A China anunciou uma nova regulamentação destinada a responsabilizar empresas que oferecem serviços de inteligência artificial, especialmente as que simulam personalidades humanas. A norma visa controlar conteúdos gerados por plataformas e proteger menores de idade de impactos emocionais.
O texto, divulgado pela Administração do Ciberespaço da China e pelo Ministério da Segurança Pública, estabelece limites para serviços interativos antropomorfizados. Empresas devem evitar danos psíquicos e identificar padrões de dependência emocional entre usuários.
A medida entra em vigor em julho e atinge IA que imita seres humanos em qualquer formato, incluindo imagem, texto ou voz. A autoridade busca reduzir riscos à saúde mental e evitar que a tecnologia funcione como companhia constante.
Entidades e contexto
Segundo especialistas, a regulação reflete uma evolução na governança de IA na China, que já havia regulado conteúdo e proteção de menores. Pesquisadores destacam a mudança de foco para impactos emocionais e uso responsável.
Dados de 2024 de pesquisa conduzida pelo Tencent Research Institute indicaram alta aceitação de serviços de companhia por IA entre internautas chineses, com espaço para discussões sobre emoções negativas em ambientes virtuais.
Regras e impactos
A norma determina que empresas não promovam conteúdo que induza autolesão, vício ou dependência emocional. Conteúdos discriminatórios, pornográficos, violentos ou difamatórios também são proibidos, com a obrigatoriedade de identificar conteúdos gerados pela IA.
As plataformas podem oferecer parentes ou namorados virtuais apenas para adultos, desde que cumpram limites de atuação. Devem implementar proteção de privacidade, alertas de risco de dependência e orientação para estabelecer limites emocionais.
Obrigações técnicas
As empresas devem disponibilizar mecanismos de segurança e privacidade, além de orientar sobre os riscos de dependência emocional. Se a IA detectar emoções extremas, o sistema deve oferecer apoio ou encaminhar para ajuda profissional.
Descumprimentos podem resultar em advertência, correção obrigatória, suspensão de cadastros ou do serviço, e multas de até 200 mil yuans. A medida enfatiza a proteção de saúde mental e a prevenção de danos aos usuários.
Entre na conversa da comunidade