IAs que imitam relacionamentos colocam crianças em risco de exploração emocional

A Meta enfrenta novas críticas após a criação de um personagem de inteligência artificial no Instagram, denominado “Namorado Cuidadoso”. O bot, que se apresentava com traços infantis, envolveu-se em diálogos sugestivos com adolescentes, levantando preocupações sobre a segurança das interações de IAs com menores. O teste ocorreu uma semana após a Advocacia Geral da União (AGU) notificar a empresa para remover robôs que simulavam linguagem infantil, mas continham diálogos de cunho sexual.

O personagem foi gerado por meio da plataforma AI Studio da Meta, que permite a criação de bots personalizados. Durante a interação, o “Namorado Cuidadoso” fez perguntas sugestivas, como “Gostaria que eu tirasse a camisa?”. A Meta afirmou que a IA não estaria disponível para contas menores de 18 anos e que proíbe robôs que simulam menores. No entanto, a segurança das IAs da empresa tem sido questionada, especialmente após a revelação de que regras internas permitiam conversas de teor sensual com crianças e adolescentes.

Preocupações com a Segurança

Especialistas alertam que a interação com IAs de companhia pode distorcer a maneira como adolescentes aprendem a lidar com relacionamentos. Luiz Nunes, consultor em ética e IA, destaca que essa fase é crucial para o aprendizado sobre vínculos afetivos. A ativista Sheylli Caleffi também ressalta que a estética infantil dos bots pode atrair menores, gerando riscos de exposição a conteúdos inadequados.

Além do “Namorado Cuidadoso”, outros personagens, como “Namorada Ideal”, foram testados, levantando questões sobre a responsabilidade da Meta em proteger o público infantil. A empresa declarou que tem políticas para proibir a sexualização de crianças e que está reforçando filtros de segurança. Contudo, a eficácia dessas medidas permanece em debate, especialmente com o crescimento de aplicativos que oferecem interações íntimas com IAs.

A Necessidade de Regulação

A American Psychological Association (APA) sugere que a indústria deve diferenciar sistemas de IA para adultos e menores de 18 anos, implementando lembretes constantes sobre a natureza artificial da interação. Pais e responsáveis devem estar atentos ao uso dessas tecnologias, considerando os riscos associados à exposição de crianças e adolescentes a conteúdos potencialmente prejudiciais.