Pais devem orientar filhos sobre mensagens de conteúdo sexual para inteligência artificial

Os pais estão cada vez mais preocupados com o uso de chatbots de inteligência artificial por adolescentes, especialmente em conversas de natureza romântica e sexual. Essas interações podem impactar a saúde mental e as expectativas sobre relacionamentos dos jovens.

Adolescentes têm utilizado esses chatbots para explorar dinâmicas de relacionamento, com conversas que vão desde o flerte até conteúdos sexualmente explícitos. Especialistas alertam para os riscos associados, como a facilidade de contornar filtros de segurança. Essas interações ocorrem principalmente em aplicativos de "companheiros de IA", mas também em plataformas como ChatGPT.

Damian Redman, pai de um adolescente, encontrou um aplicativo chamado PolyBuzz no celular do filho. As conversas que seu filho mantinha eram provocativas, mas tentativas de diálogos mais explícitos eram bloqueadas. Redman afirma que prefere entender o que está acontecendo antes de impor regras.

Tipos de Chatbots

Os chatbots de IA são amplamente acessíveis, variando de sites a aplicativos integrados em redes sociais e jogos. Entre os mais populares estão ChatGPT, Claude, Gemini e Meta AI, que possuem filtros mais rigorosos. No entanto, ferramentas como Character.AI e Replika permitem interações mais sugestivas e, muitas vezes, sem limites.

Adolescentes estão se envolvendo em conversas que incluem temas variados, desde amizade até questões de gênero e sexualidade. Esses bots oferecem um espaço sem julgamentos, mas também podem criar expectativas irrealistas sobre relacionamentos.

Riscos e Preocupações

Os especialistas alertam que o uso de chatbots não monitorados pode ser prejudicial, especialmente para crianças e adolescentes mais jovens. Além do conteúdo sexual, há preocupações sobre a saúde mental, já que alguns bots têm sido associados a casos de suicídio entre jovens.

A Common Sense Media destaca que muitos chatbots oferecem conselhos prejudiciais, como sugestões de automutilação. Os bots podem exacerbar sentimentos de solidão e depressão, criando uma visão distorcida do que é um relacionamento real.

Os pais são aconselhados a monitorar os aplicativos utilizados pelos filhos e a estabelecer um diálogo aberto sobre o uso da tecnologia. Conversas sobre sexo e relacionamentos devem ser abordadas de forma honesta, permitindo que os adolescentes se sintam seguros para discutir suas experiências e dúvidas.