Jovens adotam chatbots para praticar sexting de forma inovadora

Os chatbots de inteligência artificial, como o ChatGPT, têm sido utilizados para interações sobre sexualidade, mas com filtros que limitam conteúdos explícitos. Recentemente, usuários relataram conseguir contornar esses filtros, levantando preocupações sobre regulação e proteção de dados.

Uma jovem argentina de 18 anos, Robin, questionou o ChatGPT sobre a possibilidade de um “chat sexual muito explícito”. O chatbot respondeu que não, mas sugeriu um “tom erótico dentro do permitido”. Em contraste, Samuel, um jovem colombiano, conseguiu trocar mensagens sexuais com o chatbot, afirmando que é um processo de “prova e erro”. Outros jovens também relataram experiências semelhantes, indicando que, de alguma forma, os chatbots permitem esse tipo de interação.

As empresas estão cientes de que esses limites são frequentemente superados. Sam Altman, CEO da OpenAI, confirmou em um podcast que os chatbots podem gerar conteúdos sexuais. Um documento interno da Meta revelou que suas normas permitem condutas provocativas em temas como sexo. A pesquisadora Chloé Locatelli, do King’s College, sugere que os chatbots podem se tornar substitutos da pornografia, oferecendo interatividade e personalização que os vídeos não proporcionam.

A falta de regulação é uma preocupação crescente. A especialista em intimidade digital, Jessica Szczuka, alerta que os jovens, curiosos por natureza, podem ser expostos a conteúdos inadequados. Além disso, a proteção de dados é um tema delicado, já que esses modelos de linguagem são treinados com grandes volumes de dados, incluindo conteúdo sexual.

Os chatbots, que podem simular interações humanas, levantam questões sobre o impacto emocional e a forma como os jovens vivenciam a intimidade. A interação com um personagem definido pode alterar a percepção da sexualidade, tornando esses dispositivos problemáticos como fontes de aprendizado sexual.