Conteúdo tosco gerado por IA ganha espaço nas redes sociais

AI Slop: o conteúdo gerado por IA que dominou as redes sociais

As redes sociais passaram a ver imagens e vídeos falsos criados por inteligência artificial ganharem tração, com forte engajamento mesmo sem verificação. Um exemplo citado envolve cenas com crianças sul-asiáticas retratadas de forma inverossímil, algumas com características perturbadoras, que passaram a circular em plataformas populares.

Um jovem estudante francês, Théodore, ficou incomodado com a viralização de esse tipo de material no Facebook. Para contestar a tendência, ele criou a conta Insane AI Slop, no X, com o objetivo de ironizar as publicações e expor conteúdos enganadores. Em pouco tempo, ele reuniu contribuições de usuários e conquistou um número expressivo de seguidores.

A partir daí, surgiram padrões recorrentes: temas religiosos, imagens de militares e crianças em situações emotivas. A conta cresceu e abriu espaço para debates sobre a qualidade do conteúdo gerado por IA e seu impacto nas plataformas. A comunidade digital passou a questionar a confiabilidade do conteúdo exibido.

A evolução da IA nas redes

A gestão de conteúdo passou a acompanhar a expansão de ferramentas de IA, com plataformas permitindo e promovendo criação de imagens e vídeos por máquinas. Em teleconferência de resultados, o CEO da Meta destacou que a IA amplia a produção de conteúdos, sem mencionar medidas específicas contra o AI slop.

Comentários de executivos de outras plataformas indicam preocupação com a queda de qualidade de conteúdo. Em YouTube, a adoção de ferramentas de IA cresceu rapidamente, com milhões de canais utilizando recursos da plataforma para gerar material. Analistas ressaltam a necessidade de equilíbrio entre inovação e moderação.

Estudos indicam que cerca de 20% do conteúdo mostrado a novas contas no YouTube é de baixa qualidade gerado por IA. Um fenômeno de monetização surge pela possibilidade de ganho com visualizações, o que incentiva a criação de conteúdos de IA com alto engajamento.

Reação pública e moderção

A reação do público inclui críticas a conteúdos de IA que chegam a ser perturbadores ou enganosos. Em resposta, plataformas passaram a reforçar políticas de moderação, com alguns casos de remoção de vídeos e canais que violaram diretrizes. Medidas continuam sendo discutidas, pois o volume de conteúdo é expressivo.

Especialistas alertam que a dificuldade de detectar conteúdo gerado por IA pode exigir novas formas de verificação de autenticidade. Observa-se a necessidade de infraestrutura que comprove a origem de conteúdos genuínos para evitar a propagação de enganos.