Conteúdo tosco gerado por IA ganha espaço nas redes sociais

Imagens e vídeos gerados por inteligência artificial, chamados de “AI slop”, ganharam destaque nas redes, com um exemplo viral no Facebook mostrando dois garotos sul-asiáticos com barbas, sem mãos e com um bolo de aniversário.
Théodore, estudante de Paris, criou a conta “Insane AI Slop” no X para ironizar esse conteúdo; a sua audiência ultrapassou 133 mil seguidores, e ele recebeu muitas contribuições de exemplos de AI slop.
Meta, liderada por Mark Zuckerberg, disse que as redes estão na terceira fase, centrada em IA; o YouTube informou que mais de 1 milhão de canais usaram ferramentas de IA para criar conteúdo em dezembro.
A Kapwing aponta que 20% do conteúdo mostrado a uma conta nova no YouTube Shorts é de IA de baixa qualidade; o canal Bandar Apna Dost acumula 2,07 bilhões de visualizações, gerando cerca de 4 milhões de dólares por ano.
Reação negativa cresce: muitos comentários criticam o AI slop; empresas reforçam moderação em plataformas como YouTube e Pinterest, enquanto especialistas debatem impactos como redução da atenção e possível dificuldade em diferenciar o real do falso.

AI Slop: o conteúdo gerado por IA que dominou as redes sociais

As redes sociais passaram a ver imagens e vídeos falsos criados por inteligência artificial ganharem tração, com forte engajamento mesmo sem verificação. Um exemplo citado envolve cenas com crianças sul-asiáticas retratadas de forma inverossímil, algumas com características perturbadoras, que passaram a circular em plataformas populares.

Um jovem estudante francês, Théodore, ficou incomodado com a viralização de esse tipo de material no Facebook. Para contestar a tendência, ele criou a conta Insane AI Slop, no X, com o objetivo de ironizar as publicações e expor conteúdos enganadores. Em pouco tempo, ele reuniu contribuições de usuários e conquistou um número expressivo de seguidores.

A partir daí, surgiram padrões recorrentes: temas religiosos, imagens de militares e crianças em situações emotivas. A conta cresceu e abriu espaço para debates sobre a qualidade do conteúdo gerado por IA e seu impacto nas plataformas. A comunidade digital passou a questionar a confiabilidade do conteúdo exibido.

A evolução da IA nas redes

A gestão de conteúdo passou a acompanhar a expansão de ferramentas de IA, com plataformas permitindo e promovendo criação de imagens e vídeos por máquinas. Em teleconferência de resultados, o CEO da Meta destacou que a IA amplia a produção de conteúdos, sem mencionar medidas específicas contra o AI slop.

Comentários de executivos de outras plataformas indicam preocupação com a queda de qualidade de conteúdo. Em YouTube, a adoção de ferramentas de IA cresceu rapidamente, com milhões de canais utilizando recursos da plataforma para gerar material. Analistas ressaltam a necessidade de equilíbrio entre inovação e moderação.

Estudos indicam que cerca de 20% do conteúdo mostrado a novas contas no YouTube é de baixa qualidade gerado por IA. Um fenômeno de monetização surge pela possibilidade de ganho com visualizações, o que incentiva a criação de conteúdos de IA com alto engajamento.

Reação pública e moderção

A reação do público inclui críticas a conteúdos de IA que chegam a ser perturbadores ou enganosos. Em resposta, plataformas passaram a reforçar políticas de moderação, com alguns casos de remoção de vídeos e canais que violaram diretrizes. Medidas continuam sendo discutidas, pois o volume de conteúdo é expressivo.

Especialistas alertam que a dificuldade de detectar conteúdo gerado por IA pode exigir novas formas de verificação de autenticidade. Observa-se a necessidade de infraestrutura que comprove a origem de conteúdos genuínos para evitar a propagação de enganos.