Quatro em dez posts nas redes sociais contêm desinformação sobre IA generativa

A pesquisadora do grupo Understanding Artificial Intelligence (UAI), ligado ao Instituto de Estudos Avançados da USP, analisou conteúdos sobre IA gerativa nas redes Instagram e TikTok entre 2022 e 2025. O estudo avaliou 5 mil postagens para verificar qualidade, veracidade, segurança e aplicabilidade. O resultado aponta descompasso entre o que é visto e o que a IA pode fazer.

A análise revela que muitos conteúdos atribuem funções que as IAs não conseguem realizar, como operações matemáticas complexas ou textos originais a partir do nada. A qualidade da discussão cai quando os temas se conectam com segurança e veracidade sem clareza.

Os pesquisadores classificaram o material em quatro dimensões analíticas: profundidade, fidedignidade, segurança e aplicabilidade. A avaliação combinou raspagem de dados com verificação manual, usando também as próprias IAs gerativas para o processo de classificação.

A equipe ressalta que as dimensões estão correlacionadas, mas nem sempre aparecem juntas nos conteúdos. Em vídeos, por exemplo, é comum discutir segurança com informações confiáveis, porém sem explicar bem como a tecnologia funciona. Esse descompasso preocupa.

Luiz Joaquim Nunes, doutorando em Psicologia Social e do Trabalho, participa como autor da nota técnica e explica o contexto: há uma dualidade entre elogio às IAs e a compreensão de seu funcionamento real. A falta de entendimento é apontada como raiz de problemas na comunicação sobre o tema.

Victor de Sales Alexandre, coautor, destaca que a adesão a ferramentas de IA se intensificou nos últimos anos, mesmo entre quem não utiliza diretamente as tecnologias. Segundo ele, a imprensa muitas vezes amplifica desinformação, agravando riscos associados.

O estudo aponta que, entre cada 10 posts, quatro apresentam desinformação sobre IA generativa. Em 30 conteúdos, 16 tratam de uso e apenas quatro abordam riscos, com apenas dois falando de ambos — o que evidencia lacunas informacionais relevantes.

Contexto cultural e social

Especialistas observam que o discurso técnico está atravessado pela IA, presente no trabalho, estudo e lazer. A adesão da IA nas relações sociais pode ampliar desigualdades existentes, já que humanos deixam de atuar como atores centrais na produção de conteúdos.

Nunes afirma que não basta tratar a IA como autoevidente. Ao tratar como senso comum o funcionamento da tecnologia, informações cruciais podem ser perdidas. Em notas técnicas, os pesquisadores defendem cautela e letramento digital como ferramentas para conter desinformação.

Alexandre ressalta que muitos conteúdos sugerem usos inadequados da IA, como cálculos matemáticos realizados pela própria IA, que, segundo a pesquisa, não é o melhor ramo para esse tipo de tarefa. A geração de textos permanece a função mais robusta da IA gerativa.

Implicações e próximos passos

O grupo defende uma mudança de abordagem: discutir as potencialidades e limitações da IA dentro do contexto sociocultural e de governança. A monitoria e a educação digital são citadas como medidas para reduzir desinformação e riscos.

O estudo completo da USP está publicado como nota técnica chamada A produção de conteúdo sobre IAs generativas colocada em números. Novas leituras e ações políticas podem emergir a partir das evidências apresentadas pela pesquisa.