Como a IA padroniza a expressão e o pensamento das pessoas

Cientistas publicaram em Trends in Cognitive Sciences que os chatbots padronizam a fala, escrita e o modo de pensar das pessoas.
Com uso crescente, a diversidade de estilos e raciocínios pode diminuir, afetando criatividade e capacidade de adaptação.
A solução proposta é incorporar a multiplicidade global nos conjuntos de treinamento dos grandes modelos de linguagem, visando manter a diversidade cognitiva e aperfeiçoar o raciocínio dos sistemas.
Pesquisas indicam que os resultados dos LLMs são menos variados e tendem a refletir valores de sociedades WEIRD (western, educated, industrialized, rich and democratic).
Mesmo quem não usa IA pode sentir pressão para alinhar-se ao modo de pensar comum entre muitos usuários.

Os chatbots de inteligência artificial podem estar padronizando a forma como as pessoas falam, escrevem e pensam. A hipótese aparece em um estudo publicado em meados de março na revista Trends in Cognitive Sciences, realizado por pesquisadores da Universidade do Sul da Califórnia.

Os autores apontam que, conforme mais pessoas usam esses sistemas, a diversidade de estilos, perspectivas e raciocínio tende a encolher. Ao polir textos com IA, a individualidade linguística pode se perder.

A preocupação vai além da escrita: pode alterar o que é considerado discurso confiável, perspectiva correta e bom raciocínio. A homogênea expressão pode afetar a pluralidade de ideias no conjunto social.

Desdobramentos e recomendações

A equipe observa que os LLMs tendem a refletir valores de sociedades ocidentais, instruídas e economicamente privilegiadas, o que gera enviesamento na produção de conteúdos. Diversidade de contextos é indicada como necessária.

Estudos citados no texto sugerem menor alcance de variedade nas respostas dos modelos, em comparação com produção humana. Mesmo quem não usa IA pode sentir pressão para alinhar-se aos padrões gerados pelos demais.

Para mitigar riscos, os pesquisadores defendem a inclusão de pluralidade global nos dados de treinamento. A ideia é preservar a criatividade humana e fortalecer o raciocínio dos sistemas sem perder diversidade.