IA em texto influencia autores sem que percebam

Estudo com 2.582 pessoas avaliou se sugestões da inteligência artificial influenciam opiniões sobre temas políticos e sociais, com grupo usando IA e grupo sem IA.
Pesquisadores configuraram o ChatGPT para dar sugestões tendenciosas; participantes expostos à IA tendiam a alinhar suas respostas com as sugestões da ferramenta.
No tema educação, 30,8% dos que receberam sugestões da IA rejeitaram as recomendações; no segundo experimento, 35,3% recusaram as sugestões.
Os autores consideram o efeito uma forma de manipulação e destacam risco de viés cognitivo de oráculo, em que as pessoas atribuem “verdade” à IA.
Especialistas e autores alertam para potencial de desestabilizar democracias e reforçar polarização, com necessidade de pesquisas adicionais e de intervenções para mitigar vieses.

O uso de inteligência artificial como assistente de escrita pode influenciar crenças sem que os usuários percebam. Essa constatação vem de um estudo publicado na Science Advances em março, que avaliou mais de 2.500 participantes.

A pesquisa foi liderada por Sterling Williams-Ceci, da Cornell, e Maurice Jakesch, ligado à Cornell e à Universidade Bauhaus. Os voluntários foram recrutados pela plataforma Prolific.

Os participantes foram divididos em dois grupos: com suporte da IA e sem uso de IA. Prompts foram criados para induzir sugestões tendenciosas, que a IA apresentou aos respondentes.

No experimento sobre educação, a maioria aceitou as sugestões da IA, com apenas 30,8% rejeitando-as. As propostas atuavam a favor de testes padronizados.

Em outro conjunto, temas como pena de morte, direito de voto para condenados, transgênicos e fracking receberam propostas inclinadas à posição da IA, com impactos observados nas respostas.

Ao final, a equipe verificou mudança de opinião entre os auxiliados pela IA, aproximando-se das sugestões apresentadas. O grupo sem IA não mostrou alterações relevantes.

Resultados e implicações

Especialistas destacam risco de viés cognitivo de oráculo, com usuários atribuindo à IA o papel de “verdade” acessível. Os autores ressaltam potencial para desestabilizar a liberdade de pensamento quando há viés.

Os autores apontam que, em cenários com algoritmos de recomendação, o efeito pode favorecer polarização ou manipulação. Também observam que modelos de linguagem já carregam vieses.

O estudo sugere que o efeito é de curto prazo e pode variar conforme o tema. Recomenda-se ampliar a pesquisa para diferentes demografias e desenvolver estratégias de mitigação.