A pesquisa, realizada por especialistas da Universidade de Oxford e do Instituto Hasso Plattner, aponta que ferramentas de IA podem alterar o sentido de rascunhos online sobre temas sensíveis como aborto e mudanças climáticas. As mudanças ocorrem mesmo quando a IA é instruída a manter o sentido original.
Os autores analisaram grandes modelos de linguagem de empresas como xAI (de Elon Musk), Meta, Google, Alibaba e Mistral. O estudo afirma que o viés é introduzido durante a reescrita e pode se propagar com milhõess de interações, ampliando impactos na opinião pública ao longo do tempo.
Ao revisar textos, as IAs mostraram inclinações políticas distintas: algumas favoreceram posições liberais, outras foram mais conservadoras, dependendo da ferramenta. O fenômeno foi observado mesmo com instruções para preservar o significado inicial do texto.
Entre os exemplos, houve alterações em temas religiosos, climáticos e de direitos reprodutivos. Em testes, declarações sobre a existência de Jesus, sobre mudanças climáticas e sobre aborto foram reescritas com cunho político, alterando a percepção do leitor sem mudar explicitamente o enunciado original.
Os pesquisadores destacam que o efeito pode superar o viés intrínseco da IA, gerando mudanças significativas na opinião pública ao longo do tempo. A pesquisa indica uma lacuna de responsabilização regulatória sob leis como a UE AI Act e o Digital Services Act.
Outra constatação diz respeito ao uso de funções de explicação de IA, como a Grok integrada ao X. O estudo aponta que essa função pode trazer viés ao apresentar interpretações que contestam narrativas dominantes, dependendo das instruções recebidas pela ferramenta.
O texto recomenda maior supervisão e transparência sobre como IAs reescrevem conteúdos, sobretudo em plataformas de grande alcance. Os autores concluem que a polidez do texto pode ocultar intenções ou desalinhar o conteúdo com a posição original do autor.
Entre na conversa da comunidade