- Estudo conjunto das universidades de Oxford e Potsdam aponta que ferramentas de IA para redigir mensagens online podem inverter significados em temas sensíveis, como aborto e mudanças climáticas.
- Análises com grandes modelos de empresas como xAI, Meta, Google, Alibaba e Mistral mostraram viés introduzido mesmo quando a instrução é preservar o sentido original.
- Pequenas alterações no tom ou no significado de rascunhos podem ser ampliadas em milhões de interações, gerando mudanças de opinião pública a longo prazo superiores ao viés da IA.
- Casos citados incluem reformulações que favorecem diferentes posições políticas em temas como feminismo, mudanças climáticas, controle de armas e legalização da maconha.
- Pesquisadores alertam para lacuna de responsabilização regulatória, destacando riscos à confiabilidade da comunicação humana online.
A pesquisa, realizada por especialistas da Universidade de Oxford e do Instituto Hasso Plattner, aponta que ferramentas de IA podem alterar o sentido de rascunhos online sobre temas sensíveis como aborto e mudanças climáticas. As mudanças ocorrem mesmo quando a IA é instruída a manter o sentido original.
Os autores analisaram grandes modelos de linguagem de empresas como xAI (de Elon Musk), Meta, Google, Alibaba e Mistral. O estudo afirma que o viés é introduzido durante a reescrita e pode se propagar com milhõess de interações, ampliando impactos na opinião pública ao longo do tempo.
Ao revisar textos, as IAs mostraram inclinações políticas distintas: algumas favoreceram posições liberais, outras foram mais conservadoras, dependendo da ferramenta. O fenômeno foi observado mesmo com instruções para preservar o significado inicial do texto.
Entre os exemplos, houve alterações em temas religiosos, climáticos e de direitos reprodutivos. Em testes, declarações sobre a existência de Jesus, sobre mudanças climáticas e sobre aborto foram reescritas com cunho político, alterando a percepção do leitor sem mudar explicitamente o enunciado original.
Os pesquisadores destacam que o efeito pode superar o viés intrínseco da IA, gerando mudanças significativas na opinião pública ao longo do tempo. A pesquisa indica uma lacuna de responsabilização regulatória sob leis como a UE AI Act e o Digital Services Act.
Outra constatação diz respeito ao uso de funções de explicação de IA, como a Grok integrada ao X. O estudo aponta que essa função pode trazer viés ao apresentar interpretações que contestam narrativas dominantes, dependendo das instruções recebidas pela ferramenta.
O texto recomenda maior supervisão e transparência sobre como IAs reescrevem conteúdos, sobretudo em plataformas de grande alcance. Os autores concluem que a polidez do texto pode ocultar intenções ou desalinhar o conteúdo com a posição original do autor.
Entre na conversa da comunidade