A revolução digital está transformando a forma como decisões são tomadas, permitindo que inteligências artificiais (IA) realizem escolhas sem intervenção humana. Historicamente, o diálogo nas democracias era mediado por pessoas, mas agora, algoritmos treinados com vastos bancos de dados, que incluem hábitos de consumo e interesses dos usuários, estão moldando esse processo. Esses algoritmos aprendem por meio de um sistema de acerto e erro, prevendo como os usuários reagem ao conteúdo, e são programados para maximizar o engajamento e a monetização.

As plataformas digitais, que controlam a informação acumulada, priorizam o tempo de tela e a viralização, frequentemente disseminando conteúdos que geram emoções intensas, como teorias conspiratórias e radicalizações. Embora as redes sociais ainda dependam da criação inicial de conteúdo humano, a velocidade e a capacidade de disseminação da IA superam em muito a produção individual. A criação de conteúdos por "fake humans", máquinas que geram informações sem intervenção humana, levanta questões sobre a responsabilidade e a autoria do conteúdo.

A definição de IA vai além de máquinas simples; trata-se de sistemas que podem criar e distribuir conteúdo de forma autônoma, baseando-se em dados extensivos sobre os usuários. Isso gera preocupações sobre a transparência dos algoritmos e a responsabilidade pelas informações geradas. A falta de uma autoria clara torna difícil responsabilizar alguém pelo conteúdo produzido, levando a um debate sobre a liberdade de expressão e a ética na programação de IA.

A IA tem potencial para trazer benefícios significativos, mas também é suscetível a preconceitos e interesses dos programadores. A Declaração de Bletchley, de 2023, destaca os riscos de uma IA opaca, onde as decisões algorítmicas são incompreensíveis. O AI Summit em Seul reforçou essa preocupação, apontando que, apesar dos avanços, os pesquisadores ainda não conseguem explicar como os sistemas de IA chegam a suas conclusões, dificultando a avaliação de suas capacidades e implicações.