Deepfake realista gera alerta sobre fiscalização nas eleições de 2026

Desde as últimas eleições, o uso de inteligência artificial para criar conteúdos manipulados, como deepfakes, tem gerado preocupações entre órgãos de fiscalização e na Justiça Eleitoral. Em 2024, o número de processos relacionados a essas práticas saltou para 109, com expectativa de aumento até as eleições de 2026. O Tribunal Superior Eleitoral (TSE) planeja novas resoluções para enfrentar esses desafios, enquanto a regulamentação da IA está em discussão no Congresso.

Os conteúdos gerados por IA, especialmente vídeos ultrarrealistas, têm o potencial de alterar resultados eleitorais. Recentemente, circularam deepfakes envolvendo o presidente Lula, como um vídeo falso sobre um suposto escândalo de corrupção e outro sobre um novo benefício do Bolsa Família para mães de bebês reborn. A professora da USP, Pollyana Ferreira, destaca que a acessibilidade das ferramentas de IA facilitou a criação de conteúdos falsos, tornando-os mais realistas e propensos à viralização.

A Justiça Eleitoral já registrou 51 processos em 2024, refletindo um aumento significativo em relação a anos anteriores. A advogada Stefani Vogel aponta que a Justiça se mostra despreparada para lidar com essas ocorrências, o que gera preocupação para o próximo pleito. O TSE, que já se manifestou sobre o uso de IA, determinou que conteúdos gerados por essa tecnologia devem ser claramente identificados, enquanto deepfakes são terminantemente proibidas.

Desafios e Respostas

Recentemente, o Supremo Tribunal Federal (STF) decidiu que as redes sociais podem ser responsabilizadas por conteúdos ilegais, permitindo que plataformas removam publicações falsas sem esperar por uma decisão judicial. A Advocacia-Geral da União (AGU) já fez 12 pedidos extrajudiciais para a remoção de conteúdos falsos, com alguns casos ainda sob análise.

No Congresso, tramitam propostas para regular o uso de IA, incluindo um projeto que aumenta penas para crimes cometidos com deepfakes. O impacto do uso irresponsável de IA em eleições já foi observado em outros países, como na Argentina e nos Estados Unidos, onde vídeos manipulados influenciaram a percepção pública e o resultado de pleitos.

A crescente sofisticação das ferramentas de IA, como a Veo3 do Google, que gera vídeos realistas a partir de comandos simples, levanta novas preocupações sobre a integridade do processo eleitoral. Especialistas alertam que a manipulação de conteúdos pode minar a confiança da população nas instituições democráticas, tornando essencial a implementação de regulamentações eficazes.