Desde as últimas eleições, o uso de inteligência artificial para criar conteúdos falsos, como deepfakes, tem gerado preocupações na Justiça Eleitoral. Em 2024, o número de processos relacionados a essas práticas aumentou para 109, e a expectativa é que esse número cresça até 2026. O Tribunal Superior Eleitoral (TSE) está planejando novas regras para lidar com esses desafios, enquanto o Congresso discute a regulamentação da IA. Deepfakes, que são vídeos falsos muito realistas, podem influenciar resultados eleitorais. Recentemente, surgiram deepfakes envolvendo o presidente Lula, incluindo um vídeo falso sobre corrupção e outro sobre um benefício do Bolsa Família. A professora Pollyana Ferreira alerta que a facilidade de acesso às ferramentas de IA torna a criação de conteúdos falsos mais comum. A Justiça Eleitoral já registrou 51 processos em 2024, mostrando um aumento em relação a anos anteriores, e a advogada Stefani Vogel destaca que a Justiça não está preparada para lidar com isso. O TSE já afirmou que conteúdos gerados por IA devem ser identificados, e deepfakes são proibidas. O Supremo Tribunal Federal (STF) decidiu que redes sociais podem ser responsabilizadas por conteúdos ilegais, permitindo a remoção de publicações falsas. A Advocacia-Geral da União (AGU) fez 12 pedidos para remover conteúdos falsos, e algumas solicitações ainda estão sendo analisadas. No Congresso, há propostas para aumentar as penas para crimes com deepfakes. O uso irresponsável de IA em eleições já afetou outros países, como Argentina e Estados Unidos, onde vídeos manipulados mudaram a percepção pública. A evolução das ferramentas de IA, como a Veo3 do Google, que cria vídeos realistas facilmente, levanta novas preocupações sobre a integridade das eleições. Especialistas alertam que a manipulação de conteúdos pode prejudicar a confiança nas instituições democráticas, tornando urgente a criação de regulamentações eficazes.
Desde as últimas eleições, o uso de inteligência artificial para criar conteúdos manipulados, como deepfakes, tem gerado preocupações entre órgãos de fiscalização e na Justiça Eleitoral. Em 2024, o número de processos relacionados a essas práticas saltou para 109, com expectativa de aumento até as eleições de 2026. O Tribunal Superior Eleitoral (TSE) planeja novas resoluções para enfrentar esses desafios, enquanto a regulamentação da IA está em discussão no Congresso.
Os conteúdos gerados por IA, especialmente vídeos ultrarrealistas, têm o potencial de alterar resultados eleitorais. Recentemente, circularam deepfakes envolvendo o presidente Lula, como um vídeo falso sobre um suposto escândalo de corrupção e outro sobre um novo benefício do Bolsa Família para mães de bebês reborn. A professora da USP, Pollyana Ferreira, destaca que a acessibilidade das ferramentas de IA facilitou a criação de conteúdos falsos, tornando-os mais realistas e propensos à viralização.
A Justiça Eleitoral já registrou 51 processos em 2024, refletindo um aumento significativo em relação a anos anteriores. A advogada Stefani Vogel aponta que a Justiça se mostra despreparada para lidar com essas ocorrências, o que gera preocupação para o próximo pleito. O TSE, que já se manifestou sobre o uso de IA, determinou que conteúdos gerados por essa tecnologia devem ser claramente identificados, enquanto deepfakes são terminantemente proibidas.
Desafios e Respostas
Recentemente, o Supremo Tribunal Federal (STF) decidiu que as redes sociais podem ser responsabilizadas por conteúdos ilegais, permitindo que plataformas removam publicações falsas sem esperar por uma decisão judicial. A Advocacia-Geral da União (AGU) já fez 12 pedidos extrajudiciais para a remoção de conteúdos falsos, com alguns casos ainda sob análise.
No Congresso, tramitam propostas para regular o uso de IA, incluindo um projeto que aumenta penas para crimes cometidos com deepfakes. O impacto do uso irresponsável de IA em eleições já foi observado em outros países, como na Argentina e nos Estados Unidos, onde vídeos manipulados influenciaram a percepção pública e o resultado de pleitos.
A crescente sofisticação das ferramentas de IA, como a Veo3 do Google, que gera vídeos realistas a partir de comandos simples, levanta novas preocupações sobre a integridade do processo eleitoral. Especialistas alertam que a manipulação de conteúdos pode minar a confiança da população nas instituições democráticas, tornando essencial a implementação de regulamentações eficazes.
Entre na conversa da comunidade