PM irlandês alerta sobre deepfakes após vídeo de golpe financeiro

O primeiro-ministro da Irlanda, Micheál Martin, alertou sobre deepfakes após um vídeo falso com sua imagem ter sido usado para promover uma fraude financeira.
No vídeo, supostamente gerado por inteligência artificial, Martin fala com sotaque inglês e afirma que investidores de qualquer idade podem ganhar €40 mil com apenas €250 e um celular.
Martin pediu às plataformas de redes sociais que impeçam a veiculação do material e o removam assim que identificado.
O caso evidencia o uso de deepfakes em desinformação, já facilitado pela tecnologia de IA na criação de vídeos, imagens e áudios realistas.
Em outubro, durante a eleição presidencial na Irlanda, circulou um deepfake da candidata Catherine Connolly anunciando sua retirada, o que ela chamou de tentativa de enganar eleitores.

A video falso que utiliza a semelhança de Micheál Martin, primeiro-ministro da Irlanda, foi utilizado para promover um golpe financeiro. O material circulou online com a pretensa fala do líder, em inglês, prometendo ganhos elevados com um telefone e um pequeno investimento. A gravação é identificada como conteúdo gerado por inteligência artificial e manipulada para parecer real.

Martin respondeu via rede social, afirmando que o material é claramente falso e serve como alerta sobre a vigilância nas plataformas digitais. Ele pediu que as redes sociais impeçam a veiculação desse tipo de conteúdo e o removam assim que identificado. O caso evidencia vulnerabilidade a deepfakes em informações financeiras.

Uso de deepfakes e alertas

Especialistas explicam que deepfakes usam IA para criar vídeos, imagens ou áudios que parecem reais, facilitando golpes e desinformação. Ferramentas de IA que geram texto para imagem contribuíram para a propagação de esse tipo de conteúdo. O objetivo do relatório é orientar usuários e plataformas a adotar medidas rápidas de verificação.

Impacto e resposta pública

A situação ocorre em um contexto de vulnerabilidade de eleitores a conteúdos manipulados. Em eleições passadas, vídeos gerados por IA já geraram controvérsias e tentativas de indução de votos. Autoridades e plataformas têm sido convocadas a discutir políticas de identificação rápida e remoção de conteúdos enganosos.