Sora oferece maior controle sobre vídeos com sua representação em IA

A OpenAI lançou o aplicativo Sora, que permite a criação de vídeos curtos com versões geradas por inteligência artificial dos usuários, focando em deepfakes.
O uso de “cameos” gerou preocupações sobre a disseminação de desinformação, especialmente em contextos políticos.
Em resposta, a OpenAI anunciou atualizações que permitem aos usuários controlar como suas versões de IA aparecem e restringir seu uso em certos contextos.
Os usuários poderão personalizar suas versões de IA, mas especialistas questionam a eficácia das novas medidas de segurança.
Desde o lançamento, a plataforma enfrentou críticas por conteúdo considerado “lixo” digital e falhas nas configurações de privacidade, mas a OpenAI se comprometeu a melhorar a segurança.

Recentemente, a OpenAI lançou o Sora, um aplicativo que permite a criação de vídeos curtos com versões geradas por inteligência artificial dos usuários, similar ao TikTok, mas focado em deepfakes. Essa inovação gerou preocupações sobre a disseminação de desinformação, especialmente com o uso de “cameos”, que são aparições virtuais dos usuários.

Em resposta a essas preocupações, a OpenAI anunciou atualizações que oferecem aos usuários maior controle sobre como suas versões de IA aparecem. Agora, é possível restringir o uso dessas versões em contextos específicos, como política, o que visa mitigar o problema da desinformação. Segundo Bill Peebles, líder da equipe Sora, os usuários poderão impedir que suas versões de IA apareçam em vídeos envolvendo certos temas ou expressem palavras indesejadas.

Controles Adicionais

Além das restrições, os usuários poderão personalizar suas versões de IA, como, por exemplo, fazer com que seu “eu” virtual use um boné com a frase “Fã número 1 de ketchup” em todos os vídeos. No entanto, especialistas alertam que, apesar das novas funcionalidades, a eficácia dessas medidas é questionável. A história de bots alimentados por IA, como o ChatGPT, mostra que é possível contornar restrições de segurança.

Desde o lançamento do Sora, a plataforma já enfrentou críticas pela quantidade de conteúdo gerado que pode ser considerado “lixo” digital. As primeiras semanas de uso revelaram falhas nas configurações de privacidade, permitindo que usuários não autorizados criassem vídeos com a imagem de outros. Peebles afirmou que a OpenAI está comprometida em aprimorar as medidas de segurança e que novas funcionalidades serão implementadas para garantir o controle dos usuários sobre suas versões de IA.