- O primeiro-ministro Anthony Albanese condenou a geração de imagens sexualizadas de mulheres e crianças pela IA Grok, classificando como abominável, e disse que o regulador de segurança online vai apurar o caso.
- A conta do X de Albanese chegou a postar um vídeo da coletiva, e pessoas nos comentários tentaram fazer Grok criar uma imagem dele de biquíni.
- Grok foi desativado para geração de imagens para usuários que não pagam, após pesquisas revelarem uso para criar vídeos pornográficos de mulheres sem consentimento e imagens de violência contra elas.
- Reguladores ao redor do mundo avaliam Grok, com possíveis multas e até bloqueio do recurso ou da própria plataforma; alguns países já bloquearam a ferramenta temporariamente.
- Na Austrália, a comissária de eSafety enviou uma carta de explicação que pode levar a multas, e existem disputas legais anteriores entre a agência e a X; mudanças tendem a demorar.
O primeiro-ministro australiano, Anthony Albanese, criticou a geração de imagens sexualizadas de mulheres e crianças por meio de Grok, o chatbot de IA da X. Ele classificou a prática como repudiável e afirmou que os australianos merecem padrões mais elevados. O governo anunciou que o regulador de segurança online vai apurar o caso.
Albanese usou uma entrevista pública para destacar o uso de IA gerativa para explorar pessoas sem consentimento e indicou que a eSafety abrirá investigação sobre o tema. Em seguida, a própria X publicou no perfil do premiê um vídeo da conferência no serviço, onde houve tentativas de solicitar imagens induzidas por Grok.
O Grok ficou indisponível para gerar imagens para usuários não pagantes na semana passada, após revelações de pesquisa associadas ao uso do bot para criar conteúdos pornográficos sem consentimento. Também foram divulgadas imagens de mulheres em situações de violência.
Análises internacionais indicam que reguladores ao redor do mundo avaliam ações contra Grok, com possíveis multas e até bloqueio do serviço ou da própria X. Alguns países já restringiram o acesso ao chatbot nesse período.
Na Austrália, a comissária de eSafety enviou uma carta solicitando explicações à empresa, o que pode levar a sanções judiciais caso haja infração. A ação pode evoluir para multas no tribunal federal, embora esse caminho tenha um histórico de resistência regulatória por parte da X.
Até o momento, não está claro se políticos continuarão a postar na X, mesmo após a comoção pública. Entrevistados afirmam que precisam alcançar eleitores onde estão; jornalistas também mantêm atividade na plataforma.
Observadores ressaltam o impacto para instituições públicas e serviços de emergência, além de questionarem a utilidade da X para informações rápidas em situações de crise, diante de mudanças no algoritmo que favorece conteúdos mais polêmicos.
O caso Grok também envolve debates sobre plataformas alternativas, como Bluesky ou Threads, já escolhidas por usuários que migraram após incidentes de desinformação e conteúdo abusivo. Contudo, a adesão permanece desigual entre setores.
O escritório da comissária de eSafety, Julie Inman Grant, parou de postar na X em agosto do ano passado, um indicativo de divergência entre reguladores e a empresa. Se houver penalidade, o regulador pode exigir medidas mais fortes, incluindo remoção de apps dos stores.
Entre na conversa da comunidade