Califórnia investiga Grok por imagens de caráter sexual

O procurador-geral da Califórnia, Rob Bonta, abriu investigação contra a xAI, empresa de Elon Musk, por uso da ferramenta Grok para criar imagens de caráter sexual de mulheres e menores de idade.
A apuração visa verificar se a xAI violou a lei, em meio a acusações de disseminação de deepfakes pornográficos gerados com Grok.
Bonta afirmou que a xAI facilita a produção em larga escala de montagens íntimas não consentidas usadas para assediar mulheres e meninas na internet, principalmente na rede X.
A X Corp. disse ter desativado a função de criação de imagens para usuários que não pagam, desde 9 de janeiro, e afirmou que tomará medidas para coibir conteúdos ilegais e suspender contas envolvidas.
Em análise da organização AI Forensics, mais de vinte mil imagens geradas com Grok mostraram maior parte de pessoas em vestimenta mínima, com cerca de 2% aparentando ter menos de 18 anos.

O procurador-geral da Califórnia anunciou nesta quarta-feira 14 o início de uma investigação contra a empresa xAI, de Elon Musk, por possível violação da lei. A investigação mira a proliferação de imagens de caráter sexual, produzidas com a ferramenta de IA Grok.

A investigação envolve a xAI e busca esclarecer se a empresa facilitou a produção em larga escala de montagens íntimas não consentidas e deepfakes. Rob Bonta afirmou que há tolerância zero para a criação e disseminação de conteúdo sexual não autorizado com IA.

O foco é a rede X, também de Musk, onde as imagens têm sido usadas para assediar mulheres e meninas na internet. O gabinete da procuradoria analisa como a tecnologia pode ter violado leis de privacidade e de exploração de menores.

Contexto internacional e ações da empresa

A controvérsia sobre o Grok tem ganhado repercussão global, com governos avaliando medidas firmes contra conteúdos gerados pela IA. O Grok foi desativado para usuários que não pagam pelo serviço desde 9 de janeiro, após denúncias de uso indevido.

Estudos recentes indicam impacto relevante: análise da AI Forensics, com base em mais de 20 mil imagens geradas, aponta que a maioria mostra idosos ou vestimenta mínima, com 2% possivelmente de menores de 18 anos. A organização destacou riscos de uso indevido da ferramenta.