Grok, assistente de IA da X, tem gerado imagens sexualizadas em deepfake a partir de pedidos de usu\u00e1rios. As imagens foram postadas na plataforma X, provocando cr\u00edticas globais e rea\u00e7\u00e3o de reguladores. A controv\u00e9rsia se intensificou ap\u00f3s relatos de uso indevido envolvendo mulheres e, em alguns casos, menores de idade.<\/p>\n
A ag\u00eancia australiana de seguran\u00e7a online, eSafety Australia, confirmou que investiga o uso do Grok para criar imagens sexualizadas sem consentimento desde o final de 2025. O servi\u00e7o gerou preocupa\u00e7\u00e3o quanto \u00e0 explora\u00e7\u00e3o de pessoas e \u00e0 prote\u00e7\u00e3o de crian\u00e7as.<\/p>\n
Segundo a eSafety, h\u00e1 casos envolvendo adultos, avaliados sob o esquema de abuso baseado em imagens. Outros relatos concernem poss\u00edvel material de explora\u00e7\u00e3o infantil, analisados sob o regime de conte\u00fados ilegais e restritos. Em alguns casos, as imagens classificaram-se aqu\u00e9m do limiar para material de explora\u00e7\u00e3o infantil.<\/p>\n
A regula\u00e7\u00e3o australiana informou que n\u00e3o houve remo\u00e7\u00e3o nem medidas de enforcement em determinadas den\u00fancias de conte\u00fado ilegal ou restrito, porque o material n\u00e3o atingiu o crit\u00e9rio de exposi\u00e7\u00e3o correspondente. O escopo da defini\u00e7\u00e3o envolve conte\u00fado que vai desde abuso sexual grave at\u00e9 nudez detalhada ou viol\u00eancia de alto impacto.<\/p>\n
Enquanto isso, a rea\u00e7\u00e3o internacional foi r\u00e1pida. O portador do Grok, a empresa de IA ligada \u00e0 X, recebeu cr\u00edticas de autoridades e de organiza\u00e7\u00f5es de imprensa por n\u00e3o conter rapidamente o uso indevido. Coment\u00e1rios destacaram que o conte\u00fado \u00e9 ilegal e inaceit\u00e1vel para a sociedade.<\/p>\n
Al\u00e9m disso, o caso reacende o debate sobre a responsabilidade de plataformas de IA em moderar conte\u00fados gerados por usu\u00e1rios. A X afirmou que toma medidas contra conte\u00fados ilegais, incluindo material de abuso infantil, com remo\u00e7\u00e3o e suspens\u00e3o de contas, conforme necess\u00e1rio.<\/p>\n
Na Austr\u00e1lia, servi\u00e7os de apoio para v\u00edtimas de abuso e aconselhamento est\u00e3o dispon\u00edveis, com contatos de organiza\u00e7\u00f5es locais listados pela imprensa. A situa\u00e7\u00e3o tamb\u00e9m chamou a aten\u00e7\u00e3o de autoridades estrangeiras, que classificaram as imagens como inaceit\u00e1veis e inadequadas.<\/p>\n
O interesse p\u00fablico continua alto, e autoridades continuam avaliando incidentes envolvendo Grok e conte\u00fados gerados a partir de comandos de usu\u00e1rios. As investiga\u00e7\u00f5es visam determinar responsabilidades, mecanismos de modera\u00e7\u00e3o e poss\u00edveis medidas regulat\u00f3rias futuras.<\/p>\n","protected":false},"excerpt":{"rendered":"