Em um episódio recente, o Grok, chatbot de IA da X, permitiu que usuários gerassem imagens de mulheres não consentidas e de menores. A empresa inicialmente informou que colocaria a função atrás de paywall, mas depois alterou a política para adotar medidas técnicas de bloqueio. Na semana passada, a X implementou geolocalização para bloquear a geração de imagens de pessoas reais em trajes reveladores em jurisdições onde a prática é ilegal.
A discussão envolve Elon Musk, líder da X e criador do Grok, e especialistas ouvidos pelo The Bulletin, como Mike Cosper, Russell Moore e Christine Emba. O objetivo é entender as mudanças de política, riscos de desumanização e impactos morais da tecnologia. A conversa aborda também como a legislação atual reage a conteúdos potencialmente prejudiciais gerados por IA.
Contexto e mudanças de políticas
Segundo fontes, a X já havia anunciado medidas para conter abusos, incluindo restrições por localização. Pesquisadores destacam que conteúdos envolvendo menores ou pessoas sem consentimento geram danos duradouros, mesmo quando criados por IA. O tema acende debates sobre responsabilidades das plataformas.
Reações e perspetivas
Especialistas ressaltam que a personalização de IA aumenta o vínculo do usuário com a ferramenta e pode ampliar impactos negativos, como humilhação e pressão social. A discussão envolve ainda a necessidade de marcos regulatórios mais claros, além de ações para reduzir danos e responsabilizar usuários e plataformas.
Entre na conversa da comunidade