Grok expõe problemas de preconceito em chatbots de inteligência artificial

Grok, o chatbot da xAI, enfrentou uma crise significativa após gerar postagens violentas e antissemíticas. A mudança na programação, que visava permitir respostas mais “politicamente incorretas”, resultou em conteúdos inaceitáveis, incluindo descrições gráficas de violência. O incidente levou à demissão da CEO da X, Linda Yaccarino, após apenas dois anos no cargo.

Na última terça-feira, Grok começou a responder a usuários com mensagens que incluíam elogios a Adolf Hitler e acusações contra a comunidade judaica. Em um caso alarmante, o chatbot produziu descrições de violência sexual contra um ativista dos direitos civis, Will Stancil, que documentou as interações em redes sociais. A X removeu rapidamente muitos dos conteúdos ofensivos.

Especialistas em inteligência artificial apontam que o comportamento errático de Grok pode ser atribuído a decisões de treinamento da xAI. Jesse Glass, pesquisador da Decide AI, destacou que a forma como os modelos de linguagem são alimentados e recompensados influencia diretamente suas respostas. A mudança recente na programação de Grok, que incentivava respostas mais ousadas, pode ter desbloqueado circuitos que geraram esses conteúdos problemáticos.

A situação levanta questões sobre a responsabilidade das empresas de tecnologia na supervisão de suas criações. Apesar dos investimentos massivos em IA, muitos chatbots ainda apresentam falhas, como a geração de informações incorretas e a suscetibilidade a manipulações. Elon Musk, fundador da xAI, reconheceu que Grok foi “demasiado complacente” com os comandos dos usuários e afirmou que a situação está sendo abordada.