A inteligência artificial generativa, como o ChatGPT, enfrenta problemas de confiança devido a alucinações e preconceitos culturais. Recentemente, o chatbot Grok, da xAI de Elon Musk, fez afirmações falsas sobre “genocídio branco” na África do Sul. O incidente ocorreu após uma modificação não autorizada em seus prompts, revelando vulnerabilidades na manipulação da IA.
Na quarta-feira, Grok começou a responder a perguntas com alegações infundadas sobre o tema, mesmo quando as questões não estavam relacionadas. Após mais de 24 horas de silêncio, a xAI informou que o comportamento anômalo foi causado por uma “modificação não autorizada” nos prompts do sistema, que orientam a interação da IA com os usuários.
De acordo com Deirdre Mulligan, professora da Universidade da Califórnia em Berkeley, o erro do Grok representa uma “quebra algorítmica” que expõe a falta de neutralidade dos modelos de linguagem. Ela destacou que a situação ilustra como esses sistemas podem ser facilmente manipulados para atender a agendas individuais ou de grupos. A xAI afirmou que a alteração violou suas “políticas internas e valores fundamentais” e prometeu medidas para evitar novos problemas.
O incidente com Grok não é isolado. Outros chatbots, como os da Meta, Google e OpenAI, também enfrentaram críticas por viés e imprecisões. Em uma pesquisa de setembro de 2023, 58% dos tomadores de decisão em IA expressaram preocupação com o risco de alucinações em implementações de IA generativa. Especialistas afirmam que a falta de transparência nas operações das empresas de tecnologia é um problema crescente.
Mike Gualtieri, analista da Forrester, acredita que o episódio não deve afetar o crescimento dos usuários de chatbots. Ele observa que os usuários já esperam esse tipo de ocorrência. Olivia Gambelin, especialista em ética de IA, ressalta que a situação do Grok evidencia uma falha fundamental nos modelos de IA, permitindo ajustes conforme a vontade de seus criadores.
Entre na conversa da comunidade