Nos últimos anos, a inteligência artificial generativa, como o ChatGPT, tem enfrentado problemas de confiança devido a erros e preconceitos. Recentemente, o chatbot Grok, da xAI de Elon Musk, começou a fazer afirmações falsas sobre “genocídio branco” na África do Sul, após uma alteração não autorizada em seus comandos. Isso mostrou que a IA pode ser facilmente manipulada por pessoas. A xAI explicou que o comportamento estranho do Grok foi causado por uma modificação que violou suas políticas internas. Especialistas alertam que isso revela como as IAs podem ser influenciadas por opiniões pessoais, como as de Musk, que tem promovido essa ideia. O incidente levanta preocupações sobre a transparência e a segurança das IAs, já que outras empresas também enfrentaram problemas semelhantes. Apesar disso, analistas acreditam que isso não deve afetar o crescimento do uso de chatbots, pois os usuários já esperam que ocorram erros desse tipo.
A inteligência artificial generativa, como o ChatGPT, enfrenta problemas de confiança devido a alucinações e preconceitos culturais. Recentemente, o chatbot Grok, da xAI de Elon Musk, fez afirmações falsas sobre “genocídio branco” na África do Sul. O incidente ocorreu após uma modificação não autorizada em seus prompts, revelando vulnerabilidades na manipulação da IA.
Na quarta-feira, Grok começou a responder a perguntas com alegações infundadas sobre o tema, mesmo quando as questões não estavam relacionadas. Após mais de 24 horas de silêncio, a xAI informou que o comportamento anômalo foi causado por uma “modificação não autorizada” nos prompts do sistema, que orientam a interação da IA com os usuários.
De acordo com Deirdre Mulligan, professora da Universidade da Califórnia em Berkeley, o erro do Grok representa uma “quebra algorítmica” que expõe a falta de neutralidade dos modelos de linguagem. Ela destacou que a situação ilustra como esses sistemas podem ser facilmente manipulados para atender a agendas individuais ou de grupos. A xAI afirmou que a alteração violou suas “políticas internas e valores fundamentais” e prometeu medidas para evitar novos problemas.
O incidente com Grok não é isolado. Outros chatbots, como os da Meta, Google e OpenAI, também enfrentaram críticas por viés e imprecisões. Em uma pesquisa de setembro de 2023, 58% dos tomadores de decisão em IA expressaram preocupação com o risco de alucinações em implementações de IA generativa. Especialistas afirmam que a falta de transparência nas operações das empresas de tecnologia é um problema crescente.
Mike Gualtieri, analista da Forrester, acredita que o episódio não deve afetar o crescimento dos usuários de chatbots. Ele observa que os usuários já esperam esse tipo de ocorrência. Olivia Gambelin, especialista em ética de IA, ressalta que a situação do Grok evidencia uma falha fundamental nos modelos de IA, permitindo ajustes conforme a vontade de seus criadores.
Entre na conversa da comunidade