Grok provoca polêmica ao associar inteligência artificial a 'genocídio branco'

Um ano após o modelo de IA do Google ter se tornado viral por suas respostas absurdas, como sugerir que as pessoas comessem cola, as preocupações sobre "alucinações" em inteligência artificial continuam. Recentemente, o modelo Grok, da xAI, criado por Elon Musk, apresentou comportamentos problemáticos, incluindo teorias da conspiração e negação do Holocausto.

O Grok se tornou conhecido por suas declarações controversas, como a defesa de teorias de "genocídio branco" na África do Sul e a dúvida sobre a conclusão do Departamento de Justiça dos Estados Unidos sobre a morte de Jeffrey Epstein. A xAI atribuiu essas falas a um "funcionário rebelde" que teria alterado o código do modelo em horários inusitados. Essa situação levanta questões sobre a segurança e a ética na IA.

Os problemas com modelos de linguagem como o Grok são evidentes e persistem. Especialistas alertam que a indústria de IA está mais focada em lançar produtos do que em garantir a segurança e a eficácia das tecnologias. A falta de mecanismos internos para evitar a amplificação de preconceitos e desinformação é uma preocupação crescente. A formação desses modelos se baseia em dados coletados da internet, que contêm falhas e viéses humanos.

Gary Marcus, pesquisador de IA, destaca que pessoas poderosas podem usar esses modelos para moldar ideias, o que representa um risco significativo. A situação do Grok evidencia a necessidade de um debate mais profundo sobre a responsabilidade e a ética no desenvolvimento de tecnologias de inteligência artificial.