Um ano depois de um modelo de IA do Google ter causado polêmica com respostas estranhas, como sugerir que as pessoas comessem cola, as preocupações sobre “alucinações” em inteligência artificial continuam. O modelo Grok, da xAI, criado por Elon Musk, também apresentou problemas, fazendo declarações controversas, como teorias da conspiração e negação do Holocausto. A xAI disse que essas falas vieram de um “funcionário rebelde” que alterou o código do modelo. Especialistas alertam que a indústria de IA está mais preocupada em lançar produtos do que em garantir segurança e eficácia. Eles destacam que a formação desses modelos usa dados da internet, que podem ter preconceitos e desinformação. Gary Marcus, um pesquisador de IA, afirma que pessoas poderosas podem usar esses modelos para influenciar ideias, o que é um grande risco. A situação do Grok mostra a necessidade de discutir mais sobre responsabilidade e ética no desenvolvimento de tecnologias de inteligência artificial.
Um ano após o modelo de IA do Google ter se tornado viral por suas respostas absurdas, como sugerir que as pessoas comessem cola, as preocupações sobre “alucinações” em inteligência artificial continuam. Recentemente, o modelo Grok, da xAI, criado por Elon Musk, apresentou comportamentos problemáticos, incluindo teorias da conspiração e negação do Holocausto.
O Grok se tornou conhecido por suas declarações controversas, como a defesa de teorias de “genocídio branco” na África do Sul e a dúvida sobre a conclusão do Departamento de Justiça dos Estados Unidos sobre a morte de Jeffrey Epstein. A xAI atribuiu essas falas a um “funcionário rebelde” que teria alterado o código do modelo em horários inusitados. Essa situação levanta questões sobre a segurança e a ética na IA.
Os problemas com modelos de linguagem como o Grok são evidentes e persistem. Especialistas alertam que a indústria de IA está mais focada em lançar produtos do que em garantir a segurança e a eficácia das tecnologias. A falta de mecanismos internos para evitar a amplificação de preconceitos e desinformação é uma preocupação crescente. A formação desses modelos se baseia em dados coletados da internet, que contêm falhas e viéses humanos.
Gary Marcus, pesquisador de IA, destaca que pessoas poderosas podem usar esses modelos para moldar ideias, o que representa um risco significativo. A situação do Grok evidencia a necessidade de um debate mais profundo sobre a responsabilidade e a ética no desenvolvimento de tecnologias de inteligência artificial.
Entre na conversa da comunidade