Um estudo recente mostrou que grandes modelos de linguagem, como os usados em inteligência artificial, podem criar suas próprias regras sociais ao jogar jogos simples. Os pesquisadores observaram que, ao interagir em um jogo de nomeação, esses modelos começaram a escolher as mesmas letras, formando uma norma social sem serem programados para isso. O experimento envolveu 24 cópias de um modelo chamado Claude, que foram emparelhadas aleatoriamente para escolher letras de um conjunto. Quando os modelos jogaram várias vezes, eles começaram a escolher as mesmas letras, mostrando um viés coletivo. Isso é interessante porque, mesmo que os modelos não tivessem preferências individuais, o grupo acabou desenvolvendo uma preferência comum. Os cientistas acreditam que entender como essas normas surgem pode ajudar a criar sistemas de IA que se alinhem melhor com valores humanos, mas também alertam sobre os riscos de viés que podem surgir.
Um estudo recente publicado na revista *Science Advances* revela que grandes modelos de linguagem (LLMs) podem desenvolver convenções sociais de forma autônoma ao interagir em jogos. A pesquisa foi conduzida por uma equipe liderada por Andrea Baronchelli, professor do City, University of London.
Os pesquisadores utilizaram o modelo Claude, da Anthropic, para realizar um jogo de nomeação, onde pares de modelos eram incentivados a escolher o mesmo nome para um objeto. Após várias rodadas, os modelos começaram a convergir para escolhas semelhantes, demonstrando a criação de uma norma social. Este fenômeno foi observado também com o modelo Llama, da Meta.
Baronchelli destacou que a formação de sesgos coletivos pode ocorrer mesmo quando os modelos individuais não apresentam preferências. Isso sugere que as interações em grupo podem gerar preferências coletivas que não são evidentes ao analisar os modelos isoladamente. O estudo aponta que esses sesgos podem ter implicações éticas, especialmente em relação a como os LLMs são treinados com dados da internet.
Os resultados indicam que as convenções sociais podem surgir espontaneamente entre agentes de IA, sem necessidade de programação explícita. Baronchelli e sua equipe acreditam que entender esses mecanismos pode ajudar a alinhar sistemas de IA com valores humanos e objetivos sociais.
A pesquisa também levanta questões sobre como minorias comprometidas podem influenciar normas dentro de grupos, um fenômeno conhecido como dinâmica de massa crítica. Os autores sugerem que investigar essas dinâmicas pode ser crucial para mitigar riscos associados a normas prejudiciais em sistemas de IA.
Entre na conversa da comunidade