{"id":160713,"date":"2025-05-15T11:18:18","date_gmt":"2025-05-15T14:18:18","guid":{"rendered":"https:\/\/production.portaltela.com\/noticias\/2025\/05\/15\/agentes-de-inteligencia-artificial-desenvolvem-normas-sociais-sem-programacao-previa\/"},"modified":"2025-05-15T11:18:18","modified_gmt":"2025-05-15T14:18:18","slug":"agentes-de-inteligencia-artificial-desenvolvem-normas-sociais-sem-programacao-previa","status":"publish","type":"post","link":"https:\/\/www.portaltela.com\/cotidiano\/tecnologia\/2025\/05\/15\/agentes-de-inteligencia-artificial-desenvolvem-normas-sociais-sem-programacao-previa\/","title":{"rendered":"Modelos de linguagem desenvolvem normas sociais em jogos interativos, revela estudo"},"content":{"rendered":"<p>Um estudo recente publicado na revista *Science Advances* revela que <strong>grandes modelos de linguagem (LLMs)<\/strong> podem desenvolver conven\u00e7\u00f5es sociais de forma aut\u00f4noma ao interagir em jogos. A pesquisa foi conduzida por uma equipe liderada por Andrea Baronchelli, professor do City, University of London.<\/p>\n<p>Os pesquisadores utilizaram o modelo Claude, da Anthropic, para realizar um jogo de nomea\u00e7\u00e3o, onde pares de modelos eram incentivados a escolher o mesmo nome para um objeto. Ap\u00f3s v\u00e1rias rodadas, os modelos come\u00e7aram a convergir para escolhas semelhantes, demonstrando a cria\u00e7\u00e3o de uma norma social. Este fen\u00f4meno foi observado tamb\u00e9m com o modelo Llama, da Meta.<\/p>\n<p>Baronchelli destacou que <strong>a forma\u00e7\u00e3o de sesgos coletivos<\/strong> pode ocorrer mesmo quando os modelos individuais n\u00e3o apresentam prefer\u00eancias. Isso sugere que as intera\u00e7\u00f5es em grupo podem gerar <strong>prefer\u00eancias coletivas<\/strong> que n\u00e3o s\u00e3o evidentes ao analisar os modelos isoladamente. O estudo aponta que esses sesgos podem ter implica\u00e7\u00f5es \u00e9ticas, especialmente em rela\u00e7\u00e3o a como os LLMs s\u00e3o treinados com dados da internet.<\/p>\n<p>Os resultados indicam que as conven\u00e7\u00f5es sociais podem surgir espontaneamente entre agentes de IA, sem necessidade de programa\u00e7\u00e3o expl\u00edcita. Baronchelli e sua equipe acreditam que entender esses mecanismos pode ajudar a alinhar sistemas de IA com valores humanos e objetivos sociais.<\/p>\n<p>A pesquisa tamb\u00e9m levanta quest\u00f5es sobre como minorias comprometidas podem influenciar normas dentro de grupos, um fen\u00f4meno conhecido como <strong>din\u00e2mica de massa cr\u00edtica<\/strong>. Os autores sugerem que investigar essas din\u00e2micas pode ser crucial para mitigar riscos associados a normas prejudiciais em sistemas de IA.<\/p>\n","protected":false},"excerpt":{"rendered":"<p>Um estudo recente mostrou que grandes modelos de linguagem, como os usados em intelig\u00eancia artificial, podem criar suas pr\u00f3prias regras sociais ao jogar jogos simples. Os pesquisadores observaram que, ao interagir em um jogo de nomea\u00e7\u00e3o, esses modelos come\u00e7aram a escolher as mesmas letras, formando uma norma social sem serem programados para isso. O experimento envolveu 24 c\u00f3pias de um modelo chamado Claude, que foram emparelhadas aleatoriamente para escolher letras de um conjunto. Quando os modelos jogaram v\u00e1rias vezes, eles come\u00e7aram a escolher as mesmas letras, mostrando um vi\u00e9s coletivo. Isso \u00e9 interessante porque, mesmo que os modelos n\u00e3o tivessem prefer\u00eancias individuais, o grupo acabou desenvolvendo uma prefer\u00eancia comum. Os cientistas acreditam que entender como essas normas surgem pode ajudar a criar sistemas de IA que se alinhem melhor com valores humanos, mas tamb\u00e9m alertam sobre os riscos de vi\u00e9s que podem surgir.<\/p>\n","protected":false},"author":15,"featured_media":0,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"summary":"Modelos de linguagem podem criar normas sociais aut\u00f4nomas em jogos, revelando riscos de vi\u00e9s coletivo em intelig\u00eancia artificial.","footnotes":""},"categories":[12,16],"tags":[100],"class_list":["post-160713","post","type-post","status-publish","format-standard","hentry","category-entretenimento","category-tecnologia","tag-noticia"],"_links":{"self":[{"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/posts\/160713","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/users\/15"}],"replies":[{"embeddable":true,"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/comments?post=160713"}],"version-history":[{"count":0,"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/posts\/160713\/revisions"}],"wp:attachment":[{"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/media?parent=160713"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/categories?post=160713"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/tags?post=160713"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}