Um novo conjunto de dados chamado SHADES<\/strong> foi lan\u00e7ado para ajudar a identificar e combater preconceitos em modelos de intelig\u00eancia artificial (IA). Desenvolvido por uma equipe internacional liderada por Margaret Mitchell<\/strong>, cientista-chefe de \u00e9tica da startup Hugging Face, o SHADES analisa estere\u00f3tipos em dezesseis idiomas<\/strong>.<\/p>\n O conjunto de dados foi criado para abordar as cr\u00edticas que modelos de linguagem enfrentam devido a preconceitos culturais. A maioria das ferramentas existentes para detectar estere\u00f3tipos opera apenas em ingl\u00eas, o que limita sua efic\u00e1cia em outros idiomas. Zeerak Talat<\/strong>, da Universidade de Edimburgo, destacou que a tradu\u00e7\u00e3o autom\u00e1tica pode falhar em reconhecer estere\u00f3tipos espec\u00edficos de l\u00ednguas n\u00e3o inglesas.<\/p>\n Para superar essas limita\u00e7\u00f5es, o SHADES foi constru\u00eddo com contribui\u00e7\u00f5es de falantes nativos de diversas l\u00ednguas, incluindo \u00e1rabe, chin\u00eas e holand\u00eas. Os pesquisadores coletaram 304 estere\u00f3tipos<\/strong> relacionados \u00e0 apar\u00eancia f\u00edsica, identidade pessoal e fatores sociais. Cada estere\u00f3tipo foi anotado com informa\u00e7\u00f5es sobre a regi\u00e3o de reconhecimento e o grupo alvo.<\/p>\n Os modelos de IA foram testados com esses estere\u00f3tipos, gerando pontua\u00e7\u00f5es de vi\u00e9s. Os resultados mostraram que, ao serem expostos a frases problem\u00e1ticas, os modelos frequentemente refor\u00e7avam os estere\u00f3tipos. Por exemplo, uma resposta a “minorias amam \u00e1lcool” incluiu afirma\u00e7\u00f5es prejudiciais sobre consumo e hospitaliza\u00e7\u00e3o.<\/p>\n Mitchell afirmou que os modelos justificam estere\u00f3tipos com uma mistura de pseudoci\u00eancia e evid\u00eancias hist\u00f3ricas fabricadas. Isso pode perpetuar vis\u00f5es problem\u00e1ticas, apresentando informa\u00e7\u00f5es como se fossem verdadeiras. O SHADES \u00e9 visto como uma ferramenta diagn\u00f3stica para identificar falhas em modelos de IA.<\/p>\n Os pesquisadores planejam apresentar suas descobertas na confer\u00eancia anual da Nations of the Americas chapter<\/strong> da Association for Computational Linguistics<\/strong> em maio. A equipe espera que outros contribuam com novos idiomas e estere\u00f3tipos, aprimorando a tecnologia de IA. Mitchell<\/strong> ressaltou que o projeto \u00e9 um esfor\u00e7o colaborativo para desenvolver melhores modelos de linguagem.<\/p>\n","protected":false},"excerpt":{"rendered":" Modelos de intelig\u00eancia artificial, especialmente os de linguagem, t\u00eam sido criticados por conter preconceitos e estere\u00f3tipos culturais. Para ajudar a resolver esse problema, foi criado um novo conjunto de dados chamado SHADES, que analisa estere\u00f3tipos em 16 idiomas. Esse conjunto foi desenvolvido por uma equipe internacional liderada por Margaret Mitchell, da empresa Hugging Face. O SHADES permite identificar e combater preconceitos nas respostas de chatbots em v\u00e1rias l\u00ednguas, algo que as ferramentas anteriores n\u00e3o conseguiam fazer adequadamente. Os pesquisadores testaram como os modelos de IA reagem a estere\u00f3tipos, e descobriram que muitas vezes eles refor\u00e7am esses preconceitos em suas respostas. Por exemplo, um modelo respondeu a um estere\u00f3tipo sobre minorias com uma afirma\u00e7\u00e3o problem\u00e1tica sobre o consumo de \u00e1lcool. O conjunto de dados inclui 304 estere\u00f3tipos relacionados \u00e0 apar\u00eancia, identidade e ocupa\u00e7\u00f5es, e foi criado com a ajuda de falantes nativos de v\u00e1rias l\u00ednguas. Os resultados ser\u00e3o apresentados em uma confer\u00eancia em maio, e a equipe espera que outros contribuam com mais estere\u00f3tipos e idiomas para melhorar os modelos de linguagem no futuro.<\/p>\n","protected":false},"author":15,"featured_media":0,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"summary":"Conjunto de dados SHADES analisa estere\u00f3tipos em 16 idiomas, ajudando a combater preconceitos em modelos de IA.","footnotes":""},"categories":[12,16],"tags":[100],"class_list":["post-125066","post","type-post","status-publish","format-standard","hentry","category-entretenimento","category-tecnologia","tag-noticia"],"_links":{"self":[{"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/posts\/125066","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/users\/15"}],"replies":[{"embeddable":true,"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/comments?post=125066"}],"version-history":[{"count":0,"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/posts\/125066\/revisions"}],"wp:attachment":[{"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/media?parent=125066"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/categories?post=125066"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/tags?post=125066"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}Metodologia do SHADES<\/h3>\n
Impacto e Futuro do SHADES<\/h3>\n