{"id":136229,"date":"2025-03-11T05:00:00","date_gmt":"2025-03-11T08:00:00","guid":{"rendered":"https:\/\/production.portaltela.com\/noticias\/2025\/03\/11\/novos-benchmarks-de-ia-prometem-reduzir-vies-e-aumentar-a-equidade-nos-modelos\/"},"modified":"2025-03-11T05:00:00","modified_gmt":"2025-03-11T08:00:00","slug":"novos-benchmarks-de-ia-prometem-reduzir-vies-e-aumentar-a-equidade-nos-modelos","status":"publish","type":"post","link":"https:\/\/www.portaltela.com\/cotidiano\/tecnologia\/2025\/03\/11\/novos-benchmarks-de-ia-prometem-reduzir-vies-e-aumentar-a-equidade-nos-modelos\/","title":{"rendered":"Novos benchmarks de IA prometem reduzir vi\u00e9s e aumentar a equidade nos modelos"},"content":{"rendered":"

Uma nova pesquisa da equipe da Universidade de Stanford, publicada no arXiv em fevereiro de 2024, introduz oito novos benchmarks<\/strong> para ajudar desenvolvedores a reduzir o vi\u00e9s em modelos de intelig\u00eancia artificial (IA). Os pesquisadores se motivaram a investigar o vi\u00e9s ap\u00f3s observar falhas em abordagens anteriores, que, embora pontuassem bem em benchmarks de justi\u00e7a, resultavam em sa\u00eddas incorretas. Angelina Wang<\/strong>, autora principal do estudo, afirma que tratar todos de forma id\u00eantica pode ser “excessivamente rigoroso”, sugerindo que ignorar diferen\u00e7as entre grupos pode, na verdade, tornar os sistemas de IA menos justos.<\/p>\n

Os novos benchmarks s\u00e3o divididos em duas categorias: consci\u00eancia de diferen\u00e7a<\/strong> e consci\u00eancia contextual<\/strong>. A primeira avalia a capacidade da IA de responder a perguntas objetivas sobre leis e demografia, enquanto a segunda envolve julgamentos de valor, como determinar qual frase \u00e9 mais prejudicial. Por exemplo, um teste normativo questiona qual das frases perpetua estere\u00f3tipos negativos, destacando a import\u00e2ncia de reconhecer nuances nas respostas da IA. Apesar de modelos como Gemma-2<\/strong> e GPT-4o<\/strong> terem obtido boas pontua\u00e7\u00f5es em benchmarks anteriores, o estudo de Stanford revelou que eles falharam nas novas avalia\u00e7\u00f5es.<\/p>\n

Os pesquisadores argumentam que t\u00e9cnicas de redu\u00e7\u00e3o de vi\u00e9s, que instruem os modelos a serem “justos” ao tratar todos os grupos da mesma forma, podem prejudicar a qualidade das sa\u00eddas. Um exemplo \u00e9 a detec\u00e7\u00e3o de melanoma, onde sistemas treinados com mais dados de pele branca t\u00eam desempenho inferior em pele negra quando tentam igualar os resultados. Divya Siddarth<\/strong>, do Collective Intelligence Project, enfatiza a necessidade de reconhecer diferen\u00e7as, mesmo que isso cause desconforto. Wang e sua equipe acreditam que os novos benchmarks s\u00e3o um passo importante para que a IA compreenda as complexidades da sociedade.<\/p>\n

A pesquisa sugere que, al\u00e9m de melhorar os benchmarks, \u00e9 essencial investir em conjuntos de dados mais diversos<\/strong> e explorar a interpretabilidade mecanicista<\/strong> dos modelos. Isso inclui identificar e neutralizar neur\u00f4nios respons\u00e1veis por vi\u00e9s. No entanto, h\u00e1 um debate sobre a viabilidade de uma IA verdadeiramente justa sem a supervis\u00e3o humana. Sandra Wachter<\/strong>, da Universidade de Oxford, argumenta que sistemas algor\u00edtmicos n\u00e3o devem fazer avalia\u00e7\u00f5es \u00e9ticas sozinhos. A discuss\u00e3o sobre quais valores os modelos de IA devem refletir \u00e9 complexa, dada a diversidade cultural. Wang conclui que \u00e9 crucial ir al\u00e9m de defini\u00e7\u00f5es universais de justi\u00e7a e considerar contextos espec\u00edficos.<\/p>\n","protected":false},"excerpt":{"rendered":"

Uma nova pesquisa da equipe da Universidade de Stanford, publicada no arXiv em fevereiro de 2024, introduz oito novos benchmarks para ajudar desenvolvedores a reduzir o vi\u00e9s em modelos de intelig\u00eancia artificial (IA). Os pesquisadores se motivaram a investigar o vi\u00e9s ap\u00f3s observar falhas em abordagens anteriores, que, embora pontuassem bem em benchmarks de justi\u00e7a, […]<\/p>\n","protected":false},"author":15,"featured_media":0,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"summary":"- Pesquisadores de Stanford introduzem oito benchmarks para avaliar IA e vi\u00e9s.\n- Novas m\u00e9tricas destacam a import\u00e2ncia de reconhecer diferen\u00e7as entre grupos.\n- T\u00e9cnicas de \"igualdade\" podem prejudicar a precis\u00e3o dos modelos de IA.\n- Resultados mostram que modelos populares falham em benchmarks descritivos e normativos.\n- Abordagens para melhorar a justi\u00e7a em IA incluem dados diversos e interpretabilidade.","footnotes":""},"categories":[12,16],"tags":[100],"class_list":["post-136229","post","type-post","status-publish","format-standard","hentry","category-entretenimento","category-tecnologia","tag-noticia"],"_links":{"self":[{"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/posts\/136229","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/users\/15"}],"replies":[{"embeddable":true,"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/comments?post=136229"}],"version-history":[{"count":0,"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/posts\/136229\/revisions"}],"wp:attachment":[{"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/media?parent=136229"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/categories?post=136229"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/tags?post=136229"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}