{"id":97480,"date":"2025-04-23T18:12:21","date_gmt":"2025-04-23T21:12:21","guid":{"rendered":"https:\/\/production.portaltela.com\/noticias\/2025\/04\/23\/moe-20-novas-abordagens-revolucionam-a-eficiencia-em-sistemas-de-inteligencia-artificial\/"},"modified":"2025-04-23T18:12:21","modified_gmt":"2025-04-23T21:12:21","slug":"moe-20-novas-abordagens-revolucionam-a-eficiencia-em-sistemas-de-inteligencia-artificial","status":"publish","type":"post","link":"https:\/\/www.portaltela.com\/cotidiano\/tecnologia\/2025\/04\/23\/moe-20-novas-abordagens-revolucionam-a-eficiencia-em-sistemas-de-inteligencia-artificial\/","title":{"rendered":"MoE 2.0: Novas abordagens revolucionam a efici\u00eancia em sistemas de intelig\u00eancia artificial"},"content":{"rendered":"<p>O conceito de <strong>Mixture-of-Experts (MoE)<\/strong> tem revolucionado o desenvolvimento de sistemas de intelig\u00eancia artificial (IA), permitindo o crescimento de modelos com trilh\u00f5es de par\u00e2metros sem sobrecarregar o hardware. Recentemente, novas abordagens como <strong>S\u2019MoRE<\/strong> e <strong>Symbolic-MoE<\/strong> foram introduzidas, otimizando a efici\u00eancia e a flexibilidade desses modelos.<\/p>\n<p>O MoE permite que modelos selecionem dinamicamente especialistas com base na entrada, especializando-se em diferentes subdom\u00ednios ou tarefas. Exemplos incluem o <strong>DeepSeek-V3<\/strong>, que possui <strong>671 bilh\u00f5es de par\u00e2metros<\/strong>, e o <strong>Gemini 1.5 Pro<\/strong> do Google, que utiliza um Transformer MoE esparso para gerenciar eficientemente um contexto de um milh\u00e3o de tokens. Outros modelos not\u00e1veis s\u00e3o o <strong>Mixtral 8\u00d722B<\/strong> da Mistral e o <strong>Qwen2.5-Max<\/strong> da Alibaba, que se destacam em desempenho e custo.<\/p>\n<h3>Novas Abordagens<\/h3>\n<p>Duas novas pesquisas foram publicadas recentemente. A primeira, <strong>S\u2019MoRE<\/strong>, combina adaptadores de baixa classifica\u00e7\u00e3o (LoRA) com uma \u00e1rvore hier\u00e1rquica de MoE, proporcionando uma flexibilidade estrutural que modelos densos n\u00e3o conseguem igualar. A segunda, <strong>Symbolic-MoE<\/strong>, desenvolvida na Universidade da Carolina do Norte, move o MoE para o espa\u00e7o da linguagem pura, superando a precis\u00e3o do GPT-4o-mini e permitindo a opera\u00e7\u00e3o de <strong>16 especialistas em uma \u00fanica GPU<\/strong>.<\/p>\n<p>Essas inova\u00e7\u00f5es, como <strong>eMoE<\/strong>, <strong>MoEShard<\/strong> e <strong>Speculative-MoE<\/strong>, visam otimizar a infer\u00eancia em modelos MoE, prometendo efici\u00eancia e escalabilidade. O avan\u00e7o dessas t\u00e9cnicas pode ser crucial para o desenvolvimento de modelos de c\u00f3digo aberto que atendam a demandas crescentes.<\/p>\n<p>A nova fase do MoE, chamada de <strong>MoE 2.0<\/strong>, est\u00e1 em ascens\u00e3o, com um foco em reimaginar a efici\u00eancia e a capacidade de infer\u00eancia dos modelos. As inova\u00e7\u00f5es recentes podem abrir caminho para um futuro mais robusto e acess\u00edvel na IA.<\/p>\n","protected":false},"excerpt":{"rendered":"<p>O Mixture-of-Experts, ou MoE, \u00e9 uma t\u00e9cnica que ajuda a criar sistemas de intelig\u00eancia artificial muito grandes, com trilh\u00f5es de par\u00e2metros, sem exigir tanto do hardware. Novas abordagens, como S\u2019MoRE e Symbolic-MoE, foram apresentadas recentemente, melhorando a efici\u00eancia e a flexibilidade desses modelos. O MoE permite que os modelos escolham especialistas para tarefas espec\u00edficas, como o DeepSeek-V3, que tem 671 bilh\u00f5es de par\u00e2metros, e o Gemini 1.5 Pro, que usa um Transformer MoE para lidar com um milh\u00e3o de tokens. Outros modelos importantes incluem o Mixtral 8\u00d722B e o Qwen2.5-Max, que se destacam em desempenho e custo. As novas pesquisas S\u2019MoRE e Symbolic-MoE trazem inova\u00e7\u00f5es, como a combina\u00e7\u00e3o de adaptadores com uma estrutura hier\u00e1rquica e a aplica\u00e7\u00e3o do MoE em linguagem pura, permitindo que 16 especialistas operem em uma \u00fanica GPU. Essas inova\u00e7\u00f5es visam melhorar a efici\u00eancia dos modelos MoE e podem ser importantes para o desenvolvimento de modelos de c\u00f3digo aberto. A nova fase do MoE, chamada MoE 2.0, busca aumentar a efici\u00eancia e a capacidade de infer\u00eancia, prometendo um futuro mais acess\u00edvel na intelig\u00eancia artificial.<\/p>\n","protected":false},"author":15,"featured_media":0,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"summary":"Novas abordagens em Mixture-of-Experts (MoE) como S\u2019MoRE e Symbolic-MoE prometem revolucionar a efici\u00eancia e a escalabilidade de modelos de IA.","footnotes":""},"categories":[12,16],"tags":[100],"class_list":["post-97480","post","type-post","status-publish","format-standard","hentry","category-entretenimento","category-tecnologia","tag-noticia"],"_links":{"self":[{"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/posts\/97480","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/users\/15"}],"replies":[{"embeddable":true,"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/comments?post=97480"}],"version-history":[{"count":0,"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/posts\/97480\/revisions"}],"wp:attachment":[{"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/media?parent=97480"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/categories?post=97480"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/tags?post=97480"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}