云天勵飛“算力積木”聯(lián)手OISA，突破萬億級MoE大模型推理集群的Scale up瓶頸

　　近日，云天勵飛正式加入 OISA 生態(tài)，攜手產業(yè)伙伴共同推動國產 AI 芯片互聯(lián)體系建設，為中國算力生態(tài)注入新的動力。

　　OISA(Omni-directional Intelligent Sensing Express Architecture)是由中國移動提出的開放互聯(lián)標準體系。

　　核心目標是打造一個全向、對等、智能的互聯(lián)新范式，使集群中任意AI芯片之間、AI芯片與CPU之間都能直接高速訪問彼此的內存，徹底解決智算集群中的內存互訪難題，為大規(guī)模并行計算提供堅實的技術基石。

　　隨著大模型，尤其是 MoE 架構大模型的爆發(fā)式增長和廣泛應用，算力需求正以前所未有的速度攀升。MoE 的特點在于每次推理只激活部分“專家”，但這些“專家”分布在不同芯片的存儲空間內，推理過程中需要跨芯片頻繁調用參數。

　　在這種場景下，單顆 AI 芯片性能的提升已無法滿足需求，真正的挑戰(zhàn)在于如何高效互聯(lián)成百上千顆 AI 芯片，確保跨芯片的數據訪問像本地一樣高效，從而將其協(xié)同為一個超級計算集群。因此，突破互聯(lián)技術的瓶頸，成為支撐萬億級 MoE 大模型推理的關鍵。

　　憑借在 AI 推理芯片與算力架構的長期積累，云天勵飛成為 OISA 生態(tài)的重要一員。

　　自 2014 年成立以來，公司持續(xù)深耕 AI 推理芯片與算力架構，首創(chuàng)“算力積木”架構，可讓算力像搭積木一樣靈活組合、擴展，滿足各類不同應用場景的需要。

　　當前，公司形成了 DeepEdge、DeepVerse、DeepXbot 等系列產品，覆蓋從邊緣終端到云端集群、從具身智能到大模型的多元場景。

　　加入 OISA 后，云天勵飛將在三方面貢獻力量。

　　技術優(yōu)勢：依托“算力積木”架構的模塊化與可拓展性，在大規(guī)模推理集群中實現高效互聯(lián)，為包括 MoE 在內的超大模型突破 Scale up 瓶頸提供底層支撐;

　　生態(tài)共建：與 OISA 的開放互聯(lián)標準深度協(xié)同，聯(lián)合上下游伙伴打通芯片、系統(tǒng)、應用全鏈路，推動自主可控的國產算力生態(tài)發(fā)展;

　　應用落地：加速在智慧城市、智能駕駛、機器人、邊緣計算等關鍵領域的規(guī)模化實踐，讓“算力積木”真正成為 AI 推理產業(yè)化的基礎設施。

　　未來，云天勵飛將繼續(xù)秉持“AI 時代的加速器”愿景，持續(xù)迭代芯片技術與架構創(chuàng)新，攜手 OISA 生態(tài)伙伴，共同推動智能算力的創(chuàng)新與普及，讓下一代 AI 算力真正惠及千行百業(yè)。