云天勵飛自研芯片與高性能算力結合，攜手德元方惠構建AI算力生態新藍圖

　　6月6日,云天勵飛發布公告,公司與德元方惠簽署《AI算力運營合作框架協議》。德元方惠將向云天勵飛購買AI訓練及推理異構算力服務,總算力規模約4000PFLOPS,該協議預計在未來三年服務期內為云天勵飛貢獻約16億的營收。

　　奠定未來的業績基礎

　　作為國內領先的人工智能公司,云天勵飛一直積極建設算力基座,并且對外提供算力運營服務。今年3月,云天勵飛在發布會上公布了“1+3”業務布局,即基于1個算法芯片化平臺,打造三大方向業務——AI方案、AI運營、AI產品。本次與德元方惠簽署戰略合作協議,是公司AI運營業務的一大突破,并在未來3年為公司帶來16億營收,奠定未來的業績增長基礎。

　　將大模型研發經驗注入算力運營服務

　　去年,云天勵飛正式推出自研千億級大模型“云天天書”。“云天天書”系列模型架構包含通用大模型、行業大模型、場景大模型三個層級。云天勵飛基于算法芯片化平臺,并通過海量高質量數據預訓練生產通用大模型;在通用大模型基礎上,引入高質量行業數據,生產行業大模型;再在行業大模型基礎上,通過細分場景數據微調研發場景大模型。“云天天書”在C-Eval、CMMLU等權威測試中多次獲得第一,并正式通過中央網信辦備案。

　　在大模型研發過程中,公司積累了一系列異構算力組合、算力調優、提升模型訓練效率的技術平臺和相應工具,包括智能算力集群管理平臺、AI大模型開發服務平臺等,可提供數據管理、數據標注、模型發布、模型測評等功能模塊。云天勵飛將上述技術沉淀在AI算力服務中,可幫助客戶提升模型訓練及算力利用效率,幫助更多企業以更低成本訓練大模型。

　　為自研芯片拓展廣闊新天地

　　今年以來,大模型全面進入應用落地階段,推理算力需求隨之不斷增長。根據IDC數據,預計到2026年中國數據中心用于推理的負載將達到62.2%。

　　云天勵飛亦持續看好大模型進入成熟商業化階段后推理需求,并在推理算力領域進行戰略部署。

　　去年底,公司自研的神經網絡處理器NNP400T的DeepEdge 10 正式發布,可廣泛應用于AIoT邊緣視頻、移動機器人等場景,目前已在智慧交通、清潔機器人等領域進行應用。此外,依托創新的D2D chiplet架構打造的推理卡已適配SAM CV大模型、Llama2、通義千問等國內外開源大模型,可承載大模型應用落地的大規模推理計算。

　　推理算力需求將隨著大模型使用時間和用戶量的增長而快速增加,因此在大模型進入成熟商業化階段之后將迎來需求爆發。公司所搭建超大規模異構高性能算力集群將其自研推理卡與高性能訓練算力相結合,為客戶提供高效的訓推一體算力服務,同時為自研推理卡落地打開場景觸角,搭建生態,為大模型進入成熟商業化階段后的推理需求爆發提前布局。

　　此外,公司也持續投入自研大模型研發及優化工作,預計將維持較高對AI訓練及推理異構算力的需求,此次《合作框架協議》項下涉及對于高性能異構算力的采購,未來亦可視需要作為公司大模型研發工作所需算力基礎的補充,支撐公司大模型技術的持續進步。

　　未來,云天勵飛亦可在超大規模異構高性能算力集群中,將自研推理卡與高性能訓練算力相結合,為自研推理卡落地打開場景觸角,搭建生態,為行業帶來更豐富的算力服務。