云天勵飛新一代邊緣AI SoC芯片Edge10V即將量產！

　　8月28日,由芯原股份主辦的“第三屆滴水湖中國RISC-V產業論壇”在上海滴水湖洲際酒店召開。國內知名人工智能技術廠商云天勵飛介紹了其新一代邊緣大算力AP級邊緣SoC芯片Edge10V,目前已經接近量產狀態。

　　作為國內首批人工智能(AI)技術廠商,成立于2014年的云天勵飛最初是主攻AI算法,通過攝像頭、端云協同的架構來做海量圖片的分析與處理,因此算法的泛化能力相對較弱,所以對于設備的調試要求就比較高,需要到各地去幫助客戶調試,這在當時耗費了云天勵飛很大的一部分精力。這也促使了云天勵飛開始來做自研芯片,將自己的AI算法芯片化。

　　2018年,云天勵飛就成功推出了自研的第一代面向嵌入式端的邊緣AI芯片DeepEye1000,并且在當年8月一次性流片成功,在2019年正式商用。DeepEye1000基于國產高性能RISC-V CPU內核IP,內置了自主產權的神經網絡處理器,支持靈活可編程計算流,搭載云天勵飛自主研發的深度定制指令集,可以實現高性能、低功耗的CNN網絡模型推理計算加速,滿足視覺AI算法實時性處理的性能要求。

　　從2015年至今,云天勵飛已經完成了三代指令集架構,4代神經網絡處理器架構的研發。2022年,云天勵飛自研的新一代邊緣AI SoC芯片——Edge10V流片成功,今年開始在做產品化相關的工作,目前已經接近準量產狀態。

　　據介紹,Edge10V是一款采用自主可控的純國產工藝,內置國產RISC-V內核(主頻1.2GHz),內置云天勵飛第四代自主知識產權 NPU NNP400T(int8算力可達12Tops)的AI SoC芯片,其中還包括GPU和MM,支持雙顯等各類外設,支持邊緣CV大模型的推理部署,因而可以獨立完成各邊緣計算場景的任務。

　　“ Edge10V的芯片實際上是系列化的芯片。有兩大特色:1、支持Chiplet多芯粒擴展、支持大算力。作為國內首顆D2D高速互聯Chiplet商用芯片,滿足國產Chiplet UCIE標準。2、純國產AI芯片。我們采用了國產的工藝、國產的封裝,由國內工廠完成國內生產制造交付。作為一款AP級邊緣AI SoC,Edge10V不僅可以支持AI計算,也可以支持雙千兆網口,支持不同傳感器的接入。另外,我們是有X8 PCle3.0接口可以支持不同的外設擴展。在CPU的部分,我們也是選擇了帶矢量處理器的這么一個RISC-V CPU。”云天勵飛芯片BD總監張福林進一步解釋道。

　　具體性能方面,云天勵飛Edge10V的CPU和AI性能都大幅領先于上一代的DeepEye1000。

　　另外,云天勵飛也為Edge10V配套了相對應的軟件棧,其中核心的一個部分就是與異構的芯片架構有匹配的軟件設計,可以很好的去做一些調度。另外,對于計算資源,也能通過合理的分配到不同的硬件加速器里面去運行。同時,Edge10V還有比較豐富的中間件的支持。包括:機器人行業用的比較多的ROS、ROS2等相關的東西。可以支持比較好的面向不同場景的邊緣計算應用,以及低速自動駕駛方向的機器人應用。

　　在AI工具鏈、模型的支持方面,Edge10V可以支持Pytorch/Onnx/Caffe等主流模型框架,支持CNN/RNN/Transformer/GNN等深度學習網絡模型。

　　在商業模式方面,云天勵飛不僅可以直接對外提供Edge10V芯片,同時也可以對外提供一些列的模組產品,包括針對嵌入式設備的Mini PCle加速卡,可廣泛應用于AIoT邊緣視頻、移動機器人等場景。也可以應用到一些邊緣服務器的產品,做一些高密視頻的推理。

　　從產品的形態來講,我們是支持主要是覆蓋端和邊緣;邊緣主要是邊緣的Device和Server,在Device可以支持邊緣視覺分析的終端盒子產品、另外就是機器人相關的應用。服務器這一塊主要是集成到PCle加速卡。

　　“隨著今年ChatGPT的火爆,推動了推動了整個AI的發展,大模型開始向邊緣部署也已經是一個新的趨勢。我們認為AI是打開第四次工業革命大門的鑰匙,所以云天勵飛其實確確實實也是在AI算法、芯片和應用方面去積極的貢獻自己的力量。”云天勵飛芯片BD總監張福林說道。