昇騰萬里 | 為開發者鋪路：解讀華為昇騰AI戰略布局

　　11月11日，華為技術沙龍·昇騰專場來到深圳，由華為多位AI領域技術專家，圍繞華為全棧全場景AI解決方案，通過Atlas人工智能計算平臺與基于全棧開發工具鏈Mind Studio進行AI開發的實踐案例，為現場開發者深度解讀了AI開發的技術難點與行業解決方案應用。

　　深圳灣科技發展有限公司董事長邱文、華為Atlas領域總裁許映童等領導也出席了本次沙龍，并做了開場致辭。許映童總裁表示：華為堅持戰略投入，持續創新，通過解決世界級計算技術難題，為世界提供最強算力。借助本次沙龍，希望與大家共同探討昇騰生態的合作機遇，并且跟深圳灣科技園區的企業代表和技術專家進一步開展深入交流。

　　打造全棧全場景AI生態，賦能AI技術開發者

　　隨著計算產業的智能化升級，AI已成為數據中心、邊緣計算、終端的基礎能力，預計到2025年，AI算力將會占據數據中心算力的80%以上，AI芯片75%部署在邊緣，海量的AI算力需求將帶動全球人工智能市場增長。

　　從技術上來看，人工智能發展可劃分為三個階段：

　　▶ 弱人工智能，擅長單個方面的人工智能(如圖像、語音、內容分析等);

　　▶ 強人工智能，具備認知和推理能力，能夠比肩人類大腦;

　　▶ 超人工智能，具備感知和思想意識，幾乎在所有領域都能超越人類，包括科學創新和社交等。

　　目前，人工智能應用還處在弱人工智能階段，隨著融合視頻分析/語義理解、自行判斷、自主決策等深度學習/強化學習算法的成熟完善，將推動各個行業向強人工智能階段邁進。

　　華為智能計算生態發展部總監區俊彥表示，計算產業生態的構建將非常關鍵且具有一定挑戰性，目前，華為已經形成了以“鯤鵬+昇騰”為核心的雙引擎計算戰略，并打造出包括芯片、芯片使能、訓練和推理框架以及應用使能在內的全堆棧解決方案。

　　芯片上，基于昇騰310芯片的Atlas推理型行業場景解決方案已在50+行業上應用，涉及安防、金融、電力、交通、互聯網、運營商等，并從成熟的互聯網、智慧城市，逐步融入到傳統行業，成為傳統行業智能化升級的引擎。

　　隨著昇騰910 AI處理器以及 MindSpore 全場景AI計算框架的推出，華為Atlas 人工智能計算平臺將在端、邊、云上，實現訓練和推理全系列產品競爭力構建，實現超強算力，全場景部署和云邊端協同，加速華為AI在各行業的應用落地。

　　未來五年華為將圍繞昇騰投入數十億人民幣來助力AI產業的發展。通過“1平臺+3計劃”的措施，逐步開放昇騰的技術能力，開源AI訓練框架，投入華為的技術資源和營銷資源，打造一個支撐人工智能產業發展的平臺，使能華為的合作伙伴和開發者。

　　同時，華為還將通過與產業組織、研究機構和行業協會的廣泛合作，共謀人工智能的創新發展，共同孵化產業標準。

　　在開源開放上，區俊彥表示，華為堅定的執行開放和開源的戰略，在2019年底會全面開放CANN工具鏈，支撐合作伙伴自定義算子，更好的來應用和挖掘昇騰芯片的能力。還將對外發布TBE算子開發工具，借助高校、研究機構和合作伙伴的力量，共同豐富昇騰的算子，來支撐更多的網絡模型，而完成的算子和模型將會進行開源，方便開發者來使用和優化算子和模型。

　　AI全棧開發工具鏈應用實踐

　　華為提出的全棧全場景AI解決方案，把AI推向新高度。而打造面向端、邊、云的全棧全場景AI解決方案，簡單易用、高效率的工具成了AI開發者的訴求，為此華為推出了AI全棧開發工具鏈——Mind Studio。

　　據華為AI專家譚濤介紹，Mind Studio是一套基于華為Ascend芯片開發的AI全棧開發工具鏈，包括基于芯片的算子開發、模型開發與轉換，AI應用層開發等能力，讓用戶的算子、模型和應用最大限度的發揮出芯片的計算能力，又通過場景化的工具體驗降低算子、模型、AI應用的開發門檻。

　　Mind Studio可提供面向AI算子開發、模型開發、應用開發的全棧全場景支持。算子開發上，支持TBE自定義算子、 支持TBE自定義算子插件開發、支持語法的智能糾錯和代碼自動補全;模型開發支持離線模型轉換、支持模型算子精度比對、支持模型整網性能profiling分析、支持網絡模型的可視化;應用開發支持AI應用開發與調試、支持代碼框架自動生成、支持推理結果圖形化展示、支持全系統調優。

　　模型轉換是當前很多開發者最常用的功能之一，許多開發者都是基于開源的模型開發應用，比如Tensorflow或者Caffe的模型。基于Mind Studio工具鏈可以把開源的Tensorflow、Caffe模型轉換成昇騰支持的格式。

　　在轉換過程中，開發者還可以配置模型中的輸入和輸出節點，量化配置參數，圖像預處理的參數，生成滿足開發者輸入要求的更高效om模型。

　　算子比對工具可以對已經生成的模型和基準的模型(如Caffe模型)進行算子的比對，比對的方式可以選擇不同的算法，如LowerBound等。算子比對的結果可以發現出模型中各個算子計算結果的偏差，通過對偏差的大小設置，開發者可以快速定位出偏差較大的算子并進行優化。

　　AI應用的開發中，對應用中的各個引擎(如數據預處理、模型推理、后處理等)進行分析，可以發現整個應用中的引擎的性能瓶頸，繼而再優化。整網運行過程中除了可以獲取到軟件棧的時間軸數據外，還能獲取AI處理器設備上的硬件數據。

　　Mind Studio針對TBE的語法可進行高亮，支持定義的跳轉，引用查看和智能補全等功能。方便用戶進行算子插件和AI應用的編譯和調試。

　　解讀昇騰云服務

　　昇騰云服務器性能提升2倍以上，可廣泛用于AI推理、AI訓練、自動駕駛訓練等場景。同時，昇騰還帶來更多價值，比如在自動駕駛云服務上，利用超大規模集群能力可支持PB級數據的實時處理，端到端開發效率提升5倍以上。

　　而基于昇騰云服務器的全棧全場景AI解決方案， 華為云異構計算產品經理趙剛也給出了更深入的解讀。趙剛表示，華為云推出了昇騰云服務器實例家族。基于昇騰310的推理實例，提供高性價比AI推理算力。基于昇騰910的訓練實例，成倍提升訓練效率。

　　目前華為云昇騰云服務器解決方案已在視頻直播、智慧零售、智慧園區、泛金融身份認證、智慧醫療領域上應用。用于圖片分類、智能鑒黃、行為識別、畫質檢測、違規審核、人臉識別、物體識別、文字識別、語音識別等技術上，為客戶業務提質提速。