高通徐晧談混合AI優勢：加速AI普及到每個人，5G是橋梁

　　在2023年中國國際服務貿易交易會成果發布會中，高通公司發布了白皮書——《混合AI是AI的未來》，系統性地梳理了AI發展和應用趨勢。高通公司中國區研發負責人徐晧博士在發布會發表演講，詳細地解讀混合AI的領先優勢，還指出5G在混合AI中的連接作用。

　　徐晧博士介紹了混合AI的概念，是一個包括云端、邊緣云和終端的統一架構。需要巨大算力海量數據資源的大規模AI模型訓練，仍留在云端進行。推理計算可以部分轉移到終端側，如果終端側算力無法完成，則通過5G等網絡，推到云端，運算后再推回終端。混合AI架構可以很好地協調終端和云端的資源分配，把AI能力發揮到極致。

　　他引用計算機的發展歷史，預測AI也會有這樣的趨勢。計算機從最早是專用的大型設備，隨后發展到個人使用的PC，再到可以攜帶的筆記本，最后發展成隨身的智能手機。這個過程是把以前大型計算機能做的事，慢慢演化貼近每個人的身邊。同樣的，終端側的AI算力會越來越強，功能會越來越多，各種AI功能也將逐漸由云端轉移到個人身邊。他在演講中展示了高通的一個案例，在今年初，高通實現首個在Android手機上運行Stable Diffusion。這是一個10億參數規模的生成式AI模型，以前只能在PC設備上運行，這次高通的運行設備是一臺不聯網的高通驍龍8Gen2 5G手機，能在15秒內完成20步推理，根據用戶的自然語言輸入生成圖片。徐晧還解釋了終端側AI取代云端推理其中一個深層原因，生成式AI每一次對話的成本是之前搜索引擎的10倍，當成千上萬的用戶使用時，就會產生巨大的算力成本。這時候終端側AI就可以節約大量的計算成本，進而加速AI普及速度。

　　徐晧羅列了一組數據，介紹了高通在普及終端側AI的優勢。高通從2007年開始投入AI研發，不斷的將最新的AI算法和能力加入高通AI引擎，現在已經發展到第八代高通AI引擎。全球范圍內有數十億臺高通驍龍設備，并且繼續以每年數億臺的速度增長。高通還提供能簡化AI在終端側運行的軟件和算法的綜合平臺。海量的硬件數量，優秀的軟件生態，將會讓AI普及到更多人。