誰能代替英偉達？

　　今年夏天，英偉達創始人黃仁勛專門騰出時間，拜訪了一家名叫戰略與國際研究中心(CSIS)的智庫。在美國，智庫的意見能在很大程度上左右華盛頓的政策走向，深處科技戰前線的黃仁勛自然深知這一點。

　　黃仁勛上來就是一頓彩虹屁，并明確表達了捐贈的意向。隨后他話鋒一轉，表示有一位小同志嚴重拖累了智庫隊伍的整體水平，建議清除出去。

　　這位小同志不是別人，正是CSIS高級研究中心主任Gregory C. Allen，也是美國芯片出口管制政策的堅定鼓吹者。

　　面對美國的打壓，英偉達似乎比中國公司還著急。過去數月，黃仁勛一直在竭盡全力阻止制裁落地。

　　除去給智庫施壓，黃仁勛還當面警告了華盛頓決策層，認為制裁會造成嚴重代價。與此同時，他還不忘敦促美國半導體行業協會發表譴責聲明，強調進一步限制將損害行業的競爭力[2]。

　　今年7月，黃仁勛還拉上高通和英特爾去了趟華盛頓，目的也是說服美國政府放松對華限制。

　　然而，美國依然在10月17日更新了芯片出口管制，中國*版芯片H800和A800也被列入禁售范圍。更令人驚訝的是，用于游戲的消費級顯卡RTX 4090也進了名單。

　　這對英偉達來說無疑是致命一擊，長期以來，中國大陸市場一直占據其20%以上的收入。10月17日出口管制發布當天，英偉達股價下跌近5%，AMD和英特爾也跟風跌了1%。

　　那么，英偉達是否真的無法替代?中國市場之于英偉達又意味著什么?

　　*的選擇

　　簡單來說，美國政府在新的出口管制政策中添加了多個新指標，不僅把*產品H800和A800牢牢卡死，還順便誤傷了消費級顯卡RTX4090，搞得國內黃牛趁機漲了一波價。

　　為什么說是“誤傷”？雖然RTX4090和***都是GPU，但兩者的設計思路截然不同。

　　比如，RTX4090的頻率強于***，因為更高的頻率能夠提供更強的圖形渲染能力。而***的強項則是理論算力、顯存大小和顯存帶寬，這是因為AI推理和訓練都非常考驗數據的吞吐效率，這也是為什么***需要昂貴的HBM3內存。

　　至于玩游戲，***甚至都不支持主流游戲的圖形接口。這也符合英偉達官方的“消費類”和“計算類”歸類。

　　在一些討論中，RTX 4090由于更低的價格、不差的算力、更低的功耗，一度被認為同樣可以用于高性能計算。

　　客觀地說——鐵了心也能用。但一般而言，RTX 4090由于顯存和帶寬的限制，最多只能用作推理芯片。

　　AI芯片根據部署位置區分，大致上可分為云端芯片和終端芯片。云端芯片用于訓練模型，俗稱訓練芯片；終端芯片用于終端設備，根據訓練好的模型對實時數據執行推理任務，俗稱推理芯片。

　　職責不同，導致對訓練芯片和推理芯片的性能要求也有很大差異：

　　訓練芯片需要通過海量數據訓練可靠的模型，因此對數據傳輸速率、算力等指標有相當極端的要求。這也是為什么***不惜用上昂貴的HBM內存和CoWoS封裝，目的都是為了數據吞吐效率。

　　“*版”的H800和A100，閹割的也是內存帶寬，算力其實沒有變化。

　　推理芯片一般處理實時任務，對于低延遲的要求更高，而且由于部署在終端，還要考慮功耗、大小、成本等問題。因此，用RTX4090這類消費級顯卡強行訓練，過低的帶寬會帶來“內存墻”的問題。

　　無論是谷歌的TPU、還是特斯拉的FSD芯片，大部分應用場景都是推理。大部分國產AI芯片，也都是走推理芯片的路子。

　　而在訓練芯片這個場景下，英偉達的確是目前*的選擇。

　　從*的算力來講，***并不是*。但在AI訓練這件事上，一口氣買幾百塊顯卡的科技公司更在意的是另一個指標：單位成本的算力。

　　這也是為什么大家寧愿加價搶***，也不愿意買“青春版***”A100：按照*** SXM版本、A100 80GBSXM版本8月的銷售價格（24000美元、15000美元）計算，每單位算力的成本分別為12.13美元、24.04美元，*** SXM優勢明顯。

　　另外，數據中心搭建完成后，還需要考慮電力、運維、故障、后期支持等多方面成本。種種因素疊加，大家還是老老實實地拿起了號碼牌，加入了漫長的***等待序列中。

　　比如特斯拉，前腳宣布給自研的Dojo超級計算機投10億美元，后腳就透露要購買10000張***用于驅動AI負載。

　　簡而言之，在推理場景下，英偉達尚有替代方案；但在訓練芯片里，英偉達是事實上的*方案。

　　原因在于，英偉達真正的護城河，是軟件。

　　隱形的護城河

　　今年10月10日，AMD宣布打算收購一家名為Nod.ai的AI開源軟件初創公司，以補足其軟件短板。

　　雖然貴為GPU行業的世界第二，但長期以來AMD的市場份額只能和英偉達二八開，在以AI為代表的高性能計算市場，存在感就幾乎為0。

　　事實上，AMD的AI芯片理論參數并不差，與***對標的MI250X，雖然在FP32/FP64精度下的算力略遜于***，但考慮到10000美元的售價，MI250X的“單位成本算力”其實更高，理論上可以成為比***更好的選擇。

　　但實際上，不管是大公司還是創業公司，大家還是更喜歡***。原因就在軟件，也就是大名鼎鼎的CUDA。

　　眾所周知，GPU最初的目的是為游戲和視頻進行圖像渲染。黃仁勛是幾乎所有奧斯卡“*視覺效果”提名影片背后的男人。2007年，英偉達還曾獲得一個分量十足的獎項：艾美獎，以表彰其對娛樂行業作出的重大貢獻。

　　首先發現GPU被大材小用的是華爾街精英，在渲染圖像時所用到的并行計算能力，正符合金融場景里高頻交易的需求。

　　不過，在用GPU跑交易之前，得先編寫大量的底層語言代碼，這顯然勸退了一大批交易員。

　　為了降低GPU的編程門檻，David Kirk說服黃仁勛在2006年推出CUDA，CUDA的全稱是Compute Unified Device Architecture，即計算統一設備架構，其作用也直白地寫在名字里了：為GPU編程提供統一架構，使之滿足不同應用場景下的算力需求。

　　伴隨CUDA推出的是一本編程指南，里面詳述了實現性能的具體方法，并且隨著產品的升級迭代不斷更新，至今已更新到12.3版。

　　最新版CUDA編程指南

　　這樣的說明書在今天看來是基礎必備，在當時與競爭對手的差距也不過兩年，但先發者的一步*卻足以定義行業。

　　CUDA推出后，英偉達迅速打開了新業務的大門，在航空航天、天文學、氣象學領域里都有GPU的身影。

　　2009年，蘋果的開發團隊推出OpenCL，支持者包括AMD和英特爾，希望能憑借著通用性在CUDA身上分一杯羹。但作為追趕者，OpenCL平臺上的開發者天然地更少，很容易陷入惡性循環。

　　而CUDA則在“使用人數越多，CUDA平臺就越好用，新開發者就越傾向于選擇CUDA”的良性循環中，加固了生態優勢。

　　深度學習爆發后，許多學習框架要么是在CUDA發布之后才會支持OpenCL，要么壓根不支持OpenCL，使得OpenCL始終無法觸及更高附加值的業務[5]。

　　2016年，AMD自家軟件ROCm姍姍來遲，在投入不如英偉達的情況下，服務更新上滯后于CUDA，因此也難與CUDA抗衡。

　　芯片的架構和制程可以靠一兩代產品迅速拉近差距，但一個成熟的生態系統卻很難被破壞。CUDA生態遍布各行各業，從企業蔓延到教育系統。吳恩達曾評價：

　　CUDA出現之前，全球能用GPU編程的可能不超過100人。而目前全球的CUDA開發者已經達到幾百萬。

　　從某種程度上來說，CUDA已成為行業的事實標準。它的另一個特點是：只能和英偉達的硬件適配。

　　因此，任何開發者想要脫離CUDA生態，都不得不考慮標新立異的成本和風險。

　　不過對英偉達來說，繁榮的CUDA生態既是一座令競爭對手望而生畏的高山，卻也是自己的軟肋所在。

　　英偉達在擔心什么？

　　黃仁勛之所以如此著急，道理也簡單：如果鐵了心換掉英偉達，也不是不可以。

　　英偉達固然是人工智能得以走上時代舞臺中央*的功臣之一，但在當下，它卻存在兩個不容忽視的問題：

　　一是成本過高。以“地表最強GPU”***為例，首發價為3.3萬美金，如今二手市場價格更一度上漲至5萬美金左右。

　　科技公司如果要搭建擁有一萬塊***的數據中心，即便不考慮其他成本和后續開支，光GPU采購費就需要數億美金——即便對《財富》世界500強排行榜上的科技公司來說，這也不是筆小錢，更遑論初創企業。

　　二是通用芯片難以實現差異化。堆疊算力不是簡單往車里加汽油，需要考慮軟件適配性、自身業務需求等一系列問題。更何況，如果只用英偉達的GPU，意味著只有當英偉達出新產品，自家產品才能跟著升級，徹底將戰略主動權交給了黃總。

　　這就是英偉達面臨的一個尷尬情景：自己的客戶都是自己的對手。

　　早在2014年，谷歌已開始了自研芯片的計劃，其最新成果就是TPUv5系列。對參數量小于200B的大模型來說，TPUv5在推理時更具性價比，相較于英偉達GPU有著肉眼可見的成本優勢[4]。

　　谷歌的TPU

　　而在重要的中國市場，美國的出口管制實際上在給黃總幫倒忙。

　　如前文所述，英偉達的核心壁壘在CUDA組成的繁榮生態——它就像一個無數開發者組成的“圈子”，后來者想要進入AI產業，就得融入這個圈子。如果把一部分開發者攔在圈子外面，那么他們最有可能做什么呢：

　　組建一個自己的圈子。

　　事實上，英偉達非常清楚這一點，其法律顧問Tim Teter就曾這樣警告華盛頓：你冒的風險是刺激了一個由競爭對手主導的生態系統的發展，這可能會對美國在半導體、先進技術和人工智能領域的領導地位產生非常負面的影響。

　　如果“被踢出圈子”的概率只有1%，那大家只會把它當作一個黑天鵝事件;但一旦這個概率上升到哪怕只有10%，就一定會有人行動起來。這也是為什么英偉達對美國的出口管制如此警覺——中國科技公司會鐵下心來掀桌子，開始搭建自己的生態。

　　英偉達并非是*有著類似境遇的公司，英特爾與高通也一同參與到了施壓美國政府的行動當中。它們的一部分競爭力同樣來源于生態的構建，英偉達的境遇讓這兩家芯片巨頭深感唇亡齒寒。

　　要知道，上一輪針對英偉達的出口管制發布后，英特爾專門把Gaudi 2芯片的發布會放在北京開，一口一個“幫助構建中國人工智能的未來”、“攜手中國產業生態”，趁機挖黃總墻角的心思昭然若揭。

　　結果新版出口管制出爐，AMD的MI250X、MI300，英特爾的Gaudi 2、Gaudi 3和黃總一起上了名單。這也難怪有小道消息說，英特爾高層和美國高級官員交涉時[2]，一度急得指著對方鼻子問“到底懂不懂半導體?”

　　盡管相比美國，國內的芯片產業整體的差距并不小，但長期的封鎖，一定會加速中國芯片產業的發展。一旦這個過程開始，也許就不可逆了。

　　這就是英偉達害怕的、美國眾多芯片公司所擔心的事情，正如黃仁勛所說[1]：There is no other China，there is only one China。

　　參考資料

　　[1] Chip wars with China risk ‘enormous damage’ to US tech, says Nvidia chief，Financial Times

　　[2] How the Big Chip Makers Are Pushing Back on Biden’s China Agenda，The NewYork Times

　　[3] Nvidia Makes Nearly 1,000% Profit on *** GPUs: Report，Toms Hardware

　　[4]TPUv5e: The New Benchmark in Cost-Efficient Inference and Training for <200B Parameter Models，Semi Analysis

　　[5] 瘋狂的***，遠川研究所