LightCounting：人工智能掀起光連接需求新浪潮

　　近日，市場研究機構LightCounting在最新報告中指出，爭奪人工智能“霸主”地位的競賽已經開始，擔心被落下的“恐懼”正在推動大量人工智能投資。Meta最近在財報電話會議上明確說明了這種情況：“我們不知道這些由人工智能驅動的應用會以多快的速度擴展，我們希望有足夠的能力來應對它們的快速擴展。”

　　有多少資金正在投入人工智能基礎設施尚不明確，但是英偉達在2023年4月的財報電話會議中給出了一些暗示。英偉達預計2023年第二季度的收入將環比增長50%，主要得益于面向AI集群的GPU的銷售。

　　沒過多久，金融分析師們就將GPU的銷售與光模塊的銷售聯系起來，并得出了非常高的數字。其中一些報告預計，未來5年光模塊的累計收入將達到1000億美元或更多，而這僅僅是針對人工智能應用的收入。

　　下圖是LightCounting對以太網光模塊銷售的預測，包括人工智能集群光連接對該市場貢獻的估計。未來5年，用于人工智能集群的光模塊銷售總額將達到176億美元，考慮到同期所有其他應用場景的以太網光模塊285億美元的銷售額，這的確是一個非常龐大的數字。

　　這并不完全令人意外。早在2019年—2020年，谷歌就報告稱在其人工智能集群中部署了比其他數據中心基礎設施更多的光器件。LightCounting估計，2022年在人工智能集群中部署的光模塊已經占到整個市場的25%，而這還不包括有源光纜(AOC)，后者是英偉達系統中光連接的主要解決方案。

　　人工智能市場份額的提升還得益于計算集群和支持計算集群的光器件投資的減少。ChatGPT在2022年底成為頭條新聞的時機再好不過。對即將到來的經濟衰退的擔憂，以及營收增長放緩的跡象初現，迫使所有領先的云計算公司削減開支，包括對數據中心的投資和光模塊的采購。

　　Meta將2023年部署200G FR4光模塊的預算削減了50%以上。在其最新的財報中，該公司宣布今年的資本開支將再減少10%。盡管如此，該公司仍計劃增加在人工智能集群和支持人工智能集群的400G FR4光模塊的支出。

　　最后但同樣重要的是，英偉達人工智能系統的新設計需要更多的光器件。該公司在一年多之前就宣布了NVLink，旨在實現800G的光連接。LightCounting在一份研究報告中指出，與InfiniBand相比，NVLink支持的GPU到GPU連接需要更多的帶寬。目前的估計表明，帶寬要高出6倍。

　　英偉達之前設計的所有系統都使用InfiniBand進行光連接，這些網絡大多是AOC。例如，LightCounting估計去年部署的HDR (200G) InfiniBand系統需要超過50萬個200G AOC。這些系統的銷售將在2023年激增，可能需要多達100萬個200G AOC和類似數量的200G銅纜。

　　現在，基于NDR(400G)InfiniBand的最新系統的銷售正在逐漸增長。這些系統將主要使用可插拔的400G SR4以太網光模塊，而不是用于InfiniBand連接的AOC，以及用于NVLink網絡的800G SR8光模塊。

　　假設NVLink網絡需要的帶寬是InfiniBand的6倍，一旦新系統的部署數量與當前基于HDR的系統相當，將需要200萬個400G SR4光模塊(每個AOC相當于兩個光模塊)和600萬個800G SR8光模塊。需要注意的是，這不會在今年發生，而可能在2024年或2025年發生。

　　與此同時，并非所有系統都將使用InfiniBand和NVLink連接，這對于非常大的GPU陣列最有利。而許多設備的規模將較為適中，主要依靠銅纜進行布線。

　　谷歌正在使用TPU而不是GPU，但它也在使用直接光連接來構建非常大規模的陣列，達到數萬個TPU。這對于谷歌來說并不是新鮮事，這就是為什么在2019年—2020年期間它在其AI集群中部署了大量光器件的原因。最近，谷歌還增加了部署800G FR8光模塊的計劃。