戴爾易安信為什么關(guān)注FPGA

　　2018年12月19日，英特爾FPGA中國創(chuàng)新中心落地重慶西永微電子產(chǎn)業(yè)園。戴爾易安信作為英特爾FPGA創(chuàng)新中心服務(wù)器產(chǎn)品的獨(dú)家贊助商，為創(chuàng)新中心提供了搭載FPGA的第14代PowerEdge系列服務(wù)器。戴爾易安信為什么支持英特爾FPGA中國創(chuàng)新中心?FPGA為什么值得關(guān)注?我們提供一些背景信息，供您解讀。

　　圖1：英特爾FPGA中國創(chuàng)新中心盛大揭幕

　　FPGA技術(shù)優(yōu)勢：高性能、低功耗、靈活性強(qiáng)

　　隨著深度學(xué)習(xí)和神經(jīng)網(wǎng)絡(luò)等技術(shù)的發(fā)展，F(xiàn)PGA加速技術(shù)在人工智能、5G、自動駕駛和數(shù)據(jù)中心等領(lǐng)域的應(yīng)用越來越廣泛。FPGA支持差異化定制，是一種極具競爭力的大數(shù)據(jù)、深度學(xué)習(xí)、無線通信加速器;FPGA支持底層硬件架構(gòu)重新調(diào)整和軟件自定義，因此可融合最新的行業(yè)創(chuàng)新技術(shù);FPGA具有高效可重復(fù)編程特性，可實(shí)現(xiàn)定制性能、定制功耗、高吞吐量和低批量延遲，滿足用戶各種的規(guī)格要求。

　　圖2：戴爾易安信全球資深副總裁、大中華區(qū)企業(yè)解決方案總經(jīng)理曹志平

　　出席2018 FPGA國際創(chuàng)新峰會并做主題演講

　　FPGA具有以下技術(shù)優(yōu)勢：

　　高性能、低功耗

　　FPGA是一種高性能、低功耗的可編程芯片。可以根據(jù)客戶定制，做針對性的算法設(shè)計(jì)，在處理海量數(shù)據(jù)的時(shí)候，F(xiàn)PGA相比于CPU和GPU，優(yōu)勢在于：FPGA計(jì)算效率更高，其高并行性的特性往往可以使業(yè)務(wù)性能得到量級的提升。

　　它是軟硬件合一的器件，不采用指令和軟件。FPGA編程使用硬件描述語言，硬件描述語言描述的邏輯可以直接被編譯為晶體管電路的組合。所以，F(xiàn)PGA實(shí)際上直接用晶體管電路實(shí)現(xiàn)用戶算法，沒有通過指令系統(tǒng)的翻譯。

　　靈活性強(qiáng)

　　FPGA是現(xiàn)場可編程邏輯門陣列，是一堆邏輯門電路的組合，可以編程還可以重復(fù)編程。

　　FPGA是動態(tài)可重配的，在數(shù)據(jù)中心部署之后，可以根據(jù)業(yè)務(wù)形態(tài)來配置不同的邏輯，實(shí)現(xiàn)不同的硬件加速功能。舉例來講，當(dāng)前服務(wù)器上的FPGA板卡部署的是圖片壓縮邏輯，服務(wù)于社交即時(shí)通訊;而此時(shí)廣告實(shí)時(shí)預(yù)估需要擴(kuò)容獲得更多的FPGA計(jì)算資源，通過簡單的FPGA重配流程，F(xiàn)PGA板卡即可以變身成“新”硬件來服務(wù)廣告實(shí)時(shí)預(yù)估，非常適合批量部署。

　　未來，F(xiàn)PGA將會成為越來越重要的芯片，CPU與FPGA深度融合的異構(gòu)計(jì)算已成為產(chǎn)業(yè)發(fā)展的必然選擇。

　　圖3：戴爾易安信FPGA解決方案展臺

　　CPU+FPGA的異構(gòu)多核計(jì)算創(chuàng)新涉及軟硬件等深層次融合創(chuàng)新，為趕超者提供了新的跑道。同時(shí)，CPU+FPGA的異構(gòu)計(jì)算作為新的重要技術(shù)趨勢，在加速了計(jì)算架構(gòu)融合的同時(shí)，也給下游整機(jī)系統(tǒng)及軟件開發(fā)帶來了重要的機(jī)遇。

　　在大數(shù)據(jù)時(shí)代，機(jī)器學(xué)習(xí)和深度學(xué)習(xí)是人工智能的主要推動力。最近幾年大數(shù)據(jù)和計(jì)算力的快速增長使得深度學(xué)習(xí)技術(shù)有了質(zhì)的飛躍，從而在計(jì)算機(jī)視覺、語音識別、自然語言處理等領(lǐng)域出現(xiàn)了重大突破。

　　然而，深度學(xué)習(xí)需要大量的并行計(jì)算，對硬件平臺有極高的要求，傳統(tǒng)的計(jì)算機(jī)是無法滿足的。FPGA具有很高的性能功耗比，而且基于門級電路設(shè)計(jì)使得FPGA是一個(gè)超低延時(shí)和確定延時(shí)的方案，F(xiàn)PGA的可編程性及動態(tài)可重構(gòu)可以適應(yīng)深度學(xué)習(xí)未來算法的變化，IO可編程性可以滿足更多業(yè)務(wù)需求(網(wǎng)絡(luò)加速，邊緣計(jì)算)，因此基于FPGA的深度學(xué)習(xí)方案成為未來技術(shù)發(fā)展方向。

　　FPGA作為未來強(qiáng)大的計(jì)算加速器，不但影響主要企業(yè)的決策和市場趨勢，而且加速企業(yè)中的工作負(fù)載，促進(jìn)超大規(guī)模數(shù)據(jù)中心的內(nèi)部搜索，提高HPC高性能計(jì)算模擬的地位。

　　FPGA行業(yè)現(xiàn)狀：未來五年增長近1倍

　　以物聯(lián)網(wǎng)、智能制造、大數(shù)據(jù)、云計(jì)算及人工智能的技術(shù)為代表的新一輪革命方興未艾。在此背景下，中國政府提出了“智能制造”和“‘十三五’科技創(chuàng)新”的發(fā)展戰(zhàn)略，大力推動產(chǎn)業(yè)轉(zhuǎn)型升級和結(jié)構(gòu)化調(diào)整。面對技術(shù)更新迅速、迭代頻繁的研發(fā)應(yīng)用環(huán)境，F(xiàn)PGA(現(xiàn)場可編程門陣列)正成為越來越重要的芯片，并得到越來越廣泛的應(yīng)用，在泛人工智能、5G、無人駕駛、智能終端和數(shù)據(jù)中心等領(lǐng)域發(fā)揮重要作用。

　　近年來全球FPGA市場規(guī)模基本在50-60億美元左右。根據(jù)研調(diào)機(jī)構(gòu)Global Market Insights的最新報(bào)告顯示，F(xiàn)PGA市場在2015~2022年間將出現(xiàn)8.4%的年復(fù)合增長率，到2022年規(guī)模可望超過99.8億美元。

　　FPGA主要的應(yīng)用領(lǐng)域介紹如下：

　　泛人工智能

　　當(dāng)前的前沿研究方向包括機(jī)器人、語言識別、圖像識別、自然語言處理和專家系統(tǒng)等，自AI誕生以來，理論和技術(shù)日益成熟，應(yīng)用領(lǐng)域也不斷擴(kuò)大，但人工智能目前仍處于早期階段，預(yù)計(jì)未來的主戰(zhàn)場是在推理環(huán)節(jié)。專注于推理環(huán)節(jié)的FPGA必將在AI領(lǐng)域發(fā)揮巨大價(jià)值。FPGA內(nèi)部擁有大量計(jì)算單元，進(jìn)行神經(jīng)網(wǎng)絡(luò)運(yùn)算的速度遠(yuǎn)大于CPU;FPGA同時(shí)具有架構(gòu)可優(yōu)化的靈活性，當(dāng)平均性能接近一塊GPU時(shí)，功耗遠(yuǎn)小于后者，可大大降低最終用戶的散熱負(fù)擔(dān)。應(yīng)用方面，由于FPGA可編程的特性，使得它能夠靈活地針對應(yīng)用所用的算法修改電路，為軟件與終端應(yīng)用公司提供與其競爭對手不同的解決方案。

　　5G通信

　　異構(gòu)無線網(wǎng)絡(luò)是未來無線網(wǎng)絡(luò)的主要發(fā)展方向，是多樣化技術(shù)的融合。其靈活性、多協(xié)議兼容性和智能化，以及對成本和功耗的要求，需要一個(gè)可編程的芯片平臺去支持，通過隨時(shí)修改芯片上局部功能，實(shí)現(xiàn)5G網(wǎng)絡(luò)所需的靈活性。傳統(tǒng)的ASSP和ASIC不可編程，成本昂貴，無法滿足這些方面的需求。FPGA可編程，性價(jià)比高，使之與5G無線網(wǎng)絡(luò)的靈活性、性價(jià)比和智能化的需求良好契合，新一代FPGA技術(shù)將在5G市場大放異彩。

　　自動駕駛

　　自動駕駛對計(jì)算能力的要求非常高。相對于手機(jī)等移動終端的計(jì)算需求，自動駕駛大概要超過兩個(gè)數(shù)量級，數(shù)據(jù)生成速度方面超過四個(gè)數(shù)量級。實(shí)時(shí)性方面，自動駕駛有非常明確的最低延遲要求。在功耗方面，它需要有很低的能耗，從而提升車輛使用性能。FPGA同時(shí)擁有流水線并行和數(shù)據(jù)并行，而GPU幾乎只有數(shù)據(jù)并行。因此對流式計(jì)算的任務(wù)，F(xiàn)PGA比GPU天生有延遲方面的優(yōu)勢。在功耗方面，F(xiàn)PGA比GPU的功耗低，同時(shí)FPGA需要的空間小更加適合在自動駕駛的車輛上使用。

　　數(shù)據(jù)中心

　　數(shù)據(jù)中心計(jì)算加速領(lǐng)域，由于計(jì)算任務(wù)靈活多變、多租戶等應(yīng)用特性，傳統(tǒng)的ASIC大規(guī)模神經(jīng)網(wǎng)絡(luò)部署，在研發(fā)成本、交付周期等方面已現(xiàn)頹勢。FPGA在此應(yīng)用環(huán)境中只需幾百毫秒，即可完成邏輯功能更新，其靈活性可以大力保護(hù)數(shù)據(jù)中心的投資，并且始終保持?jǐn)?shù)據(jù)中心同構(gòu)性。在數(shù)據(jù)中心應(yīng)用中，F(xiàn)PGA相比GPU的核心優(yōu)勢在于延遲：FPGA同時(shí)擁有流水線并行和數(shù)據(jù)并行兩種方式，而GPU幾乎只有數(shù)據(jù)并行(流水線深度受限)。當(dāng)任務(wù)逐個(gè)而非成批到達(dá)時(shí)，流水線并行比數(shù)據(jù)并行可實(shí)現(xiàn)更低延遲。可見，針對流式計(jì)算的任務(wù)，F(xiàn)PGA在延遲方面比GPU具有天生優(yōu)勢，更符合未來數(shù)據(jù)中心的業(yè)務(wù)需要。

　　一位AI芯片創(chuàng)業(yè)公司CEO接受采訪舉例說，在深度學(xué)習(xí)中，經(jīng)常需要調(diào)整算法。如果采用ASIC的方式，有可能剛做完傳統(tǒng)算法硬化，過了半年，算法團(tuán)隊(duì)又把算法換了。而采用FPGA的靈活性是可以很好地適應(yīng)這種變化。

　　奧迪正在使用英特爾FPGA，以期實(shí)現(xiàn)奧迪A8轎車自動駕駛，汽車零部件制造商電裝(Denso)已經(jīng)采用英特爾技術(shù)驅(qū)動的立體視效系統(tǒng)。越來越多的汽車公司在其車輛上使用FPGA，提供諸如自適應(yīng)巡航控制、防撞和駕駛員輔助等功能。

　　FPGA還被大量用于大型云數(shù)據(jù)中心實(shí)現(xiàn)人工智能應(yīng)用。例如，微軟已在Brainwave項(xiàng)目是一個(gè)建立在FPGA之上的加速深度學(xué)習(xí)平臺，它采用英特爾Stratix FPGA，通過數(shù)據(jù)的盡快處理和傳輸，在云中提供實(shí)時(shí)人工智能。

　　Dell EMC正在使用英特爾FPGA芯片，進(jìn)行基因分析和蛋白質(zhì)結(jié)構(gòu)研究等領(lǐng)域的應(yīng)用驗(yàn)證。

　　深思考人工智能(iDeepWise Artificial Intelligence)是一家專注于類腦人工智能與深度學(xué)習(xí)核心科技的公司。深思考CEO楊志明在接受智東西采訪時(shí)說，智慧工業(yè)機(jī)器人、智慧通信、智慧醫(yī)療、智慧裝備等領(lǐng)域，都是FPGA以外的其他AI芯片難以介入的應(yīng)用領(lǐng)域。

　　戴爾易安信PowerEdge服務(wù)器加速數(shù)據(jù)中心工作負(fù)載

　　戴爾易安信PowerEdge服務(wù)器是全球X86服務(wù)器的領(lǐng)先品牌。根據(jù)IDC公司全球服務(wù)器市場跟蹤數(shù)據(jù)，戴爾易安信始終保持著全球服務(wù)器市場的領(lǐng)先地位。以IDC在12月11日公布的最新數(shù)據(jù)為例，在2018年第三季度，戴爾易安信無論銷售量還是銷售額都名列全球第一。如下表。

　　戴爾易安信與英特爾的結(jié)合，可以將FPGA技術(shù)的優(yōu)勢帶入各種規(guī)模的數(shù)據(jù)中心，加速處理數(shù)據(jù)中心日益增長的數(shù)據(jù)。

　　2018年4 月，英特爾宣布其FPGA 已經(jīng)正式應(yīng)用于主流的數(shù)據(jù)中心 OEM 廠商。其中，在全球市場銷量領(lǐng)先的戴爾易安信PowerEdge系列服務(wù)器率先支持英特爾FPGA加速器。

　　戴爾易安信在PowerEdge R640、R740、R740XD等多個(gè)型號支持英特爾可編程加速卡(PAC)，從而加速數(shù)據(jù)中心的多種核心工作負(fù)載，例如數(shù)據(jù)分析、人工智能等，并通過與英特爾緊密合作，提供面向加速的軟件生態(tài)系統(tǒng)支持。其中，PowerEdge R740和R740XD可支持多達(dá)4路FPGA，PowerEdge R640支持1路FPGA。

　　2018年5月，戴爾易安信發(fā)布新的第14代戴爾易安信PowerEdge四路服務(wù)器和戴爾易安信ML/DL就緒解決方案，進(jìn)一步加強(qiáng)人工智能和機(jī)器學(xué)習(xí)功能。

　　其中，戴爾易安信新推出兩款的四路服務(wù)器：PowerEdge R940xa和PowerEdge R840。憑借英特爾®至強(qiáng)™可擴(kuò)展處理器(多達(dá)112個(gè)處理核心)和大容量內(nèi)存(多達(dá)6TB內(nèi)存和NVDIMM選件)的卓越性能密度，PowerEdge R940xa和PowerEdge R840服務(wù)器提供了強(qiáng)大的性能。兩款四路服務(wù)器都支持FPGA，在數(shù)據(jù)密集型計(jì)算方面表現(xiàn)卓越。

　　PowerEdge R940xa服務(wù)器設(shè)計(jì)用于加速關(guān)鍵業(yè)務(wù)應(yīng)用數(shù)據(jù)庫，沒有使用云的費(fèi)用和安全風(fēng)險(xiǎn)。它將4個(gè)CPU與4個(gè)圖形處理單元(GPU)以1：1的大比率相結(jié)合，提高了應(yīng)用性能，并且通過直接連接的NVMe驅(qū)動器實(shí)現(xiàn)了低延遲。

　　PowerEdge R840服務(wù)器專為數(shù)據(jù)庫內(nèi)分析而設(shè)計(jì)。它采用了比市場上其他服務(wù)器產(chǎn)品更多的直連NVMe驅(qū)動器，讓數(shù)據(jù)延遲最小化，并通過完全集成的超級通道互連總線(UPI)，加速數(shù)據(jù)傳輸。

　　戴爾易安信還參加了英特爾AI構(gòu)建者計(jì)劃，這是一個(gè)針對企業(yè)級技術(shù)合作伙伴的生態(tài)系統(tǒng)，旨在開發(fā)基于英特爾人工智能產(chǎn)品的高質(zhì)量解決方案。戴爾易安信跟英特爾通力合作，通過戴爾易安信創(chuàng)新實(shí)驗(yàn)室和戴爾易安信客戶解決方案中心，幫助客戶評估其在英特爾®至強(qiáng)®可擴(kuò)展處理器和英特爾®FPGA上的大規(guī)模深度學(xué)習(xí)和高性能計(jì)算工作負(fù)載。

　　戴爾易安信全球資深副總裁、大中華區(qū)企業(yè)解決方案總經(jīng)理曹志平表示，戴爾易安信獨(dú)家贊助英特爾FPGA中國創(chuàng)新中心，緣起戴爾跟英特爾緊密的戰(zhàn)略伙伴關(guān)系，也是出于戴爾“在中國，為中國”戴爾中國4.0+戰(zhàn)略的考慮。

　　面對數(shù)字化浪潮對各行各業(yè)帶來的顛覆性改變，戴爾科技集團(tuán)作為數(shù)字化轉(zhuǎn)型的實(shí)踐者、領(lǐng)導(dǎo)者和前瞻者，將匯聚集團(tuán)的綜合實(shí)力，進(jìn)一步深耕中國市場，持續(xù)履行本土化承諾，以領(lǐng)先的科技力量，豐富的實(shí)戰(zhàn)經(jīng)驗(yàn)為客戶保駕護(hù)航，在數(shù)字化轉(zhuǎn)型的道路上與客戶一同砥礪前行，成為中國客戶值得信賴的合作伙伴，共贏數(shù)字化未來。英特爾FPGA中國創(chuàng)新中心，正好跟戴爾的中國戰(zhàn)略方向一致。

　　在戴爾易安信PowerEdge服務(wù)器上使用FPGA的例子

　　2018年5月，戴爾易安信推出了一項(xiàng)人工智能挑戰(zhàn)賽，鼓勵(lì)參賽者展示人工智能的實(shí)際應(yīng)用，這對企業(yè)、科研以及社會都有著革命性的影響。冠軍得主可獲得在戴爾易安信HPC與人工智能創(chuàng)新實(shí)驗(yàn)室Zenith集群上的20萬個(gè)核心小時(shí)，其項(xiàng)目也在2018年超算大會戴爾易安信展臺上作為亮點(diǎn)展出，并參與到一系列推廣活動當(dāng)中。

　　最終，佛羅里達(dá)大學(xué)空間、高性能和彈性計(jì)算中心(SHREC)的一支研究團(tuán)隊(duì)被戴爾易安信評為2018年戴爾易安信人工智能挑戰(zhàn)賽冠軍。

　　佛羅里達(dá)大學(xué)空間、高性能和彈性計(jì)算中心(SHREC)由30多個(gè)行業(yè)、政府和學(xué)術(shù)合作伙伴組成，共同解決在通過重新配置、可靠的高性能計(jì)算來驅(qū)動或改進(jìn)任務(wù)和應(yīng)用上所面臨的科研難題。對于此次人工智能挑戰(zhàn)賽，SHREC團(tuán)隊(duì)開發(fā)并展示了一個(gè)異構(gòu)計(jì)算(HGC)系統(tǒng)，該系統(tǒng)可以支持完整的機(jī)器學(xué)習(xí)工作流，包含數(shù)據(jù)分析以及預(yù)處理、模型訓(xùn)練、部署和推理，并適用于任何利用機(jī)器學(xué)習(xí)的應(yīng)用領(lǐng)域，包括醫(yī)療、商業(yè)、金融、科學(xué)探索等等。

　　該團(tuán)隊(duì)的學(xué)生代表Chao Jiang博士表示：“為了這次人工智能挑戰(zhàn)賽，我們的團(tuán)隊(duì)利用了CERN OpenLab數(shù)據(jù)集來確定HGC工作流的性能，包括將CPU、GPU和FPGA用于機(jī)器學(xué)習(xí)。研究表明，性能提高了1.45到2.22倍。這些早期的研究成果為我們提供了很大的幫助，我們正計(jì)劃繼續(xù)測試基于更復(fù)雜的3D圖像的技術(shù)，例如利用3D U-net技術(shù)進(jìn)行立體分割來幫助提高性能，以及用于加速例子模擬的3D GAN。”

　　關(guān)于戴爾易安信

　　作為戴爾科技集團(tuán)的重要業(yè)務(wù)組成之一，戴爾易安信擁有行業(yè)領(lǐng)先的融合基礎(chǔ)架構(gòu)、服務(wù)器、存儲和數(shù)據(jù)保護(hù)技術(shù)，助力企業(yè)實(shí)現(xiàn)現(xiàn)代化、自動化以及數(shù)據(jù)中心轉(zhuǎn)型，為通過建立混合云、開發(fā)云原生應(yīng)用和大數(shù)據(jù)解決方案實(shí)現(xiàn)業(yè)務(wù)轉(zhuǎn)型提供了值得信賴的基礎(chǔ)。戴爾易安信為遍及180個(gè)國家不同規(guī)模的客戶提供服務(wù)—從全球財(cái)富500強(qiáng)至中小型企業(yè)—并為客戶提供業(yè)界全面的從邊緣計(jì)算到數(shù)據(jù)中心、再到云計(jì)算的創(chuàng)新產(chǎn)品組合。