FPGA將成為英特爾進(jìn)入微軟AI市場遲到的船票

FPGA將成為英特爾進(jìn)入微軟AI市場遲到的船票長遠(yuǎn)來看，英特爾豪賭167億美元收購FPGA制造商Altera的舉動是一筆好買賣。現(xiàn)在，F(xiàn)PGA已經(jīng)成為深層神經(jīng)網(wǎng)絡(luò)中GPU的強(qiáng)力競爭對手；英偉達(dá)應(yīng)該也已經(jīng)發(fā)現(xiàn)了，微軟新的實時云AI/深度學(xué)習(xí)平臺“BrainWave”項目正在采用英特爾的Stratix10FPGA；在微軟早期進(jìn)行的測試中，其基于Stratix10的“BrainWave”項目中的FPGA系統(tǒng)在FP8持續(xù)計算上達(dá)到39.5萬億次每秒的運算速度；微軟計劃向需要實時人工智能服務(wù)的Azure客戶推介搭載英特爾計算平臺的“BrainBrain”項目。預(yù)計英特爾的FPGA將減緩英偉達(dá)數(shù)據(jù)中心/汽車業(yè)務(wù)板塊的增長速度。英特爾收購Altera時豪擲的167億美金終于見到回報了?，F(xiàn)在，Altera的FPGA（現(xiàn)場可編程門陣列）產(chǎn)品成為英特爾對抗英偉達(dá)基于GPU的深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)平臺的利器。與CPU（中央處理單元）相比，GPU（圖形處理單元）在并行計算方面存在優(yōu)勢，GPU專家英偉達(dá)借此躋身為深度學(xué)習(xí)計算領(lǐng)域的公認(rèn)領(lǐng)導(dǎo)者。然而，英偉達(dá)的投資者們應(yīng)該注意到，微軟新的實時人工智能云平臺“BrainWave項目”搭載了英特爾的Stratix10FPGA。微軟在選擇深度神經(jīng)網(wǎng)絡(luò)［DNN］處理單元或DPU時，沒有選擇英偉達(dá)的Tesla或者VoltaGPU，反而選擇了Stratix10。英特爾將從微軟在全球各個數(shù)據(jù)中心大規(guī)模部署“BrainWave”項目中獲得顯著的經(jīng)濟(jì)效益。英特爾沒有任何獨立的GPU產(chǎn)品，但它擁有的FPGA足以加強(qiáng)其未來在超大型深度神經(jīng)網(wǎng)絡(luò)中的作用。為什么這很重要現(xiàn)在，以人工智能為中心的數(shù)據(jù)中心和汽車業(yè)務(wù)板塊為英偉達(dá)貢獻(xiàn)的季度收入已經(jīng)超過5億美金。微軟在向Azure客戶提供的Brainwave項目中使用FPGA后，也可以為英特爾貢獻(xiàn)同等規(guī)模的季度收入。我估計，除了微軟之外，其它涉足人工智能的公司也會在其GPU加速的深度學(xué)習(xí)平臺中使用英特爾的FPGA。英偉達(dá)股價上升到目前的高度，部分原因來自于它在深度學(xué)習(xí)計算方面的先發(fā)優(yōu)勢。微軟采用英特爾的FPGA加速其深度神經(jīng)網(wǎng)絡(luò)也可以幫助提升其股價表現(xiàn)。專注AI的投資者們現(xiàn)在應(yīng)該正視英特爾，它的Stratix10產(chǎn)品讓英特爾一躍成為深層神經(jīng)網(wǎng)絡(luò)的硬件供應(yīng)商巨頭。過去三年中，英偉達(dá)的股票大幅跑贏了英特爾。未來，應(yīng)用在微軟Azure服務(wù)業(yè)務(wù)中的StratixFPGA將成為英特爾進(jìn)入企業(yè)AI市場的遲到的船票。通過GPU加速的Azure產(chǎn)品，微軟與英偉達(dá)公司建立了合作伙伴關(guān)系。另一方面，BrainWave項目是微軟使用FPGA加速器推進(jìn)其實時人工智能商業(yè)服務(wù)的舉措。訓(xùn)練深度學(xué)習(xí)計算機(jī)是一個需要高吞吐量的計算密集型過程，GPU優(yōu)異的并行計算性能使其成為理想選擇。然而，GPU能夠并行處理復(fù)雜的訓(xùn)練輸入，F(xiàn)PGA則對加速推理很有效。加速推理的主要目的是改善服務(wù)器與最終用戶之間的延遲。微軟對“BrainWave”項目的推廣定位是實時（零延遲）AI平臺。因此，英特爾的FPGA比英偉達(dá)的GPU更加適合做微軟BrainWave項目的DPU。BrainWave項目最終可能用在微軟為百度自主駕駛汽車定制的云框架/解決方案上。微軟是百度自主駕駛汽車業(yè)務(wù)上的合作伙伴。和微軟一樣，百度也在其數(shù)據(jù)中心上使用FPGA?；贔PGA的BrainWave項目被標(biāo)榜為針對計算機(jī)視覺、機(jī)器學(xué)習(xí)和深度學(xué)習(xí)，它可以滿足未來自動駕駛汽車的云基礎(chǔ)設(shè)施需求。GPU和FPGA是目前雖小但正在快速增長的人工智能服務(wù)行業(yè)的關(guān)鍵元件。根據(jù)Tractica的報告，到2025年，與AI相關(guān)的產(chǎn)品和服務(wù)市場規(guī)模將增長到368億美元。FPGA可以幫助英特爾在這個利基市場上更好地競爭。未來，英特爾真的需要更多FPGA產(chǎn)品客戶。它需要這塊收入來幫助支付它在以167億美元收購Altera時發(fā)行的70億美元債券。每個新收入來源都可以幫助英特爾恢復(fù)因大舉投資Altera而拉下的饑荒。為什么英特爾的FPGA對微軟至關(guān)重要Stratix10的F32峰值性能仍然明顯低于英偉達(dá)的PascalGPU。然而，市場正日趨采用緊湊型低精度數(shù)據(jù)類型（低于32位或FP32）。TensorFlow和Caffe等DNN軟件框架支持低精度FP16（16位）和FP8（8位）數(shù)據(jù)類型。在這些不需要FP32級性能的深入學(xué)習(xí)/機(jī)器學(xué)習(xí)任務(wù)中，F(xiàn)PGA可以大行其道。對于非常低精度的2位和1位DNN的持續(xù)改進(jìn)和FPGA在FP8和FP9DNN框架上的出色表現(xiàn)相輔相成。人工智能/深度學(xué)習(xí)并不完全依賴于英偉達(dá)GPU所擅長的傳統(tǒng)密集FP32和FP64運算。微軟的Brainwave項目并沒有使用GPU，是因為它還希望能夠通過低精度FPGA實現(xiàn)更節(jié)能的DNN。不像可以深度定制的FPGA，當(dāng)涉及到低精度、稀疏、不規(guī)則的DNN時，GPU的表現(xiàn)很差。在早期測試中，基于Stratix10的Brainwave項目中的FPGA硬件持續(xù)計算性能達(dá)到39.5萬億次每秒，這個測試是微軟在定制的低精度8位浮點格式下完成的。隨著繼續(xù)優(yōu)化完善Brainwave項目，預(yù)計性能還可以進(jìn)一步提高。結(jié)論微軟長期以來對FPGA的興趣是英特爾大舉押注Altera的原因之一。BrainWave項目是微軟2011年推出的Catapult項目的延續(xù)。六年前，微軟就已經(jīng)在其數(shù)據(jù)中心中配備了AlteraFPGA加速板?，F(xiàn)在，微軟正在使用英特爾最新的Stratix10FPGA來加速基于云的深度學(xué)習(xí)任務(wù)，而不僅僅是傳統(tǒng)的企業(yè)計算工作負(fù)載。微軟早在2011年就知道，傳統(tǒng)的XeonCPU無法勝任AI計算任務(wù)。英特爾迅速收購Altera的舉措表明，它已準(zhǔn)備好適應(yīng)微軟轉(zhuǎn)向FPGA加速超大型數(shù)據(jù)中心的巨大轉(zhuǎn)變。我認(rèn)為，英特爾從來都沒有考慮過購買英偉達(dá)這樣的GPU廠商，它看中的是微軟大力推動FPGA加速云計算背后的趨勢，投資的是Alte