上傳人：產(chǎn)***

認(rèn)證信息

認(rèn)證類型：個(gè)人認(rèn)證

認(rèn)證主體：湯**（實(shí)名認(rèn)證）

IP屬地：廣東

IP屬地：廣東 上傳時(shí)間：2023-09-30 格式：DOC 頁(yè)數(shù)：5 大?。?31.50KB 積分：3.6 舉報(bào) 版權(quán)申訴

FPGA與GPU計(jì)算存儲(chǔ)加速對(duì)比：?jiǎn)挝还男阅芸剂恳蛩貫榱颂嵘?jì)算基礎(chǔ)設(shè)施的性能，并緊跟數(shù)據(jù)分析與AI不斷攀升的需求，眾多企業(yè)將硬件加速視為主要的解決方案。在大多數(shù)情況下，先進(jìn)的可編程硬件（主要是指GPU和FPGA）是加速的主要方式。通過(guò)使用這種先進(jìn)的硬件，企業(yè)正在贏得計(jì)算優(yōu)勢(shì)；然而，對(duì)于編程難度，他們?nèi)匀淮嬖诤侠淼膿?dān)憂。圖1：分析/AI流水線組件硬件制造商正在將加速方法應(yīng)用于計(jì)算存儲(chǔ)，這是專門(mén)設(shè)計(jì)用于包含內(nèi)嵌計(jì)算元素的存儲(chǔ)。這種方法已經(jīng)被證明可以為分析和AI應(yīng)用提供優(yōu)異的性能（圖1）。使用或者不使用機(jī)器學(xué)習(xí)輔助的分析以及驗(yàn)證，都可以借助計(jì)算存儲(chǔ)器件進(jìn)行加速。這些器件提供了一個(gè)關(guān)鍵的優(yōu)勢(shì)，使得成本高昂的計(jì)算被卸載到存儲(chǔ)器件上，而不必在服務(wù)器CPU上完成。與標(biāo)準(zhǔn)的存儲(chǔ)/CPU方法相比，通過(guò)計(jì)算存儲(chǔ)獲得的優(yōu)勢(shì)包括：1.借助應(yīng)用專用編程定制可編程硬件，獲得更高性能2.將計(jì)算任務(wù)從服務(wù)器卸載到存儲(chǔ)器件，釋放CPU資源3.數(shù)據(jù)與計(jì)算共址，降低數(shù)據(jù)傳輸需求這種新穎的方法前景光明。不過(guò)，您應(yīng)根據(jù)具體用例評(píng)估這種方法，考量性能、成本、功耗和易用性。性價(jià)比和單位功耗性能在選擇加速硬件評(píng)估時(shí)，占據(jù)主要比率。在本文中，我們將研討單位功耗性能（另一篇文章則專門(mén)研討性價(jià)比）。計(jì)算存儲(chǔ)功耗比較3種系統(tǒng)在這個(gè)場(chǎng)景中，我們將比較以CSV數(shù)據(jù)讀取用例為主的三種工具：英偉達(dá)GPUDirect存儲(chǔ)和RAPIDS存儲(chǔ)，以及基于賽靈思技術(shù)的三星SmartSSD存儲(chǔ)。CSV讀取在計(jì)算密集型流水線中起著重要的作用（參見(jiàn)圖1）。在下文中，我們將性能定義成CSV的處理速率，或處理“帶寬”。我們先快速回顧一下三種系統(tǒng)的運(yùn)行方式。英偉達(dá)GPUDirect存儲(chǔ)·端到端滿足分析和AI需求·將GPU用作計(jì)算單元，緊貼基于NVMe的存儲(chǔ)器件布局（GPUDirect）·使用CUDA進(jìn)行編程（RAPIDS）英偉達(dá)用其CSV數(shù)據(jù)讀取技術(shù)衡量相對(duì)于標(biāo)準(zhǔn)SSD的性能提升。結(jié)果如圖1所示。使用1到8個(gè)加速器時(shí)，對(duì)應(yīng)的吞吐量是4到23GB/s。三星SmartSSD驅(qū)動(dòng)器·將賽靈思FPGA用作計(jì)算單元·與存儲(chǔ)邏輯內(nèi)嵌駐留在同一個(gè)內(nèi)部PCIe互聯(lián)上·通過(guò)編程在存儲(chǔ)平臺(tái)上開(kāi)展運(yùn)算賽靈思數(shù)據(jù)分析解決方案合作伙伴Bigstream與三星合作，為ApacheSpark設(shè)計(jì)加速器，包括用于CSV和Parquet處理的IP。SmartSSD的測(cè)試使用單機(jī)模式的CSV解析引擎，以便開(kāi)展比較。結(jié)果如圖2所示，使用1到12個(gè)加速器時(shí)，對(duì)應(yīng)的吞吐量是4到23GB/s，同時(shí)也給出英偉達(dá)的結(jié)果（使用1到8個(gè)加速器）。請(qǐng)注意，本討論中的所有結(jié)果都按x軸上的加速器數(shù)量進(jìn)行參數(shù)化。這些結(jié)果令人振奮，但在選擇您的解決方案時(shí)，請(qǐng)務(wù)必將功耗情況納入考慮。圖2：SmartSSD驅(qū)動(dòng)器的CSV解析性能結(jié)果單位功耗性能比較圖3顯示了將功耗考慮在內(nèi)后的分析結(jié)果。它們代表單位功耗達(dá)到的性能水平，根據(jù)上述討論中引用的相關(guān)材料，給出了以下假設(shè)：·TeslaV100GPU：最大功耗200瓦·SmartSSD驅(qū)動(dòng)器FPGA：最大功耗30瓦圖3：CSV解析的每瓦功耗帶寬比較在這個(gè)場(chǎng)景下，計(jì)算表明，在全部使用8個(gè)加速器的情況下，SmartSSD的單位功耗性能比GPUDirectStorage高25倍。FPGA與GPU對(duì)比：有關(guān)單位功耗性能的最終思考計(jì)算存儲(chǔ)的優(yōu)勢(shì)在于能增強(qiáng)數(shù)據(jù)分析和AI應(yīng)用的性能。然而，要讓這種方法具備可實(shí)際部署的能力和實(shí)用性，就必須在評(píng)估時(shí)將功耗納入考慮。針對(duì)用于CSV數(shù)據(jù)解析的兩種不同的計(jì)算存儲(chǔ)方法，我們已經(jīng)提出按功耗參數(shù)化的吞吐量性能曲線。結(jié)果顯示，在使用相似數(shù)量的加速器進(jìn)行比較時(shí)，SmartSSD驅(qū)動(dòng)器的單位功耗性能優(yōu)于GPUDirect存儲(chǔ)方法。GPUDirect是英偉達(dá)通過(guò)NVIDIADGX-2應(yīng)用平臺(tái)提供的研究系統(tǒng)。三星SmartSSD驅(qū)動(dòng)器是一種可部署的量產(chǎn)型PCIe可插拔平臺(tái)，現(xiàn)在已經(jīng)通過(guò)賽靈思及分銷商供貨。如需了解更多信息，請(qǐng)查看：·有關(guān)Bigstream與SmartSSD計(jì)算存儲(chǔ)器件結(jié)合使用，加速