2024年存算分離之存儲(chǔ)池化報(bào)告-ODCC開放數(shù)據(jù)中心委員會(huì)

[編號(hào)ODCC-2024-01003]開放數(shù)據(jù)中心標(biāo)準(zhǔn)推進(jìn)委員會(huì)2024.08發(fā)布版權(quán)聲明轉(zhuǎn)載、摘編或利用其它方式使用ODCC成果中的文字或者觀點(diǎn)的，應(yīng)注明編寫組王衎明勇徐華新華三技術(shù)有限公司 2 3 8 9（一）術(shù)語和定義 9 9 93.智能盤（框SmartDisk/Enclosure） 9 9 （一）規(guī)范要求 18 （四）安全&可靠性&可用性要求 一、存算分離技術(shù)產(chǎn)生的背景重要?jiǎng)恿?，隨著全球范圍內(nèi)企業(yè)數(shù)字化轉(zhuǎn)型的快速發(fā)展，IT基作為計(jì)算資源載體的計(jì)算服務(wù)器通常配置內(nèi)置硬盤作為本地存種架構(gòu)稱為存算一體，是當(dāng)前IT基礎(chǔ)設(shè)施采用的主要架構(gòu)。隨著IT基礎(chǔ)設(shè)施規(guī)模的不斷擴(kuò)大，當(dāng)前存算一體系統(tǒng)的局算一體架構(gòu)中，IT基礎(chǔ)設(shè)施會(huì)取計(jì)算性能需求和本地存儲(chǔ)空間容時(shí)需要同時(shí)擴(kuò)容計(jì)算性能和本地硬盤（計(jì)算服務(wù)器擴(kuò)容成8存算分離系統(tǒng)將服務(wù)器本地存儲(chǔ)資源和計(jì)算資源拆分為獨(dú)立二、術(shù)語、定義和縮略語面向數(shù)據(jù)中心Diskless架構(gòu)，支持9一種數(shù)據(jù)縮減技術(shù),可以很大程度上減少對(duì)物理存儲(chǔ)空間的數(shù)據(jù)存儲(chǔ)設(shè)備通過盤創(chuàng)建Namespace直接映射到主機(jī)給用主機(jī)軟件可訪問的LBA地址的集合Non-VolatileMemoryexpress(非易失性高三、技術(shù)發(fā)展趨勢UB協(xié)議等高速互聯(lián)標(biāo)準(zhǔn)，使設(shè)備間實(shí)現(xiàn)直接內(nèi)存交換，時(shí)延降以降低數(shù)據(jù)中心主CPU負(fù)載，并更有效和安全地處理數(shù)據(jù)密集降低延遲、抖動(dòng)。NVIDIA收購BlueFieldDPU，實(shí)現(xiàn)虛擬化、網(wǎng)絡(luò)、存儲(chǔ)、安全的全卸載。微軟推出Fungible系列DPU，可四、存算分離架構(gòu)定義是通用CPU算力，AI算力，網(wǎng)卡算力等多種異構(gòu)算力的集合。漸成為主流，網(wǎng)絡(luò)的時(shí)延遲降低到幾u(yù)s，可以滿足SSD池化性CPU和內(nèi)存，完全發(fā)揮介質(zhì)性能。新型盤框提供百GB級(jí)存儲(chǔ)帶五、存算分離盤框規(guī)范要求及關(guān)鍵技術(shù)支持10Gb/25Gb/100Gb/200Gb及以上Ro1M數(shù)據(jù)塊100%順序讀帶寬，每TB容量帶寬性能應(yīng)大于復(fù)現(xiàn)NVMe標(biāo)準(zhǔn)在多種網(wǎng)絡(luò)上的擴(kuò)展，達(dá)到降低存儲(chǔ)網(wǎng)絡(luò)協(xié)議棧處Active-Active的邏輯架構(gòu)在ALUA（AsymmetricLogicLUN/Namespace不同時(shí)段的壓力也不相同，在實(shí)際情況下ALUA接收到的主機(jī)讀寫請(qǐng)求是均衡的；同時(shí)硬盤接受的硬盤盤片上的Flash顆粒具有擦寫次數(shù)的限制。在傳統(tǒng)的RAID覆蓋寫（WriteInPlace）的方式下，如果某塊盤上的數(shù)據(jù)成為了熱點(diǎn)，那么對(duì)這些數(shù)據(jù)的不斷改寫，就會(huì)導(dǎo)致對(duì)應(yīng)的重定向?qū)懠夹g(shù)）大塊順序?qū)懙姆绞剑瑢?shí)現(xiàn)每個(gè)Flash顆粒擦寫修改寫而產(chǎn)生RAID寫懲罰，有效降低了寫入過程陣列控制器的ROW大塊順序?qū)懛绞绞沟酶鞣NRAID級(jí)別都能實(shí)現(xiàn)高性能。顆粒中的Block需要先擦除再寫。擦除的單位是Block，在擦除生了盤內(nèi)寫放大。通過多流寫技術(shù)，對(duì)存儲(chǔ)系尋道速度限制了其隨機(jī)IO的吞吐能力，IOPS非常有限。盡管NL_SAS盤目前可提供的單盤容量越來越大，但受限于其較低的讀和校驗(yàn)修改而產(chǎn)生RAID寫懲罰，直接打破了機(jī)械盤傳統(tǒng)統(tǒng)的RAID覆蓋寫的方式，ROW大塊順序?qū)懙姆绞绞沟酶鞣NRAID針對(duì)確定性的IO處理卸載到專用DPU，可以提升整個(gè)計(jì)算系統(tǒng)實(shí)現(xiàn)全場景性能加速，性能層融合了Cache和Tier兩種加速技度結(jié)構(gòu)樹的熱點(diǎn)統(tǒng)計(jì)，對(duì)于混合IO模型有（三）資源利用率關(guān)鍵技術(shù)RAID受限于硬盤數(shù)量，在數(shù)據(jù)容量劇增的年代無法滿足企業(yè)對(duì)為單位對(duì)數(shù)據(jù)進(jìn)行管理也顯得越來越力不從心。為了解決傳統(tǒng)RAID的上述問題，同時(shí)順應(yīng)虛擬化技術(shù)的發(fā)展趨勢，眾多存儲(chǔ)支持?jǐn)?shù)據(jù)壓縮和重刪，提高空間利用率。使用芯卸載壓縮、的數(shù)據(jù)不均勻，就可能導(dǎo)致某些壓力大的硬盤成為系統(tǒng)的瓶頸。由各個(gè)硬盤的細(xì)小顆粒組成存儲(chǔ)資源池并映射給上層服務(wù)器使盤上，實(shí)現(xiàn)盤的負(fù)載均衡。而資源池內(nèi)部采用大比例EC技術(shù)實(shí)現(xiàn)資源池?cái)?shù)據(jù)冗余，利用硬件EC算法引擎（算力卸載到專有芯（四）安全&可靠性&可用性要求服務(wù)質(zhì)量控制可以通過動(dòng)態(tài)地分配系統(tǒng)的資源來滿足某些應(yīng)用程序的特定性能目標(biāo)。服務(wù)質(zhì)量控制特性允許用戶根對(duì)特定應(yīng)用程序設(shè)置特定的上限/下限目標(biāo)。系統(tǒng)根據(jù)設(shè)定的目RoCE網(wǎng)絡(luò)協(xié)議，因其本身具有的復(fù)雜度，在進(jìn)行網(wǎng)絡(luò)基礎(chǔ)后臺(tái)將緩存數(shù)據(jù)下盤。存儲(chǔ)設(shè)備采用AA雙控架構(gòu)，數(shù)據(jù)讀寫支寫數(shù)據(jù)在緩存到控制器A的時(shí)候同時(shí)鏡像到控制器B，保證AB存儲(chǔ)設(shè)備內(nèi)置了BBU模塊（備電當(dāng)存儲(chǔ)陣列在供電故障業(yè)務(wù)異常。為了解決上述問題，通過端到端PI功能保證傳輸路據(jù)在達(dá)到盤以后，盤本身會(huì)對(duì)數(shù)據(jù)進(jìn)行PI校驗(yàn)，保證數(shù)據(jù)在從前端接收（插入PI）到下盤這段時(shí)間出現(xiàn)跳變或改寫能被校驗(yàn)據(jù)后會(huì)對(duì)數(shù)據(jù)進(jìn)行校驗(yàn)，一旦出錯(cuò)會(huì)通知上層控制器軟件通過RAID冗余恢復(fù)跳變前的數(shù)據(jù)。為了防止數(shù)據(jù)在盤框前端返回之全標(biāo)準(zhǔn)向硬盤發(fā)送一