PMEM數據庫Memhive白皮書

1、基于PMEM的PG數據庫Memhive白皮書概要PG是一個廣泛應用的開源數據庫，從財務管理、地理信息、水務系統(tǒng)到氣象服務等等?？刹渴鹪诒镜?，也可以部署在云上。PG不僅在事務處理中有強大能力，也支持分析型的復雜查詢語句。隨著用戶群的快速增長，PG受到的壓力超出了最初的設計目標，導致需要大規(guī)模擴展PG。本文討論了Memhive如何結合PM對擴展PG。挑戰(zhàn)如何水平擴展、垂直擴展，或者兩者皆支持是一個挑戰(zhàn)性問題。水平擴展包括在數據庫集群中對表進行分區(qū)、講每個分區(qū)駐留在單獨的PG實例中。每個實例有自己專用的CPU、DRAM、存儲資源。分片是一項橫向擴展技術，用于切分表，讓每個表分區(qū)獨立運行在單獨的PG實

2、例上。這個方法有以下缺點：Ø 由于集群需要額外資源，增加了總成本。Ø 正確分片是一項復雜的任務。Ø 管理也很復雜，例如為避免熱點，數據重均衡等Ø 多個分片上進行join非常重要Ø PG不支持原生分片垂直擴展需要給PG實例增加更多計算資源或DRAM容量。內存大的實例每個socket需要更大的DRAM，價格昂貴又受socket限制。下面討論結合PMEM如何進行垂直擴展。PMEM可提供多種模式：memory, fsdax, sector, devdax，用在PG的WAL，shared buffer，relation files等。以最佳的方式使用是個

3、挑戰(zhàn)。冗余部署是另一個挑戰(zhàn)。Intel的傲騰持久內存是什么？持久內存具有非易失性、可字節(jié)尋址、低延遲，延遲介于DRAM和SSD直接。其比DRAM高的密度甚至使其成為DRAM替代品。他能給提供大容量，給耗內存的應用進行擴展提供便利。隨著Intel Xeon第二代可擴展CPU的交付，傲騰持久內存可支持128、256、512GB?？墒姑總€CPU socket達到3TB，從而可提供比DRAM大很多的替代品。DRAM容量限制為128GB。傲騰持久內存通過內存總線直接和CPU進行交互?？梢允钩绦蛑苯釉L問，消除了系統(tǒng)調用的開銷，設備驅動開銷，中斷和內存上下文的開銷。甚至，應用可字節(jié)訪問PM上數據。詳細信息查

4、詢：Memhive擴展PGMemhive是集成PM到PG的先驅，以APP Direct模式使用PM。包括以下幾處：Ø 提供大容量的持久cacheØ 更快的WAL機制Ø PMEM-only模式同時提供Memhive manager，用于安裝并管理PM。下圖提供了其架構圖。Persistent cachePG將熱數據緩存到shared buffer cache中。這個cache由DRAM分配，同時也由限制，因為其他部件也要用到DRAM。Memhive通過fsdax模式將PM掛載，將cache部署在整個app direct PM namespace上。Cache容量大、

5、持久性、可字節(jié)尋址。Cache的元數據也在PM上，因此斷電不丟失。Memhive的持久cache確保CPU的cache line中數據及元數據以ACID特性刷寫。使用持久shared buffer cache具有以下優(yōu)勢：Ø Server重啟后者系統(tǒng)reboot后數據及元數據仍在持久cache，而表數據文件保留在現(xiàn)有存儲上（DAS/SAN）。這樣數據庫可以繼續(xù)從現(xiàn)有存儲服務中獲益，比如災備和災難恢復。Ø 面向磁盤的數據庫可以通過持久cache高效地轉換成內存數據庫。Ø Cache數據和元數據都在PM，不再需要昂貴的DRAM。Ø 重啟后可以快速預熱。

6、16; 現(xiàn)存PG不需要遷移現(xiàn)有數據即可完成升級。Fast WALWAL可以APP direct fsdax或者sector模式部署在PM上。fsdax模式：低延遲或者高事務性能。sector模式：數據可用性保證業(yè)務連續(xù)性。將PM應用WAL可以提高寫性能，因為消除了日志更新的IO等待，非常適合事務型工作負載。PMEM-only模式該模式下，PG的所有數據，包括表索引文件都放到PM上?？梢栽谡麄€數據都可容納到PM時使用。APPDirect sector用于承載數據庫文件，組合了PMEM和DRAM的優(yōu)勢。組合fast WAL，可以獲得更好性能。PMEM Manager功能包括：Ø 安裝配置

7、Memhive軟件Ø 交互式初始化配置，包括NUMA節(jié)點和持久cache和fast WAL配置。Ø 啟動、停止、重新設置配置Ø 豐富的統(tǒng)計，包括大量counters和數據庫、PMEM模塊的統(tǒng)計信息Ø 探測硬件故障并恢復Ø 展示PG配置、硬件配置，包括CPU、內存和NUMA節(jié)點信息測試測試包括OLTP和OLAP。OLAP使用Database Test Suite。OLTP使用pgbench。配置如下：Ø Intel Xeon Cascade Lake processor(24 cores, 2 threads per core) x 2Ø 16 GB DRAM x 6 per processorØ 128GB Optane x 6 per processorØ 800 GB SATA SSD x 1Ø 480 GB SATA SSD x 2通過numactl(8)制定服務端和客戶端的CPU?；赑G12進行修改，運行在Fedora Linux31 5.5.8-200。結論1、不太了解shared buf