常用開源NoSQL原理與應(yīng)用

常用開源 NoSQL原理與應(yīng)用 Agenda 深入理解 Redis Hash算法數(shù)據(jù)庫介紹 LSM算法數(shù)據(jù)庫介紹 HandlerSocket介紹 分布式數(shù)據(jù)庫介紹 Why NoSQL? 關(guān)系數(shù)據(jù)庫的問題 大數(shù)據(jù)的產(chǎn)生 存儲(chǔ)需求的多樣性 云時(shí)代的來臨 深入理解 Redis 一個(gè)更加強(qiáng)大的 Memcached memcached場景與局限 只能做 cache,不能做 storage 沒有數(shù)據(jù)結(jié)構(gòu)支持 數(shù)據(jù)局部踢出現(xiàn)象 cache與存儲(chǔ)資源訪問能力落差 不能枚舉全數(shù)據(jù) 訪問性能仍有提升空間 redis 概述 a disk backed in-memory database 高性能網(wǎng)絡(luò)接口 + 數(shù)據(jù)結(jié)構(gòu)集合 redis 特點(diǎn) key - structure 類型存儲(chǔ) 支持?jǐn)?shù)據(jù)可靠存儲(chǔ)及落地 支持復(fù)制（ cluster版本在開發(fā)） 單進(jìn)程單線程高性能服務(wù)器 crash safe & recovery slow 缺少內(nèi)存管理算法，依賴第三方庫 單機(jī) qps可以達(dá)到 10W (cpu是瓶頸 ) redis 數(shù)據(jù)類型 string hash list set sorted set redis 持久化機(jī)制 snapshot save 參數(shù) aof appendfsync 參數(shù) vm vm is not the way to go for the future diskstore 傳統(tǒng) b-tree redis 復(fù)制 實(shí)現(xiàn)機(jī)制 快照同步 存在的問題 無增量復(fù)制 slave表重建 redis缺陷與優(yōu)化 持久化 IO機(jī)制 復(fù)制機(jī)制 內(nèi)存管理 線程模型 故障恢復(fù)時(shí)間 持久化問題 buffer io 持久化問題 - fsync fsync非常耗時(shí) 單進(jìn)程阻塞操作 快照與 fsync同時(shí)進(jìn)行 復(fù)制缺陷 內(nèi)存管理 缺少高效內(nèi)存管理 額外內(nèi)存占用過多 針對(duì)特殊場景做優(yōu)化 開放地址 Hash redis 使用場景 需要 key - structure復(fù)雜數(shù)據(jù)結(jié)構(gòu) 需要數(shù)據(jù)可靠存儲(chǔ) 需要極高的單機(jī) qps using RAM as the new disk Hash算法數(shù)據(jù)庫 Hash存儲(chǔ)結(jié)構(gòu)更合適簡單 kv存儲(chǔ) tokyocabint（ tchdb） 特點(diǎn) 包含 hash/btree等多種存儲(chǔ)類型 kv tchdb適合小數(shù)據(jù)量高速讀寫訪問 tchdb隨機(jī)磁盤 IO次數(shù)平均 tchdb使用 mmap io tchdb qps 大約在 6W左右 tchdb存儲(chǔ)結(jié)構(gòu) 1 tchdb存儲(chǔ)結(jié)構(gòu) 2 LSM算法數(shù)據(jù)庫 硬件變革推動(dòng)算法變革 leveldb特點(diǎn) bigtable tablet實(shí)現(xiàn) LSM Tree算法 寫性能極其出色 讀性能依賴數(shù)據(jù)熱度 SSD設(shè)備友好，不會(huì)寫入放大 嵌入式 DB，需要自己實(shí)現(xiàn) Server 分布式 auto sharding支持友好 寫性能 50MB/s,讀性能 6W/s leveldb 存儲(chǔ)結(jié)構(gòu) leveldb 的問題與場景 讀 IO次數(shù)不確定 查詢指定 key對(duì)應(yīng)數(shù)據(jù)不存在的開銷非常大 缺少高效內(nèi)存管理算法 需要根據(jù)業(yè)務(wù)特點(diǎn)平衡 merge時(shí)間點(diǎn) 投入使用需要一定的開發(fā)量 適合有明顯時(shí)間熱點(diǎn)訪問規(guī)律的系統(tǒng) 配合 SSD使用表現(xiàn)極其出色 riak(bitcask) 特點(diǎn) 存儲(chǔ)結(jié)構(gòu)簡單 LSM Hash算法 全部 key存儲(chǔ)在內(nèi)存中 全部查詢只有 1次磁盤 IO QPS 大約在 45W左右 bitcask 存儲(chǔ)結(jié)構(gòu) bitcask 問題與場景 全部 key需要存儲(chǔ)在內(nèi)存中 recovery重啟需要重新 load所有 key merge時(shí)機(jī)的選擇 適合配合 SSD使用 handlersocket特點(diǎn) NoSQL接口訪問 MySQL(Innodb) 解決 SQL解析，查詢優(yōu)化等 CPU開銷 插件安裝無數(shù)據(jù)遷移成本 QPS 可以達(dá)到 8W handlersocket結(jié)構(gòu) handlersocket問題與場景 配合 DDL使用有嚴(yán)重問題 寫性能差，比傳統(tǒng) SQL接口還要慢 只能支持 Row Based復(fù)制 性能優(yōu)勢建立在沒有磁盤 IO瓶頸基礎(chǔ)上 分布式 NoSQL介紹 無中心化方案 無中心節(jié)點(diǎn) 數(shù)據(jù)一致性 Hash分布 NWR數(shù)據(jù)多點(diǎn)備份 Read repair Hinted Handoff Gossip節(jié)點(diǎn)管理 中心化方案 中心節(jié)點(diǎn)提供路由 中心節(jié)點(diǎn)維護(hù)節(jié)點(diǎn)信息 對(duì)外訪問代理節(jié)點(diǎn) 總結(jié) 關(guān)系數(shù)據(jù)庫是單機(jī)存儲(chǔ)時(shí)代的產(chǎn)物 NoSQL更能滿足不同存儲(chǔ)需求的多樣性 NoSQL是 SQ