騰訊2021sigmod論文Spitfire分析
Spitfire:易失和非易失性內(nèi)存的三層buffer管理
Spitfire: A Three-Tier Buffer Manager for Volatile and Non-Volatile Memory
機制
1、cache line page
將page分割成cache line大小,一個cache line為64字節(jié)。由于PM可以字節(jié)尋址,所以可以以cache line的粒度進行讀寫page。頁頭結(jié)構(gòu)中有標(biāo)記哪個cache line為臟的位圖表,1表示臟。并且有resident字段位圖標(biāo)記哪個cache line加載到了內(nèi)存,若無加載,這部分在內(nèi)存中不占空間,節(jié)省內(nèi)存。
2、HYMEM
《managing nvm in database system》分三層架構(gòu)DRAM-NVM-SSD。
1)SSD上數(shù)據(jù)頁大小16kb,當(dāng)事務(wù)請求時加載到DRAM
2)使用時鐘算法替換DRAM中的數(shù)據(jù)頁,PM中使用同樣算法
3)判斷什么條件下降DRAM中數(shù)據(jù)頁持久化到PM?
4)采用一個準入PM的隊列來協(xié)助是否將數(shù)據(jù)頁持久化到PM。
5)默認的讀路徑:SSD->NVM->DRAM->CPU
6)默認的寫路徑:CPU->DRAM->NVM->SSD
7)讀時首先看是否在DRAM,不在時看是否在NVM,都不在則需要將SSD上全頁直接加載到DRAM
8)DRAM替換數(shù)據(jù)頁時,首先看他在沒在準入隊列,若在則將其從隊列刪除,并持久化到PM;否則將其標(biāo)記到準入隊列,將該頁直接持久化到SSD
9)優(yōu)點:減少了PM寫,以及不同層級之間數(shù)據(jù)的移動
缺點:非并發(fā)操作,沒有在真實的PM環(huán)境上測試。
3、spitfire
使用概率的方法控制不同層級之間數(shù)據(jù)的遷移,實現(xiàn)冷熱數(shù)據(jù)分離。確保DRAM中是熱數(shù)據(jù),NVM中是溫數(shù)據(jù),SSD中是冷數(shù)據(jù)。
1)Dr:讀時,將NVM移動到DRAM中的概率。比如0.01表示每讀取100次,才將NVM中數(shù)據(jù)頁遷移到DRAM
2)Dw:寫時需要輔助DRAM的概率
3)Nr:讀操作時,將SSD遷移到NVM的概率
4)Nw:寫的過程中,buffer管理器將DRAM遷移到NVM的概率
5)數(shù)據(jù)遷移這些概率依賴于工作負載,自適應(yīng)調(diào)整。
6)通過對每層加一個latch,遷移時用到哪層,就對哪層加鎖,實現(xiàn)并發(fā)

最新活動更多
推薦專題
-
10 大模型的盡頭是開源
- 1 特斯拉工人被故障機器人打成重傷,索賠3.6億
- 2 【行業(yè)深度研究】退居幕后四年后,張一鳴終于把算法公司變成AI公司?
- 3 AI 時代,阿里云想當(dāng)“安卓” ,那誰是“蘋果”?
- 4 華為公布昇騰芯片三年計劃,自研HBM曝光
- 5 硬剛英偉達!華為發(fā)布全球最強算力超節(jié)點和集群
- 6 機器人9月大事件|3家國產(chǎn)機器人沖刺IPO,行業(yè)交付與融資再創(chuàng)新高!
- 7 谷歌“香蕉”爆火啟示:國產(chǎn)垂類AI的危機還是轉(zhuǎn)機?
- 8 00后華裔女生靠兩部AI電影狂賺7.8億人民幣,AI正式進軍好萊塢
- 9 美光:AI Capex瘋投不止,終于要拉起存儲超級周期了?
- 10 華為已殺入!AI領(lǐng)域最熱黃金賽道,大廠的數(shù)字人美女讓我一夜沒睡著覺