本發(fā)明涉及存儲(chǔ)服務(wù)器技術(shù)領(lǐng)域，特別是涉及一種分布式塊存儲(chǔ)的數(shù)據(jù)寫入方法及裝置。

背景技術(shù)：

隨著網(wǎng)絡(luò)應(yīng)用的迅速發(fā)展，網(wǎng)絡(luò)信息數(shù)據(jù)量越來越大，PB級(jí)別的海量數(shù)據(jù)存儲(chǔ)變得越來越重要。傳統(tǒng)意義的本地磁盤存儲(chǔ)方式已不能滿足現(xiàn)有應(yīng)用的大容量、高可靠性、高性能以及橫向擴(kuò)展等要求，為滿足這些新要求，基于網(wǎng)絡(luò)的分布式塊存儲(chǔ)系統(tǒng)得到了廣泛重視。

目前針對(duì)分布式塊存儲(chǔ)的主流應(yīng)用方式一般為虛擬機(jī)以及數(shù)據(jù)庫(kù)等應(yīng)用，它們的IO基本特點(diǎn)是輕量、隨機(jī)、需要即時(shí)響應(yīng)、偶爾會(huì)產(chǎn)生突發(fā)IO等等，這就要求存儲(chǔ)能夠做到低時(shí)延、帶寬穩(wěn)定，同時(shí)確保數(shù)據(jù)的安全。傳統(tǒng)的優(yōu)化方案一般都會(huì)顧此失彼，只能在某些比較保守的場(chǎng)景下提供較高性能。

技術(shù)實(shí)現(xiàn)要素：

本發(fā)明的目的是提供一種分布式塊存儲(chǔ)的數(shù)據(jù)寫入方法及裝置，以解決分布式存儲(chǔ)不能兼顧低延遲與高帶寬的問題。

為解決上述技術(shù)問題，本發(fā)明提供一種分布式塊存儲(chǔ)的數(shù)據(jù)寫入方法，包括：

接收當(dāng)前端提交的IO請(qǐng)求；

對(duì)待寫入數(shù)據(jù)進(jìn)行哈希處理，將所述待寫入數(shù)據(jù)映射到集群的節(jié)點(diǎn)上；

所述集群的節(jié)點(diǎn)作為主節(jié)點(diǎn)，將所述待寫入數(shù)據(jù)順序放入所述主節(jié)點(diǎn)對(duì)應(yīng)的NVRAM數(shù)據(jù)隊(duì)列中，并將所述待寫入數(shù)據(jù)備份后推送到副本節(jié)點(diǎn)上；

所述主節(jié)點(diǎn)以及所述副本節(jié)點(diǎn)的NVRAM數(shù)據(jù)隊(duì)列按照預(yù)設(shè)時(shí)間將數(shù)據(jù)寫入后端SSD中。

可選地，在所述將所述待寫入數(shù)據(jù)備份后推送到副本節(jié)點(diǎn)上之后還包括：

所述副本節(jié)點(diǎn)進(jìn)行入隊(duì)操作后將狀態(tài)值反饋至所述主節(jié)點(diǎn)，將確認(rèn)字符返回至前端應(yīng)用，以判斷寫入操作是否成功。

可選地，所述主節(jié)點(diǎn)以及所述副本節(jié)點(diǎn)的NVRAM數(shù)據(jù)隊(duì)列按照預(yù)設(shè)時(shí)間將數(shù)據(jù)寫入后端SSD中包括：

數(shù)據(jù)寫入的位置按照一致性哈希的原則確定。

可選地，還包括：

接收當(dāng)前端提交的讀取請(qǐng)求；

根據(jù)哈希原則確定待讀取數(shù)據(jù)的存儲(chǔ)位置；

根據(jù)所述存儲(chǔ)位置獲取數(shù)據(jù)，并將所述數(shù)據(jù)返回至前端。

可選地，還包括：

對(duì)所述后端SSD中的數(shù)據(jù)進(jìn)行監(jiān)控，當(dāng)有數(shù)據(jù)刪除時(shí)，將與刪除數(shù)據(jù)相鄰的前后兩段數(shù)據(jù)進(jìn)行合并。

本發(fā)明還提供了一種分布式塊存儲(chǔ)的數(shù)據(jù)寫入裝置，包括：

請(qǐng)求接收模塊，用于接收當(dāng)前端提交的IO請(qǐng)求；

卷服務(wù)模塊，用于對(duì)待寫入數(shù)據(jù)進(jìn)行哈希處理，將所述待寫入數(shù)據(jù)映射到集群的節(jié)點(diǎn)上；

區(qū)塊服務(wù)模塊，用于將所述集群的節(jié)點(diǎn)作為主節(jié)點(diǎn)，將所述待寫入數(shù)據(jù)順序放入所述主節(jié)點(diǎn)對(duì)應(yīng)的NVRAM數(shù)據(jù)隊(duì)列中，并將所述待寫入數(shù)據(jù)備份后推送到副本節(jié)點(diǎn)上；

寫入模塊，用于所述主節(jié)點(diǎn)以及所述副本節(jié)點(diǎn)的NVRAM數(shù)據(jù)隊(duì)列按照預(yù)設(shè)時(shí)間將數(shù)據(jù)寫入后端SSD中。

可選地，還包括：

判斷模塊，用于在將所述待寫入數(shù)據(jù)備份后推送到副本節(jié)點(diǎn)上之后，所述副本節(jié)點(diǎn)進(jìn)行入隊(duì)操作后將狀態(tài)值反饋至所述主節(jié)點(diǎn)，將確認(rèn)字符返回至前端應(yīng)用，以判斷寫入操作是否成功。

可選地，所述寫入模塊具體為：數(shù)據(jù)寫入的位置按照一致性哈希的原則確定的模塊。

可選地，還包括：

讀取模塊，用于接收當(dāng)前端提交的讀取請(qǐng)求；根據(jù)哈希原則確定待讀取數(shù)據(jù)的存儲(chǔ)位置；根據(jù)所述存儲(chǔ)位置獲取數(shù)據(jù)，并將所述數(shù)據(jù)返回至前端。

可選地，還包括：

監(jiān)控模塊，用于對(duì)所述后端SSD中的數(shù)據(jù)進(jìn)行監(jiān)控，當(dāng)有數(shù)據(jù)刪除時(shí)，將與刪除數(shù)據(jù)相鄰的前后兩段數(shù)據(jù)進(jìn)行合并。

本發(fā)明所提供的分布式塊存儲(chǔ)的數(shù)據(jù)寫入方法及裝置，接收當(dāng)前端提交的IO請(qǐng)求；對(duì)待寫入數(shù)據(jù)進(jìn)行哈希處理，將待寫入數(shù)據(jù)映射到集群的節(jié)點(diǎn)上；集群的節(jié)點(diǎn)作為主節(jié)點(diǎn)，將待寫入數(shù)據(jù)順序放入主節(jié)點(diǎn)對(duì)應(yīng)的NVRAM數(shù)據(jù)隊(duì)列中，并將待寫入數(shù)據(jù)備份后推送到副本節(jié)點(diǎn)上；主節(jié)點(diǎn)以及副本節(jié)點(diǎn)的NVRAM數(shù)據(jù)隊(duì)列按照預(yù)設(shè)時(shí)間將數(shù)據(jù)寫入后端SSD中。本發(fā)明所提供的分布式塊存儲(chǔ)的數(shù)據(jù)寫入方法及裝置，采用掉電不丟數(shù)據(jù)的非易失性內(nèi)存NVRAM，能夠在保證數(shù)據(jù)安全的同時(shí)，向上層應(yīng)用提供等效于內(nèi)存的性能，降低了IO時(shí)延的同時(shí)，也保證了帶寬穩(wěn)定和數(shù)據(jù)安全。

附圖說明

為了更清楚的說明本發(fā)明實(shí)施例或現(xiàn)有技術(shù)的技術(shù)方案，下面將對(duì)實(shí)施例或現(xiàn)有技術(shù)描述中所需要使用的附圖作簡(jiǎn)單的介紹，顯而易見地，下面描述中的附圖僅僅是本發(fā)明的一些實(shí)施例，對(duì)于本領(lǐng)域普通技術(shù)人員來講，在不付出創(chuàng)造性勞動(dòng)的前提下，還可以根據(jù)這些附圖獲得其他的附圖。

圖1為本發(fā)明所提供的分布式塊存儲(chǔ)的數(shù)據(jù)寫入方法的一種具體實(shí)施方式的流程圖；

圖2為本發(fā)明所提供的分布式塊存儲(chǔ)的數(shù)據(jù)寫入方法的另一種具體實(shí)施方式的流程圖；

圖3為本發(fā)明實(shí)施例提供的分布式塊存儲(chǔ)的數(shù)據(jù)寫入裝置的結(jié)構(gòu)框圖；

圖4為本發(fā)明所提供的分布式塊存儲(chǔ)的數(shù)據(jù)寫入裝置的系統(tǒng)架構(gòu)示意圖。

具體實(shí)施方式

為了使本技術(shù)領(lǐng)域的人員更好地理解本發(fā)明方案，下面結(jié)合附圖和具體實(shí)施方式對(duì)本發(fā)明作進(jìn)一步的詳細(xì)說明。顯然，所描述的實(shí)施例僅僅是本發(fā)明一部分實(shí)施例，而不是全部的實(shí)施例?；诒景l(fā)明中的實(shí)施例，本領(lǐng)域普通技術(shù)人員在沒有做出創(chuàng)造性勞動(dòng)前提下所獲得的所有其他實(shí)施例，都屬于本發(fā)明保護(hù)的范圍。

本發(fā)明所提供的分布式塊存儲(chǔ)的數(shù)據(jù)寫入方法的一種具體實(shí)施方式的流程圖如圖1所示，該方法包括：

步驟S101：接收當(dāng)前端提交的IO請(qǐng)求；

步驟S102：對(duì)待寫入數(shù)據(jù)進(jìn)行哈希處理，將所述待寫入數(shù)據(jù)映射到集群的節(jié)點(diǎn)上；

步驟S103：所述集群的節(jié)點(diǎn)作為主節(jié)點(diǎn)，將所述待寫入數(shù)據(jù)順序放入所述主節(jié)點(diǎn)對(duì)應(yīng)的NVRAM數(shù)據(jù)隊(duì)列中，并將所述待寫入數(shù)據(jù)備份后推送到副本節(jié)點(diǎn)上；

步驟S104：所述主節(jié)點(diǎn)以及所述副本節(jié)點(diǎn)的NVRAM數(shù)據(jù)隊(duì)列按照預(yù)設(shè)時(shí)間將數(shù)據(jù)寫入后端SSD中。

本發(fā)明所提供的分布式塊存儲(chǔ)的數(shù)據(jù)寫入方法，接收當(dāng)前端提交的IO請(qǐng)求；對(duì)待寫入數(shù)據(jù)進(jìn)行哈希處理，將待寫入數(shù)據(jù)映射到集群的節(jié)點(diǎn)上；集群的節(jié)點(diǎn)作為主節(jié)點(diǎn)，將待寫入數(shù)據(jù)順序放入主節(jié)點(diǎn)對(duì)應(yīng)的NVRAM數(shù)據(jù)隊(duì)列中，并將待寫入數(shù)據(jù)備份后推送到副本節(jié)點(diǎn)上；主節(jié)點(diǎn)以及副本節(jié)點(diǎn)的NVRAM數(shù)據(jù)隊(duì)列按照預(yù)設(shè)時(shí)間將數(shù)據(jù)寫入后端SSD中。本發(fā)明所提供的分布式塊存儲(chǔ)的數(shù)據(jù)寫入方法，采用掉電不丟數(shù)據(jù)的非易失性內(nèi)存NVRAM，能夠在保證數(shù)據(jù)安全的同時(shí)，向上層應(yīng)用提供等效于內(nèi)存的性能，降低了IO時(shí)延的同時(shí)，也保證了帶寬穩(wěn)定和數(shù)據(jù)安全。

在上述實(shí)施例的基礎(chǔ)上，本發(fā)明所提供的分布式塊存儲(chǔ)的數(shù)據(jù)寫入方法中，在所述將所述待寫入數(shù)據(jù)備份后推送到副本節(jié)點(diǎn)上之后還可以包括：

所述副本節(jié)點(diǎn)進(jìn)行入隊(duì)操作后將狀態(tài)值反饋至所述主節(jié)點(diǎn)，將確認(rèn)字符返回至前端應(yīng)用，以判斷寫入操作是否成功。

本發(fā)明所提供的分布式塊存儲(chǔ)的數(shù)據(jù)寫入方法的另一種具體實(shí)施方式的流程圖如圖2所示，該方法包括：

步驟S201：當(dāng)前端提交IO請(qǐng)求；假設(shè)為4KB的寫入操作；

步驟S202：數(shù)據(jù)會(huì)先經(jīng)過卷服務(wù)模塊，進(jìn)行哈希處理之后，將數(shù)據(jù)映射到集群的某一節(jié)點(diǎn)上，沿萬(wàn)兆網(wǎng)絡(luò)提交給對(duì)應(yīng)節(jié)點(diǎn)(即主節(jié)點(diǎn))的區(qū)塊服務(wù)模塊；

步驟S203：區(qū)塊服務(wù)模塊接收數(shù)據(jù)之后，將數(shù)據(jù)順序放入主節(jié)點(diǎn)的NVRAM數(shù)據(jù)隊(duì)列中，同時(shí)根據(jù)副本設(shè)置，將數(shù)據(jù)原樣復(fù)制一份推送到另一個(gè)節(jié)點(diǎn)(即副本節(jié)點(diǎn))上。

副本節(jié)點(diǎn)做相同的入隊(duì)操作之后，反饋給主節(jié)點(diǎn)狀態(tài)值，主節(jié)點(diǎn)將狀態(tài)值返回給前端的卷服務(wù)模塊，解析之后進(jìn)而返回給前端應(yīng)用(或者虛擬機(jī))一個(gè)ACK，以此判斷寫入操作是否成功；

步驟S204：主和副本節(jié)點(diǎn)的NVRAM中數(shù)據(jù)隊(duì)列會(huì)定時(shí)以1MB為單位向后端的SSD刷新，數(shù)據(jù)所在的位置按照一致性哈希的原則確定。

這樣通過變小文件的隨機(jī)寫為大塊的順序?qū)憗硖嵘龓捫阅?，至此，寫入操作完成?/p>

在上述任一實(shí)施例的基礎(chǔ)上，本發(fā)明所提供的分布式塊存儲(chǔ)的數(shù)據(jù)寫入方法還可以進(jìn)一步包括讀取數(shù)據(jù)的過程，還過程包括：

接收當(dāng)前端提交的讀取請(qǐng)求；

根據(jù)哈希原則確定待讀取數(shù)據(jù)的存儲(chǔ)位置；

根據(jù)所述存儲(chǔ)位置獲取數(shù)據(jù)，并將所述數(shù)據(jù)返回至前端。

讀取操作相對(duì)來說比較簡(jiǎn)單，卷服務(wù)模塊獲知請(qǐng)求之后，根據(jù)哈希原則確定數(shù)據(jù)位置，再將請(qǐng)求提交給對(duì)應(yīng)節(jié)點(diǎn)的區(qū)塊服務(wù)模塊，拿到數(shù)據(jù)之后依次返回給前端。

優(yōu)選地，本發(fā)明實(shí)施例還可以進(jìn)一步包括：

對(duì)所述后端SSD中的數(shù)據(jù)進(jìn)行監(jiān)控，當(dāng)有數(shù)據(jù)刪除時(shí)，將與刪除數(shù)據(jù)相鄰的前后兩段數(shù)據(jù)進(jìn)行合并。

對(duì)于用戶的刪除操作，區(qū)塊服務(wù)會(huì)定時(shí)對(duì)SSD上的數(shù)據(jù)狀態(tài)進(jìn)行監(jiān)控，將數(shù)據(jù)合并處理，以避免因刪除操作帶來的孔洞，影響后續(xù)的讀取性能。

此外，由于各個(gè)邏輯卷由卷服務(wù)模塊統(tǒng)一管理，所以前端可以通過設(shè)置性能區(qū)間管理每個(gè)卷能占用到的性能，如IOPS和帶寬等，從而當(dāng)某一卷的IO突然上漲時(shí)，不致影響其他卷的正常使用。

下面對(duì)本發(fā)明實(shí)施例提供的分布式塊存儲(chǔ)的數(shù)據(jù)寫入裝置進(jìn)行介紹，下文描述的分布式塊存儲(chǔ)的數(shù)據(jù)寫入裝置與上文描述的分布式塊存儲(chǔ)的數(shù)據(jù)寫入方法可相互對(duì)應(yīng)參照。

圖3為本發(fā)明實(shí)施例提供的分布式塊存儲(chǔ)的數(shù)據(jù)寫入裝置的結(jié)構(gòu)框圖，參照?qǐng)D3分布式塊存儲(chǔ)的數(shù)據(jù)寫入裝置可以包括：

請(qǐng)求接收模塊100，用于接收當(dāng)前端提交的IO請(qǐng)求；

卷服務(wù)模塊200，用于對(duì)待寫入數(shù)據(jù)進(jìn)行哈希處理，將所述待寫入數(shù)據(jù)映射到集群的節(jié)點(diǎn)上；

區(qū)塊服務(wù)模塊300，用于將所述集群的節(jié)點(diǎn)作為主節(jié)點(diǎn)，將所述待寫入數(shù)據(jù)順序放入所述主節(jié)點(diǎn)對(duì)應(yīng)的NVRAM數(shù)據(jù)隊(duì)列中，并將所述待寫入數(shù)據(jù)備份后推送到副本節(jié)點(diǎn)上；

寫入模塊400，用于所述主節(jié)點(diǎn)以及所述副本節(jié)點(diǎn)的NVRAM數(shù)據(jù)隊(duì)列按照預(yù)設(shè)時(shí)間將數(shù)據(jù)寫入后端SSD中。

在上述實(shí)施例的基礎(chǔ)上，本發(fā)明所提供的分布式塊存儲(chǔ)的數(shù)據(jù)寫入裝置還可以包括：

判斷模塊，用于在將所述待寫入數(shù)據(jù)備份后推送到副本節(jié)點(diǎn)上之后，所述副本節(jié)點(diǎn)進(jìn)行入隊(duì)操作后將狀態(tài)值反饋至所述主節(jié)點(diǎn)，將確認(rèn)字符返回至前端應(yīng)用，以判斷寫入操作是否成功。

進(jìn)一步地，所述寫入模塊可以具體為：數(shù)據(jù)寫入的位置按照一致性哈希的原則確定的模塊。

在上述任一實(shí)施例的基礎(chǔ)上，本發(fā)明所提供的分布式塊存儲(chǔ)的數(shù)據(jù)寫入裝置還可以包括：

讀取模塊，用于接收當(dāng)前端提交的讀取請(qǐng)求；根據(jù)哈希原則確定待讀取數(shù)據(jù)的存儲(chǔ)位置；根據(jù)所述存儲(chǔ)位置獲取數(shù)據(jù)，并將所述數(shù)據(jù)返回至前端。

作為一種具體實(shí)施方式，本發(fā)明實(shí)施例還可以包括：

監(jiān)控模塊，用于對(duì)所述后端SSD中的數(shù)據(jù)進(jìn)行監(jiān)控，當(dāng)有數(shù)據(jù)刪除時(shí)，將與刪除數(shù)據(jù)相鄰的前后兩段數(shù)據(jù)進(jìn)行合并。

如圖4本發(fā)明所提供的分布式塊存儲(chǔ)的數(shù)據(jù)寫入裝置的系統(tǒng)架構(gòu)示意圖所示。本發(fā)明使用萬(wàn)兆網(wǎng)絡(luò)環(huán)境，后端采用SSD硬盤，從硬件層面上最大限度降低時(shí)延，萬(wàn)兆網(wǎng)絡(luò)可以選擇作LACP模式綁定。此外，將NVRAM硬件加入集群節(jié)點(diǎn)中，整個(gè)系統(tǒng)分為卷服務(wù)模塊和區(qū)塊服務(wù)模塊兩大部分。

本發(fā)明所提供的分布式塊存儲(chǔ)的數(shù)據(jù)寫入裝置，接收當(dāng)前端提交的IO請(qǐng)求；對(duì)待寫入數(shù)據(jù)進(jìn)行哈希處理，將待寫入數(shù)據(jù)映射到集群的節(jié)點(diǎn)上；集群的節(jié)點(diǎn)作為主節(jié)點(diǎn)，將待寫入數(shù)據(jù)順序放入主節(jié)點(diǎn)對(duì)應(yīng)的NVRAM數(shù)據(jù)隊(duì)列中，并將待寫入數(shù)據(jù)備份后推送到副本節(jié)點(diǎn)上；主節(jié)點(diǎn)以及副本節(jié)點(diǎn)的NVRAM數(shù)據(jù)隊(duì)列按照預(yù)設(shè)時(shí)間將數(shù)據(jù)寫入后端SSD中。本發(fā)明所提供的分布式塊存儲(chǔ)的數(shù)據(jù)寫入裝置，采用掉電不丟數(shù)據(jù)的非易失性內(nèi)存NVRAM，能夠在保證數(shù)據(jù)安全的同時(shí)，向上層應(yīng)用提供等效于內(nèi)存的性能，降低了IO時(shí)延的同時(shí)，也保證了帶寬穩(wěn)定和數(shù)據(jù)安全。本申請(qǐng)優(yōu)化了虛擬機(jī)和數(shù)據(jù)庫(kù)應(yīng)用場(chǎng)景下的IOPS性能；提供用于調(diào)節(jié)各邏輯卷的性能負(fù)載的策略。

本說明書中各個(gè)實(shí)施例采用遞進(jìn)的方式描述，每個(gè)實(shí)施例重點(diǎn)說明的都是與其它實(shí)施例的不同之處，各個(gè)實(shí)施例之間相同或相似部分互相參見即可。對(duì)于實(shí)施例公開的裝置而言，由于其與實(shí)施例公開的方法相對(duì)應(yīng)，所以描述的比較簡(jiǎn)單，相關(guān)之處參見方法部分說明即可。

專業(yè)人員還可以進(jìn)一步意識(shí)到，結(jié)合本文中所公開的實(shí)施例描述的各示例的單元及算法步驟，能夠以電子硬件、計(jì)算機(jī)軟件或者二者的結(jié)合來實(shí)現(xiàn)，為了清楚地說明硬件和軟件的可互換性，在上述說明中已經(jīng)按照功能一般性地描述了各示例的組成及步驟。這些功能究竟以硬件還是軟件方式來執(zhí)行，取決于技術(shù)方案的特定應(yīng)用和設(shè)計(jì)約束條件。專業(yè)技術(shù)人員可以對(duì)每個(gè)特定的應(yīng)用來使用不同方法來實(shí)現(xiàn)所描述的功能，但是這種實(shí)現(xiàn)不應(yīng)認(rèn)為超出本發(fā)明的范圍。

結(jié)合本文中所公開的實(shí)施例描述的方法或算法的步驟可以直接用硬件、處理器執(zhí)行的軟件模塊，或者二者的結(jié)合來實(shí)施。軟件模塊可以置于隨機(jī)存儲(chǔ)器(RAM)、內(nèi)存、只讀存儲(chǔ)器(ROM)、電可編程ROM、電可擦除可編程ROM、寄存器、硬盤、可移動(dòng)磁盤、CD-ROM、或技術(shù)領(lǐng)域內(nèi)所公知的任意其它形式的存儲(chǔ)介質(zhì)中。

以上對(duì)本發(fā)明所提供的分布式塊存儲(chǔ)的數(shù)據(jù)寫入方法及裝置進(jìn)行了詳細(xì)介紹。本文中應(yīng)用了具體個(gè)例對(duì)本發(fā)明的原理及實(shí)施方式進(jìn)行了闡述，以上實(shí)施例的說明只是用于幫助理解本發(fā)明的方法及其核心思想。應(yīng)當(dāng)指出，對(duì)于本技術(shù)領(lǐng)域的普通技術(shù)人員來說，在不脫離本發(fā)明原理的前提下，還可以對(duì)本發(fā)明進(jìn)行若干改進(jìn)和修飾，這些改進(jìn)和修飾也落入本發(fā)明權(quán)利要求的保護(hù)范圍內(nèi)。