海量小文件，例如2000萬數據量，如何確保復制數據在主備兩端的一致性？傳統的災備方式，在第一次全鏡像的同時，如何確保鏡像過程中增量部分的同步？

數據存儲是門大學問，比如用戶的關鍵業務數據存儲，通常是在大型數據庫的基礎上進行存儲與管理，其相應的數據存儲形式主要是數據塊(Block)，中小型數據庫則可能會采用文件形式(file)。

但是作為辦公自動化OA、卷宗類海量內部文檔管理、多集群前端業務平臺、互聯網業務平臺、財務系統、工資系統等需要文件級(file)的集中存儲與共享時，則有更專業的需求：一是充分利用現有的網絡資源；二是提供強勁的存儲容量的擴展；三是多臺服務器對海量文件級的數據讀寫；四是降低存儲資源開銷及整體擁有的成本。

如何解決上述文件級（file）數據集中存儲與共享的用戶需求，NAS網絡共享存儲給出了漂亮的解決方案，并且順利解決企業用戶海量數據文件(file)與數據塊(Block)兩種形式并存的難題。因此，很多像互聯網這樣對外提供服務的多集群前端互聯網業務平臺，以及公檢法擁有海量卷宗文件的用戶，會欣然接受NAS存儲架構作為文件的存儲形式。

比如用戶有基于互聯網業務的平臺，用戶的基數非常大，因此前端就要做負載均衡和多集群業務。在這樣背景下，如何解決海量非結構化數據在多臺節點中保持數據的一致性，困難相當大。

那么用戶大多使用的方案是多個前端業務的集群，共享同一個NAS存儲的目錄，它們擁有共同寫與讀的機制，確保不會寫沖突。這樣的讀寫機制確保了文件的唯一性，這個方案可以快捷擴展前端集群節點的數量，以增加用戶對實際的訪問量的需求。

NAS存儲架構下的數據容災難題

從數據安全管理角度來看，從NAS上復制文件是一件讓人頭痛的事情。如果使用NAS廠商的相關復制功能，那么就必須有一套相同的NAS系統復制。而現有的NAS系統只能在文件管理系統層次進行復制。這決定了要么就全部復制，要么就什么都不復制。但是在實際環境中，用戶更希望針對特定文件進行相應的管理。比如，對相關的文件進行實時的備份，但是因為前端業務集群服務器主機可能會同時讀寫同一個NAS文件夾中的數據，造成無法實現數據的實時保護。

另外，海量小文件，例如2000萬數據量，如何確保復制數據在主備兩端的一致性？傳統的災備方式，在第一次全鏡像的同時，如何確保鏡像過程中增量部分的同步？這些都是困擾整個NAS架構下海量小文件進行數據容災的難題。

基于NAS的定時同步方案

從下面定時同步方案的拓撲圖來看，它是在基于NAS存儲集群架構拓撲圖上增加了一個備份節點。數據復制的流程首先是將業務端的NFS共享存儲目錄掛載至災備機，提供只讀機制，其次，通過英方控制臺，下發定時復制的策略，通過英方將災備機上的生產目錄數據復制至災備目錄里，進行一致性比對或執行復制規則，定時或手動執行。

該方案的優點是對源端的業務架構沒有任何的改變，它只是把目錄映射到災備服務器上，災備服務器同時掛載一個映射的只讀目錄，另外還有一個存儲數據的災備目錄。它要做的就是把生產數據產生變化的目錄的數據進行定時的比對，并且將缺少的文件同步到備端的存儲上去。

由于該方案需要定時做掃描的差異對比，因此數據同步需要時間，所以無法做到實時的數據同步，只能做到定時的數據同步。那么隨著NAS存儲數據的大量增加，可能僅就掃描和差異對比，就耗費大量時間。目前這種解決方案，主要是針對用戶數據量不是特別大的NAS目錄，例如數據文件的數量在百萬級別，并且用戶讀寫不是很頻繁，可以把定時的時間縮短即可實現。

基于NAS的實時同步方案

在實時同步方案中，數據復制的流程首先是在3臺前端業務服務器上面都安裝英方軟件客戶端；其次是單獨使用1臺服務器只讀該NAS存儲中對應文件夾，命名“英方NAS監控服務器”；最后是當這3臺服務器有任何1臺服務器對NAS數據進行修改時，英方客戶端會將修改的文件名和該文件的存儲路徑發送給“英方NAS監控服務器”，由該服務器實時讀取數據，并發送給容災端。

英方i2COOPY實時復制在一般服務器下能夠做到毫秒級數據同步，在NAS服務器集群環境下，i2COOPY通過在生產端指定一個服務器作為其他服務器IO變化的合并節點，能夠在備端的服務器達到秒級同步讀寫的目的。

該解決方案是旁路監聽，因此對主業務的節點變化是安裝客戶端，但是客戶端本身不產生性能開銷，只是監控對應服務器會對目錄當中的某個文件進行修改。比如集群中有三臺服務器，第一臺修改完了，會傳輸到英方NAS監控服務器上，然后會優先進行傳輸，當第二臺修改完后，就會進入文件隊列傳輸的等待過程，依次類推……英方監控服務器得到更改確定的指令后，會第一時間去讀對應目錄下的名稱，然后經過TCP/IP網絡發送到容災端的服務器。

該方案既解決了實時同步的問題，又解決了海量數據情況下數據復制時間窗口的問題，確保當生產環境NAS存儲出現故障時，數據安全，業務連續。

實時同步方案的六大優勢

這兩個方案均能滿足不同用戶NAS存儲數據容災的需求，具體的方案選擇要根據用戶的生產環境與數據量進行綜合分析判斷。不過，在NAS存儲架構下的海量文件的數據容災，英方股份高級售前技術顧問李毅總結了六大優勢：

1)、無備份窗口，可實現實時的數據傳輸；

2)、對用戶現有的業務架構無調整，只增加同步主機、災備主機，同時在客戶的業務環境上安裝客戶端，如果使用存儲級的復制，需要對存儲本身進行調整；

3)、對用戶的資源系統沒有多余的開銷，因為去同步主機才會產生數據的讀取，對源端的業務沒有壓力，對I/O的消耗比較小；

4)、備端數據可見，因為主備端的數據與文件目錄同樣，可隨時查看數據的一致性；

5)、當用戶需要容災演練，查看備端海量的數據的啟動時間非常短；

6)、彌補現有解決方案中無法針對使用NAS作為存儲冗余架構的不足，英方提供全場景解決方案，能夠滿足用戶同時做實時數據復制備份、非結構數據同步、高可用等容災備份的綜合需求，而之前很多對NAS存儲數據做復制都是定時的。

實戰：海量文件的數據容災落地方案

1、某金融用戶前端業務集群案例

某金融用戶異地容災拓撲圖

該用戶擁有大量的互聯網業務平臺，用戶希望實現本地到同城災備機房的實時數據復制。

實際上用戶的業務運行在本地的IDC機房，在本地建有容災的機房，中間通過千兆網絡進行數據的傳輸。用戶平時就有很多的數據要進行復制備份，同時也要實現NAS存儲架構下的數據復制，據統計，用戶在NAS存儲下的數據量是1.6T，海量文件的數量在2000萬左右。在生產業務方面，用戶實際的運行業務一共有10個，有8個業務因為數據量沒有達到千萬級別，所以英方通過定時同步的方案，實現增量數據的比對；另外核心業務是2個互聯網業務的集群，集群服務器一共有7臺，共享同一個目錄，寫入數據非常頻率，每天大約以20萬的數據在增加。

在這樣的生產環境下，用戶通過英方實時同步的方案，非常好地實現了基于NAS下的廣域網的數據的快速復制。經過現場的實時測算，用戶的延遲大部分時間是在5秒以下，這其中要考慮用戶的業務量非常頻繁，另外用戶的部分業務數據放在本地，所以千兆網絡不僅要進行異地的數據傳輸，還要支持本地業務的運行，整個網絡的日常生產占用率非常高，能達到秒級同步在業內已經無人能敵。

2、某廳級檢察院海量小文件案例

該檢察院用戶是典型的卷宗類海量小文件容災場景，用戶小文件數量在8000萬左右，數據量約7T，前端業務集群共有7臺服務器，共享同一個目錄，進行電子化檔案的存儲。用戶不會對數據進行修改和刪除，但是數據量會持續地增加，另外數據是電子性的檔案，每份檔案都是非常關鍵，不能出現任何的丟失。

該檢察院用戶已經在本地進行容災保護，希望通過英方的方案實現異地的容災級別的保護。用戶生產中心與災備中心相隔幾百公里，通過專線連接，巨大的數據量使得用戶第一次的數據同步就花費了一個星期。同時通過英方基于NAS的實時同步方案，在每臺服務器上安裝客戶端，監控服務器會觀察生產端不斷發生的數據變化，將截獲到的數據變化同步到災備服務器中。

這些擁有海量小文件的用戶，要實現基于NAS存儲架構下的異地定時或實時同步數據容災，目前業內的解決方案鳳毛麟角。英方在備端同步在時間上達到秒級別的容災要求，已經成功應用于公檢法、互聯網多集群前端業務平臺、電信運營商等領域，并且英方能夠提供全場景的容災需求，擁有很多典型的定制化的容災備份的解決方案。