公司原來提供的ccdbfs集群服務即將下線,需要在乙個月內遷移完畢,並且後續提供持續穩定、高可用nfs服務。
預估20tb資料,假設拷貝速率100mb/s。
20 * 1024 * 1024 / 100 ≈ 209715.2 s
209715.2 / (60 * 60) ≈ 58 h
至少需要兩三天。事實上,在兩個nfs集群間拷貝傳輸速率沒這麼快,而且大量小檔案的情況下,會更慢,降到10mb/s是非常正常的。如何平滑、如何過渡、如何高效無損?服務搭建、風險預案、集群雙寫等方面都值得深思熟慮。
分布式檔案系統:distributed file system, dfs,又叫做網路檔案系統:network file system。一種允許檔案通過網路在多台主機上分享的檔案系統,可讓多機器上的多使用者分享檔案和儲存空間。
計畫在該系列中詳細描述以下要點:
最終的方案選型是moosefs,並且是全機房混布,經過測試發現,多metalogger+多副本goal備份,竟然不影響讀寫速率,這點是乙個使用後的驚喜。
平滑遷移方案會在《tb級nfs資料平滑遷移方案設計與實現》詳細描述設計過程,為什麼選用為什麼棄用幾種不同方案。最後確定的是 全機房【inotify + change_file.list + 定製化增量複製 】+ 單client定製化複製diff剩餘資料 的方案。
Mysql平滑遷移(重構後的資料平滑遷移)
一般思路 只是一般思路 1 線下備份表結構 2 線上備份表資料 3 建立臨時表 4 建立檢視 簡化步驟如下 只適合參考 1 只拷貝表結構,不拷貝資料 select into b from a where 1 1 2 表資料遷移表b已經存在 insert into b d,e,f select a,b...
資料平滑遷移方法
一 問題的提出 網際網路有很多 資料量較大,併發量較大,業務複雜度較高 的業務場景,其典型系統分層架構如下 1 上游是業務層biz,實現個性化的業務邏輯 2 中游是服務層service,封裝資料訪問 3 下游是資料層db,儲存固化的業務資料 服務化分層架構的好處是,服務層遮蔽下游資料層的複雜性,例如...
mysql秒級平滑 資料庫秒級平滑擴容架構方案
一 緣起 1 併發量大,流量大的網際網路架構,一般來說,資料庫上層都有乙個服務層,服務層記錄了 業務庫名 與 資料庫例項 的對映關係,通過資料庫連線池向資料庫路由sql語句以執行 如上圖 服務層配置使用者庫user對應的資料庫例項物理位置為ip 其實是乙個內網網域名稱 2 隨著資料量的增大,資料要進...