資料傳輸dts致力於為使用者提供關係型資料庫、nosql及olap等資料來源之間的資料遷移同步服務,並提供鏈路狀態實時監控,鏈路失敗修復等完善的鏈路維護體系。
為降低資料遷移成本,資料傳輸dts陸續推出多種資料庫引擎(例如mysql,oracle,mongodb等)的不停機遷移功能,通過不停機遷移功能,可以實現遷移源例項提供服務的情況下,進行資料遷移,最大程度降低依賴源例項的應用程式的停機時間。經過一段時間的打磨,dts正式推出sqlserver不停機遷移功能,極大程度降低sqlserver使用者的資料遷移門檻。
不停機遷移原理
sqlserver不停機遷移任務配置流程
小結
如上圖所示,不停服遷移的過程包括:
(1) 結構遷移,結構定義遷移,例如表結構
(2) 全量資料遷移,源例項中存量資料遷移
(3) 增量資料遷移,將源例項遷移過程產生的業務更新資料同步到目標例項
增量資料遷移的增量日誌拉取及解析模組,在遷移任務開始後便開始執行,源例項產生的任何業務更新資料,都會被日誌拉取程式獲取、解析並儲存在dts儲存系統中。當全量資料遷移完成後,dts啟動增量資料回放模組,增量資料回放模組,會從dts儲存系統中讀取源庫的增量資料,經過解析、過濾、封裝後同步到目標例項中。
由於源例項業務產生的增量資料的速度低於dts增量同步的速度,所以經過一段時間的增量資料同步,目標例項跟源例項的資料同步會達到動態一致的過程。當增量遷移達到無延遲狀態後,可以在目標例項進行業務測試,業務測試通過後,源例項業務停寫,等待增量遷移同步再次達到無延遲後,直接將業務切換到目標例項。
由上面的流程可見,整個遷移過程中,業務停機時間為:從業務停寫,增量資料完全追平,到業務切換到目標例項的時間,停機時間可以降低到分鐘以內。
本小節以自建sqlserver到rds for sqlserver為例,簡單介紹,使用dts進行sqlserver不停機遷移的任務配置流程。
在這個步驟中,主要配置遷移任務名稱,源sqlserver例項連線資訊及目標rds for sqlserver例項連線資訊。
在這個步驟中,配置遷移型別及遷移物件。
進行不停機遷移時,遷移型別需要配置:結構遷移+全量資料遷移+增量資料遷移
資料傳輸dts致力於支援關係型資料庫、nosql及olap等資料來源之間的資料遷移同步。dts提供的sqlserver的不停機遷移功能,可以實現在sqlserver提供服務的情況下,進行資料遷移,最大程度降低依賴sqlserver的應用程式的停機時間。
mysql不停機遷移
oracle不停機遷移
mongodb不停機遷移
dts典型應用場景
kafka支援大資料傳輸
kafka對於訊息體的大小預設為單條最大值是1m.但是在我們應用場景中,常常會出現一條訊息大於1m,如果不對kafka進行配置.則會出現生產者無法將訊息推送到kafka或消費者無法去消費kafka裡面的資料,這時我們就要對kafka進行以下配置 producer的引數中新增 max.request....
C SFTP資料傳輸
我們有些客戶公司的資料比較重要,為了安全集團公司內部都使用的是區域網,但是有時候又不得不予外界網際網路做資料互動,所以有些不重要的系統是放在外界網際網路的,這樣以來內部系統和外部系統的資料互動就成為了問題,這樣以來就使用到了sftp伺服器來作為資料傳輸的中介。下面不說了,直接上c 此處使用了第三方動...
資料傳輸方式
資料傳輸方式 1 並行傳輸與序列傳輸 並行傳輸指的是資料以成組的方式,在多條並行通道上同時進行傳輸。常用的就是將構成一 個字元 的幾位二進位製碼,分別在幾個並行通道上進行傳輸。例如,採用8單位 的字 符 可以用8個通道並行傳輸。一次傳送乙個字元,因此收 發雙方不存在字元的同步問題,不需要另加 起 止...