canal指定binlog位點啟動
1. canal基於集群模式搭建,所用版本為帶有視覺化頁面的canal-1.1.4,包結構如下
canal-adapter
canal-admin
canal-server
2.抽取例項主要配置canal-server,包結構如下cd canal-server/
binconf
liblogs
#conf目錄
[canal-server]$ cd conf/
canal_local.properties
canal.properties
example
logback.xml
metrics
spring
#spring目錄
[conf]$ cd spring/
base-instance.xml
default-instance.xml
file-instance.xml
group-instance.xml
memory-instance.xml
tsdb
3.集群模式下每乙個抽取例項所記錄的binlog位點資訊存在與zookeeper中,使用的配置檔案為default-instance.xml
a.canal.properties
canal.instance.global.spring.xml = classpath:spring/default-instance.xml
b.instance.properties 中binlog位點資訊配置如下# position info
canal.instance.master.address=127.0.0.1:3306
# binlog日誌檔名
canal.instance.master.journal.name=
# binlog具體位點
canal.instance.master.position=
# binlog指定時間戳
canal.instance.master.timestamp=
4.mysql中找到需要指定的日誌位點資訊-- 1.檢視mysql binlog 日誌:
show binary logs ;
-- 2.檢視某一binlog具體位點資訊:
show binlog events in 'mysql-bin.000001';
-- 3.檢視當前binlog最新位點:
show master status;
5.定位具體binlog位點有兩種方式
a.通過name和position確定
# binlog日誌檔名
canal.instance.master.journal.name=
'mysql-bin.000001'
# binlog具體位點
canal.instance.master.position=100
b.通過時間戳指定# binlog指定時間戳
canal.instance.master.timestamp=1611072000000
c.當使用以上方式指定位點啟動時需要刪除zookeeper中儲存的binlog位點資訊(如canal為本地模式則操作具體例項下的meta.dat檔案)# 檢視位點資訊 example 為具體抽取例項的檔名
get /otter/canal/destinations/example/1001/cursor
},"postion":
}# 刪除位點資訊
delete /otter/canal/destinations/example/1001/cursor
d.如果指定name與position啟動,可以直接修改zookeeper中的位點資訊無需修改instance.propertiesset /otter/canal/destinations/example/1001/cursor
},"postion":
}
6.需要刪除zookeeper中儲存的binlog位點資訊(canal為本地模式則操作具體例項下的meta.dat檔案)是因為canal例項在啟動時先會查詢上一次成功儲存的位點資訊,如果存在則不會讀取instance.properties,當不存在時才會讀取instance.properties中相關的binlog位點資訊 canal 從指定binlog日誌檔案及定位中讀取
前言 因為我們讀取的mysql資料庫是華為雲例項資料庫,且設定了binlog日誌儲存最多為30分鐘 在我們的canal 消費端停止時間大於30分鐘後再次啟動,canal或從之前配置檔案中載入binlog讀取位置,但此時該binlog已經不存在了,則會導致報錯以及後續無法繼續讀取監控的資料庫的binl...
通過BINLOG日誌查詢指定日期的SQL語句
通過binlog日誌查詢指定日期的sql語句 在95資料庫伺服器查詢posts.post thread的postid 1652971,在 2013 02 24 日執行的對資料有修改的sql語句 www.2cto.com grep datadir etc mysql my.cnf datadir ss...
位運算 知識點
1.按位與 位運算實質是將參與運算的數字轉換為二進位制,而後逐位對應進行運算。按位與運算為 兩位全為1,結果為1,即1 1 1,1 0 0,0 1 0,0 0 0。例如51 5 00110011 00000101 00000001 51 5 1 特殊用法 1 與0相與可清零。2 與1相與可保留原值,...