shell通過通道批量插入大量資料到redis

2021-09-26 13:42:02 字數 850 閱讀 8581

前言:

當我們需要短時間內快速插入大量資料到redis中,就需要乙個行之有效的方式。

實踐發現redis的(redis mass insertion – redis)是個比較高效的方法。

借助於pipline插入

首先通過簡單的指令碼生成例如如下的:

set key0 value0

set key1 value1

...set keyn valuen

的目標文字檔案。

轉碼

redis-cli中只支援dos格式的換行符 \r\n ,如果在linux下、mac下或者windows下建立的檔案,最好都轉個碼。沒有轉碼的檔案,執行會失敗。
轉換的方法有好多種:

a. 利用todos進行轉化。如未進行安裝可參考這裡。

todos set_ins_redis.txt
b. 利用vim格式化

$ vim set_ins_redis.txt

:set fileformat=dos

:wq

最後執行如下命令:

cat set_ins_redis.txt | redis-cli -p 8244 --pipe
執行成功後會出現如下資訊:

all data transferred. waiting for the last reply...

last reply received from server.

errors: 0, replies: 10654294

shell通過ssh批量修改centos密碼

環境 centos7 1 準備ip位址文字 root 186 cat ip 100.98.100.186 100.98.100.1882 編寫批量修改密碼指令碼 root 186 more change passwd.sh bin bash source etc profile 人機互動是否執行批量...

通過Excel生成批量SQL語句,處理大量資料

我們經常會遇到這樣的要求 使用者給發過來一些資料,要我們直接給存放到資料庫裡面,有的是insert,有的是update等等,少量的資料我們可以採取最原始的辦法,也就是在sql裡面用insert into來實現,但是如果有幾十條幾百條甚至上千條資料的時候繼續寫單獨的sql語句的話那就慘了,其實有兩種簡...

通過Excel生成批量SQL語句,處理大量資料

我們經常會遇到這樣的要求 使用者給發過來一些資料,要我們直接給存放到資料庫裡面,有的是insert,有的是update等等,少量的資料我們可以採取最原始的辦法,也就是在sql裡面用insert into來實現,但是如果有幾十條幾百條甚至上千條資料的時候繼續寫單獨的sql語句的話那就慘了,其實有兩種簡...