Sqoop筆記二之命令使用

2021-07-24 09:52:13 字數 1410 閱讀 6436

ist-databases命令檢視所有的資料庫

linux下執行:

sqooplist-databases --connect jdbc:mysql: -username root-password password

-p 不顯示密碼執行中需要手動輸入密碼

sqoop命令實際上都是轉換為map任務。import命令是將db資料匯入hdfs,我的資料庫中有乙個staff表內有若干資料。

staff表

執行sqoop命令

sqoop缺省會生成4個檔案,一條記錄乙個檔案,大於4條記錄則最多生成4個檔案。

-m –target-dir

sqoop import --connectjdbc:mysql:shb02 -username root -password password --tablestaff -m 1 --target-dir sqoop_import_staff

-m 表示只生成乙個檔案

--target-dir sqoop_import_staff 表示指定生成檔案的名稱,在hdfs中的路徑為/user/root/sqoop_import_staff/part-m-00000

--target-dir  import_staff 在hdfs中的路徑為/import_staff/part-m-00000

如下圖顯示3條記錄都存在於乙個檔案中

-z 使用壓縮格式匯入,匯入的檔案使用-text檢視

--where 根據字段過濾,先全部從資料庫讀出然後再根據條件過濾將符合要求的記錄寫入hdfs

--null-string  --null-non-string

--null-string "#" 表示當vchar欄位為null時以#代替

--null-non-string "-1"  表示當非vchar欄位為null以-1代替

--where

--where 後面跟sql語句,但是有無where都必須有\$conditions

注意:以上操作需要啟動hadoop集群不能只啟動hdfs否則會報錯

Sqoop (二)Sqoop 的簡單使用案例

二 匯出資料 三 指令碼打包 在sqoop中,匯入 概念指 從非大資料集群 rdbms 向大資料集群 hdfs,hive,hbase 中傳輸資料,叫做 匯入,即使用import關鍵字。確定mysql服務開啟正常 在mysql中新建一張表並插入一些資料 mysql uroot p000000 mysq...

簡單使用Sqoop的命令

一 import命令 1.將mysql表test中的資料匯入hive的hivetest表,hive的hivetest表不存在 sqoop import connect jdbc mysql username hive password hive table test hive table hivet...

Sqoop2 shell命令的使用

sqoop2的安裝以及配置,參考鏈結 基於sqoop2 實現關係型資料庫到hdfs的資料傳輸 1 設定sqoop服務端 set server u http master 12000 sqoop2 建立link 先檢視現有的cennector,通過 show connector 可以檢視到幾種conn...