ist-databases命令檢視所有的資料庫
linux下執行:
sqooplist-databases --connect jdbc:mysql: -username root-password password
-p 不顯示密碼執行中需要手動輸入密碼
sqoop命令實際上都是轉換為map任務。import命令是將db資料匯入hdfs,我的資料庫中有乙個staff表內有若干資料。
staff表
執行sqoop命令
sqoop缺省會生成4個檔案,一條記錄乙個檔案,大於4條記錄則最多生成4個檔案。
-m –target-dir
sqoop import --connectjdbc:mysql:shb02 -username root -password password --tablestaff -m 1 --target-dir sqoop_import_staff
-m 表示只生成乙個檔案
--target-dir sqoop_import_staff 表示指定生成檔案的名稱,在hdfs中的路徑為/user/root/sqoop_import_staff/part-m-00000
--target-dir import_staff 在hdfs中的路徑為/import_staff/part-m-00000
如下圖顯示3條記錄都存在於乙個檔案中
-z 使用壓縮格式匯入,匯入的檔案使用-text檢視
--where 根據字段過濾,先全部從資料庫讀出然後再根據條件過濾將符合要求的記錄寫入hdfs
--null-string --null-non-string
--null-string "#" 表示當vchar欄位為null時以#代替
--null-non-string "-1" 表示當非vchar欄位為null以-1代替
--where
--where 後面跟sql語句,但是有無where都必須有\$conditions
注意:以上操作需要啟動hadoop集群不能只啟動hdfs否則會報錯
Sqoop (二)Sqoop 的簡單使用案例
二 匯出資料 三 指令碼打包 在sqoop中,匯入 概念指 從非大資料集群 rdbms 向大資料集群 hdfs,hive,hbase 中傳輸資料,叫做 匯入,即使用import關鍵字。確定mysql服務開啟正常 在mysql中新建一張表並插入一些資料 mysql uroot p000000 mysq...
簡單使用Sqoop的命令
一 import命令 1.將mysql表test中的資料匯入hive的hivetest表,hive的hivetest表不存在 sqoop import connect jdbc mysql username hive password hive table test hive table hivet...
Sqoop2 shell命令的使用
sqoop2的安裝以及配置,參考鏈結 基於sqoop2 實現關係型資料庫到hdfs的資料傳輸 1 設定sqoop服務端 set server u http master 12000 sqoop2 建立link 先檢視現有的cennector,通過 show connector 可以檢視到幾種conn...