sqoop1
vssqoop2
sqoop是什麼?
1:兩個不同版本,完全不相容
2:版本號劃分方式
apache:1.4.x~ ,1.99.x~
cdh:sqoop-1.4.3-cdh4,sqoop2-1.99.2-cdh4.5.0/
3:sqoop2比sqoop1的改進
引入sqoop server,集中化管理connector等
多種訪問方式:cli,web ui,rest api
引入基於角色的安全機制
4:sqoop1的架構:
5:sqoop2架構
6: sqoop2架構優點
1): 多種互動方式
命令列、web ui、rest api
2): connector集中化安裝
所有connector安裝在sqoop server上
3): 許可權管理機制
可配置管理員、使用者等角色
4): connector規範化
不再包含資料傳輸,格式轉換、與hive、hbase互動等功能
僅負責資料讀寫
sqoop2從hdfs中匯入到mysql
資料準備 hive資料庫檔案 例路徑為 user hadoop hive test 在mysql建立與hive中資料庫結構一樣的資料庫。啟動sqoop2服務 sqoop2 server start 登入客戶端 sqoop2 shell 建立資料庫物件 建立hdfs的link物件 建立乙個job作業 ...
sqoop2用法介紹及問題解決方法
什麼是sqoop 我的專案中用到sqoop2 其中mysql資料到hdfs就是由sqoop完成,hdfs資料匯入到hive則是通過在hive中建表,通過load.overwrite.hive命令匯入建好的hive表。如何使用sqoop2 我是在兩台伺服器上執行sqoop,一台作為服務端,一台作為客戶...
Sqoop2中傳入配置檔案中url之 坑
特別注意 sqoop2裡面各個版本的區別還是很大的,這裡使用1.99.6版本。sqoopclient初始化 private sqooputil throws ioexception 配置檔案解析工具類,解析 myconf.properties檔案。public class propertiesuti...