sqoop是乙個用來將hadoop和rdbms(如mysql,oracle,postgres等)之間資料相互匯入匯出的工具。
安裝與使用都相當簡便。當然在你安裝之前首先得確保你已經安裝了hadoop(這個是必須的)、hive、hbase。
安裝如下:
3,配置$sqoop_home
4,解壓成功後,將hadoop下面的檔案 hadoop-core.jar 拷貝到 $sqoop_home/lib目錄下
接下來就可以測試是否安裝成功了
執行 sqoop 命令
如果沒有報錯則證明安裝成功。
如果報 「error: could not find or load main classorg.apache.sqoop.sqoop」 這個錯的話,原因是少sqoop-*.jar(根據版本而定),
#if [ ! -d "$" ]; then
# echo 「error: $hbase_home does not exist!」
# echo 『please set $hbase_home to the root of your hbase installation.』
# exit 1
#fi#if [ ! -d "$" ]; then
# echo 「error: $zookeeper_home does not exist!」
# echo 『please set $zookeeper_home to the root of your zookeeper installation.』
# exit 1
#fi
如果不注釋掉則每次用到sqoop時都會彈出警告
如果要連線mysql或oracle需將相應的驅動加入 $sqoop_home/lib (如 mysql的 mysql-connector-*.jar)
SQOOP的安裝手冊
約定 本次安裝測內容 1,sqoop 從 資料庫中匯入資料到hdfs 2,sqoop 從 資料庫中匯入資料到hive 3,sqoop 從hive中將資料匯出到資料庫 版本 sqoop 1.4.6 sqoop2的版本,效能不太穩定。感謝科多大資料的武老師提供的安裝檔案,感謝 第一步解壓 tar zxv...
sqoop的安裝和原理
sqoop 是一款資料遷移的工具,可以從 mysql等資料庫遷移到 hdfs 裡面 依賴 yarn 和 hdfs,如果伺服器上面有 hadoop home這個變數,sqoop會自動去讀取這個值來尋找yarn和namenode,安裝在一台節點機上面就可以了安裝 tar xvf sqoop 1.4.4....
sqoop的安裝及使用
sqoop安裝 安裝在一台節點上就可以了。1.上傳sqoop 2.安裝和配置 在新增sqoop到環境變數 將資料庫連線驅動拷貝到 sqoop home lib裡 3.使用 第一類 資料庫中的資料匯入到hdfs上 sqoop import connect jdbc mysql username roo...