從Oracle資料庫中匯入資料到Hive中的指令碼

2021-08-10 17:47:42 字數 1127 閱讀 8543

這個是test.bash的指令碼**,話說shell是真的*

#!/bin/sh

source ../config.sh

# 資料庫

hive_db=raw

if [ $# == 1 ]

then

echo

"table:$1"

tables=($1)

else

tables=('demo2'

'qxf')

fifor ele in$do

table=$

# 匯入表結構

sqoop create-hive-table --connect $ --username $ --password $ \

--table $ --hive-table $.$

# 將hive表設定為外部表

hive -e

"alter table $.$ set tblproperties ('external'='true');"

# 修改hive表檔案儲存路徑

hive -e

"alter table $.$ set location '$/$/$';"

# 全量匯入資料,列分隔符'\001',null字串'\\n'

sqoop import --hive-import --connect $ --username $ --password $ \

-m 1 --table $ --hive-table $.$ \

--null-string '\\n' --null-non-string '\\n' --hive-drop-import-delims --fields-terminated-by '\001'

done

config.sh的資料:

#hive外部表根目錄

base_hive_dir=/opt/cloudera/parcels/cdh-5.9.0-1.cdh5.9.0.p0.23/lib/hive/external

#原始資料源資訊

source_jdbc_url=喵喵喵

source_username=喵喵喵

source_password=喵喵喵

從txt中匯入資料到Oracle資料庫表中

首先將一張exe表中的資料去除首行的表頭,然後插入n 1列 n為字段數 在插入的列中插入乙個標記符 標記符與待會在linux中執行的指令碼隔離標誌一致 將exe中的資料複製到123.txt文件中。將檔案通過flashfxp檔案傳輸工具上傳到linux主機指定位置 在資料庫中建立一張欄位與exe表中字...

從資料庫中匯出資料

首先開啟xp cmdshell許可權 exec sp configure show advanced options 1 reconfigure exec sp configure xp cmdshell 1 reconfigure 1,匯出資料到txt exec master.xp cmdshel...

利用poi從excel中匯入資料到資料庫

最近遇到了從excel向資料庫匯入資料的情況,利用poi技術實現資料的匯入 前台頁面 如下 匯入 匯出 前台js 匯入配置 function improtmessage if file 國家地區碼 if file 位置區 if file 終端資訊 控制層 如下 匯入配置 根據不同的excle表名,呼...