hbase資料遷移到hive中

2022-09-12 22:39:32 字數 680 閱讀 7983

描述: 原先資料是儲存在hbase中的,但是直接查詢hbase速度慢(hbase是寬表結構),所以想把資料遷移到hive中;

1.先hbase 和 hive建立 外部表鏈結, 可以在hive直接查詢;

2.利用建立的外部表,直接在hive中建立內部表;

直接上**:

#建立hive外部表鏈結

create external table

hbase_table_hive3(

keystring,

欄位名稱

double

)stored by'

org.apache.hadoop.hive.hbase.hbasestoragehandler

'with

serdeproperties

= ":key

,data:欄位名稱")

tblproperties("hbase.

table.name" =

"table_name");

#建立hive內部表

create

table table_name as

select

*from

hbase_table_hive3;

#刪除中間表

drop

table hbase_table_hive3;

HBase資料遷移至Hive

背景 需要將hbase中表xyz 列簇cf1,列val 遷移至hive 1.建立hive和hbase的對映關係 1.1 執行hive shell進入hive命令列模式,執行如下指令碼 create external table hbase table 1 key int,value string s...

hbase資料遷移

說明 網上眾多千篇一律的版本都說要用到乙個add table.rb的檔案,可是我的版本根本hbase下就不存在這個檔案。1.把資料表test從hbase下拷出 hadoop dfs get hbase test 2.檔案放到新集群的系統上。3.檔案拷入新的hadoop集群hbase下 hadoop ...

Hbase資料遷移

1.將hbase表資料匯出到hdfs hbase org.apache.hadoop.hbase.mapreduce.driver export tablename data export tablename 2.將hdfs資料獲取到本地 hadoop fs get data export tabl...