Hive學習筆記五

2022-06-05 14:36:08 字數 3877 閱讀 3425

目錄

二、資料匯出

三、清除表中資料(truncate)

1、向表中裝載資料(load)

hive>load data [local] inpath '/opt/module/datas/student.txt' [overwrite] into table student [partition (partcol1=val1,…)];

(1)load data:表示載入資料

(2)local:表示從本地載入資料到hive表;否則從hdfs載入資料到hive表

(3)inpath:表示載入資料的路徑

(4)overwrite:表示覆蓋表中已有資料,否則表示追加

(5)into table:表示載入到哪張表

(6)student:表示具體的表

(7)partition:表示上傳到指定分割槽

(1)建立一張表

hive (default)> create table student(id string, name string) row format delimited fields terminated by '\t';
(2)載入本地檔案到hive

hive (default)> load data local inpath '/opt/module/datas/student.txt' into table default.student;
(3)載入hdfs檔案到hive中

//上傳檔案到hdfs

hive (default)> dfs -put /opt/module/datas/student.txt /user/itstar/hive;

//載入hdfs上資料

hive (default)>load data inpath '/user/itstar/hive/student.txt' into table default.student;

(4)載入資料覆蓋表中已有的資料

//上傳檔案到hdfs

hive (default)> dfs -put /opt/module/datas/student.txt /user/itstar/hive;

//載入資料覆蓋表中已有的資料

hive (default)>load data inpath '/user/itstar/hive/student.txt' overwrite into table default.student;

2、通過查詢語句向表中插入資料(insert)
hive (default)> create table student(id int, name string) partitioned by (month string) row format delimited fields terminated by '\t';
hive (default)> insert into table  student partition(month='201809') values(1,'wangwu');
hive (default)> insert overwrite table student partition(month='201808')

select id, name from student where month='201809';

hive (default)> from student

insert overwrite table student partition(month='201807')

select id, name where month='201809'

insert overwrite table student partition(month='201806')

select id, name where month='201809';

3、查詢語句中建立表並載入資料(as select)

詳見 建立表

根據查詢結果建立表(查詢的結果會新增到新建立的表中)

create table if not exists student3

as select id, name from student;

4、建立表時通過location指定載入資料路徑
hive (default)> create table if not exists student5(

id int, name string

)row format delimited fields terminated by '\t'

location '/user/hive/warehouse/student5';

hive (default)> dfs -put /opt/module/datas/student.txt  /user/hive/warehouse/student5;
hive (default)> select * from student5;
5、import資料到指定hive表中

注意:先用export匯出後,再將資料匯入。

hive (default)> import table student2 partition(month='201809') from '/user/hive/warehouse/export/student';
1、insert匯出
hive (default)> insert overwrite local directory '/opt/module/datas/export/student'

select * from student;

hive (default)> insert overwrite local directory '/opt/module/datas/export/student1'

row format delimited fields terminated by '\t' select * from student;

hive (default)> insert overwrite directory '/user/itstar/student2'

row format delimited fields terminated by '\t'

select * from student;

2、hadoop命令匯出到本地
hive (default)> dfs -get /user/hive/warehouse/student/month=201809/000000_0  /opt/module/datas/export/student3.txt;
3、hive shell 命令匯出

基本語法:(hive -f/-e 執行語句或者指令碼 > file)

[itstar@bigdata111hive]$ bin/hive -e 'select * from default.student;' > /opt/module/datas/export/student4.txt;
4、export匯出到hdfs上
hive (default)> export table default.student to '/user/hive/warehouse/export/student';
5、sqoop匯出

後見注意:truncate只能刪除管理表,不能刪除外部表中資料

hive (default)> truncate table student;

Hive 筆記五 hive的優化

本地模式 嚴格模式 jvm重用 並行執行 推測還行 合併小檔案 fetch模式 1.列裁剪和分割槽裁剪 列裁剪是在查詢時只讀取需要的列 分割槽裁剪就是只讀取需要的分割槽。2.sort by代替 order by 3.group by 代替count distinct 1 common join 普通...

Hive學習筆記(五) DML 資料操作

5.2 資料匯出 5.3 清除表中資料 truncate 1 語法 hive load data local inpath opt module datas student.txt overwrite into table student partition partcol1 val1,1 load...

hive分桶 hive學習筆記之五 分桶

分割槽欄位的每個值都會建立乙個資料夾,值越多資料夾越多 不合理的分割槽會導致有的資料夾下資料過多,有的過少 set hive.enforce.bucketing true 如果不執行上述設定,您需要自行設定mapred.reduce.tasks引數,以控制reducers數量,本文咱們配置為hive...