大資料技術之Hive第5章 DML資料操作

2021-08-26 08:09:46 字數 3898 閱讀 8845

1)語法

hive> load data [local] inpath '/opt/module/datas/student.txt' [overwrite] into table student [partition (partcol1=val1,…)];

(1)load data:表示載入資料

(2)local:表示從本地載入資料到hive表;否則從hdfs載入資料到hive表

(3)inpath:表示載入資料的路徑

(4)overwrite:表示覆蓋表中已有資料,否則表示追加

(5)into table:表示載入到哪張表

(6)student:表示具體的表

(7)partition:表示上傳到指定分割槽

2)實操案例

(0)建立一張表

hive (default)> create table student(id string, name string) row format delimited fields terminated by '\t';

(1)載入本地檔案到hive

hive (default)>

load

data

local

inpath '/opt/module/datas/student.txt' into table default.student;

(2)載入hdfs檔案到hive中

上傳檔案到hdfs

hive (default)> dfs -put /opt/module/datas/student.txt /user/atguigu/hive;

載入hdfs上資料

hive (default)>

load

data inpath '/user/atguigu/hive/student.txt' into table default.student;

(3)載入資料覆蓋表中已有的資料

上傳檔案到hdfs

hive (default)> dfs -put /opt/module/datas/student.txt /user/atguigu/hive;

載入資料覆蓋表中已有的資料

hive (default)>

load

data inpath '/user/atguigu/hive/student.txt'

overwrite

into table default.student;

1)建立一張分割槽表

hive (default)> create table student(id int, name string)

partitioned by (month string)

row format delimited fields terminated by '\t';

2)基本插入資料

hive (default)>

insert

into table  student partition(month='201709') values(1,'wangwu');

3)基本模式插入(根據單張表查詢結果)

hive (default)>

insert

overwrite table student partition(month='201708')

select id, name from student where month='201709';

4)多插入模式(根據多張表查詢結果)

hive (default)> from student

insert

overwrite table student partition(month='201707')

select id, name where month='201709'

insert

overwrite table student partition(month='201706')

select id, name where month='201709';

詳見4.5.1章建立表。

根據查詢結果建立表(查詢的結果會新增到新建立的表中)

create table if not exists student3

as select

id, name from student;

1)建立表,並指定在hdfs上的位置

hive (default)> create table if not exists student5(

id int, name string )

row format delimited fields terminated by '\t'

location

'/user/hive/warehouse/student5';

2)上傳資料到hdfs上

hive (default)>

dfs -put

/opt/module/datas/student.txt  /user/hive/warehouse/student5;

3)查詢資料

hive (default)> select * from student5;

注意:先用export匯出後,再將資料匯入。

hive (default)>

import

table student2 partition(month='201709')

from

'/user/hive/warehouse/export/student';

1)將查詢的結果匯出到本地

hive (default)>

insert

overwrite

local

directory

'/opt/module/datas/export/student'

select * from student;

2)將查詢的結果格式化匯出到本地

hive (default)>

insert

overwrite

local

directory

'/opt/module/datas/export/student1'

row format delimited fields terminated by '\t'             select * from student;

3)將查詢的結果匯出到hdfs上(沒有local)

hive (default)>

insert

overwrite

directory

'/user/atguigu/student2'

row format delimited fields terminated by '\t'

select * from student;

hive (default)>

dfs -get

/user/hive/warehouse/student/month=201709/000000_0  /opt/module/datas/export/student3.txt;

基本語法:(hive -f/-e 執行語句或者指令碼 > file)

[atguigu@hadoop102 hive]$

bin/hive -e

'select * from default.student;' > /opt/module/datas/export/student4.txt;

hive (default)>

export

table default.student

to'/user/hive/warehouse/export/student';

後續課程專門講。

注意:truncate只能刪除管理表,不能刪除外部表中資料

hive (default)> truncate table student;

大資料技術之HBase第3章 HBase資料結構

與nosql資料庫們一樣,row key是用來檢索記錄的主鍵。訪問hbase table中的行,只有三種方式 1.通過單個row key訪問 2.通過row key的range 正則 3.全表掃瞄 row key行鍵 row key 可以是任意字串 最大長度 是 64kb,實際應用中長度一般為 10...

大資料技術之HBase第6章 HBase原理

1 client向hregionserver傳送寫請求 2 hregionserver將資料寫到hlog write ahead log 為了資料的持久化和恢復 3 hregionserver將資料寫到記憶體 memstore 4 反饋client寫成功。1 當memstore資料達到閾值 預設是1...

第5章 DML資料操作 hive筆記

資料匯出 1 語法 hive load data local inpath opt module datas student.txt overwrite into table student partition partcol1 val1,1 load data 表示載入資料 2 local 表示從...