hive 建立訪問使用者 你了解HIVE架構嗎?

2021-10-13 21:59:39 字數 2134 閱讀 9642

1.hive定義:

hive是基於hadoop的乙個資料倉儲工具,可以將結構化的資料檔案對映為一張資料庫表,並提供簡單的sql查詢功能,可以將sql語句轉換為mapreduce任務進行執行。 其優點是學習成本低,可以通過類sql語句快速實現簡單的mapreduce統計,不必開發專門的mapreduce應用,十分適合資料倉儲的統計分析。

hive 沒有專門的資料格式。 hive 可以很好的工作在 thrift 之上,控制分隔符,也允許使用者指定資料格式。

2.主要分為以下幾個部分:

使用者介面

使用者介面主要有三個:cli,client 和 wui。其中最常用的是 cli,cli 啟動的時候,會同時啟動乙個 hive 副本。client 是 hive 的客戶端,使用者連線至 hive server。在啟動 client 模式的時候,需要指出 hive server 所在節點,並且在該節點啟動 hive server。 wui 是通過瀏覽器訪問 hive。

元資料儲存

hive 將元資料儲存在資料庫中,如 mysql、derby。hive 中的元資料報括表的名字,表的列和分割槽及其屬性,表的屬性(是否為外部表等),表的資料所在目錄等。

直譯器、編譯器、優化器、執行器

直譯器、編譯器、優化器完成 hql 查詢語句從詞法分析、語法分析、編譯、優化以及查詢計畫的生成。生成的查詢計畫儲存在 hdfs 中,並在隨後由 mapreduce 呼叫執行。

hadoop

hive 的資料儲存在 hdfs 中,大部分的查詢由 mapreduce 完成(不包含 * 的查詢,比如 select * from tbl 不會生成 mapreduce 任務)。

3.資料儲存

首先,hive 沒有專門的資料儲存格式,也沒有為資料建立索引,使用者可以非常自由的組織 hive 中的表,只需要在建立表的時候告訴 hive 資料中的列分隔符和行分隔符,hive 就可以解析資料。其次,hive 中所有的資料都儲存在 hdfs 中,hive 中包含以下資料模型:表(table),外部表(external table),分割槽(partition),桶(bucket)。hive 中的 table 和資料庫中的 table 在概念上是類似的,每乙個 table 在 hive 中都有乙個相應的目錄儲存資料。例如,乙個表 pvs,它在 hdfs 中的路徑為:/wh/pvs,其中,wh 是在 hive-site.xml 中由 $ 指定的資料倉儲的目錄,所有的 table 資料(不包括 external table)都儲存在這個目錄中。 partition 對應於資料庫中的 partition 列的密集索引,但是 hive 中 partition 的組織方式和資料庫中的很不相同。在 hive 中,表中的乙個 partition 對應於表下的乙個目錄,所有的 partition 的資料都儲存在對應的目錄中。例如:pvs 表中包含 ds 和 city 兩個 partition,則對應於 ds = 20090801, city = us 的 hdfs 子目錄為:/wh/pvs/ds=20090801/city=us;對應於 ds = 20090801, city = ca 的 hdfs 子目錄為;/wh/pvs/ds=20090801/city=ca。buckets 對指定列計算 hash,根據 hash 值切分資料,目的是為了並行,每乙個 bucket 對應乙個檔案。將 user 列分散至 32 個 bucket,首先對 user 列的值計算 hash,對應 hash 值為 0 的 hdfs 目錄為:/wh/pvs/ds=20090801/ctry=us/part-00000;hash 值為 20 的 hdfs 目錄為:/wh/pvs/ds=20090801/ctry=us/part-00020。external table 指向已經在 hdfs 中存在的資料,可以建立 partition。它和 table 在元資料的組織上是相同的,而實際資料的儲存則有較大的差異。

table 的建立過程和資料載入過程(這兩個過程可以在同乙個語句中完成),在載入資料的過程中,實際資料會被移動到資料倉儲目錄中;之後對資料對訪問將會直接在資料倉儲目錄中完成。刪除表時,表中的資料和元資料將會被同時刪除。

hive 建立訪問使用者 Hive基本簡介和基礎語句

1 hive基本概念 hive基於hadoop的乙個資料倉儲工具 1 基本資料型別 2 複雜資料型別 1 建立資料庫 語法 create databeas schema if not exists database name comment database comment location hdf...

MySQL建立使用者授權訪問

mysql u root p 輸入密碼 建立乙個使用者名為zzy,密碼為zzy的mysql普通使用者,並且授權該使用者只有對zzy這個資料庫有操作許可權.1.1第一種方式 use mysql insert into user user,host,password values zzy localho...

你真的了解String的建立嗎?

在文章的開始之前,有乙個問題需要思考。string s mryan string s newstring mryan 以上是string的兩種賦值方式,它們有什麼區別嗎?它們在記憶體中有幾個例項?儲存在哪個區域裡?例項儲存在 字面量儲存在 想要回答這些問題,需要對jvm有一定的了解 其中在jdk1....