日日操夜夜添-日日操影院-日日草夜夜操-日日干干-精品一区二区三区波多野结衣-精品一区二区三区高清免费不卡

公告:魔扣目錄網為廣大站長提供免費收錄網站服務,提交前請做好本站友鏈:【 網站目錄:http://www.ylptlb.cn 】, 免友鏈快審服務(50元/站),

點擊這里在線咨詢客服
新站提交
  • 網站:51998
  • 待審:31
  • 小程序:12
  • 文章:1030137
  • 會員:747

Hive簡介

1.什么是Hive

Hive是基于Hadoop的一個數據倉庫工具,可以將結構化的數據文件映射為一張數據庫表,并提供類SQL查詢功能。

其本質是將SQL轉換為MapReduce的任務進行運算,底層由HDFS來提供數據的存儲,說白了hive可以理解為一個將SQL轉換為MapReduce的任務的工具,甚至更進一步可以說hive就是一個MapReduce的客戶端

為什么使用Hive

Ø 直接使用hadoop所面臨的問題

人員學習成本太高

項目周期要求太短

MapReduce實現復雜查詢邏輯開發難度太大

 

Ø 為什么要使用Hive

操作接口采用類SQL語法,提供快速開發的能力。

避免了去寫MapReduce,減少開發人員的學習成本。

功能擴展很方便。

Hive的特點

Ø 可擴展

Hive可以自由的擴展集群的規模,一般情況下不需要重啟服務。

 

Ø 延展性

Hive支持用戶自定義函數,用戶可以根據自己的需求來實現自己的函數。

 

Ø 容錯

良好的容錯性,節點出現問題SQL仍可完成執行。

2.Hive架構

架構圖

 

數據倉庫工具--hive

 

基本組成

用戶接口:包括CLI、JDBC/ODBC、WebGUI。其中,CLI(command line interface)為shell命令行;JDBC/ODBC是Hive的JAVA實現,與傳統數據庫JDBC類似;WebGUI是通過瀏覽器訪問Hive。

元數據存儲:通常是存儲在關系數據庫如MySQL/derby中。Hive 將元數據存儲在數據庫中。Hive 中的元數據包括表的名字,表的列和分區及其屬性,表的屬性(是否為外部表等),表的數據所在目錄等。

解釋器、編譯器、優化器、執行器:完成HQL 查詢語句從詞法分析、語法分析、編譯、優化以及查詢計劃的生成。生成的查詢計劃存儲在HDFS 中,并在隨后有MapReduce 調用執行。

3.Hive與Hadoop的關系

Hive利用HDFS存儲數據,利用MapReduce查詢分析數據

 

數據倉庫工具--hive

 

4.Hive與傳統數據庫對比
hive用于海量數據的離線數據分析

 

數據倉庫工具--hive

 

總結:hive具有sql數據庫的外表,但應用場景完全不同,hive只適合用來做批量數據統計分析

5.Hive的數據存儲

(1) Hive中所有的數據都存儲在 HDFS 中,沒有專門的數據存儲格式(可支持Text,SequenceFile,ParquetFile,ORC格式RCFILE等)

SequenceFile是hadoop中的一種文件格式:

文件內容是以序列化的kv對象來組織的

(2)只需要在創建表的時候告訴 Hive 數據中的列分隔符和行分隔符,Hive 就可以解析數據。

(3)Hive 中包含以下數據模型:DB、Table,External Table,Partition,Bucket。

Ø db:在hdfs中表現為${hive.metastore.warehouse.dir}目錄下一個文件夾

Ø table:在hdfs中表現所屬db目錄下一個文件夾

Ø external table:與table類似,不過其數據存放位置可以在任意指定路徑

Ø partition:在hdfs中表現為table目錄下的子目錄

Ø bucket:在hdfs中表現為同一個表目錄下根據hash散列之后的多個文件

分享到:
標簽:hive
用戶無頭像

網友整理

注冊時間:

網站:5 個   小程序:0 個  文章:12 篇

  • 51998

    網站

  • 12

    小程序

  • 1030137

    文章

  • 747

    會員

趕快注冊賬號,推廣您的網站吧!
最新入駐小程序

數獨大挑戰2018-06-03

數獨一種數學游戲,玩家需要根據9

答題星2018-06-03

您可以通過答題星輕松地創建試卷

全階人生考試2018-06-03

各種考試題,題庫,初中,高中,大學四六

運動步數有氧達人2018-06-03

記錄運動步數,積累氧氣值。還可偷

每日養生app2018-06-03

每日養生,天天健康

體育訓練成績評定2018-06-03

通用課目體育訓練成績評定