日日操夜夜添-日日操影院-日日草夜夜操-日日干干-精品一区二区三区波多野结衣-精品一区二区三区高清免费不卡

公告:魔扣目錄網為廣大站長提供免費收錄網站服務,提交前請做好本站友鏈:【 網站目錄:http://www.ylptlb.cn 】, 免友鏈快審服務(50元/站),

點擊這里在線咨詢客服
新站提交
  • 網站:51998
  • 待審:31
  • 小程序:12
  • 文章:1030137
  • 會員:747

一、Presto簡介

Presto是Facebook開發(fā)的數據查詢引擎,可對250PB以上的數據進行快速地交互式分析。

該項目始于 2012 年秋季開始開發(fā),該項目已經在超過 1000 名 Facebook 雇員中使用,運行超過 30000 個查詢,每日數據在 1PB 級別。Facebook 稱 Presto 的性能比Hive要好上 10 倍有多。2013年Facebook正式宣布開源 Presto。

大數據SQL查詢引擎 Presto 簡介

 

 

二、Presto 執(zhí)行查詢過程

Presto查詢引擎是一個Master-Slave的架構,由一個Coordinator節(jié)點,一個Discovery Server節(jié)點,多個Worker節(jié)點組成,Discovery Server通常內嵌于Coordinator節(jié)點中。Coordinator負責解析SQL語句,生成執(zhí)行計劃,分發(fā)執(zhí)行任務給Worker節(jié)點執(zhí)行。Worker節(jié)點負責實際執(zhí)行查詢任務。Worker節(jié)點啟動后向Discovery Server服務注冊,Coordinator從Discovery Server獲得可以正常工作的Worker節(jié)點。如果配置了Hive Connector,需要配置一個Hive MetaStore服務為Presto提供Hive元信息,Worker節(jié)點與HDFS交互讀取數據。

大數據SQL查詢引擎 Presto 簡介

 

1. Client 發(fā)送請求給 Coordinator。

2. SQL 語句通過 ANTLR 進行解析生成 AST。

3. AST 通過元數據進行語義解析。

4. 語義解析后的數據生成邏輯執(zhí)行計劃,并且通過規(guī)則進行優(yōu)化。

5. 切分邏輯執(zhí)行計劃為不同 Stage,并調度 Worker 節(jié)點去生成 Task。

6. Task 生成相應物理執(zhí)行計劃。

7. 調度完后根據調度結果 Coordinator 將 Stage 串聯(lián)起來。

8. Worker 執(zhí)行相應的物理執(zhí)行計劃。

9. Client 不斷地向 Coordinator 拉取查詢結果,Coordinator 從最終匯聚輸出的 Worker 節(jié)點拉取查詢結果。


專欄
HBase快速入門和項目開發(fā)實踐
作者:軟件架構
9.9幣
5人已購
查看

 

三、Presto 為何高性能?

* Pipeline, 全內存計算。

* SQL 查詢計劃規(guī)則優(yōu)化。

* 動態(tài)代碼生成技術。

* 數據調度本地化,注重內存開銷效率,優(yōu)化數據結構,Cache,非精確查詢等其它技術。

分享到:
標簽:查詢 SQL Presto
用戶無頭像

網友整理

注冊時間:

網站:5 個   小程序:0 個  文章:12 篇

  • 51998

    網站

  • 12

    小程序

  • 1030137

    文章

  • 747

    會員

趕快注冊賬號,推廣您的網站吧!
最新入駐小程序

數獨大挑戰(zhàn)2018-06-03

數獨一種數學游戲,玩家需要根據9

答題星2018-06-03

您可以通過答題星輕松地創(chuàng)建試卷

全階人生考試2018-06-03

各種考試題,題庫,初中,高中,大學四六

運動步數有氧達人2018-06-03

記錄運動步數,積累氧氣值。還可偷

每日養(yǎng)生app2018-06-03

每日養(yǎng)生,天天健康

體育訓練成績評定2018-06-03

通用課目體育訓練成績評定