日日操夜夜添-日日操影院-日日草夜夜操-日日干干-精品一区二区三区波多野结衣-精品一区二区三区高清免费不卡

公告:魔扣目錄網為廣大站長提供免費收錄網站服務,提交前請做好本站友鏈:【 網站目錄:http://www.ylptlb.cn 】, 免友鏈快審服務(50元/站),

點擊這里在線咨詢客服
新站提交
  • 網站:51998
  • 待審:31
  • 小程序:12
  • 文章:1030137
  • 會員:747

Apache Doris 是一個基于 MPP 架構的高性能、實時的分析型數據庫,以極速易用的特點被人們所熟知,僅需亞秒級響應時間即可返回海量數據下的查詢結果,不僅可以支持高并發的點查詢場景,也能支持高吞吐的復雜分析場景。基于此,Apache Doris 能夠較好的滿足報表分析、即席查詢、統一數倉構建、數據湖聯邦查詢加速等使用場景,用戶可以在此之上構建用戶行為分析、AB 實驗平臺、日志檢索分析、用戶畫像分析、訂單分析等應用。

Apache Doris 最早是誕生于百度廣告報表業務的 Palo 項目,2017 年正式對外開源,2018 年 7 月由百度捐贈給 Apache 基金會進行孵化,之后在 Apache 導師的指導下由孵化器項目管理委員會成員進行孵化和運營。目前 Apache Doris 社區已經聚集了來自不同行業近百家企業的 300 余位貢獻者,并且每月活躍貢獻者人數也接近 100 位。 2022 年 6 月,Apache Doris 成功從 Apache 孵化器畢業,正式成為 Apache 頂級項目(Top-Level Project,TLP)

Apache Doris 如今在中國乃至全球范圍內都擁有著廣泛的用戶群體,截止目前, Apache Doris 已經在全球超過 500 家企業的生產環境中得到應用,在中國市值或估值排行前 50 的互聯網公司中,有超過 80% 長期使用 Apache Doris,包括百度、美團、小米、京東、字節跳動、騰訊、網易、快手、微博、貝殼等。同時在一些傳統行業如金融、能源、制造、電信等領域也有著豐富的應用。

使用場景

如下圖所示,數據源經過各種數據集成和加工處理后,通常會入庫到實時數倉 Doris 和離線湖倉(Hive, Iceberg, Hudi 中),Apache Doris 被廣泛應用在以下場景中。


 

 

  • 報表分析
    • 實時看板 (Dashboards)
    • 面向企業內部分析師和管理者的報表
    • 面向用戶或者客戶的高并發報表分析(Customer Facing Analytics)。比如面向網站主的站點分析、面向廣告主的廣告報表,并發通常要求成千上萬的 QPS ,查詢延時要求毫秒級響應。著名的電商公司京東在廣告報表中使用 Apache Doris ,每天寫入 100 億行數據,查詢并發 QPS 上萬,99 分位的查詢延時 150ms。
  • 即席查詢(Ad-hoc Query):面向分析師的自助分析,查詢模式不固定,要求較高的吞吐。小米公司基于 Doris 構建了增長分析平臺(Growing Analytics,GA),利用用戶行為數據對業務進行增長分析,平均查詢延時 10s,95 分位的查詢延時 30s 以內,每天的 SQL 查詢量為數萬條。
  • 統一數倉構建 :一個平臺滿足統一的數據倉庫建設需求,簡化繁瑣的大數據軟件棧。海底撈基于 Doris 構建的統一數倉,替換了原來由 Spark、Hive、Kudu、Hbase、Phoenix 組成的舊架構,架構大大簡化。
  • 數據湖聯邦查詢:通過外表的方式聯邦分析位于 Hive、Iceberg、Hudi 中的數據,在避免數據拷貝的前提下,查詢性能大幅提升。
技術概述

 

Doris整體架構如下圖所示,Doris 架構非常簡單,只有兩類進程

 

  • Frontend(FE),主要負責用戶請求的接入、查詢解析規劃、元數據的管理、節點管理相關工作。
  • Backend(BE),主要負責數據存儲、查詢計劃的執行。

 

這兩類進程都是可以橫向擴展的,單集群可以支持到數百臺機器,數十 PB 的存儲容量。并且這兩類進程通過一致性協議來保證服務的高可用和數據的高可靠。這種高度集成的架構設計極大的降低了一款分布式系統的運維成本。


 

使用接口方面,Doris 采用 MySQL 協議,高度兼容 MySQL 語法,支持標準 SQL,用戶可以通過各類客戶端工具來訪問 Doris,并支持與 BI 工具的無縫對接。

存儲引擎方面,Doris 采用列式存儲,按列進行數據的編碼壓縮和讀取,能夠實現極高的壓縮比,同時減少大量非相關數據的掃描,從而更加有效利用 IO 和 CPU 資源。

Doris 也支持比較豐富的索引結構,來減少數據的掃描:

 

  • Sorted Compound Key Index,可以最多指定三個列組成復合排序鍵,通過該索引,能夠有效進行數據裁剪,從而能夠更好支持高并發的報表場景
  • Z-order Index :使用 Z-order 索引,可以高效對數據模型中的任意字段組合進行范圍查詢
  • Min/Max :有效過濾數值類型的等值和范圍查詢
  • Bloom Filter :對高基數列的等值過濾裁剪非常有效
  • Invert Index :能夠對任意字段實現快速檢索

 

在存儲模型方面,Doris 支持多種存儲模型,針對不同的場景做了針對性的優化:

 

  • Aggregate Key 模型:相同 Key 的 Value 列合并,通過提前聚合大幅提升性能
  • Unique Key 模型:Key 唯一,相同 Key 的數據覆蓋,實現行級別數據更新
  • Duplicate Key 模型:明細數據模型,滿足事實表的明細存儲

 

Doris 也支持強一致的物化視圖,物化視圖的更新和選擇都在系統內自動進行,不需要用戶手動選擇,從而大幅減少了物化視圖維護的代價。

查詢引擎方面,Doris 采用 MPP 的模型,節點間和節點內都并行執行,也支持多個大表的分布式 Shuffle Join,從而能夠更好應對復雜查詢。


 

Doris 查詢引擎是向量化的查詢引擎,所有的內存結構能夠按照列式布局,能夠達到大幅減少虛函數調用、提升 Cache 命中率,高效利用 SIMD 指令的效果。在寬表聚合場景下性能是非向量化引擎的 5-10 倍。


 

Doris 采用了 Adaptive Query Execution 技術, 可以根據 Runtime Statistics 來動態調整執行計劃,比如通過 Runtime Filter 技術能夠在運行時生成生成 Filter 推到 Probe 側,并且能夠將 Filter 自動穿透到 Probe 側最底層的 Scan 節點,從而大幅減少 Probe 的數據量,加速 Join 性能。Doris 的 Runtime Filter 支持 In/Min/Max/Bloom Filter。

優化器方面 Doris 使用 CBO 和 RBO 結合的優化策略,RBO 支持常量折疊、子查詢改寫、謂詞下推等,CBO 支持 Join Reorder。目前 CBO 還在持續優化中,主要集中在更加精準的統計信息收集和推導,更加精準的代價模型預估等方面。

分享到:
標簽:Apache Doris
用戶無頭像

網友整理

注冊時間:

網站:5 個   小程序:0 個  文章:12 篇

  • 51998

    網站

  • 12

    小程序

  • 1030137

    文章

  • 747

    會員

趕快注冊賬號,推廣您的網站吧!
最新入駐小程序

數獨大挑戰2018-06-03

數獨一種數學游戲,玩家需要根據9

答題星2018-06-03

您可以通過答題星輕松地創建試卷

全階人生考試2018-06-03

各種考試題,題庫,初中,高中,大學四六

運動步數有氧達人2018-06-03

記錄運動步數,積累氧氣值。還可偷

每日養生app2018-06-03

每日養生,天天健康

體育訓練成績評定2018-06-03

通用課目體育訓練成績評定