【IT168評論】近些年NewSQL概念盛行，國內(nèi)外各大公司對NewSQL都有著不同的解讀。本次ITPUB技術(shù)棧線上沙龍2020上，京東數(shù)科高級DBA潘娟分享了有關(guān)NewSQL理念、國內(nèi)外產(chǎn)品架構(gòu)的解讀，以及Apache ShardingSphere的架構(gòu)、特性、規(guī)劃、開源社區(qū)。
▲京東數(shù)科高級DBA&Apache ShardingSphere PMC 潘娟
嘉賓簡介：主要負(fù)責(zé)京東數(shù)科分布式數(shù)據(jù)庫開發(fā)、數(shù)據(jù)庫運維自動化平臺開發(fā)等工作。曾負(fù)責(zé)京東數(shù)科數(shù)據(jù)庫自動化平臺設(shè)計與開發(fā)，現(xiàn)專注于Apache ShardingSphere分布式數(shù)據(jù)庫中間件平臺的開發(fā)。主要在分布式數(shù)據(jù)庫、開源、分布式架構(gòu)等相關(guān)領(lǐng)域進(jìn)行探索。多次受邀參加數(shù)據(jù)庫&架構(gòu)領(lǐng)域的相關(guān)會議并進(jìn)行分享交流。
一、NewSQL的概念
NewSQL的概念，最開始來源于國外的一份商業(yè)分析報告。它是各種新的可擴(kuò)展/高性能數(shù)據(jù)庫的簡稱，這類數(shù)據(jù)庫不僅具有NoSQL海量數(shù)據(jù)的存儲管理能力，還保持了傳統(tǒng)數(shù)據(jù)庫支持ACID和SQL等特性。
提及SQL，很多朋友最先想到的就是MySQL數(shù)據(jù)庫和PostgreSQL數(shù)據(jù)庫。對我們來說，它其實一個單點、很可靠，有ACID事務(wù)，也有查詢語言的關(guān)系型數(shù)據(jù)庫。其中，ACID事務(wù)和查詢語言是我們最關(guān)心的兩點。
伴隨互聯(lián)網(wǎng)的蓬勃發(fā)展，數(shù)據(jù)量的持續(xù)膨脹，NoSQL出現(xiàn)了。NoSQL泛指非關(guān)系型數(shù)據(jù)庫，具備Scalability（擴(kuò)展性）和Resilience（彈性）。擴(kuò)展性是指可以無限的把一個單點變成一個集群，從而提升整個系統(tǒng)的可用性。彈性保證了在宕機(jī)集群崩潰后，數(shù)據(jù)的自動修復(fù)且上層業(yè)務(wù)無感知。
那么就有人提出來了，我能不能既可以擁有像SQL的關(guān)系模型，擁有它的ACID事務(wù)，同時還擁有像NoSQL的擴(kuò)展性、彈性伸縮，以及高可用性。于是，NewSQL應(yīng)運而生，它最開始的定義就叫做Scalability SQL。
在分布式的場景中，沒有辦法同時保證Consistency（一致性）和Availability（可用性），以及分區(qū)的容錯性。CAP原則就是，你只能保證整個系統(tǒng)更關(guān)注于強一致性，或者高可用性。
綜上所述，NewSQL是為了綜合SQL和NoSQL的特性。它的存在并不是完全顛覆了CAP理論，而是需要基于這套理論，根據(jù)我們自身的實際情況，選擇一個Consistency和Availability之間的平衡點。
對于用戶來說，NewSQL其實就是A single logical DB，即單個邏輯數(shù)據(jù)庫。從開發(fā)的角度，NewSQL具有New Architecture（新架構(gòu)）、Transparent Sharding（透明化分片中間件）、Database as a Service（云數(shù)據(jù)庫）三種形態(tài)。
二、Apache ShardingSphere的架構(gòu)
Apache ShardingSphere是一套開源的分布式數(shù)據(jù)庫中間件解決方案組成的生態(tài)圈，它由JDBC、Proxy和Sidecar（規(guī)劃中）這3款相互獨立，卻又能夠混合部署配合使用的產(chǎn)品組成。它們均提供標(biāo)準(zhǔn)化的數(shù)據(jù)分片、分布式事務(wù)和數(shù)據(jù)庫治理功能，可適用于JAVA同構(gòu)、異構(gòu)語言、云原生等各種多樣化的應(yīng)用場景。
Apache ShardingSphere定位為關(guān)系型數(shù)據(jù)庫中間件，旨在充分合理地在分布式的場景下利用關(guān)系型數(shù)據(jù)庫的計算和存儲能力，而并非實現(xiàn)一個全新的關(guān)系型數(shù)據(jù)庫。Apache ShardingSphere目前已提供數(shù)十個SPI作為系統(tǒng)的擴(kuò)展點，仍在不斷增加中。
如上圖所示，這是Apache ShardingSphere最新的部署框架。Apache ShardingSphere最開始定位于NewSQL的中間件，后面它的盤子越來越大，逐漸超越了中間件的范疇，但又未達(dá)到新架構(gòu)的范疇，處在一個中間的狀態(tài)。
首先，中間件的數(shù)據(jù)庫集群，可能有自己的主庫或者從庫，包括同步、復(fù)制、備份等都是靠MySQL或者PG數(shù)據(jù)庫來實現(xiàn)的。
其次，用戶真正能夠接觸三個產(chǎn)品，第一個產(chǎn)品叫ShardingSphere-JDBC，它定位為輕量級Java框架，在Java的JDBC層提供的額外服務(wù)。它具備解析SQL、分片管理、分布式事務(wù)，脫敏等功能。
第二個產(chǎn)品叫ShardingSphere-Proxy，定位為透明化的數(shù)據(jù)庫代理端，提供封裝了數(shù)據(jù)庫二進(jìn)制協(xié)議的服務(wù)端版本，用于完成對異構(gòu)語言的支持。適用于任何兼容MySQL/PostgreSQL協(xié)議的的客戶端，可以管理數(shù)據(jù)庫集群。
三、功能介紹
仔細(xì)觀察ShardingSphere的框架，我們不難發(fā)現(xiàn)中間件左側(cè)的Sharding-Scaling，它是一個提供給用戶的通用的ShardingSphere數(shù)據(jù)接入遷移，及彈性伸縮的調(diào)度平臺。
JDBC的核心功能就是Orchestration，即編排治理，配置集中化與動態(tài)化、數(shù)據(jù)治理。ShardingSphere提供了界面治理模塊——Sharding-UI，可以快速維護(hù)Sharding-Proxy集群，方便用戶一鍵式的操作。
如上圖所示，從研發(fā)的角度來看Apache ShardingSphere的框架，最上面的接入端有JDBC和Proxy，中間層的核心功能是數(shù)據(jù)分片、分布式事務(wù)、數(shù)據(jù)庫治理，最下層是數(shù)據(jù)庫集群。
其實，Sharding是Apache ShardingSphere的立足之本。除了分庫分表，它還還支持Encrypt（脫敏）和Shadow（影子庫），所有壓測的數(shù)據(jù)都會分配的影子庫中。Sharding最核心的還是底層四個模塊來做支撐。
我們必須要解析SQL，才能理解用戶需要什么。Parser（解析器）已經(jīng)重構(gòu)過很多遍，為了實現(xiàn)自主可控，保證高效性和正確性。除此之外，Router代表著路由，Rewriter改寫一些SQL，Executor做并行的控制，提高整體效率。
分布式事務(wù)主要有兩個方面，ACID強一致性事務(wù)和BASE柔性事務(wù)。值得一提的是，ShardingSphere分為自研的分布式數(shù)據(jù)庫（DTX）、對接其他公司的解決方案兩部分。對于用戶來說，他無需過多了解ShardingSphere，就可以擁有多種分布式事務(wù)的選型，這其實是一種非常有意思的方式。
ShardingSphere不只是一個分布式數(shù)據(jù)庫的原因在于，它的Orchestration模塊提供了很多功能，比如在線變更、分片規(guī)則的在線推送，以及限流和熔斷等。用戶在了解分片的基礎(chǔ)上，可以慢慢去探索這個開放生態(tài)，找到自己想要的功能。
潘娟強調(diào)道，分庫分表、強一致事務(wù)、柔性事務(wù)、分布式治理、可視化鏈路追蹤、讀寫分離等所有的功能都是可以組合在一起的。完全的自由組合，從而形成一個只滿足公司所需要的產(chǎn)品。
當(dāng)存儲系統(tǒng)或者性能不夠的時候，數(shù)據(jù)庫就要通過Scaling（遷移平臺）進(jìn)行Scale out（擴(kuò)展）。目標(biāo)不是放在提高單機(jī)性能上，而是要做成分布式，多個機(jī)器來解決。
四、社區(qū)
如果您有任何關(guān)于NewSQL的問題，可以在Github或者郵件給我們留言交流。上圖是Apache ShardingSphere的用戶墻，只截取了一部分，了解更多可點擊https://shardingsphere.apache.org/community/cn/users/。
