一、數(shù)據(jù)庫架構(gòu)原則
- 高可用
- 高性能
- 一致性
- 擴(kuò)展性
二、常見的架構(gòu)方案
方案一:主備架構(gòu),只有主庫提供讀寫服務(wù),備庫冗余作故障轉(zhuǎn)移用
jdbc:MySQL://vip:3306/xxdb
1、高可用分析:高可用,主庫掛了,keepalive(只是一種工具)會自動切換到備庫。這個過程對業(yè)務(wù)層是透明的,無需修改代碼或配置。
2、高性能分析:讀寫都操作主庫,很容易產(chǎn)生瓶頸。大部分互聯(lián)網(wǎng)應(yīng)用讀多寫少,讀會先成為瓶頸,進(jìn)而影響寫性能。另外,備庫只是單純的備份,資源利用率50%,這點方案二可解決。
3、一致性分析:讀寫都操作主庫,不存在數(shù)據(jù)一致性問題。
4、擴(kuò)展性分析:無法通過加從庫來擴(kuò)展讀性能,進(jìn)而提高整體性能。
5、可落地分析:兩點影響落地使用。第一,性能一般,這點可以通過建立高效的索引和引入緩存來增加讀性能,進(jìn)而提高性能。這也是通用的方案。第二,擴(kuò)展性差,這點可以通過分庫分表來擴(kuò)展。
方案二:雙主架構(gòu),兩個主庫同時提供服務(wù),負(fù)載均衡
jdbc:mysql://vip:3306/xxdb
1、高可用分析:高可用,一個主庫掛了,不影響另一臺主庫提供服務(wù)。這個過程對業(yè)務(wù)層是透明的,無需修改代碼或配置。
2、高性能分析:讀寫性能相比于方案一都得到提升,提升一倍。
3、一致性分析:存在數(shù)據(jù)一致性問題。請看,一致性解決方案。
4、擴(kuò)展性分析:當(dāng)然可以擴(kuò)展成三主循環(huán),但筆者不建議(會多一層數(shù)據(jù)同步,這樣同步的時間會更長)。如果非得在數(shù)據(jù)庫架構(gòu)層面擴(kuò)展的話,擴(kuò)展為方案四。
5、可落地分析:兩點影響落地使用。第一,數(shù)據(jù)一致性問題,一致性解決方案可解決問題。第二,主鍵沖突問題,ID統(tǒng)一地由分布式ID生成服務(wù)來生成可解決問題。
方案三:主從架構(gòu),一主多從,讀寫分離
jdbc:mysql://master-ip:3306/xxdb
jdbc:mysql://slave1-ip:3306/xxdb
jdbc:mysql://slave2-ip:3306/xxdb
1、高可用分析:主庫單點,從庫高可用。一旦主庫掛了,寫服務(wù)也就無法提供。
2、高性能分析:大部分互聯(lián)網(wǎng)應(yīng)用讀多寫少,讀會先成為瓶頸,進(jìn)而影響整體性能。讀的性能提高了,整體性能也提高了。另外,主庫可以不用索引,線上從庫和線下從庫也可以建立不同的索引(線上從庫如果有多個還是要建立相同的索引,不然得不償失;線下從庫是平時開發(fā)人員排查線上問題時查的庫,可以建更多的索引)。
3、一致性分析:存在數(shù)據(jù)一致性問題。請看,一致性解決方案。
4、擴(kuò)展性分析:可以通過加從庫來擴(kuò)展讀性能,進(jìn)而提高整體性能。(帶來的問題是,從庫越多需要從主庫拉取binlog日志的端就越多,進(jìn)而影響主庫的性能,并且數(shù)據(jù)同步完成的時間也會更長)
5、可落地分析:兩點影響落地使用。第一,數(shù)據(jù)一致性問題,一致性解決方案可解決問題。第二,主庫單點問題,筆者暫時沒想到很好的解決方案。
注:思考一個問題,一臺從庫掛了會怎樣?讀寫分離之讀的負(fù)載均衡策略怎么容錯?
方案四:雙主+主從架構(gòu),看似完美的方案
jdbc:mysql://vip:3306/xxdb
jdbc:mysql://slave1-ip:3306/xxdb
jdbc:mysql://slave2-ip:3306/xxdb
1、高可用分析:高可用。
2、高性能分析:高性能。
3、一致性分析:存在數(shù)據(jù)一致性問題。請看,一致性解決方案 。
4、擴(kuò)展性分析:可以通過加從庫來擴(kuò)展讀性能,進(jìn)而提高整體性能。(帶來的問題同方案二)
5、可落地分析:同方案二,但數(shù)據(jù)同步又多了一層,數(shù)據(jù)延遲更嚴(yán)重。
三、一致性解決方案
第一類:主庫和從庫一致性解決方案
注:圖中圈出的是數(shù)據(jù)同步的地方,數(shù)據(jù)同步(從庫從主庫拉取binlog日志,再執(zhí)行一遍)是需要時間的,這個同步時間內(nèi)主庫和從庫的數(shù)據(jù)會存在不一致的情況。如果同步過程中有讀請求,那么讀到的就是從庫中的老數(shù)據(jù)。如下圖。
既然知道了數(shù)據(jù)不一致性產(chǎn)生的原因,有下面幾個解決方案供參考:
1、直接忽略,如果業(yè)務(wù)允許延時存在,那么就不去管它。
2、強(qiáng)制讀主,采用主備架構(gòu)方案,讀寫都走主庫。用緩存來擴(kuò)展數(shù)據(jù)庫讀性能 。有一點需要知道:如果緩存掛了,可能會產(chǎn)生雪崩現(xiàn)象,不過一般分布式緩存都是高可用的。
3、選擇讀主,寫操作時根據(jù)庫+表+業(yè)務(wù)特征生成一個key放到Cache里并設(shè)置超時時間(大于等于主從數(shù)據(jù)同步時間)。讀請求時,同樣的方式生成key先去查Cache,再判斷是否命中。若命中,則讀主庫,否則讀從庫。代價是多了一次緩存讀寫,基本可以忽略。
4、半同步復(fù)制,等主從同步完成,寫請求才返回。就是大家常說的“半同步復(fù)制”semi-sync。這可以利用數(shù)據(jù)庫原生功能,實現(xiàn)比較簡單。代價是寫請求時延增長,吞吐量降低。
5、數(shù)據(jù)庫中間件,引入開源(mycat等)或自研的數(shù)據(jù)庫中間層。個人理解,思路同選擇讀主。數(shù)據(jù)庫中間件的成本比較高,并且還多引入了一層。**
第二類:DB和緩存一致性解決方案
先來看一下常用的緩存使用方式:
第一步:淘汰緩存;
第二步:寫入數(shù)據(jù)庫;
第三步:讀取緩存?返回:讀取數(shù)據(jù)庫;
第四步:讀取數(shù)據(jù)庫后寫入緩存。
注:如果按照這種方式,圖一,不會產(chǎn)生DB和緩存不一致問題;圖二,會產(chǎn)生DB和緩存不一致問題,即4.read先于3.sync執(zhí)行。如果不做處理,緩存里的數(shù)據(jù)可能一直是臟數(shù)據(jù)。解決方式如下:
注:設(shè)置緩存時,一定要加上有效時間,以防延時淘汰緩存失敗的情況!
四、個人的一些見解
1、架構(gòu)演變
1、架構(gòu)演變一:方案一 -> 方案一+分庫分表 -> 方案二+分庫分表 -> 方案四+分庫分表;
2、架構(gòu)演變二:方案一 -> 方案一+分庫分表 -> 方案三+分庫分表 -> 方案四+分庫分表;
3、架構(gòu)演變?nèi)悍桨敢?-> 方案二 -> 方案四 -> 方案四+分庫分表;
4、架構(gòu)演變四:方案一 -> 方案三 -> 方案四 -> 方案四+分庫分表;
2、個人見解
1、加緩存和索引是通用的提升數(shù)據(jù)庫性能的方式;
2、分庫分表帶來的好處是巨大的,但同樣也會帶來一些問題,詳見前日推文。
3、不管是主備+分庫分表還是主從+讀寫分離+分庫分表,都要考慮具體的業(yè)務(wù)場景。絕大部分的數(shù)據(jù)庫架構(gòu)還是采用方案一和方案一+分庫分表,只有極少部分用方案三+讀寫分離+分庫分表。另外,阿里云提供的數(shù)據(jù)庫云服務(wù)也都是主備方案,要想主從+讀寫分離需要二次架構(gòu)。
4、記住一句話:不考慮業(yè)務(wù)場景的架構(gòu)都是耍流氓。