近年來，隨著銀行業務量的快速增長，一些大型商業銀行早已布局分布式架構轉型，這不僅是國家安全戰略的要求，也是隨著互聯網發展，商業銀行提升自身金融服務能力的需要。商業銀行系統構建高可用、易擴展、低成本的分布式架構，逐漸替代集中式架構成為大勢所趨。2015年以來，上海農商銀行按照“整體規劃，分層分類，逐步推進”的策略，在分布式架構轉型方面進行了一些探索和實踐，走出一條有自身特色的轉型之路。

上海農商銀行金融科技部副總經理兼開發中心總經理陶建林

分布式架構和集中式架構簡介

目前，商業銀行系統采用的系統架構主要有兩類：一類是集中式架構，主要通過垂直擴展，增加單機配置或設備升級以提升系統的處理能力；另一類是分布式架構，主要以水平擴展，通過橫向擴充節點，每個節點運行獨立實例，節點與節點之間通過網絡互連，提高系統處理能力。

1.集中式架構特點。集中式架構系統的計算、存儲都在一套硬件體系內，無需面對網絡分區問題，同時可以通過存儲的冗余和軟硬件結合的高度優化，實現系統的高效運行。因此這種架構成熟穩定，可靠性好，同時集中式架構部署結構簡單，設備數量少，在運維復雜度上較分布式架構有天然優勢。目前上海農商銀行主要核心業務系統均采用集中式架構部署，系統交易成功率和業務連續性得到了有效保證，業務量年均增長率近20%，至2019年底，日均交易量在1000萬筆左右。

雖然傳統的集中式架構具有成熟穩定、高可靠、強一致性的特點，但隨著商業銀行業務的不斷發展，也慢慢暴露出來以下問題。

成本控制問題：集中式架構中很多高并發的業務系統采用小型機，大型商業銀行核心賬務系統往往采用主機設備，造成軟、硬件成本以及運維成本都非常高昂，在一定程度上限制了業務的發展。

處理能力限制：目前商業銀行隨著業務的不斷發展，整體應用系統的建設規模逐漸龐大，這種垂直、單一的擴展模式，不具備橫向處理能力，處理能力受到限制。

風險控制問題：由于集中式架構本身擴展性的不足，所有業務都跑在一個單點上，一旦發生故障就可能影響到所有用戶。同時隨著互聯網業務的發展，對業務連續性要求更高，傳統架構很難保證7×24業務不中斷的服務能力。

無法快速交付：傳統的開發模式應用內部模塊、應用與應用之間的耦合度非常高，使得軟件的開發和產品交付周期比較長，無法滿足互聯網需求的快速交付要求。

2.分布式架構的特點。分布式架構按照一定的維度將系統功能拆分，通過負載均衡機制，將業務分攤到多個節點上處理。這種架構的優點是可以采用更開放的架構，各節點松耦合，對底層產品的可靠性、可用性依賴降低，可以基于廉價的硬件和開源軟件構建，成本更為低廉，可用性、可擴展性更好。尤其是隨著應用規模的擴大，邊際成本將更低。

這種架構的難點是要做好各節點的協同工作，尤其是要處理好數據的一致性、完整性問題。根據CAP理論，在可用性、分區性與一致性三者之間，同時只能滿足兩個，如果要滿足可用性（A）、分區容忍性（P），就需要犧牲一致性（C）。業界的一般做法是根據業務特點，通過較為復雜的應用設計，放棄實時一致性、保障最終一致性來解決該問題，分布式架構增加了應用設計和研發的復雜度。此外，隨著節點數的增加和分布部署，對運維管理、異常處置也提出了更高要求。

通過對集中式和分布式架構在業務支撐、一致性/可用性、運維成本/故障恢復方面分析發現，分布式架構在經濟性、安全自主、靈活性、可伸縮性等方面有明顯優勢。隨著金融系統需要處理的交易量與數據量越來越大，分布式架構在這方面的優勢也會越來越明顯。集中式系統在可維護性、一致性方面有優勢，而分布式系統需要達到同等或更高的可維護性與高一致性，需要通過先進的分布式中間件與大規模運維平臺來支持。

架構演變及轉型策略

1.架構轉型關鍵點。商業銀行實施分布式架構，需要從系統架構理念、設計模式、IT運維機制、人才隊伍建設和科技支撐體系等5個方面進行通盤考慮。整體的訴求是優化應用架構、數據架構、技術架構，建立靈活開放、高效協同、安全穩定的IT架構體系，強化對業務快速創新發展的科技支撐。

架構理念：傳統架構往往采用“峰值性能”來規劃和設計銀行信息科技體系的基礎設施和運維能力，在某一階段內其業務處理能力是靜態的、有限的。分布式架構則需要全新的“彈性伸縮”的架構設計模式，按照“動態性能要求”來規劃和設計；機器資源可以靈活動態增加，在業務高峰期采用“自動彈性伸縮”的方式快速響應處理能力要求，降低IT資源成本，并且滿足高并發的突發性業務需求。例如在“618”“雙11”購物節對銀行支付系統的高并發處理能力的業務場景就特別適合。　　

設計模式轉變：傳統的系統設計方式是采用“豎井”式的，各個系統獨立運行，系統之間采用應用集成和數據總線的方式實現互連互通。分布式架構則強調組件化和服務化，功能模塊按照業務模塊可以采用橫切、縱切等方式靈活劃分組件和服務，數據則大量采用LOCAL存儲的方式實現分布式數據訪問，通過輕量級服務和高速的消息機制實現應用和數據的整合。　

IT運維模式：傳統的IT運維強調在服務水平約定的基礎上實現標準化和流程化。而在分布式架構下，需要實現數據和管理節點的實時和動態調整，要求運行監控更加自動化、敏捷化和智能化；同時需要研究和應用DevOps開發運維一體化模式，在軟件集成、生產部署和業務應用方面實現更緊密的溝通、協作與整合，對傳統的運維模式形成了一定挑戰。

人才建設：由于分布式架構部署方式、網絡策略、數據庫的專有特性以及資源管理策略等核心技術與傳統架構差異較大，同時隨著分布式架構系統建設的普及，人才短缺問題也慢慢暴露出來，因此中小型銀行在分布式架構人才隊伍建設方面也是一個關鍵。目前市場上現有的分布式架構人才主要聚集在互聯網公司和大型銀行的金融科技公司，屬于熱門人才，人力成本比較高。所以中小銀行需要考慮傾斜性的人力資源政策，創新科技人才薪酬體系，盡快建立自己的分布式架構核心技術團隊。

2.架構轉型實施策略。架構轉型是一個復雜的過程，需要采取循序漸進的實施策略。

堅持架構規劃先行：首先確定集中式向分布式架構的轉型目標，明確架構轉型實施路徑，最終在業務支撐方面，實現業務應用的高并發、可擴展、支持海量數據存儲及訪問；在系統建設、運維方面，完成基于通用廉價的硬件基礎設施建設，提升自動化運維能力，降低開發、運維成本。

循序漸進、分批實施：以分布式擴展、大數據處理應對海量高并發的計算需求，逐步構建適合銀行本身的分布式架構技術棧，實現從傳統技術和云計算技術相結合的混合架構逐步過渡到開放的分布式架構，以積極穩妥的步驟推動IT架構轉型。

上海農商銀行分布式架構應用實踐

上海農商銀行2014年完成新一代賬務系統上線，2015年確定了系統架構向組件化、服務化、標準化、移動化的轉型方針，同時確定了開放平臺小型機向PC機、虛擬機逐漸過渡的架構思路，開始布局云計算、大數據、分布式數據庫等互聯網新技術應用研究。2016年規劃并構建了基于分布式架構的大數據平臺，實現了支持在線、離線和實時數據服務的混合數據架構，為各渠道類、數據分析類業務應用提供精準化管理和智能化服務。上海農商銀行踐行數字化轉型戰略，以大數據、云計算為基礎，基于分布式架構搭建共享能力中臺、數據中臺、智慧中臺最終實現我行的應用架構轉型之路（見圖1）。具體實施路線如下。

圖分布式應用架構

1.確定架構轉型策略及目標。2015年開始，上海農商銀行根據自身的業務發展需求著手研究并制定大數據平臺、移動互聯網平臺以及云計算的整體架構規劃。確定了采用大數據處理、分布式計算、實時流處理、API經濟等技術構建基礎金融平臺。按照“建平臺、部應用、練隊伍”的思路，開啟分布式架構轉型之路。

2.構建分布式架構技術棧，開展平臺、應用建設。2016年，上海農商銀行確定了分布式架構技術棧，主要包括分布式服務、分布式事務框架、分布式緩存、分布式消息等。構建了基于開源Hadoop技術的企業級大數據平臺，引入Hive、HBase、Solr、Spark、ELK等技術組件，通過分布式事務的框架，結合分布式事務提交和分布式的消息，支持強一致性和最終一致性多種模式，最終完成大數據生態生命周期管理的整體構建。

2017~2019年實現歷史數據存儲系統、影像系統等集中式架構向大數據平臺分布式架構遷移，基于分布式框架構建了在線精確查詢、離線批量加工、實時流處理、內容管理、大數據智能分析等5個基礎應用平臺。通過分布式消息平臺，實現應用級的數據交互，支撐了交易風險控制、客戶精準分析、人工智能等創新型應用，實現了借記卡風險預警的實時流處理，踐行了數據即服務的管理理念，有效提升了業務處理效率。

截止目前，大數據平臺共接入系統68個，存儲結構化、非結構化數據217TB，為30個業務應用，135個聯機交易提供應用支撐，日交易量20萬筆，真正實現業務數據前、中、后臺之間串聯，讓沉睡的歷史數據在分析系統中“活起來”，消除技術壁壘和數據孤島，充分發揮數據資產的價值。

3.規劃基礎云平臺建設。2017年上海農商銀行按照“云數據中心”理念，規劃基于分布式的Paas金融云基礎架構，開展基于Docker和Kubernetes技術預研，同時踐行DevOps的理念，進行了容器云的系統規劃、場景設計、產品選型和POC測試。實踐過程中，堅持從實際業務需求出發，將實際需求與容器云最佳實踐相結合，在微服務、應用容器化改造、彈性擴展、灰度發布等方面，進行了深度研究和實踐。通過基礎云平臺的研究實踐，確定了我行踐行強健穩定、彈性伸縮、開源開放的基礎架構平臺的技術路線，為后續的PaaS平臺建設提供了堅實的技術支撐。后續還將開展網絡SDN對接、存儲自動化管理、PaaS平臺對接等工作。

4.分布式數據庫研究和試點。在實現架構轉型過程中，必須實現數據持久化層的分布式，但這恰恰是分布式架構中技術難度最大、最為關鍵的部分。2018年上海農商銀行開展分布式數據庫技術的探索和研究試點，對事務一致性控制、集群高可用切換、聯機在線重分布、數據庫備份、恢復以及分布式事務控制能力、日終批處理能力、在線擴容能力、問題診斷能力、并發處理能力等關鍵能力進行了技術驗證。2019年底籌備成立聯合創新實驗室，開展分布式數據庫的關鍵技術預研以及應用試點工作。