譯者 | 李睿
審校 | 孫淑娟 ?
如果用戶想在公共云基礎(chǔ)設(shè)施上運行JAVA微服務(wù),那么可以利用多個云區(qū)域。這是一個好主意,其中有幾個原因。?
首先,由于硬件問題、云服務(wù)升級后引入的錯誤或人為錯誤,云計算可用區(qū)(Availability Zones)和云區(qū)域(Regions)經(jīng)常出現(xiàn)故障。最著名的S3中斷之一是因為AWS公司的員工發(fā)布了錯誤的操作命令。?
如果一個云區(qū)域發(fā)生故障,那么該區(qū)域的微服務(wù)也會發(fā)生故障。但是,如果跨多個云區(qū)域運行微服務(wù)實例,即使美國東部地區(qū)出現(xiàn)大面積故障,也可以繼續(xù)運行。?
其次,用戶可以選擇在美國東部部署微服務(wù),但應(yīng)用程序在大西洋彼岸的歐洲運行。從歐洲用戶到美國東部應(yīng)用程序?qū)嵗耐笛舆t大約為100毫秒,將這個時間與來自美國東部(運行微服務(wù)的數(shù)據(jù)中心附近)的用戶流量的5毫秒往返延遲進(jìn)行比較,當(dāng)歐洲用戶表示應(yīng)用程序速度較慢時,不要感到驚訝。如果微服務(wù)實例部署在美國東部和歐洲西部地區(qū),就不會聽到這種負(fù)面反饋。?
最后,假設(shè)一個Java微服務(wù)服務(wù)于來自歐洲的用戶請求,但從美國的數(shù)據(jù)庫實例請求數(shù)據(jù)。在這種情況下,可能會違反數(shù)據(jù)駐留法規(guī)(如果GDPR法規(guī)將請求的數(shù)據(jù)分類為個人數(shù)據(jù))。然而,如果微服務(wù)實例在歐洲運行,并從歐洲某個云區(qū)域的數(shù)據(jù)庫實例獲取個人數(shù)據(jù),那么就不會遇到監(jiān)管機(jī)構(gòu)所關(guān)注的問題。?
以下對本文的主題進(jìn)行介紹,但希望看到在多個云區(qū)域運行Java微服務(wù)的一些好處。以下了解如何使用Spring Cloud開發(fā)和部署多個云區(qū)域微服務(wù)。?
高層次的概念?
以下以一個地理分布式Java Messenger為例,對微服務(wù)和Spring Cloud如何在多個云區(qū)域環(huán)境中發(fā)揮作用進(jìn)行深入了解。?
該應(yīng)用程序(由多個微服務(wù)組成)運行在多個云區(qū)域:美國西部、美國中部、歐洲西部和亞洲南部。所有應(yīng)用程序?qū)嵗际菬o狀態(tài)的。?
Spring Cloud組件在應(yīng)用程序?qū)嵗诘南嗤茀^(qū)域中運行。該應(yīng)用程序使用Spring Config Server進(jìn)行配置設(shè)置分發(fā),使用Spring Discovery Server進(jìn)行平滑和容錯的服務(wù)間通信。?
選擇YugabyteDB作為分布式數(shù)據(jù)庫,可以輕松地遠(yuǎn)程運行。另外,只要它是在PostgreSQL源代碼上構(gòu)建的,它就自然地與Spring Data和Spring生態(tài)系統(tǒng)的其他組件集成在一起。本文并不會回顧YugabyteDB多區(qū)域部署選項。?
用戶流量通過全局外部云負(fù)載均衡器到達(dá)微服務(wù)實例。簡而言之,負(fù)載均衡器提供了一個單一的IP地址,可以從地球上的任何地點訪問。該IP地址(或轉(zhuǎn)換為該地址的DNS名稱)被提供給用戶的Web或移動前端,它們使用該IP連接到應(yīng)用程序后端。負(fù)載均衡器自動將用戶請求轉(zhuǎn)發(fā)到最近的應(yīng)用程序?qū)嵗O旅鎸⒃敿?xì)地演示這個云組件。?
目標(biāo)架構(gòu)?
多區(qū)域Java Messenger的目標(biāo)架構(gòu)如下所示:?
整個解決方案運行在谷歌云平臺上。用戶可能更喜歡另一個云計算提供商提供的云服務(wù),所以可以放心使用。很多用戶喜歡使用谷歌云,因為它提供了開發(fā)人員體驗、豐富且價格合理的基礎(chǔ)設(shè)施、快速且穩(wěn)定的網(wǎng)絡(luò),以及在本文中提到的其他好處。?
微服務(wù)實例可以根據(jù)需要部署在盡可能多的云區(qū)域中。?
在上圖中有兩個隨機(jī)云區(qū)域:Region A和Region B。微服務(wù)實例可以運行在一個云區(qū)域的多個可用性分區(qū)中(例如Region A的Zone A和ZoneB),也可以運行在一個云區(qū)域內(nèi)(Region B的Zone A)。?
每個云區(qū)域都有一個Spring Discovery和Config服務(wù)器的實例也是合理的,但特意為每個可用區(qū)運行每個服務(wù)器的實例,以將延遲降至最低。?
誰決定哪個微服務(wù)實例將服務(wù)于用戶請求?那全局外部負(fù)載均衡器就是決策者!?
假設(shè)一位用戶通過手機(jī)打開Java Messenger,并發(fā)送了一條消息。帶有消息的請求將被發(fā)送到負(fù)載均衡器,它可以通過以下方式轉(zhuǎn)發(fā):?
(1)Region A是離用戶最近的云區(qū)域,并且在請求時處于正常狀態(tài)(沒有中斷)。負(fù)載均衡器根據(jù)這些條件選擇該區(qū)域。 ?
(2)在這個云區(qū)域中,微服務(wù)實例在Zone A和Zone B都可用。因此,如果這兩個可用區(qū)都處于活動狀態(tài)并且正常運行,負(fù)載均衡器可以選擇任何一個可用區(qū)。假設(shè)這個請求發(fā)送到Zone B。?
以下將解釋每個微服務(wù)負(fù)責(zé)什么。到目前為止,只需要知道消息傳遞微服務(wù)將所有應(yīng)用程序數(shù)據(jù)(消息、通道、用戶配置文件等)存儲在一個多區(qū)域YugabyteDB部署中。Attachments微服務(wù)使用全球分布的谷歌云存儲存儲用戶圖片。 ?
微服務(wù)和Spring Cloud?
以下進(jìn)一步討論微服務(wù)以及它們?nèi)绾卫肧pring Cloud。 ?
Messenger微服務(wù)實現(xiàn)了每個Messenger應(yīng)用程序必須具備的跨渠道和工作區(qū)發(fā)送消息的關(guān)鍵功能。Attachments微服務(wù)上載圖片和其他文件,可以在geo messenger的存儲庫中查看它們的源代碼。?
Spring Cloud配置服務(wù)器?
這兩個微服務(wù)都是在Spring Boot上構(gòu)建的。當(dāng)它們啟動時,他們從Spring Cloud Config Server中檢索配置設(shè)置,如果需要在分布式環(huán)境中外部化配置文件,這是一個很好的選項。?
配置服務(wù)器可以托管并從各種后端獲取配置,包括Git存儲庫、Vault和JDBC兼容數(shù)據(jù)庫。在Java geo messenger的情況下,使用Git選項,下面一行來自應(yīng)用程序。兩個微服務(wù)請求的屬性文件Spring Boot從配置服務(wù)器加載設(shè)置:?
YAML ?
1spring.config.import=configserver:http://${CONFIG_SERVER_HOST}:${CONFIG_SERVER_PORT}?
- 1.
- 2.
Spring Cloud Discovery Server?
一旦啟動了Messenger和Attachments微服務(wù),它們就會向Spring Cloud Discovery Server(屬于Spring Cloud.NETflix組件)的區(qū)域本地實例注冊。?
Discovery Server實例的位置在從Config Server實例傳輸?shù)囊韵屡渲迷O(shè)置中定義:?
YAML ?
1eureka.client.serviceUrl.defaultZnotallow=http://${DISCOVERY_SERVER_HOST}:${DISCOVERY_SERVER_PORT}/eureka?
- 1.
- 2.
也可以在瀏覽器中打開HTTP地址,確認(rèn)服務(wù)已成功注冊到Discovery Server:?
微服務(wù)使用您通過應(yīng)用程序的spring.Application.name設(shè)置傳遞的名稱注冊到application.properties file。如上圖所示,選擇了以下名稱: ?
·spring.application.name=messenger for the Messenger microservice?
·spring.application.name=attachments for the Attachments service?
- 1.
- 2.
微服務(wù)實例使用這些名稱來定位并通過Discovery Server相互發(fā)送請求。例如,當(dāng)用戶想要在討論頻道中上傳圖片時,該請求首先會發(fā)送到Messenger服務(wù)。然后,Messenger在Discovery Server的幫助下將此任務(wù)委托給Attachments微服務(wù)。?
首先,Messenger服務(wù)獲得一個附件對應(yīng)的實例: ?
Java
List<ServiceInstance> serviceInstances = discoveryClient.getInstances("ATTACHMENTS");
ServiceInstance instance;
if (!serviceInstances.isEmpty()) {
instance = serviceInstances
.get(ThreadLocalRandom.current().nextInt(0, serviceInstances.size()));
}
System.out.printf("Connected to service %s with URI %sn",
instance.getInstanceId(), instance.getUri());
- 1.
- 2.
- 3.
- 4.
- 5.
- 6.
- 7.
- 8.
- 9.
- 10.
- 11.
- 12.
接下來,Messenger微服務(wù)使用附件的實例URI創(chuàng)建一個HTTP客戶端,并通過InputStream發(fā)送圖片: ?
Java
HttpClient httpClient = HttpClient.newBuilder().build();
HttpRequest request = HttpRequest.newBuilder()
.uri(URI.create(instance.getUri() + "/upload?fileName=" + fileName))
.header("Content-Type", mimeType)
.POST(HttpRequest.BodyPublishers.ofInputStream(new Supplier<InputStream>() {
@Override
public InputStream get() {
return inputStream;
}
})).build();
- 1.
- 2.
- 3.
- 4.
- 5.
- 6.
- 7.
- 8.
- 9.
- 10.
- 11.
- 12.
Attachments服務(wù)通過REST端點接收請求,并最終將圖片存儲在谷歌云存儲中,將圖片URL返回給Messenger微服務(wù):?
Java
public Optional<String> storeFile(String filePath, String fileName, String contentType) {
if (client == null) {
initClient();
}
String objectName = generateUniqueObjectName(fileName);
BlobId blobId = BlobId.of(bucketName, objectName);
BlobInfo blobInfo = BlobInfo.newBuilder(blobId).build();
try {
client.create(blobInfo, Files.readAllBytes(Paths.get(filePath)));
} catch (IOException e) {
System.err.println("Failed to load the file:" + fileName);
e.printStackTrace();
return Optional.empty();
}
System.out.printf(
"File %s uploaded to bucket %s as %s %n", filePath, bucketName, objectName);
String objectFullAddress = "http://storage.googleapis.com/" + bucketName + "/" + objectName;
System.out.println("Picture public address: " + objectFullAddress);
return Optional.of(objectFullAddress);
}
- 1.
- 2.
- 3.
- 4.
- 5.
- 6.
- 7.
- 8.
- 9.
- 10.
- 11.
- 12.
- 13.
- 14.
- 15.
- 16.
- 17.
- 18.
- 19.
- 20.
- 21.
- 22.
- 23.
- 24.
- 25.
- 26.
- 27.
- 28.
- 29.
如果想探索微服務(wù)的完整實現(xiàn)以及它們?nèi)绾瓮ㄟ^Discovery Server進(jìn)行通信,可以訪問GitHub repo。 ?
在谷歌云平臺上部署?
現(xiàn)在,在谷歌云平臺上跨三個地理位置和五個云區(qū)域部署Java geo-messenger:北美('us-west2','us-central1','us-east4'),歐洲('Europe-west3')和亞洲('Asia-east1')。 ?
遵循以下步驟部署:?
(1)創(chuàng)建一個谷歌項目。 ?
(2)創(chuàng)建自定義高級網(wǎng)絡(luò)。 ?
(3)配置谷歌云存儲。 ?
(4)為虛擬機(jī)創(chuàng)建實例模板。 ?
(5)以應(yīng)用實例啟動虛擬機(jī)。 ?
(6)配置全局外部負(fù)載均衡器。?
將跳過上述步驟的詳細(xì)說明。與其相反,采用下圖來闡明為什么在步驟2中選擇高級谷歌網(wǎng)絡(luò):?
假設(shè)一個應(yīng)用程序?qū)嵗渴鹪诿绹墓雀柙破脚_上,用戶從印度連接到該應(yīng)用程序。從用戶的位置到應(yīng)用程序有快速路徑和慢速路徑。?
如果為這個部署選擇了標(biāo)準(zhǔn)網(wǎng)絡(luò),則采用慢速路徑。在這種情況下,用戶請求通過公共互聯(lián)網(wǎng)傳輸,在到達(dá)美國之前進(jìn)入和退出許多云計算提供商的網(wǎng)絡(luò)。最終,在美國,請求到達(dá)靠近應(yīng)用程序?qū)嵗墓雀璧腜oP(存在點),進(jìn)入谷歌網(wǎng)絡(luò),并到達(dá)應(yīng)用程序。 ?
如果部署使用高級網(wǎng)絡(luò),則選擇快速路徑。在這種情況下,用戶請求在離用戶最近的PoP處進(jìn)入谷歌網(wǎng)絡(luò),并且永遠(yuǎn)不會離開它。該PoP在印度,請求將通過快速穩(wěn)定的連接加速到美國的應(yīng)用程序?qū)嵗A硗猓仆獠控?fù)載均衡器需要高級層。否則,將無法在最近的PoP處攔截用戶請求,并將它們轉(zhuǎn)發(fā)到附近的應(yīng)用程序?qū)嵗?nbsp;?
測試容錯性?
一旦微服務(wù)部署到全球各大洲,就可以看到云負(fù)載均衡器在正常時間和停機(jī)期間的工作情況。?
在瀏覽器中打開負(fù)載均衡器使用的IP地址,并在其中一個討論通道中發(fā)送一些帶有照片的消息:?
Messenger和Attachments微服務(wù)的哪個實例為最后請求提供了服務(wù)?這取決于在世界上的位置。在本文的例子中,來自美國東部(ig-us-east)的實例服務(wù)于流量: ?
如果美國東部地區(qū)無法使用,導(dǎo)致該地區(qū)的所有微服務(wù)都無法使用,應(yīng)用程序?qū)l(fā)生什么? ?
對于多區(qū)域部署來說不是問題。負(fù)載均衡器將檢測美國東部的問題,并將流量轉(zhuǎn)發(fā)到另一個最近的位置。在這種情況下,只要住在大西洋附近的美國東海岸,流量就會被轉(zhuǎn)發(fā)到歐洲:?
為了模擬美國東部地區(qū)的停機(jī),連接到該地區(qū)的虛擬機(jī)并關(guān)閉了所有的微服務(wù)。負(fù)載均衡器檢測到該區(qū)域的微服務(wù)不再響應(yīng),并開始將流量轉(zhuǎn)發(fā)到歐洲數(shù)據(jù)中心。?
現(xiàn)在可以享受開箱即用的容錯功能! ?
測試性能?
除了容錯之外,如果跨多個云區(qū)域部署Java微服務(wù),那么無論用戶請求位于何處,應(yīng)用程序都能夠以較低的延遲服務(wù)用戶請求。 ?
為了實現(xiàn)這一點,首先,需要在大多數(shù)用戶所在的云區(qū)域部署微服務(wù)實例,并配置全局外部負(fù)載均衡器,可以進(jìn)行路由。這就是在“跨多個云區(qū)域自動化Java應(yīng)用程序部署”一文中討論的內(nèi)容。 ?
其次,需要在這些位置正確地排列數(shù)據(jù)。數(shù)據(jù)庫需要跨多個區(qū)域運行,與微服務(wù)實例一樣。否則,微服務(wù)和數(shù)據(jù)庫之間的延遲會很高,整體性能會很差。?
在討論的架構(gòu)中,使用了YugabyteDB,因為它是一個分布式SQL數(shù)據(jù)庫,可以跨多個云區(qū)域部署。?
結(jié)語?
如果為公共云環(huán)境開發(fā)Java應(yīng)用程序,則應(yīng)該通過跨多個區(qū)域部署應(yīng)用程序?qū)嵗齺砝萌蛟朴嬎慊A(chǔ)設(shè)施。這將使解決方案更具彈性、性能更高,并符合數(shù)據(jù)監(jiān)管要求。 ?
重要的是要記住,創(chuàng)建跨云區(qū)域運行和協(xié)調(diào)的微服務(wù)并不難。Spring生態(tài)系統(tǒng)提供了Spring Cloud框架,而像谷歌這樣的公共云提供商提供了簡化工作所需的基礎(chǔ)設(shè)施和服務(wù)。?
原文標(biāo)題:??Run Java Microservices Across Multiple Cloud Regions With Spring Cloud??,作者:Denis Magda