前言

1：負(fù)載均衡技術(shù)簡介
2：談?wù)凥TTP優(yōu)化和加速特性帶來的益處

負(fù)載均衡技術(shù)簡介

現(xiàn)代企業(yè)信息化應(yīng)用越來越多的采用B/S應(yīng)用架構(gòu)來承載企業(yè)的關(guān)鍵業(yè)務(wù)，因此，確保這些任務(wù)的可靠運(yùn)行就變得日益重要。隨著越來越多的企業(yè)實(shí)施數(shù)據(jù)集中，應(yīng)用的擴(kuò)展性、安全性和可靠性也越來越受到企業(yè)的重視。

　　負(fù)載均衡技術(shù)通過設(shè)置虛擬服務(wù)器IP（VIP），將后端多臺真實(shí)服務(wù)器的應(yīng)用資源虛擬成一臺高性能的應(yīng)用服務(wù)器，通過負(fù)載均衡算法，將大量來自客戶端的應(yīng)用請求分配到后端的服務(wù)器進(jìn)行處理。負(fù)載均衡設(shè)備持續(xù)的對服務(wù)器上的應(yīng)用狀態(tài)進(jìn)行檢查，并自動對無效的應(yīng)用服務(wù)器進(jìn)行隔離，實(shí)現(xiàn)了一個簡單、擴(kuò)展性強(qiáng)、可靠性高的應(yīng)用解決方案。解決了單臺服務(wù)器處理性能不足，擴(kuò)展性不夠，可靠性較低的問題。

　　近年來，隨著Web2.0和B/S技術(shù)的迅猛發(fā)展，HTTP應(yīng)用逐漸成為當(dāng)今的主流應(yīng)用，而負(fù)載均衡技術(shù)也有了很大的發(fā)展。從傳統(tǒng)的基于四層端口號進(jìn)行簡單的應(yīng)用請求轉(zhuǎn)發(fā)，到目前基于七層內(nèi)容進(jìn)行請求的轉(zhuǎn)發(fā)和處理。尤其是在HTTP協(xié)議的優(yōu)化和加速方面，一些技術(shù)逐漸發(fā)展成熟，如：TCP連接復(fù)用、內(nèi)容緩存、TCP緩沖、HTTP壓縮、SSL加速等。這些技術(shù)的應(yīng)用有助于進(jìn)一步改善用戶訪問響應(yīng)時間、節(jié)約廣域網(wǎng)鏈路帶寬和服務(wù)器資源。

 HTTP優(yōu)化和加速特性帶來的益處　　

TCP連接復(fù)用（TCP Connection Reuse）
　　TCP連接復(fù)用技術(shù)通過將前端多個客戶的HTTP請求復(fù)用到后端與服務(wù)器建立的一個TCP連接上。這種技術(shù)能夠大大減小服務(wù)器的性能負(fù)載，減少與服務(wù)器之間新建TCP連接所帶來的延時，并最大限度的降低客戶端對后端服務(wù)器的并發(fā)連接數(shù)請求，減少服務(wù)器的資源占用。

　　一般情況下，客戶端在發(fā)送HTTP請求之前需要先與服務(wù)器進(jìn)行TCP三次握手，建立TCP連接，然后發(fā)送HTTP請求。服務(wù)器收到HTTP請求后進(jìn)行處理，并將處理的結(jié)果發(fā)送回客戶端，然后客戶端和服務(wù)器互相發(fā)送FIN并在收到FIN的ACK確認(rèn)后關(guān)閉連接。在這種方式下，一個簡單的HTTP請求需要十幾個TCP數(shù)據(jù)包才能處理完成。

　　采用TCP連接復(fù)用技術(shù)后，客戶端（如：ClientA）與負(fù)載均衡設(shè)備之間進(jìn)行三次握手并發(fā)送HTTP請求。負(fù)載均衡設(shè)備收到請求后，會檢測服務(wù)器是否存在空閑的長連接，如果不存在，服務(wù)器將建立一個新連接。當(dāng)HTTP請求響應(yīng)完成后，客戶端則與負(fù)載均衡設(shè)備協(xié)商關(guān)閉連接，而負(fù)載均衡則保持與服務(wù)器之間的這個連接。當(dāng)有其它客戶端（如：ClientB）需要發(fā)送HTTP請求時，負(fù)載均衡設(shè)備會直接向與服務(wù)器之間保持的這個空閑連接發(fā)送HTTP請求，避免了由于新建TCP連接造成的延時和服務(wù)器資源耗費(fèi)。

圖例 1 TCP連接復(fù)用（TCP Connection Reuse）

在HTTP 1.0中，客戶端的每一個HTTP請求都必須通過獨(dú)立的TCP連接進(jìn)行處理，而在HTTP 1.1中，對這種方式進(jìn)行了改進(jìn)?？蛻舳丝梢栽谝粋€TCP連接中發(fā)送多個HTTP請求，這種技術(shù)叫做HTTP復(fù)用（HTTP Multiplexing）。它與TCP連接復(fù)用最根本的區(qū)別在于，TCP連接復(fù)用是將多個客戶端的HTTP請求復(fù) 用到一個服務(wù)器端TCP連接上，而HTTP復(fù)用則是一個客戶端的多個HTTP請求通過一個TCP連接進(jìn)行處理。前者是負(fù)載均衡設(shè)備的獨(dú)特功能；而后者是HTTP 1.1協(xié)議所支持的新功能，目前被大多數(shù)瀏覽器所支持。

　　有些用戶喜歡采用連接復(fù)用率來評判一個負(fù)載均衡設(shè)備的TCP連接復(fù)用技術(shù)的好壞。一般來說，TCP連接復(fù)用率是指一段時間內(nèi)負(fù)載均衡設(shè)備成功處理的客戶端HTTP請求總數(shù)與這段時間負(fù)載均衡與服務(wù)器之間建立的TCP連接總數(shù)的比值。但是， TCP連接復(fù)用率和應(yīng)用的特點(diǎn)、服務(wù)器設(shè)置、計(jì)算周期以及請求的發(fā)送模式等也有很大的關(guān)系，不同的應(yīng)用環(huán)境下計(jì)算出來的TCP連接復(fù)用率會有很大的差異。其實(shí)，連接復(fù)用效率的關(guān)鍵在于負(fù)載均衡設(shè)備是否能夠及時釋放已經(jīng)空閑的服務(wù)器端連接。有些廠商采用發(fā)送HTTP響應(yīng)后等待一定時間，如果這段時間內(nèi)無數(shù)據(jù)傳輸即釋放該連接。而等待時間往往是秒級的，對于數(shù)據(jù)往返時間的毫秒級，其復(fù)用效果明顯不會很好。最為有效的連接復(fù)用技術(shù)是在負(fù)載均衡設(shè)備給客戶端發(fā)送HTTP響應(yīng)之后，收到客戶端確認(rèn)ACK數(shù)據(jù)包即釋放該連接。這種方式避免了任何額外的等待時間，理論上沒有更高效的復(fù)用方法。

內(nèi)容緩存（RAM Caching）
　　內(nèi)容緩存技術(shù)將應(yīng)用服務(wù)器中的一些經(jīng)常被用戶訪問的熱點(diǎn)內(nèi)容緩存在負(fù)載均衡設(shè)備的內(nèi)存中。當(dāng)客戶端訪問這些內(nèi)容時，負(fù)載均衡設(shè)備截獲客戶端請求，從緩存中讀取客戶端需要的內(nèi)容并將這些內(nèi)容直接返回給客戶端。由于是直接從內(nèi)存中讀取，這種技術(shù)能夠提高網(wǎng)絡(luò)用戶的訪問速度，并大大減輕后端服務(wù)器的負(fù)載情況。

　　內(nèi)容緩存的工作原理非常簡單，我們將通過下圖用戶訪問logo.gif的實(shí)例來解釋內(nèi)容緩存的工作過程：

　　1、當(dāng)有客戶端發(fā)起對logo.gif的第一個請求時，負(fù)載均衡首先會檢查本地緩存中是否存在該對象。如果不存在這個對象，負(fù)載均衡會將這個HTTP請求轉(zhuǎn)發(fā)給后端的服務(wù)器；

　　2、服務(wù)器收到對logo.gif的HTTP請求后，將圖片內(nèi)容回應(yīng)給負(fù)載均衡設(shè)備；

　　3、負(fù)載均衡設(shè)備將logo.gif對象緩存在內(nèi)容緩存中，并將其發(fā)送給客戶端；

　　4、后續(xù)的其它客戶端發(fā)起對logo.gif的訪問請求時，如果負(fù)載均衡檢測到內(nèi)容緩存中已經(jīng)存在該對象，并確認(rèn)該對象并未失效的話，負(fù)載均衡直接將該對象返回給客戶端，而無需服務(wù)器再次發(fā)送該對象。

圖例 2 內(nèi)容緩存（RAM Caching）

　　內(nèi)容緩存技術(shù)采用了HTTP協(xié)議中的一些標(biāo)準(zhǔn)緩存處理技術(shù)，將本應(yīng)保存在客戶端本地瀏覽器緩存中的內(nèi)容共享給其他用戶。因此，對于客戶端來說，內(nèi)容緩存技術(shù)是完全透明的。最常見的對象包括：gif/jpg圖片，靜態(tài)的css/js/html等文本文件等。

TCP緩沖（TCP Buffer）
　　TCP緩沖是為了解決后端服務(wù)器網(wǎng)速與客戶的前端網(wǎng)絡(luò)速度不匹配而造成的服務(wù)器資源浪費(fèi)的問題。由于服務(wù)器與負(fù)載均衡設(shè)備之間的網(wǎng)絡(luò)帶寬速率高，時延小，通過將服務(wù)器端的請求緩沖在負(fù)載均衡設(shè)備的緩沖區(qū)中，防止由于客戶端緩慢的網(wǎng)絡(luò)鏈路和較高的時延造成服務(wù)器端連接阻塞問題。

　　通過采用TCP緩沖技術(shù)，可以提高服務(wù)器端響應(yīng)時間和處理效率，減少由于通信鏈路問題給服務(wù)器造成的連接負(fù)擔(dān)。另外，由負(fù)載均衡設(shè)備來處理網(wǎng)絡(luò)阻塞造成的數(shù)據(jù)包重傳，使每個客戶端的流量得到最佳的控制。

圖例 3 TCP緩沖（TCP Buffer）

　　如上圖所示，客戶端與負(fù)載均衡之間采用的鏈路具有較高的時延和較低的帶寬，而負(fù)載均衡與服務(wù)器之間采用時延較低和高帶寬的局域網(wǎng)連接。

　　1、負(fù)載均衡收到客戶端發(fā)來的HTTP請求并將其轉(zhuǎn)發(fā)給后端的服務(wù)器進(jìn)行處理；

　　2、服務(wù)器對請求進(jìn)行處理后，將響應(yīng)的內(nèi)容依次返回負(fù)載均衡設(shè)備，負(fù)載均衡設(shè)備收到響應(yīng)的數(shù)據(jù)包后，會將數(shù)據(jù)包依次緩存在緩沖區(qū)中，服務(wù)器的響應(yīng)速度將依據(jù)負(fù)載均衡和服務(wù)器之間的鏈路質(zhì)量；

　　3、當(dāng)負(fù)載均衡上緩存了第一個響應(yīng)的數(shù)據(jù)包后，負(fù)載均衡將響應(yīng)的數(shù)據(jù)包按次序返回給客戶端，此時，響應(yīng)的速度將依賴于負(fù)載均衡與客戶端之間的鏈路質(zhì)量；

　　4、當(dāng)響應(yīng)內(nèi)容數(shù)據(jù)包依次傳送給客戶端并收到客戶端的ACK確認(rèn)請求后，負(fù)載均衡將緩沖區(qū)資源釋放出來為其它TCP連接使用。

　　TCP緩沖技術(shù)是L7應(yīng)用負(fù)載均衡的核心，它將服務(wù)器與客戶端之間的TCP連接分成兩個獨(dú)立的TCP連接，并分別進(jìn)行處理，以適應(yīng)兩邊不同的網(wǎng)絡(luò)環(huán)境。此外，通過TCP緩沖技術(shù)，將客戶端的HTTP請求完整的接收下來并進(jìn)行分析，還可以提供一些高級負(fù)載均衡的應(yīng)用功能，如：URL-Hashing，URL交換（URL-Switching），基于Cookie或會話的連接保持（Cookie/Session Persistence）等等。

HTTP壓縮（HTTP Compression）
　　HTTP協(xié)議在v 1.1中新增了壓縮功能，如果客戶端瀏覽器和服務(wù)器都支持壓縮功能的話，通過客戶端和服務(wù)器進(jìn)行協(xié)商，對客戶端的響應(yīng)請求進(jìn)行壓縮處理。大幅節(jié)省內(nèi)容傳輸時所需要的帶寬，并加快客戶端的響應(yīng)速度。但是，壓縮算法本身需要耗費(fèi)大量的CPU資源，因此，負(fù)載均衡設(shè)備通過對HTTP壓縮功能進(jìn)行支持，減輕Web服務(wù)器的資源耗費(fèi)，提高其處理效率。另外，由于負(fù)載均衡一般都采用硬件的方式進(jìn)行壓縮，因此，壓縮的效率更高。此外，對于一些不支持HTTP壓縮功能的老版本的Web服務(wù)器，通過啟用負(fù)載均衡上的壓縮功能，可以實(shí)現(xiàn)對系統(tǒng)的優(yōu)化和加速。

圖例 4 HTTP壓縮（HTTP Compression）

　　如上圖所示，在負(fù)載均衡上實(shí)現(xiàn)HTTP壓縮功能的流程如下：

　　1、客戶端與負(fù)載均衡建立TCP連接后，發(fā)送HTTP請求（如Get請求），客戶端會將自身瀏覽器所支持的功能和配置情況發(fā)送給負(fù)載均衡，如：是否支持壓縮、支持的壓縮算法、是否支持Keep-alive（連接保持）、連接保持的時間等；

　　2、負(fù)載均衡在收到HTTP請求后，會將其中的有關(guān)壓縮的標(biāo)記刪除，然后將請求轉(zhuǎn)發(fā)給服務(wù)器進(jìn)行處理；

　　3、服務(wù)器將響應(yīng)的內(nèi)容轉(zhuǎn)發(fā)給負(fù)載均衡；

　　4、負(fù)載均衡收到響應(yīng)的內(nèi)容后，依照與客戶端之間協(xié)商的壓縮算法對響應(yīng)的內(nèi)容進(jìn)行壓縮，然后將壓縮后的內(nèi)容發(fā)送回客戶端；

　　5、客戶端收到響應(yīng)的內(nèi)容后，由瀏覽器對網(wǎng)頁內(nèi)容進(jìn)行解壓縮并進(jìn)行瀏覽。

　　由于HTTP壓縮采用的是HTTP v1.1協(xié)議中支持的標(biāo)準(zhǔn)壓縮算法，因此，目前主流的瀏覽器（如：Internet Explorer，F(xiàn)irefox，Opera，Netscape等）均默認(rèn)支持HTTP v1.1中的壓縮功能。對于用戶來說，無需修改瀏覽器配置也不需要安裝任何插件。采用負(fù)載均衡來代替服務(wù)器做壓縮，能夠大幅節(jié)省服務(wù)器的資源，可以使服務(wù)器專注于應(yīng)用的處理，從而提高業(yè)務(wù)處理量。另外，即使服務(wù)器不支持HTTP壓縮，通過負(fù)載均衡也能實(shí)現(xiàn)壓縮功能。

　　壓縮能力的大小取決于被壓縮對象的性質(zhì)。一般來說，HTTP壓縮算法對于文本格式的內(nèi)容有較好的壓縮效率；而對于gif等圖片格式的內(nèi)容，由于本身已經(jīng)進(jìn)行過壓縮處理，壓縮效率并不高。所以，需要負(fù)載均衡支持選擇性壓縮，即可以根據(jù)對象的類型進(jìn)行選擇性壓縮。

SSL加速器（SSL Acceleration）
　　一般情況下，HTTP采用明文的方式在網(wǎng)絡(luò)上傳輸，有可能被非法竊聽，尤其是用于認(rèn)證的口令信息等。為了避免出現(xiàn)這樣的安全問題，一般采用SSL協(xié)議（即：HTTPS）對HTTP協(xié)議進(jìn)行加密，以保證整個傳輸過程的安全性。在SSL通信中，首先采用非對稱密鑰技術(shù)交換認(rèn)證信息，并交換服務(wù)器和瀏覽器之間用于加密數(shù)據(jù)的會話密鑰，然后利用該密鑰對通信過程中的信息進(jìn)行加密和解密。

　　SSL是需要耗費(fèi)大量CPU資源的一種安全技術(shù)。目前，大多數(shù)負(fù)載均衡設(shè)備均采用SSL加速芯片進(jìn)行SSL信息的處理。這種方式比傳統(tǒng)的采用服務(wù)器的SSL加密方式提供更高的SSL處理性能，從而節(jié)省大量的服務(wù)器資源，使服務(wù)器能夠?qū)Ｗ⒂跇I(yè)務(wù)請求的處理。另外，采用集中的SSL處理，還能夠簡化對證書的管理，減少日常管理的工作量。

　　圖例 5 SSL加速

　　SSL的處理流程如下：

　　1、客戶端發(fā)起HTTPS連接請求，協(xié)商傳輸?shù)募用芩惴ǎ_認(rèn)雙方身份，并交換會話密鑰。

　　2、負(fù)載均衡收到客戶端加密的HTTPS請求后，對請求的信息進(jìn)行解密，然后通過HTTP的方式發(fā)送給后端的服務(wù)器。

　　3、服務(wù)器將請求的處理結(jié)果返回給負(fù)載均衡設(shè)備。

　　4、負(fù)載均衡設(shè)備利用會話密鑰對請求的結(jié)果進(jìn)行加密，然后將結(jié)果返回給客戶端。

　　5、客戶端采用會話密鑰對返回結(jié)果進(jìn)行解密，并顯示在瀏覽器上。

　　在負(fù)載均衡設(shè)備中實(shí)現(xiàn)SSL加速功能，只需要在負(fù)載均衡設(shè)備上導(dǎo)入SSL證書和密鑰即可。當(dāng)客戶端發(fā)起對虛擬服務(wù)器的HTTPS請求時，負(fù)載均衡設(shè)備自動和客戶端進(jìn)行SSL協(xié)議的協(xié)商并交換會話密鑰?？蛻舳税l(fā)送的請求以及負(fù)載均衡返回的響應(yīng)均采用會話密鑰進(jìn)行加密，而負(fù)載均衡設(shè)備與后端服務(wù)器之間則采用HTTP的方式進(jìn)行請求的發(fā)送和處理。

在實(shí)際環(huán)境中應(yīng)用負(fù)載均衡產(chǎn)品需要注意的問題
　　負(fù)載均衡設(shè)備提供的這些HTTP優(yōu)化和加速功能，能夠大大的降低客戶端的響應(yīng)時間，降低帶寬利用率，并且能降低服務(wù)器端負(fù)載情況，節(jié)省服務(wù)器資源。但是，目前主流的負(fù)載均衡產(chǎn)品在同時開啟多個HTTP優(yōu)化和加速功能時，設(shè)備的處理性能會大大降低。盡管各個廠家均宣稱自己的設(shè)備有較高的性能處理指標(biāo)，并通過第三方的測評機(jī)構(gòu)公布一些產(chǎn)品性能測試數(shù)據(jù)，但是，這些數(shù)據(jù)一般都是在一些特別設(shè)置的實(shí)驗(yàn)環(huán)境下測試出來的，只能作為不同廠商產(chǎn)品之間性能對比的依據(jù)，而不能作為用戶實(shí)際應(yīng)用環(huán)境的選型依據(jù)。

　　此外，大多數(shù)廠商都采用基本硬件平臺上加裝功能卡或購買許可證的方式提供這些HTTP的優(yōu)化和加速功能。如果用戶想在應(yīng)用加速的整體解決方案中采用這些功能，需要花費(fèi)更多的采購成本。對于用戶來說，這些高級特性和功能如同水中之月，可望而不可及。因此，在選購負(fù)載均衡產(chǎn)品的時候，一定要了解自己的應(yīng)用究竟需要采用哪些功能特性，而實(shí)現(xiàn)這些特性又需要哪些額外的費(fèi)用。

　　A10 Networks的AX系列高級流量管理器采用目前主流的高性能多核CPU進(jìn)行設(shè)計(jì)開發(fā)，通過結(jié)合四層流量處理ASIC和自主研發(fā)的ACOS系統(tǒng)，提供無比的性能優(yōu)勢，尤其是在開啟多個優(yōu)化和加速特性后，仍能保持較高的處理性能。2008年1月，在Tolly Group的測試中，單臺AX設(shè)備實(shí)現(xiàn)了每秒百萬的交易處理量，是截至目前唯一實(shí)現(xiàn)每秒百萬級交易處理量的負(fù)載均衡設(shè)備。AX以其卓越的性能為客戶提供最佳性價(jià)比，并提供最大的每瓦特性能，滿足當(dāng)今綠色計(jì)算對節(jié)能的要求。此外，AX產(chǎn)品采用all-in-one的銷售模式，在單臺硬件設(shè)備中提供所有的高級功能特性，如：內(nèi)容緩存，HTTP壓縮，SSL加速，IPv6，GSLB等。這些功能已經(jīng)內(nèi)置在AX的ACOS系統(tǒng)之中，不需要用戶花費(fèi)任何額外的費(fèi)用。AX這種新的銷售模式可以為用戶帶來巨大的利益，節(jié)省用戶投資成本。