11月11日,從一個被調侃的“光棍節”成為中國電子商務行業乃至全球關注的年度盛事,只用了短短五年時間。眼下距離2014年“雙十一”購物節還有不到一周的時間。各大電商的廣告大戰早已拉開,摩拳擦掌,早早做好了籌備部署。賣家們已開始備貨,制定“雙十一”活動戰略,打算在活動期間猛賺一筆。快遞公司提前“招兵買馬”,備足人手,就等“雙十一”的到來。網購達人們也開始搜羅各電商的折扣和優惠信息,抱著“剁手”的風險準備猛淘一下。
馬云曾說:“2014年的雙十一淘寶要突破500億。”據相關分析師預測,2014年天貓淘寶“雙十一”銷售額將達到600億元。不用驚訝,600億元也許真的算不上天文數字。2013年11月11日,淘寶創下的一個個神奇瞬間就是印證——零點開鑼,6分零7秒交額超10億,38分零5秒超50億,8小時42分突破121億,13小時零4分突破200億,21小時19分突破300億……這一天,淘寶交易額達350.19億,比2012年的191億增加了83%。共成交1.71億筆,產生1.67億只包裹。
面對這些不知道多少個零的神奇數字,面對馬云給2014“雙十一”的豪言壯語,淘寶IT工程師們則胸有成竹。原因在于,擁有逾5億的注冊用戶,數百萬的賣家,多如繁星的商品,淘寶輝煌的背后有一套幾億用戶并發可用、訪問高峰持續可靠、適應業務快速擴展的應用交付系統。它可以力挺淘寶輕松面對海量并發、海量數據讀寫、分散交易、銀行同步結算及業務高速發展等苛刻挑戰。對于這套應用交付系統,淘寶網運維總監曹益峰評價:“A10 Networks ADC給我們留下了深刻印象,相比較已有的負載均衡解決方案,它在4層和7層均表現出更佳的處理能力。這允許我們可以用兩臺A10 Networks ADC換掉4臺舊機,提高運作效率。其不僅在性能上能滿足我們的業務需求,而且在穩定性、可擴展性方面都到了很高的水平。使用AX系列后,我們不僅可以讓每一位淘寶用戶有更好的訪問體驗,而且還降低了我們每筆交易的總成本,從而保障了我們業務的更高速發展。”
背后的秘密:吞吐量、每秒新建連接能力、并發連接數,一個也不能少
眾所周知,對于大規模訪問量來說,無論多么高性能的單臺服務器都不可能應付,必須部署多臺服務器并進行應用交付。對于服務器和ADC這一類與應用有關的設備,其性能和負載的消耗主要表現在3個方面:吞吐量、每秒新建連接能力和并發連接數。得益于優秀的ACOS架構,A10 Networks產品在性能上擁有先天優勢:160Gbps吞吐量、710萬每秒新建連接數、2.56億并發連接數,這些傲驕的性能數據就是A10 Networks受到眾多巨型數據流量企業青睞的原因。
ADC設備部署必須要根據客戶系統的訪問特點進行配置,不能只是簡單的輪詢分發。一般來說,完成負載均衡配置之后,由于流量被分擔,客戶會立刻看到系統的改善效果,比如訪問速度明顯提升、服務器大幅降低。但當A10 Networks在淘寶進行部署時就發現,如果只是簡單開啟負載均衡,系統改善效果并不明顯。究其原因,問題則出在連接數上。淘寶頁面上圖片較多,每個圖片都需要一個連接來取回,也就是說打開一個頁面時就會建立幾十個連接。如果一萬個人同時訪問這個頁面,服務器的交互壓力就是每秒要處理幾十萬個新連接。因此,這些訪問流量雖然負載均衡給了多臺服務器,但從連接數來看,每臺服務器承擔的壓力還是超出了其處理能力。
A10 Networks連接復用技術可以很好的解決這個問題,即將A10 Networks ADC與服務器之間的連接由短連接變為動態維護的長連接,大大降低了服務器端的交互壓力。為了更好的管理服務器端壓力,A10 Networks還為客戶設計過一個排隊系統,該系統一旦檢測到服務器正在處理的連接數已達到上限,就會將后續訪問納入等待隊列,待服務器資源空閑出來時再引導訪問,提升了客戶整套應用系統的可靠性。