網絡延遲是指一個IP包從源主機進程發出開始計時，到達目的地主機進程為止，所經歷的時間，以毫秒為單位。

IP包從源主機一路經過多個中繼設備，如交換機、路由器，最終到達終點，網絡延遲由以下三者組成：

網絡延遲 = 傳輸延遲 + 處理延遲 +緩沖隊列延遲

傳輸延遲

這個延遲很好理解，指光、電信號在有線介質上的延遲，或無線電信號在空氣介質中的延遲，這種傳輸延遲只和光速有關、或電信號的傳輸速度有關，用戶無法改變該延遲。對于一條選定的端對端路徑，此值是恒定的。

處理延遲

接收IP包，查詢轉發表，硬件、或軟件轉發，包括封裝、解封裝、編碼、解碼時間，經過設備越多，設備吞吐能力越弱（一秒可以轉發多少Gb的數據），延遲越大。但對于一條選定的端對端路徑，此值也是恒定的。

緩沖隊列延遲

當端到端的路徑上，沒有任何網絡擁塞，緩沖隊列的延遲幾戶為0，網絡轉發性能達到線速度，好像兩端用一根線直連。

但是網絡擁堵經常發生，因為主機對帶寬的需求無止境，所以擁堵是常態。當網絡擁堵時，路由器將無法及時轉發的流量緩沖在出口隊列，可能采用加權公平隊列WFQ（Weighted FairQueue）、或低延遲隊列LLQ （Low Latency Queue），或默認的先進先出隊列FIFO（First In FirstOut），這個隊列可能會造成幾百毫秒或更多的延遲，此值是可變的，可以接近0或幾秒不等，依賴網絡的擁堵程度。

什么是加權公平隊列WFQ？

將不同的種類流量放入不同的隊列，預先給不同的隊列分配一個權值、或百分比，采用公平輪轉的方式來依次發送每個隊列的緩沖數據。

什么是低延遲隊列LLQ？

依據IP優先級，高優先級的語音流量（Precedence =5），最先發送，可以插隊，VIP客戶。

什么是先進先出隊列FIFO？

先到的先發，后到的后發。

所以過大的網絡延遲主要是由緩沖隊列延遲過大造成的！

google最新的TCP BBR算法，就是積極主動測量網絡的延遲，運用智能算法，獲知網絡的最大可利用帶寬，使發送速率≤ 最大可利用帶寬，最大限度減少路由器的緩沖隊列的深度，最大限度減少延遲。

綜上可知，網絡延遲是由不受人類控制的傳輸延遲，以及人類可以控制的處理延遲、隊列延遲所組成。很顯然，如果想減小IP報文的整體延遲，必須從后兩者入手，即如何降低處理延遲、隊列延遲。

處理延遲是一個衡量一臺設備是否牛叉的關鍵指標。以路由器為例，擁有近百萬條路由表的路由器，如何用最快速度匹配到正確的路由條目，包含著滿滿的黑科技。采用多級查詢，只需要查詢幾百、最多幾千次條目，就可以hit到正確的條目。這是產品設計時候需要實現的技術要素。