本文源碼：GitHub·點這裡 || GitEE·點這裡
流量控制的核心作用是限制流出某一網絡的某一連接配接的流量與突發，使這類封包以比較均勻的速度流動發送，達到保護系統相對穩定的目的。通常是将請求放入緩沖區或隊列内，然後基于特定政策處理請求，勻速或者批量處理，該過程也稱流量整形。
流量控制的核心算法有以下兩種：漏桶算法和令牌桶算法。
基礎描述
漏桶算法是流量整形或速率限制時經常使用的一種算法，它的主要目的是控制資料注入到網絡的速率，平滑網絡上的突發流量。漏桶算法提供了一種機制，通過它，突發流量可以被整形以便為網絡提供一個穩定的流量。
漏桶算法基本思路：請求（水流）先進入到容器（漏桶）裡，漏桶以一定的速度出水，這裡就是指流量流出的政策，當流量流入速度過大容器無法承接就會直接溢出，通過該過程限制資料的傳輸速率。
核心要素
通過上述流程，不難發現漏桶算法涉及下面幾個要素：
<code>容器容量</code>
容器的大小直接決定能承接流量的多少，容器一但接近飽和，要麼溢出，要麼加快流速；
<code>流出速度</code>
流量流出的速度取決于服務的請求處理能力，接口支撐的并發越高，流速就可以越大；
<code>時間控制</code>
基于時間記錄，判斷流量流出速度，控制勻速模式，
注意：需要一個基本的判定政策，漏桶算法在系統能承接目前并發流量時，不需要啟用。
令牌桶可自行以恒定的速率源源不斷地産生令牌。如果令牌不被消耗，或者被消耗的速度小于産生的速度，令牌就會不斷地增多，直到把桶填滿。後面再産生的令牌就會從桶中溢出。
令牌桶算法雖然根本目的也是控制流量速度，但是當令牌桶内的令牌足夠多時，則允許流量階段性的并發。傳送到令牌桶的資料包需要消耗令牌。不同大小的資料包，消耗的令牌數量不一樣。
<code>令牌桶</code>
存放按照特定的速率生成的令牌，以此控制流量速度。
<code>比對規則</code>
這裡的比對規則更多是服務于分布式系統，例如服務A是系統的核心交易，當出現并發時，基于令牌桶最比對規則，隻允許交易請求通過，例如：常見雙十一期間，各大電商平台提示，為保證核心交易，邊緣服務的資料延遲或暫停等。
注意：令牌桶算法和漏桶算法的目的雖然相同，但是實作政策是相反的，不過都存在一個問題，為保證大部分請求流量成功，會犧牲小部分請求。
Nginx反向代理實際運作方式是指以代理伺服器來接收用戶端連接配接請求，然後将請求轉發給内部網絡上的伺服器，并将從伺服器上得到的結果傳回給用戶端，此時代理伺服器對外就表現為一個伺服器。
流量限制是Nginx作為代理服務中一個非常實用的功能，通過配置方式來限制使用者在給定時間内HTTP請求的數量，兩個主要的配置指令<code>limit_req_zone</code>和<code>limit_req</code>，以此保護高并發下系統的穩定。
CDN邊緣節點，準确的說并不是用來處理流量限制的，而是存放靜态頁面。内容緩存為CDN網絡節點，位于使用者接入點，是面向最終使用者的内容提供裝置，可緩存靜态Web内容和流媒體内容，實作内容的邊緣傳播和存儲，以便使用者的就近通路，這樣避免使用者大量重新整理資料伺服器，節省骨幹網帶寬，減少帶寬需求量。
在高并發場景下，尤其是倒計時搶購類似業務，在活動開始前後使用者會産生大量重新整理頁面的操作，基于CDN節點，這些請求不會下沉到資料的服務接口上。也可以基于頁面做一些請求攔截，比如點選頁面機關時間内隻放行一定量的請求，以此也可以實作一個限流控制。
所謂熔斷器機制，即類似電流的保險器，當然電壓過高會自動跳閘，進而保護電路系統。微服務架構中服務保護也是這個政策，當服務被判斷異常，會從服務清單斷開，等待恢複在重新連接配接。服務熔斷降級的政策實作有如下幾個常用的元件。
基礎簡介
Hystrix目前處于維護模式，即不再更新，作為SpringCloud微服務元件中，最原生的一個熔斷元件，很多思路還是有必要了解一下。例如：服務熔斷，阻止故障的連鎖反應，快速失敗并迅速恢複，服務降級等。
某個微服務發生故障時，要快速切斷服務，提示使用者，後續請求，不調用該服務，直接傳回，釋放資源，這就是服務熔斷。
熔斷器政策
伺服器高并發下，壓力劇增的時候,根據當業務情況以及流量，對一些服務和頁面有政策的降級(可以了解為關閉不必要的服務)，以此緩解伺服器資源的壓力以保障核心任務的正常運作。熔斷生效後，會在指定的時間後調用請求來測試依賴是否恢複，依賴的應用恢複後關閉熔斷。
基本流程：
首先判斷服務熔斷器開關狀态，服務如果未熔斷則放行請求；如果服務處于熔斷中則直接傳回。
每次調用都執行兩個函數markSuccess(duration)和markFailure(duration) 來統計在一定的時間段内的調用是成功和失敗次數。
基于上述的成功和失敗次數的計算政策，來判斷是否應該打開熔斷器，如果錯誤率高于一定的門檻值，就會觸發熔斷機制。
熔斷器有一個生命周期，周期過後熔斷器器進入半開狀态，允許放行一個試探請求；否則，不允許放行。
基于微服務的模式，服務和服務之間的穩定性變得越來越重要。Sentinel以流量為切入點，從流量控制、熔斷降級、系統負載保護等多個次元保護服務的穩定性。
Sentinel可以針對不同的調用關系，以不同的運作名額（如QPS、并發調用數、系統負載等）為基準，收集資源的路徑，并将這些資源的調用路徑以樹狀結構存儲起來，用于根據調用路徑對資源進行流量控制。
流量整形政策
直接拒絕模式是預設的流量控制方式，即請求超出任意規則的門檻值後，新的請求就會被立即拒絕。
啟動預熱模式：當流量激增的時候，控制流量通過的速率，讓通過的流量緩慢增加，在一定時間内逐漸增加到門檻值上限，給冷系統一個預熱的時間，避免冷系統被壓垮。
勻速排隊方式會嚴格控制請求通過的間隔時間，也即是讓請求以均勻的速度通過，對應的是漏桶算法。
熔斷政策
Sentinel本質上是基于熔斷器模式，支援基于異常比率的熔斷降級，在調用達到一定量級并且失敗比率達到設定的門檻值時自動進行熔斷，此時所有對該資源的調用都會被阻塞，直到過了指定的時間視窗後才啟發性地恢複。
推薦閱讀：微服務架構系列
序号
标題
01
微服務架構：項目技術選型簡介，架構圖解說明
02
微服務架構：業務架構設計，系統分層管理
03
微服務架構：資料庫選型簡介，業務資料規劃設計
04
微服務架構：中間件內建，公共服務封裝
05
微服務架構：SpringCloud 基礎元件應用設計
06
微服務架構：通過業務、應用、技術、存儲，聊聊架構
07
微服務技術棧：常見注冊中心元件，對比分析