1、Sentinel 系統(tǒng)自適應(yīng)概述

從官方了解到 Sentienl 系統(tǒng)自適應(yīng)限流是一個全局的概念，對應(yīng)用入口流量統(tǒng)一進行統(tǒng)一控制，結(jié)合應(yīng)用的機器負載、CPU 使用率，總體平均響應(yīng)時間、入口 QPS 和并發(fā)線程數(shù)等幾個維度的監(jiān)控指標從而決定是否調(diào)用進行限流操作。為了有一個直觀的感受，我們可以從官方的運維平臺看看其系統(tǒng)自適應(yīng)限流的操作界面：

 

在詳細分析系統(tǒng)自適應(yīng)實現(xiàn)原理之前我們先來思考一下 Sentinel 引入該機制的目的。

官方文檔針對這個問題有過仔細闡述，我們先來看看官方文檔對其闡述。

引入系統(tǒng)自適應(yīng)限流的主要的目的有如下兩個：

• 保證系統(tǒng)不被拖垮

• 在系統(tǒng)穩(wěn)定的前提下保證系統(tǒng)的吞吐量。

目前我們接觸的限流的防護思路都是設(shè)定一個指標（闊值），例如系統(tǒng)的負載 load 超過某個闊值后就阻止或減少流量的繼續(xù)進入，當系統(tǒng)負載降低到某一水平后則恢復(fù)流量的進入。通常都是被動的，其實際效果取決于闊值設(shè)置是否合理，但往往設(shè)置合理不是一件容易的事情。

那 Sentinel 提供的系統(tǒng)自適應(yīng)是可以將設(shè)定的規(guī)則作為一個保護因子，而允許通過的流量由處理請求的能力來決定，即根據(jù)請求的響應(yīng)時間、當前系統(tǒng)正在處理的請求速率來決定。

那 Sentinel 是如何實現(xiàn)的呢？接下來用源碼的手段來揭曉其實現(xiàn)原理。

2、系統(tǒng)自適應(yīng)限流原理

Sentinel 執(zhí)行系統(tǒng)限流的核心入口類為 SystemSlot，該類實現(xiàn)簡單，如下圖所示：

 

2.1 自適應(yīng)限流檢測流程

系統(tǒng)自適應(yīng)限流檢測具體由 SystemRuleManager 的 checkSystem 方法實現(xiàn)，接下來詳細剖析其實現(xiàn)細節(jié)。

 

• 如果資源名稱為空，則直接跳過，這個是容錯機制。

  如果系統(tǒng)自適應(yīng)開關(guān)為打開，直接放行，該開關(guān)初始化時為 false，在加載到一條系統(tǒng)自適應(yīng)配置規(guī)則時該狀態(tài)會設(shè)置為 true，具體在 loadSystemConf 中。

  如果資源的類型不是入口流量(EntryType.IN),則直接放行。

Step2：從QPS為維度驗證是否需要被限流，其實現(xiàn)關(guān)鍵點如下：

• 當前的qps，如果 ENTRY_NODE 為空則返回0，否則返回該統(tǒng)計節(jié)點的成功 qps，那 ENTRY_NODE 統(tǒng)計節(jié)點是“何許人也”，原來是 Sentinel 特定定義了一個資源，其名稱為total_inbound_traffic，用來采集所有入口調(diào)用的信息，當資源進入類型為 ENTRY_TYPE_IN 時，會自動采集信息，其具體統(tǒng)計信息在 StatisticSlot 的 entry 方法中被調(diào)用，其截圖如下：

     

• 如果當前調(diào)用的 QPS 大于設(shè)定的QPS，即觸發(fā)限流，那這個 qps 又是在什么時候被設(shè)置的呢？也是在加載系統(tǒng)限流規(guī)則時被設(shè)置，如果一個應(yīng)用同一個限流點（LOAD、QPS)設(shè)置了多條規(guī)則，最小值生效。

Step3：關(guān)于線程數(shù)、響應(yīng)時間限流模式與QPS類似，就不再重復(fù)介紹。

 

Step4：如果當前系統(tǒng)的負載超過了設(shè)定的闊值的處理邏輯，這里就是自適應(yīng)的核心所在，并不是超過負載就限流，而是需要根據(jù)當前系統(tǒng)的請求處理能力進行綜合判斷，具體邏輯在 checkBbr 方法中實現(xiàn)。關(guān)于如何獲得系統(tǒng)負載與 checkBbr 方法稍后會詳細介紹。

 

Step5：如果當前CPU的負載超過了設(shè)置的闊值，觸發(fā)限流，那在JAVA中是如何獲取CPU的使用率的呢？稍后詳細介紹。

2.2 根據(jù)系統(tǒng)負載自適應(yīng)算法詳解

正如上面的第4步驟，根據(jù)系統(tǒng) Load 的會采用 TCP BBR 算法來評估是否限流，具體實現(xiàn)代碼如下：

 

• maxSuccessQps 的計算取當前采樣窗口的最大值乘以1s內(nèi)滑動窗口的個數(shù)，這里其實并不是十分準確。

• minRt 最小響應(yīng)時間取自當前采樣窗口中的最小響應(yīng)時間。
  故得出了上述計算公式，除以1000是因為 minRt 的時間單位是毫秒，統(tǒng)一為秒。從這里可以看出根據(jù)系統(tǒng)負載做限流，最終的判斷依據(jù)是線程數(shù)量。

2.3 JAVA如何獲得操作系統(tǒng)負載情況

在 Sentinel 中獲取操作系統(tǒng)負載情況的類：SystemStatusListener，每秒采集一次。

 

3、實踐思考

經(jīng)過上面的分析，Sentinel 中的系統(tǒng)自適應(yīng)其實指的是按照應(yīng)用所在機器的操作系統(tǒng)負載，再結(jié)合應(yīng)用本身的請求處理能力進行的自適應(yīng)，操作系統(tǒng)的負載情況可以通過 top 命令輸出，其示例如下：