Elasticsearch 集群集群自我保護(hù)配置

成都創(chuàng)新互聯(lián)公司專注于迭部網(wǎng)站建設(shè)服務(wù)及定制，我們擁有豐富的企業(yè)做網(wǎng)站經(jīng)驗(yàn)。 熱誠(chéng)為您提供迭部營(yíng)銷型網(wǎng)站建設(shè)，迭部網(wǎng)站制作、迭部網(wǎng)頁設(shè)計(jì)、迭部網(wǎng)站官網(wǎng)定制、成都小程序開發(fā)服務(wù)，打造迭部網(wǎng)絡(luò)公司原創(chuàng)品牌,更為您提供迭部網(wǎng)站排名全網(wǎng)營(yíng)銷落地服務(wù)。

配置調(diào)試原因主要是為了保護(hù)ES 集群能夠自我保護(hù)，避免業(yè)務(wù)人員寫暴力查詢語句，大量的占用內(nèi)存或者CPU最終將es集群直接查掛。文檔所有值均為參考值，具體設(shè)置多少合適需要根據(jù)集群規(guī)模、index分片數(shù)量、節(jié)點(diǎn)配置等等。。因素進(jìn)行考量，設(shè)置合理閾值。

調(diào)試環(huán)境

ES 版本 ：elasticsearch-6.2.4-1.noarch
OS：centos7.X

全局超時(shí) search.default_search_timeout

除了在每個(gè)請(qǐng)求中設(shè)置超時(shí)之外，ES還支持全局性的搜索超時(shí)search.default_search_timeout，此設(shè)置沒有默認(rèn)值，設(shè)置為-1可以取消先前設(shè)置的值。

設(shè)置方法：

persistent ：重啟后依然有效
transient ：重啟后無效

PUT /_cluster/settings
{
    "persistent" : {
        "search.default_search_timeout" : "35s"
    }
}

取消查詢 earch.low_level_cancellation

搜索可以通過標(biāo)準(zhǔn)的任務(wù)取消機(jī)制來取消。默認(rèn)情況下ES僅僅在段邊界（segment boundaries）來檢查請(qǐng)求是否已經(jīng)被取消，因此取消操作可能由于大段而延遲。要降低取消操作的響應(yīng)時(shí)間，可以設(shè)置search.low_level_cancellation=true，但是要注意此設(shè)置會(huì)導(dǎo)致更加頻繁的檢查。定期檢查自己是否被取消，如果是則退出查詢。

設(shè)置方法：

PUT /_cluster/settings
{
    "persistent" : {
        "search.low_level_cancellation" :true
    }
}

設(shè)置此參數(shù)之后可以使用api接口手動(dòng)取消任務(wù)；

#查詢正在運(yùn)行的task
GET _tasks?detailed=true&actions=*indices:data/read/search

#取消任務(wù)
POST _tasks/CdoilmnzRVyllc0PbRbB2w:7280/_cancel

search 并發(fā)和并行

action.search.shard_count.limit

這個(gè)參數(shù)主要用于限制一次操作過多的分片，防止過多的占用內(nèi)存和CPU資源。默認(rèn)情況下ES不限制搜索請(qǐng)求牽涉到的分片數(shù)量，你可以設(shè)置軟限制 action.search.shard_count.limit 來拒絕命中太多分片的請(qǐng)求。

如果看到錯(cuò)誤日志如下，修改此參數(shù)可以解決問題。

"reason" : "Trying to query 1344 shards, which is over the limit of 1000. This limit exists because querying 
many shards at the same time can make the job of the coordinating node very CPU and/or memory 
intensive. It is usually a better idea to have a smaller number of larger shards. Update 
[action.search.shard_count.limit] to a greater value if you really want to query that many shards at the same time."

PUT /_cluster/settings
{
    "persistent" : {
        "action.search.shard_count.limit" :"1000"
    }
}

or

curl -u admin:admin -XPUT 'https://localhost:9200/_cluster/settings' -H 'Content-Type: application/json' -d' 
{
    "persistent" : {
        "action.search.shard_count.limit" : "1000"
    }
}

max_concurrent_shard_requests (貌似新版本已經(jīng)放棄此參數(shù)，確認(rèn)中。。)

參數(shù)可以限制搜索請(qǐng)求最多同時(shí)在多少個(gè)分片上執(zhí)行，可以防止單個(gè)搜索請(qǐng)求消耗整個(gè)集群的資源。此參數(shù)的默認(rèn)值取決于集群中數(shù)據(jù)節(jié)點(diǎn)的數(shù)量，最多256。

###### 設(shè)置方法：

PUT /_cluster/settings
{
    "persistent" : {
        "max_concurrent_shard_requests : "80"
    }
}

index.max_result_window

默認(rèn)大小:10000

就是from+size，from：決定要返回的文檔從哪里開始，size:決定返回多少條。假如from+size很大的話，將會(huì)消耗很多的內(nèi)存和時(shí)間；這個(gè)設(shè)置就是為了防止內(nèi)存不夠用的情況。
這個(gè)設(shè)置是索引層的，即便是使用_all設(shè)置了，看日志也是對(duì)逐個(gè)索引加這個(gè)配置，后續(xù)新加的索引，max_result_window默認(rèn)還是1w。
使用Elasticsearch進(jìn)行search查詢的過程中，出現(xiàn)了Result window is too large問題。一般是這個(gè)參數(shù)設(shè)置過小導(dǎo)致的。
可通過如下方式修改：

配置單個(gè)索引

#查看單個(gè)索引設(shè)置
GET /27_hot_v1/_settings

#修改配置
PUT /27_hot_v1/_settings
{
  "index.max_result_window":"10000"
}

or

PUT /27_hot_v1/_settings
{
  "index.max_result_window":"10000"
}

curl -XPUT 192.168.40.31:9200/$(Index-name)/_settings -d '{ "index.max_result_window" :"1000000"}'

設(shè)置所有索引生效

curl -XPUT 192.168.40.31:9200/_all/_settings -d '{ "index.max_result_window" :"1000000"}'

驗(yàn)證配置結(jié)果

curl -XGET 172.20.7.22:9200/$(index-name)/_settings

index.max_inner_result_window：

默認(rèn)是：100。這個(gè)設(shè)置限制的是 返回 結(jié)果中的 結(jié)果!
index.max_inner_result_window：和index.max_result_window原理差不多，這個(gè)設(shè)置限制的是返回結(jié)果中的結(jié)果。

配置單個(gè)索引

#查看單個(gè)索引設(shè)置
GET /27_hot_v1/_settings

#修改配置
PUT /27_hot_v1/_settings
{
  "max_inner_result_window":"5000"
}

or

PUT /27_hot_v1/_settings
{
  "index.max_inner_result_window":"100"
}

index.max_docvalue_fields_search

默認(rèn)最多請(qǐng)求100字段，Doc-value 字段成本很高，因?yàn)樗鼈兛赡軙?huì)導(dǎo)致每個(gè)字段的每個(gè)文檔搜索?？梢酝ㄟ^使用index.max_docvalue_fields_search索引設(shè)定覆蓋.

PUT /27_hot_v1/_settings
{
  "index.max_docvalue_fields_search":"100"
}

index.max_docvalue_fields_search

默認(rèn)為32。ndex.max_script_fields：查詢中允許的最大script_field數(shù)。

PUT /27_hot_v1/_settings
{
  "ndex.max_script_fields":"32"
}

參考文檔：
https://www.elastic.co/guide/en/elasticsearch/reference/6.5/search.html#global-search-cancellation
https://mp.weixin.qq.com/s/mKL2PJuNUJTl71Axv4-Rcw
https://www.cnblogs.com/huangpeng1990/p/4364341.html
https://kionf.com/2019/01/22/errornote-elk/
https://www.elastic.co/guide/en/elasticsearch/reference/6.6/modules-threadpool.html#_literal_fixed_literal

新聞名稱：Elasticsearch集群自我保護(hù)配置
地址分享：http://jinyejixie.com/article36/gpehsg.html

成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián)，為您提供域名注冊(cè)、營(yíng)銷型網(wǎng)站建設(shè)、網(wǎng)站內(nèi)鏈、網(wǎng)站建設(shè)、外貿(mào)建站、靜態(tài)網(wǎng)站

廣告

聲明：本網(wǎng)站發(fā)布的內(nèi)容（圖片、視頻和文字）以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主，如果涉及侵權(quán)請(qǐng)盡快告知，我們將會(huì)在第一時(shí)間刪除。文章觀點(diǎn)不代表本網(wǎng)站立場(chǎng)，如需處理請(qǐng)聯(lián)系客服。電話：028-86922220；郵箱：631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載，或轉(zhuǎn)載時(shí)需注明來源： 創(chuàng)新互聯(lián)