前言

站在用戶(hù)的角度思考問(wèn)題，與客戶(hù)深入溝通，找到云岡網(wǎng)站設(shè)計(jì)與云岡網(wǎng)站推廣的解決方案，憑借多年的經(jīng)驗(yàn)，讓設(shè)計(jì)與互聯(lián)網(wǎng)技術(shù)結(jié)合，創(chuàng)造個(gè)性化、用戶(hù)體驗(yàn)好的作品，建站類(lèi)型包括：成都網(wǎng)站設(shè)計(jì)、做網(wǎng)站、成都外貿(mào)網(wǎng)站建設(shè)公司、企業(yè)官網(wǎng)、英文網(wǎng)站、手機(jī)端網(wǎng)站、網(wǎng)站推廣、主機(jī)域名、網(wǎng)頁(yè)空間、企業(yè)郵箱。業(yè)務(wù)覆蓋云岡地區(qū)。

一般來(lái)說(shuō)，現(xiàn)在的互聯(lián)網(wǎng)應(yīng)用網(wǎng)站或者APP，它的整體流程可以用我們這個(gè)圖里展示的來(lái)表示，用戶(hù)請(qǐng)求開(kāi)始，從這個(gè)界面是最里面的瀏覽器和APP，到網(wǎng)絡(luò)轉(zhuǎn)發(fā)，再到應(yīng)用服務(wù)，最后到存儲(chǔ)，這純屬可能是數(shù)據(jù)庫(kù)文件系統(tǒng)，然后再返回到界面呈現(xiàn)內(nèi)容。

隨著互聯(lián)網(wǎng)的普及，內(nèi)容信息越來(lái)越復(fù)雜，用戶(hù)數(shù)和訪問(wèn)量越來(lái)越大，我們的應(yīng)用需要支撐更多的并發(fā)量，同時(shí)，我們的應(yīng)用服務(wù)器和數(shù)據(jù)庫(kù)服務(wù)器所做的計(jì)算也越來(lái)越多，但是，往往我們的應(yīng)用服務(wù)器的資源是有限的，而且技術(shù)變革是緩慢的，所以每秒能接收請(qǐng)求次數(shù)也是有限的，或者說(shuō)文件的讀寫(xiě)也是有限的。

如何能有效利用有限的資源來(lái)提供盡可能大的吞吐量呢？一個(gè)有效的辦法就是引入緩存，打破圖中的標(biāo)準(zhǔn)的流程，每個(gè)環(huán)節(jié)中請(qǐng)求可以從緩存中直接獲取目標(biāo)數(shù)據(jù)并返回，從而減少他們的計(jì)算量，來(lái)有效提升響應(yīng)速度，讓有限的資源服務(wù)更多的用戶(hù)，像我們這個(gè)圖里展示的緩存的使用，它其實(shí)可以出現(xiàn)在1到4的各個(gè)環(huán)節(jié)中。

緩存一致性問(wèn)題

當(dāng)數(shù)據(jù)時(shí)效性要求很高時(shí)，需要保證緩存中的數(shù)據(jù)與數(shù)據(jù)庫(kù)中的保持一致，而且需要保證緩存節(jié)點(diǎn)和副本中的數(shù)據(jù)也保持一致，不能出現(xiàn)差異現(xiàn)象。

這就比較依賴(lài)緩存的過(guò)期和更新策略。一般會(huì)在數(shù)據(jù)發(fā)生更改的時(shí)，主動(dòng)更新緩存中的數(shù)據(jù)或者移除對(duì)應(yīng)的緩存。

緩存并發(fā)問(wèn)題

緩存過(guò)期后將嘗試從后端數(shù)據(jù)庫(kù)獲取數(shù)據(jù)，這是一個(gè)看似合理的流程。但是，在高并發(fā)場(chǎng)景下，有可能多個(gè)請(qǐng)求并發(fā)的去從數(shù)據(jù)庫(kù)獲取數(shù)據(jù)，對(duì)后端數(shù)據(jù)庫(kù)造成極大的沖擊，甚至導(dǎo)致 “雪崩”現(xiàn)象。

此外，當(dāng)某個(gè)緩存key在被更新時(shí)，同時(shí)也可能被大量請(qǐng)求在獲取，這也會(huì)導(dǎo)致一致性的問(wèn)題。那如何避免類(lèi)似問(wèn)題呢？

我們會(huì)想到類(lèi)似“鎖”的機(jī)制，在緩存更新或者過(guò)期的情況下，先嘗試獲取到鎖，當(dāng)更新或者從數(shù)據(jù)庫(kù)獲取完成后再釋放鎖，其他的請(qǐng)求只需要犧牲一定的等待時(shí)間，即可直接從緩存中繼續(xù)獲取數(shù)據(jù)。

緩存穿透問(wèn)題

緩存穿透在有些地方也稱(chēng)為“擊穿”。很多朋友對(duì)緩存穿透的理解是：由于緩存故障或者緩存過(guò)期導(dǎo)致大量請(qǐng)求穿透到后端數(shù)據(jù)庫(kù)服務(wù)器，從而對(duì)數(shù)據(jù)庫(kù)造成巨大沖擊。

這其實(shí)是一種誤解。真正的緩存穿透應(yīng)該是這樣的：

在高并發(fā)場(chǎng)景下，如果某一個(gè)key被高并發(fā)訪問(wèn)，沒(méi)有被命中，出于對(duì)容錯(cuò)性考慮，會(huì)嘗試去從后端數(shù)據(jù)庫(kù)中獲取，從而導(dǎo)致了大量請(qǐng)求達(dá)到數(shù)據(jù)庫(kù)，而當(dāng)該key對(duì)應(yīng)的數(shù)據(jù)本身就是空的情況下，這就導(dǎo)致數(shù)據(jù)庫(kù)中并發(fā)的去執(zhí)行了很多不必要的查詢(xún)操作，從而導(dǎo)致巨大沖擊和壓力。

可以通過(guò)下面的幾種常用方式來(lái)避免緩存?zhèn)鹘y(tǒng)問(wèn)題：

1、緩存空對(duì)象

對(duì)查詢(xún)結(jié)果為空的對(duì)象也進(jìn)行緩存，如果是集合，可以緩存一個(gè)空的集合（非null），如果是緩存單個(gè)對(duì)象，可以通過(guò)字段標(biāo)識(shí)來(lái)區(qū)分。這樣避免請(qǐng)求穿透到后端數(shù)據(jù)庫(kù)。

同時(shí)，也需要保證緩存數(shù)據(jù)的時(shí)效性。這種方式實(shí)現(xiàn)起來(lái)成本較低，比較適合命中不高，但可能被頻繁更新的數(shù)據(jù)。

2、單獨(dú)過(guò)濾處理

對(duì)所有可能對(duì)應(yīng)數(shù)據(jù)為空的key進(jìn)行統(tǒng)一的存放，并在請(qǐng)求前做攔截，這樣避免請(qǐng)求穿透到后端數(shù)據(jù)庫(kù)。這種方式實(shí)現(xiàn)起來(lái)相對(duì)復(fù)雜，比較適合命中不高，但是更新不頻繁的數(shù)據(jù)。

緩存顛簸問(wèn)題

緩存的顛簸問(wèn)題，有些地方可能被成為“緩存抖動(dòng)”，可以看做是一種比“雪崩”更輕微的故障，但是也會(huì)在一段時(shí)間內(nèi)對(duì)系統(tǒng)造成沖擊和性能影響。一般是由于緩存節(jié)點(diǎn)故障導(dǎo)致。業(yè)內(nèi)推薦的做法是通過(guò)一致性Hash算法來(lái)解決。

歡迎大家關(guān)注我的公種浩【程序員追風(fēng)】，文章都會(huì)在里面更新，整理的資料也會(huì)放在里面。

緩存的雪崩現(xiàn)象

緩存雪崩就是指由于緩存的原因，導(dǎo)致大量請(qǐng)求到達(dá)后端數(shù)據(jù)庫(kù)，從而導(dǎo)致數(shù)據(jù)庫(kù)崩潰，整個(gè)系統(tǒng)崩潰，發(fā)生災(zāi)難。

導(dǎo)致這種現(xiàn)象的原因有很多種，上面提到的“緩存并發(fā)”，“緩存穿透”，“緩存顛簸”等問(wèn)題，其實(shí)都可能會(huì)導(dǎo)致緩存雪崩現(xiàn)象發(fā)生。這些問(wèn)題也可能會(huì)被惡意攻ji者所利用。

還有一種情況，例如某個(gè)時(shí)間點(diǎn)內(nèi)，系統(tǒng)預(yù)加載的緩存周期性集中失效了，也可能會(huì)導(dǎo)致雪崩。為了避免這種周期性失效，可以通過(guò)設(shè)置不同的過(guò)期時(shí)間，來(lái)錯(cuò)開(kāi)緩存過(guò)期，從而避免緩存集中失效。

從應(yīng)用架構(gòu)角度，我們可以通過(guò)限流、降級(jí)、熔斷等手段來(lái)降低影響，也可以通過(guò)多級(jí)緩存來(lái)避免這種災(zāi)難。

此外，從整個(gè)研發(fā)體系流程的角度，應(yīng)該加強(qiáng)壓力測(cè)試，盡量模擬真實(shí)場(chǎng)景，盡早的暴露問(wèn)題從而防范。

緩存無(wú)底洞現(xiàn)象

該問(wèn)題由 facebook 的工作人員提出的， facebook 在 2010 年左右，memcached 節(jié)點(diǎn)就已經(jīng)達(dá)3000 個(gè)，緩存數(shù)千 G 內(nèi)容。

他們發(fā)現(xiàn)了一個(gè)問(wèn)題---memcached 連接頻率，效率下降了，于是加 memcached 節(jié)點(diǎn)，添加了后，發(fā)現(xiàn)因?yàn)檫B接頻率導(dǎo)致的問(wèn)題，仍然存在，并沒(méi)有好轉(zhuǎn)，稱(chēng)之為”無(wú)底洞現(xiàn)象”。

目前主流的數(shù)據(jù)庫(kù)、緩存、Nosql、搜索中間件等技術(shù)棧中，都支持“分片”技術(shù)，來(lái)滿(mǎn)足“高性能、高并發(fā)、高可用、可擴(kuò)展”等要求。

有些是在client端通過(guò)Hash取模（或一致性Hash）將值映射到不同的實(shí)例上，有些是在client端通過(guò)范圍取值的方式映射的。當(dāng)然，也有些是在服務(wù)端進(jìn)行的。

但是，每一次操作都可能需要和不同節(jié)點(diǎn)進(jìn)行網(wǎng)絡(luò)通信來(lái)完成，實(shí)例節(jié)點(diǎn)越多，則開(kāi)銷(xiāo)會(huì)越大，對(duì)性能影響就越大。

主要可以從如下幾個(gè)方面避免和優(yōu)化：

1、數(shù)據(jù)分布方式

有些業(yè)務(wù)數(shù)據(jù)可能適合Hash分布，而有些業(yè)務(wù)適合采用范圍分布，這樣能夠從一定程度避免網(wǎng)絡(luò)IO的開(kāi)銷(xiāo)。

2、IO優(yōu)化

可以充分利用連接池，NIO等技術(shù)來(lái)盡可能降低連接開(kāi)銷(xiāo)，增強(qiáng)并發(fā)連接能力。

3、數(shù)據(jù)訪問(wèn)方式

一次性獲取大的數(shù)據(jù)集，會(huì)比分多次去獲取小數(shù)據(jù)集的網(wǎng)絡(luò)IO開(kāi)銷(xiāo)更小。

當(dāng)然，緩存無(wú)底洞現(xiàn)象并不常見(jiàn)。在絕大多數(shù)的公司里可能根本不會(huì)遇到。

最后

歡迎大家一起交流，喜歡文章記得點(diǎn)個(gè)贊喲，感謝支持！

另外有需要云服務(wù)器可以了解下創(chuàng)新互聯(lián)scvps.cn，海內(nèi)外云服務(wù)器15元起步，三天無(wú)理由+7*72小時(shí)售后在線，公司持有idc許可證，提供“云服務(wù)器、裸金屬服務(wù)器、高防服務(wù)器、香港服務(wù)器、美國(guó)服務(wù)器、虛擬主機(jī)、免備案服務(wù)器”等云主機(jī)租用服務(wù)以及企業(yè)上云的綜合解決方案，具有“安全穩(wěn)定、簡(jiǎn)單易用、服務(wù)可用性高、性?xún)r(jià)比高”等特點(diǎn)與優(yōu)勢(shì)，專(zhuān)為企業(yè)上云打造定制，能夠滿(mǎn)足用戶(hù)豐富、多元化的應(yīng)用場(chǎng)景需求。

當(dāng)前文章：6個(gè)常見(jiàn)的高并發(fā)緩存問(wèn)題，你知道幾個(gè)？-創(chuàng)新互聯(lián)
當(dāng)前路徑：http://jinyejixie.com/article44/dphohe.html

成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián)，為您提供網(wǎng)站制作、網(wǎng)站營(yíng)銷(xiāo)、標(biāo)簽優(yōu)化、品牌網(wǎng)站設(shè)計(jì)、虛擬主機(jī)、搜索引擎優(yōu)化

廣告

聲明：本網(wǎng)站發(fā)布的內(nèi)容（圖片、視頻和文字）以用戶(hù)投稿、用戶(hù)轉(zhuǎn)載內(nèi)容為主，如果涉及侵權(quán)請(qǐng)盡快告知，我們將會(huì)在第一時(shí)間刪除。文章觀點(diǎn)不代表本網(wǎng)站立場(chǎng)，如需處理請(qǐng)聯(lián)系客服。電話：028-86922220；郵箱：631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載，或轉(zhuǎn)載時(shí)需注明來(lái)源： 創(chuàng)新互聯(lián)