這篇文章給大家介紹消息中間件MQ中消息冪等性是什么,內(nèi)容非常詳細(xì),感興趣的小伙伴們可以參考借鑒,希望對大家能有所幫助。
專注于為中小企業(yè)提供成都做網(wǎng)站、成都網(wǎng)站建設(shè)、成都外貿(mào)網(wǎng)站建設(shè)服務(wù),電腦端+手機(jī)端+微信端的三站合一,更高效的管理,為中小企業(yè)辛集免費(fèi)做網(wǎng)站提供優(yōu)質(zhì)的服務(wù)。我們立足成都,凝聚了一批互聯(lián)網(wǎng)行業(yè)人才,有力地推動了成百上千家企業(yè)的穩(wěn)健成長,幫助中小企業(yè)通過網(wǎng)站建設(shè)實(shí)現(xiàn)規(guī)模擴(kuò)充和轉(zhuǎn)變。
我們小伙伴應(yīng)該都聽說夠消息中間件MQ,如:RabbitMQ,RocketMQ,Kafka等。引入中間件的好處可以起到抗高并發(fā),削峰,業(yè)務(wù)解耦的作用。
如上圖:
(1)訂單服務(wù)投遞消息給MQ中間件 (2)物流服務(wù)監(jiān)聽MQ中間件消息,從而進(jìn)行消費(fèi)
我們這篇文章討論一下,如何保障訂單服務(wù)把消息成功投遞給MQ中間件,以RabbitMQ舉例。
小伙伴們對此會有些疑問,訂單服務(wù)發(fā)起消息服務(wù),返回成功不就成功了嗎?如下面的偽代碼:
上面代碼中,一般發(fā)送消息就是這么寫的,小伙伴們覺得有什么問題嗎?
下邊說一個場景,如果MQ服務(wù)器突然宕機(jī)了會出現(xiàn)什么情況?是不是我們訂單服務(wù)發(fā)過去的消息全部沒有了嗎?是的,一般MQ中間件為了提高系統(tǒng)的吞吐量會把消息保存在內(nèi)存中,如果不作其他處理,MQ服務(wù)器一旦宕機(jī),消息將全部丟失。這個是業(yè)務(wù)不允許的,造成很大的影響。
有經(jīng)驗(yàn)的小伙伴會說,我知道一個方法就是把消息持久化,RabbitMQ中發(fā)消息的時候會有個durable參數(shù)可以設(shè)置,設(shè)置為true,就會持久化。
這樣的話MQ服務(wù)器即使宕機(jī),重啟后磁盤文件中有消息的存儲,這樣就不會丟失了吧。是的這樣就一定概率的保障了消息不丟失。
但還會有個場景,就是消息剛剛保存到MQ內(nèi)存中,但還沒有來得及更新到磁盤文件中,突然宕機(jī)了。(我靠,這個時間這么短,也會出現(xiàn),概率太低了吧),這個場景在持續(xù)的大量消息投遞的過程中,會很常見。
那怎么辦?我們?nèi)绾巫霾拍鼙U弦欢〞志没酱疟P上面呢?
上面問題出現(xiàn)在,沒有人告訴我們持久化是否成功。好在很多MQ有回調(diào)通知的特性,RabbitMQ就有confirm機(jī)制來通知我們是否持久化成功?
confirm機(jī)制的原理:
(1)消息生產(chǎn)者把消息發(fā)送給MQ,如果接收成功,MQ會返回一個ack消息給生產(chǎn)者;
(2)如果消息接收不成功,MQ會返回一個nack消息給生產(chǎn)者;
上面的偽代碼,有兩個處理消息方式,就是ack回調(diào)和nack回調(diào)。
這樣是不是就可以保障100%消息不丟失了呢?
我們看一下confirm的機(jī)制,試想一下,如果我們生產(chǎn)者每發(fā)一條消息,都要MQ持久化到磁盤中,然后再發(fā)起ack或nack的回調(diào)。這樣的話是不是我們MQ的吞吐量很不高,因?yàn)槊看味家严⒊志没酱疟P中。寫入磁盤這個動作是很慢的,這個在高并發(fā)場景下是不能夠接受的,吞吐量太低了。
所以MQ持久化磁盤真實(shí)的實(shí)現(xiàn),是通過異步調(diào)用處理的,他是有一定的機(jī)制,如:等到有幾千條消息的時候,會一次性的刷盤到磁盤上面。而不是每來一條消息,就刷盤一次。
所以comfirm機(jī)制其實(shí)是一個異步監(jiān)聽的機(jī)制,是為了保證系統(tǒng)的高吞吐量,這樣就導(dǎo)致了還是不能夠100%保障消息不丟失,因?yàn)榧词辜由狭薱onfirm機(jī)制,消息在MQ內(nèi)存中還沒有刷盤到磁盤就宕機(jī)了,還是沒法處理。
說了這么多,還是沒法確保,那怎么辦呢???
其實(shí)本質(zhì)的原因是無法確定是否持久化?那我們是不是可以自己讓消息持久化呢?答案是可以的,我們的方案再一步的演化。
上圖流程:
(1)訂單服務(wù)生產(chǎn)者在投遞消息之前,先把消息持久化到redis或DB中,建議Redis,高性能。消息的狀態(tài)為發(fā)送中。
(2)confirm機(jī)制監(jiān)聽消息是否發(fā)送成功?如ack成功消息,刪除Redis中此消息。
(3)如果nack不成功的消息,這個可以根據(jù)自身的業(yè)務(wù)選擇是否重發(fā)此消息。也可以刪除此消息,由自己的業(yè)務(wù)決定。
(4)這邊加了個定時任務(wù),來拉取隔一定時間了,消息狀態(tài)還是為發(fā)送中的,這個狀態(tài)就表明,訂單服務(wù)是沒有收到ack成功消息。
(5)定時任務(wù)會作補(bǔ)償性的投遞消息。這個時候如果MQ回調(diào)ack成功接收了,再把Redis中此消息刪除。
這樣的機(jī)制其實(shí)就是一個補(bǔ)償機(jī)制,我不管MQ有沒有真正的接收到,只要我的Redis中的消息狀態(tài)也是為【發(fā)送中】,就表示此消息沒有正確成功投遞。再啟動定時任務(wù)去監(jiān)控,發(fā)起補(bǔ)償投遞。
當(dāng)然定時任務(wù)那邊我們還可以加上一個補(bǔ)償?shù)拇螖?shù),如果大于3次,還是沒有收到ack消息,那就直接把消息的狀態(tài)設(shè)置為【失敗】,由人工去排查到底是為什么?
這樣的話方案就比較完美了,保障了100%的消息不丟失(當(dāng)然不包含磁盤也壞了,可以做主從方案)。
不過這樣的方案,就會有可能發(fā)送多次相同的消息,很有可能MQ已經(jīng)收到了消息,就是ack消息回調(diào)時出現(xiàn)網(wǎng)絡(luò)故障,沒有讓生產(chǎn)者收到。
那就要要求消費(fèi)者一定在消費(fèi)的時候保障冪等性!
我們先了解一下什么叫冪等?在分布式應(yīng)用中,冪等是非常重要的,也就是相同條件下對一個業(yè)務(wù)的操作,不管操作多少次,結(jié)果都是一樣。
為什么要有冪等這種場景?因?yàn)樵诖蟮南到y(tǒng)中,都是分布式部署,如:訂單業(yè)務(wù) 和 庫存業(yè)務(wù)有可能都是獨(dú)立部署的,都是單獨(dú)的服務(wù)。用戶下訂單,會調(diào)用到訂單服務(wù)和庫存服務(wù)。
因?yàn)榉植际讲渴?,很有可能在調(diào)用庫存服務(wù)時,因?yàn)榫W(wǎng)絡(luò)等原因,訂單服務(wù)調(diào)用失敗,但其實(shí)庫存服務(wù)已經(jīng)處理完成,只是返回給訂單服務(wù)處理結(jié)果時出現(xiàn)了異常。這個時候一般系統(tǒng)會作補(bǔ)償方案,也就是訂單服務(wù)再次放起庫存服務(wù)的調(diào)用,庫存減1。
這樣就出現(xiàn)了問題,其實(shí)上一次調(diào)用已經(jīng)減了1,只是訂單服務(wù)沒有收到處理結(jié)果?,F(xiàn)在又調(diào)用一次,又要減1,這樣就不符合業(yè)務(wù)了,多扣了。
冪等這個概念就是,不管庫存服務(wù)在相同條件下調(diào)用幾次,處理結(jié)果都一樣。這樣才能保證補(bǔ)償方案的可行性。
借鑒數(shù)據(jù)庫的樂觀鎖機(jī)制,如:
唯一ID就是業(yè)務(wù)表的唯一的主鍵,如商品ID
指紋碼就是為了區(qū)別每次正常操作的碼,每次操作時生成指紋碼;可以用時間戳+業(yè)務(wù)編號的方式。
上面的sql語句:
返回如果為0 表示沒有操作過,那業(yè)務(wù)操作后就可以insert into t_check(唯一ID+指紋碼)
返回如果大于0 表示操作過,就直接返回
好處:實(shí)現(xiàn)簡單
壞處:高并發(fā)下數(shù)據(jù)庫瓶頸
解決方案:根據(jù)ID進(jìn)行分庫分表進(jìn)行算法路由
利用redis的原子操作,做個操作完成的標(biāo)記。這個性能就比較好。但會遇到一些問題。
第一:我們是否需要把業(yè)務(wù)結(jié)果進(jìn)行數(shù)據(jù)落庫,如果落庫,關(guān)鍵解決的問題時數(shù)據(jù)庫和redis操作如何做到原子性?
這個意思就是庫存減1了,但redis進(jìn)行操作完成標(biāo)記時,失敗了怎么辦?也就是一定要保證落庫和redis 要么一起成功,要么一起失敗
第二:如果不進(jìn)行落庫,那么都存儲到緩存中,如何設(shè)置定時同步策略?
這個意思就是庫存減1,不落庫,直接先操作redis操作完成標(biāo)記,然后由另外的同步服務(wù)進(jìn)行庫存落庫,這個就是增加了系統(tǒng)復(fù)雜性,而且同步策略如何設(shè)置
關(guān)于消息中間件MQ中消息冪等性是什么就分享到這里了,希望以上內(nèi)容可以對大家有一定的幫助,可以學(xué)到更多知識。如果覺得文章不錯,可以把它分享出去讓更多的人看到。
網(wǎng)頁名稱:消息中間件MQ中消息冪等性是什么
文章位置:http://jinyejixie.com/article24/posece.html
成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián),為您提供自適應(yīng)網(wǎng)站、企業(yè)建站、網(wǎng)站營銷、企業(yè)網(wǎng)站制作、品牌網(wǎng)站建設(shè)、用戶體驗(yàn)
聲明:本網(wǎng)站發(fā)布的內(nèi)容(圖片、視頻和文字)以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主,如果涉及侵權(quán)請盡快告知,我們將會在第一時間刪除。文章觀點(diǎn)不代表本網(wǎng)站立場,如需處理請聯(lián)系客服。電話:028-86922220;郵箱:631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載,或轉(zhuǎn)載時需注明來源: 創(chuàng)新互聯(lián)