成人午夜视频全免费观看高清-秋霞福利视频一区二区三区-国产精品久久久久电影小说-亚洲不卡区三一区三区一区

消息中間件MQ中消息冪等性是什么

這篇文章給大家介紹消息中間件MQ中消息冪等性是什么,內(nèi)容非常詳細(xì),感興趣的小伙伴們可以參考借鑒,希望對大家能有所幫助。

專注于為中小企業(yè)提供成都做網(wǎng)站、成都網(wǎng)站建設(shè)、成都外貿(mào)網(wǎng)站建設(shè)服務(wù),電腦端+手機(jī)端+微信端的三站合一,更高效的管理,為中小企業(yè)辛集免費(fèi)做網(wǎng)站提供優(yōu)質(zhì)的服務(wù)。我們立足成都,凝聚了一批互聯(lián)網(wǎng)行業(yè)人才,有力地推動了成百上千家企業(yè)的穩(wěn)健成長,幫助中小企業(yè)通過網(wǎng)站建設(shè)實(shí)現(xiàn)規(guī)模擴(kuò)充和轉(zhuǎn)變。

前言

我們小伙伴應(yīng)該都聽說夠消息中間件MQ,如:RabbitMQ,RocketMQ,Kafka等。引入中間件的好處可以起到抗高并發(fā),削峰,業(yè)務(wù)解耦的作用。

消息中間件MQ中消息冪等性是什么

如上圖:

(1)訂單服務(wù)投遞消息給MQ中間件 (2)物流服務(wù)監(jiān)聽MQ中間件消息,從而進(jìn)行消費(fèi)

我們這篇文章討論一下,如何保障訂單服務(wù)把消息成功投遞給MQ中間件,以RabbitMQ舉例。

分析問題

小伙伴們對此會有些疑問,訂單服務(wù)發(fā)起消息服務(wù),返回成功不就成功了嗎?如下面的偽代碼:

消息中間件MQ中消息冪等性是什么

上面代碼中,一般發(fā)送消息就是這么寫的,小伙伴們覺得有什么問題嗎?

下邊說一個場景,如果MQ服務(wù)器突然宕機(jī)了會出現(xiàn)什么情況?是不是我們訂單服務(wù)發(fā)過去的消息全部沒有了嗎?是的,一般MQ中間件為了提高系統(tǒng)的吞吐量會把消息保存在內(nèi)存中,如果不作其他處理,MQ服務(wù)器一旦宕機(jī),消息將全部丟失。這個是業(yè)務(wù)不允許的,造成很大的影響。

持久化

有經(jīng)驗(yàn)的小伙伴會說,我知道一個方法就是把消息持久化,RabbitMQ中發(fā)消息的時候會有個durable參數(shù)可以設(shè)置,設(shè)置為true,就會持久化。

消息中間件MQ中消息冪等性是什么

這樣的話MQ服務(wù)器即使宕機(jī),重啟后磁盤文件中有消息的存儲,這樣就不會丟失了吧。是的這樣就一定概率的保障了消息不丟失。

但還會有個場景,就是消息剛剛保存到MQ內(nèi)存中,但還沒有來得及更新到磁盤文件中,突然宕機(jī)了。(我靠,這個時間這么短,也會出現(xiàn),概率太低了吧),這個場景在持續(xù)的大量消息投遞的過程中,會很常見。

那怎么辦?我們?nèi)绾巫霾拍鼙U弦欢〞志没酱疟P上面呢?

confirm機(jī)制

上面問題出現(xiàn)在,沒有人告訴我們持久化是否成功。好在很多MQ有回調(diào)通知的特性,RabbitMQ就有confirm機(jī)制來通知我們是否持久化成功?

消息中間件MQ中消息冪等性是什么

confirm機(jī)制的原理:

(1)消息生產(chǎn)者把消息發(fā)送給MQ,如果接收成功,MQ會返回一個ack消息給生產(chǎn)者;

(2)如果消息接收不成功,MQ會返回一個nack消息給生產(chǎn)者;

消息中間件MQ中消息冪等性是什么

上面的偽代碼,有兩個處理消息方式,就是ack回調(diào)和nack回調(diào)。

這樣是不是就可以保障100%消息不丟失了呢?

我們看一下confirm的機(jī)制,試想一下,如果我們生產(chǎn)者每發(fā)一條消息,都要MQ持久化到磁盤中,然后再發(fā)起ack或nack的回調(diào)。這樣的話是不是我們MQ的吞吐量很不高,因?yàn)槊看味家严⒊志没酱疟P中。寫入磁盤這個動作是很慢的,這個在高并發(fā)場景下是不能夠接受的,吞吐量太低了。

所以MQ持久化磁盤真實(shí)的實(shí)現(xiàn),是通過異步調(diào)用處理的,他是有一定的機(jī)制,如:等到有幾千條消息的時候,會一次性的刷盤到磁盤上面。而不是每來一條消息,就刷盤一次。

所以comfirm機(jī)制其實(shí)是一個異步監(jiān)聽的機(jī)制,是為了保證系統(tǒng)的高吞吐量,這樣就導(dǎo)致了還是不能夠100%保障消息不丟失,因?yàn)榧词辜由狭薱onfirm機(jī)制,消息在MQ內(nèi)存中還沒有刷盤到磁盤就宕機(jī)了,還是沒法處理。

說了這么多,還是沒法確保,那怎么辦呢???

消息提前持久化 + 定時任務(wù)

其實(shí)本質(zhì)的原因是無法確定是否持久化?那我們是不是可以自己讓消息持久化呢?答案是可以的,我們的方案再一步的演化。

消息中間件MQ中消息冪等性是什么

上圖流程:

(1)訂單服務(wù)生產(chǎn)者在投遞消息之前,先把消息持久化到redis或DB中,建議Redis,高性能。消息的狀態(tài)為發(fā)送中。

(2)confirm機(jī)制監(jiān)聽消息是否發(fā)送成功?如ack成功消息,刪除Redis中此消息。

(3)如果nack不成功的消息,這個可以根據(jù)自身的業(yè)務(wù)選擇是否重發(fā)此消息。也可以刪除此消息,由自己的業(yè)務(wù)決定。

(4)這邊加了個定時任務(wù),來拉取隔一定時間了,消息狀態(tài)還是為發(fā)送中的,這個狀態(tài)就表明,訂單服務(wù)是沒有收到ack成功消息。

(5)定時任務(wù)會作補(bǔ)償性的投遞消息。這個時候如果MQ回調(diào)ack成功接收了,再把Redis中此消息刪除。

這樣的機(jī)制其實(shí)就是一個補(bǔ)償機(jī)制,我不管MQ有沒有真正的接收到,只要我的Redis中的消息狀態(tài)也是為【發(fā)送中】,就表示此消息沒有正確成功投遞。再啟動定時任務(wù)去監(jiān)控,發(fā)起補(bǔ)償投遞。

當(dāng)然定時任務(wù)那邊我們還可以加上一個補(bǔ)償?shù)拇螖?shù),如果大于3次,還是沒有收到ack消息,那就直接把消息的狀態(tài)設(shè)置為【失敗】,由人工去排查到底是為什么?

這樣的話方案就比較完美了,保障了100%的消息不丟失(當(dāng)然不包含磁盤也壞了,可以做主從方案)。

不過這樣的方案,就會有可能發(fā)送多次相同的消息,很有可能MQ已經(jīng)收到了消息,就是ack消息回調(diào)時出現(xiàn)網(wǎng)絡(luò)故障,沒有讓生產(chǎn)者收到。

那就要要求消費(fèi)者一定在消費(fèi)的時候保障冪等性!

冪等含義

我們先了解一下什么叫冪等?在分布式應(yīng)用中,冪等是非常重要的,也就是相同條件下對一個業(yè)務(wù)的操作,不管操作多少次,結(jié)果都是一樣。

為什么要有冪等這種場景?

為什么要有冪等這種場景?因?yàn)樵诖蟮南到y(tǒng)中,都是分布式部署,如:訂單業(yè)務(wù) 和 庫存業(yè)務(wù)有可能都是獨(dú)立部署的,都是單獨(dú)的服務(wù)。用戶下訂單,會調(diào)用到訂單服務(wù)和庫存服務(wù)。

消息中間件MQ中消息冪等性是什么

因?yàn)榉植际讲渴?,很有可能在調(diào)用庫存服務(wù)時,因?yàn)榫W(wǎng)絡(luò)等原因,訂單服務(wù)調(diào)用失敗,但其實(shí)庫存服務(wù)已經(jīng)處理完成,只是返回給訂單服務(wù)處理結(jié)果時出現(xiàn)了異常。這個時候一般系統(tǒng)會作補(bǔ)償方案,也就是訂單服務(wù)再次放起庫存服務(wù)的調(diào)用,庫存減1。

消息中間件MQ中消息冪等性是什么

這樣就出現(xiàn)了問題,其實(shí)上一次調(diào)用已經(jīng)減了1,只是訂單服務(wù)沒有收到處理結(jié)果?,F(xiàn)在又調(diào)用一次,又要減1,這樣就不符合業(yè)務(wù)了,多扣了。

冪等這個概念就是,不管庫存服務(wù)在相同條件下調(diào)用幾次,處理結(jié)果都一樣。這樣才能保證補(bǔ)償方案的可行性。

樂觀鎖方案

借鑒數(shù)據(jù)庫的樂觀鎖機(jī)制,如:

消息中間件MQ中消息冪等性是什么

  • 唯一ID就是業(yè)務(wù)表的唯一的主鍵,如商品ID

  • 指紋碼就是為了區(qū)別每次正常操作的碼,每次操作時生成指紋碼;可以用時間戳+業(yè)務(wù)編號的方式。

上面的sql語句:

  • 返回如果為0 表示沒有操作過,那業(yè)務(wù)操作后就可以insert into t_check(唯一ID+指紋碼)

  • 返回如果大于0 表示操作過,就直接返回

好處:實(shí)現(xiàn)簡單

壞處:高并發(fā)下數(shù)據(jù)庫瓶頸

解決方案:根據(jù)ID進(jìn)行分庫分表進(jìn)行算法路由

Redis原子操作

利用redis的原子操作,做個操作完成的標(biāo)記。這個性能就比較好。但會遇到一些問題。

第一:我們是否需要把業(yè)務(wù)結(jié)果進(jìn)行數(shù)據(jù)落庫,如果落庫,關(guān)鍵解決的問題時數(shù)據(jù)庫和redis操作如何做到原子性?

這個意思就是庫存減1了,但redis進(jìn)行操作完成標(biāo)記時,失敗了怎么辦?也就是一定要保證落庫和redis 要么一起成功,要么一起失敗

第二:如果不進(jìn)行落庫,那么都存儲到緩存中,如何設(shè)置定時同步策略?

這個意思就是庫存減1,不落庫,直接先操作redis操作完成標(biāo)記,然后由另外的同步服務(wù)進(jìn)行庫存落庫,這個就是增加了系統(tǒng)復(fù)雜性,而且同步策略如何設(shè)置

關(guān)于消息中間件MQ中消息冪等性是什么就分享到這里了,希望以上內(nèi)容可以對大家有一定的幫助,可以學(xué)到更多知識。如果覺得文章不錯,可以把它分享出去讓更多的人看到。

網(wǎng)頁名稱:消息中間件MQ中消息冪等性是什么
文章位置:http://jinyejixie.com/article24/posece.html

成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián),為您提供自適應(yīng)網(wǎng)站、企業(yè)建站、網(wǎng)站營銷、企業(yè)網(wǎng)站制作品牌網(wǎng)站建設(shè)、用戶體驗(yàn)

廣告

聲明:本網(wǎng)站發(fā)布的內(nèi)容(圖片、視頻和文字)以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主,如果涉及侵權(quán)請盡快告知,我們將會在第一時間刪除。文章觀點(diǎn)不代表本網(wǎng)站立場,如需處理請聯(lián)系客服。電話:028-86922220;郵箱:631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載,或轉(zhuǎn)載時需注明來源: 創(chuàng)新互聯(lián)

成都網(wǎng)站建設(shè)
克什克腾旗| 大石桥市| 九龙坡区| 莱西市| 兴仁县| 兴宁市| 古田县| 虹口区| 平顺县| 高阳县| 桂平市| 怀宁县| 大兴区| 深圳市| 巴里| 吴江市| 达尔| 云和县| 个旧市| 灵丘县| 岳阳县| 台东县| 阿拉善盟| 苍溪县| 舟曲县| 清徐县| 漳浦县| 衡阳县| 璧山县| 遂溪县| 高台县| 汉阴县| 屏东县| 华坪县| 凭祥市| 益阳市| 庆安县| 沙湾县| 长沙县| 凤城市| 岳池县|