這篇文章給大家分享的是有關(guān)redis如何通過pipeline提升吞吐量的內(nèi)容。小編覺得挺實(shí)用的,因此分享給大家做個(gè)參考,一起跟隨小編過來看看吧。
案例目標(biāo)
簡單介紹 redis pipeline 的機(jī)制,結(jié)合一段實(shí)例說明pipeline 在提升吞吐量方面發(fā)生的效用。
案例背景
應(yīng)用系統(tǒng)在數(shù)據(jù)推送或事件處理過程中,往往出現(xiàn)數(shù)據(jù)流經(jīng)過多個(gè)網(wǎng)元;
然而在某些服務(wù)中,數(shù)據(jù)操作對redis 是強(qiáng)依賴的,在最近的一次分析中發(fā)現(xiàn):
一次數(shù)據(jù)推送會(huì)對 redis 產(chǎn)生近30次讀寫操作!
在數(shù)據(jù)推送業(yè)務(wù)中的性能壓測中,以數(shù)據(jù)上報(bào) -> 下發(fā)應(yīng)答為一次事務(wù);而對于這樣的讀寫模型,redis 的操作過于頻繁,很快便導(dǎo)致系統(tǒng)延時(shí)過高,吞吐量低下,無法滿足目標(biāo);
優(yōu)化過程 主要針對業(yè)務(wù)代碼做的優(yōu)化,其中redis 操作經(jīng)過大量合并,最終降低到原來的1/5,而系統(tǒng)吞吐量也提升明顯。
其中,redis pipeline(管道機(jī)制) 的應(yīng)用是一個(gè)關(guān)鍵手段。
pipeline的解釋
Pipeline指的是管道技術(shù),指的是客戶端允許將多個(gè)請求依次發(fā)給服務(wù)器,過程中而不需要等待請求的回復(fù),在最后再一并讀取結(jié)果即可。
管道技術(shù)使用廣泛,例如許多POP3協(xié)議已經(jīng)實(shí)現(xiàn)支持這個(gè)功能,大大加快了從服務(wù)器下載新郵件的過程。 Redis很早就支持管道(pipeline)技術(shù)。(因此無論你運(yùn)行的是什么版本,你都可以使用管道(pipelining)操作Redis)
普通請求模型
[圖-pipeline1]
Pipeline請求模型
[圖-pipeline2]
從兩個(gè)圖的對比中可看出,普通的請求模型是同步的,每次請求對應(yīng)一次IO操作等待;
而Pipeline 化之后所有的請求合并為一次IO,除了時(shí)延可以降低之外,還能大幅度提升系統(tǒng)吞吐量。
代碼實(shí)例
說明
本地開啟50個(gè)線程,每個(gè)線程完成1000個(gè)key的寫入,對比pipeline開啟及不開啟兩種場景下的性能表現(xiàn)。
相關(guān)常量
// 并發(fā)任務(wù) private static final int taskCount = 50; // pipeline大小 private static final int batchSize = 10; // 每個(gè)任務(wù)處理命令數(shù) private static final int cmdCount = 1000; private static final boolean usePipeline = true;
初始化連接
JedisPoolConfig poolConfig = new JedisPoolConfig(); poolConfig.setMaxActive(200); poolConfig.setMaxIdle(100); poolConfig.setMaxWait(2000); poolConfig.setTestOnBorrow(false); poolConfig.setTestOnReturn(false); jedisPool = new JedisPool(poolConfig, host, port);
并發(fā)啟動(dòng)任務(wù),統(tǒng)計(jì)執(zhí)行時(shí)間
public static void main(String[] args) throws InterruptedException { init(); flushDB(); long t1 = System.currentTimeMillis(); ExecutorService executor = Executors.newCachedThreadPool(); CountDownLatch latch = new CountDownLatch(taskCount); for (int i = 0; i < taskCount; i++) { executor.submit(new DemoTask(i, latch)); } latch.await(); executor.shutdownNow(); long t2 = System.currentTimeMillis(); System.out.println("execution finish time(s):" + (t2 - t1) / 1000.0); }
DemoTask 封裝了執(zhí)行key寫入的細(xì)節(jié),區(qū)分不同場景
public void run() { logger.info("Task[{}] start.", id); try { if (usePipeline) { runWithPipeline(); } else { runWithNonPipeline(); } } finally { latch.countDown(); } logger.info("Task[{}] end.", id); }
不使用Pipeline的場景比較簡單,循環(huán)執(zhí)行set操作
for (int i = 0; i < cmdCount; i++) { Jedis jedis = get(); try { jedis.set(key(i), UUID.randomUUID().toString()); } finally { if (jedis != null) { jedisPool.returnResource(jedis); } } if (i % batchSize == 0) { logger.info("Task[{}] process -- {}", id, i); } }
使用Pipeline,需要處理分段,如10個(gè)作為一批命令執(zhí)行
for (int i = 0; i < cmdCount;) { Jedis jedis = get(); try { Pipeline pipeline = jedis.pipelined(); int j; for (j = 0; j < batchSize; j++) { if (i + j < cmdCount) { pipeline.set(key(i + j), UUID.randomUUID().toString()); } else { break; } } pipeline.sync(); logger.info("Task[{}] pipeline -- {}", id, i + j); i += j; } finally { if (jedis != null) { jedisPool.returnResource(jedis); } } }
運(yùn)行結(jié)果
不使用Pipeline,整體執(zhí)行26s;而使用Pipeline優(yōu)化后的代碼,執(zhí)行時(shí)間僅需要3s!
NoPipeline-stat
Pipeline-stat
注意事項(xiàng)
pipeline機(jī)制可以優(yōu)化吞吐量,但無法提供原子性/事務(wù)保障,而這個(gè)可以通過Redis-Multi等命令實(shí)現(xiàn)。
感謝各位的閱讀!關(guān)于“redis如何通過pipeline提升吞吐量”這篇文章就分享到這里了,希望以上內(nèi)容可以對大家有一定的幫助,讓大家可以學(xué)到更多知識(shí),如果覺得文章不錯(cuò),可以把它分享出去讓更多的人看到吧!
另外有需要云服務(wù)器可以了解下創(chuàng)新互聯(lián)scvps.cn,海內(nèi)外云服務(wù)器15元起步,三天無理由+7*72小時(shí)售后在線,公司持有idc許可證,提供“云服務(wù)器、裸金屬服務(wù)器、高防服務(wù)器、香港服務(wù)器、美國服務(wù)器、虛擬主機(jī)、免備案服務(wù)器”等云主機(jī)租用服務(wù)以及企業(yè)上云的綜合解決方案,具有“安全穩(wěn)定、簡單易用、服務(wù)可用性高、性價(jià)比高”等特點(diǎn)與優(yōu)勢,專為企業(yè)上云打造定制,能夠滿足用戶豐富、多元化的應(yīng)用場景需求。
本文題目:redis如何通過pipeline提升吞吐量-創(chuàng)新互聯(lián)
標(biāo)題鏈接:http://jinyejixie.com/article16/diecdg.html
成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián),為您提供企業(yè)建站、外貿(mào)建站、品牌網(wǎng)站建設(shè)、網(wǎng)站設(shè)計(jì)、網(wǎng)站策劃、手機(jī)網(wǎng)站建設(shè)
聲明:本網(wǎng)站發(fā)布的內(nèi)容(圖片、視頻和文字)以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主,如果涉及侵權(quán)請盡快告知,我們將會(huì)在第一時(shí)間刪除。文章觀點(diǎn)不代表本網(wǎng)站立場,如需處理請聯(lián)系客服。電話:028-86922220;郵箱:631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載,或轉(zhuǎn)載時(shí)需注明來源: 創(chuàng)新互聯(lián)
猜你還喜歡下面的內(nèi)容