這篇文章主要介紹了python分布式爬蟲中的celery如何使用,具有一定借鑒價(jià)值,需要的朋友可以參考下。希望大家閱讀完這篇文章后大有收獲。下面讓小編帶著大家一起了解一下。
創(chuàng)新互聯(lián)-專業(yè)網(wǎng)站定制、快速模板網(wǎng)站建設(shè)、高性價(jià)比青岡網(wǎng)站開發(fā)、企業(yè)建站全套包干低至880元,成熟完善的模板庫,直接使用。一站式青岡網(wǎng)站制作公司更省心,省錢,快速模板網(wǎng)站建設(shè)找我們,業(yè)務(wù)覆蓋青岡地區(qū)。費(fèi)用合理售后完善,十多年實(shí)體公司更值得信賴。1. broker:翻譯過來叫做中間人。它是一個(gè)消息傳輸?shù)闹虚g件,可以理解為一個(gè)郵箱。每當(dāng)應(yīng)用程序調(diào)用celery的異步任務(wù)的時(shí)候,會(huì)向broker傳遞消息,而后celery的worker將會(huì)取到消息,執(zhí)行相應(yīng)程序。這其實(shí)就是消費(fèi)者和生產(chǎn)者之間的橋梁。
2. backend: 通常程序發(fā)送的消息,發(fā)完就完了,可能都不知道對(duì)方時(shí)候接受了。為此,celery實(shí)現(xiàn)了一個(gè)backend,用于存儲(chǔ)這些消息以及celery執(zhí)行的一些消息和結(jié)果。
3. worker: Celery類的實(shí)例,作用就是執(zhí)行各種任務(wù)。注意在celery3.1.25后windows是不支持celery worker的!
4. producer: 發(fā)送任務(wù),將其傳遞給broker
5. beat: celery實(shí)現(xiàn)的定時(shí)任務(wù)。可以將其理解為一個(gè)producer,因?yàn)樗彩峭ㄟ^網(wǎng)絡(luò)調(diào)用定時(shí)將任務(wù)發(fā)送給worker執(zhí)行。注意在windows上celery是不支持定時(shí)任務(wù)的!
下面是關(guān)于celery的架構(gòu)示意圖,結(jié)合上面文字的話應(yīng)該會(huì)更好理解
感謝你能夠認(rèn)真閱讀完這篇文章,希望小編分享python分布式爬蟲中的celery如何使用內(nèi)容對(duì)大家有幫助,同時(shí)也希望大家多多支持創(chuàng)新互聯(lián)網(wǎng)站建設(shè)公司,,關(guān)注創(chuàng)新互聯(lián)行業(yè)資訊頻道,遇到問題就找創(chuàng)新互聯(lián)網(wǎng)站建設(shè)公司,,詳細(xì)的解決方法等著你來學(xué)習(xí)!
網(wǎng)頁題目:python分布式爬蟲中的celery如何使用-創(chuàng)新互聯(lián)
網(wǎng)站鏈接:http://jinyejixie.com/article2/pesoc.html
成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián),為您提供做網(wǎng)站、ChatGPT、軟件開發(fā)、全網(wǎng)營銷推廣、網(wǎng)站內(nèi)鏈、網(wǎng)頁設(shè)計(jì)公司
聲明:本網(wǎng)站發(fā)布的內(nèi)容(圖片、視頻和文字)以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主,如果涉及侵權(quán)請(qǐng)盡快告知,我們將會(huì)在第一時(shí)間刪除。文章觀點(diǎn)不代表本網(wǎng)站立場(chǎng),如需處理請(qǐng)聯(lián)系客服。電話:028-86922220;郵箱:631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載,或轉(zhuǎn)載時(shí)需注明來源: 創(chuàng)新互聯(lián)
猜你還喜歡下面的內(nèi)容