成人午夜视频全免费观看高清-秋霞福利视频一区二区三区-国产精品久久久久电影小说-亚洲不卡区三一区三区一区

Kafka有哪些特點(diǎn)-創(chuàng)新互聯(lián)

創(chuàng)新互聯(lián)www.cdcxhl.cn八線動態(tài)BGP香港云服務(wù)器提供商,新人活動買多久送多久,劃算不套路!

創(chuàng)新互聯(lián)建站是一家專注于成都網(wǎng)站建設(shè)、成都網(wǎng)站制作與策劃設(shè)計,米易網(wǎng)站建設(shè)哪家好?創(chuàng)新互聯(lián)建站做網(wǎng)站,專注于網(wǎng)站建設(shè)十年,網(wǎng)設(shè)計領(lǐng)域的專業(yè)建站公司;建站業(yè)務(wù)涵蓋:米易等地區(qū)。米易做網(wǎng)站價格咨詢:13518219792

Kafka有哪些特點(diǎn)?針對這個問題,這篇文章詳細(xì)介紹了相對應(yīng)的分析和解答,希望可以幫助更多想解決這個問題的小伙伴找到更簡單易行的方法。

Kafka的特點(diǎn)有:1、同時為發(fā)布和訂閱提供高吞吐量;2、可進(jìn)行持久化操作,將消息持久化到磁盤,因此可用于批量消費(fèi);3、分布式系統(tǒng),易于向外擴(kuò)展;4、支持online和offline的場景。

Kafka的特點(diǎn)及使用場景

Kafka是分布式發(fā)布-訂閱消息系統(tǒng)。它最初由LinkedIn公司開發(fā),之后成為Apache項目的一部分。Kafka是一個分布式的,可劃分的,冗余備份的持久性的日志服務(wù)。

它主要用于處理活躍的流式數(shù)據(jù)。在大數(shù)據(jù)系統(tǒng)中,常常會碰到一個問題,整個大數(shù)據(jù)是由各個子系統(tǒng)組成,數(shù)據(jù)需要在各個子系統(tǒng)中高性能,低延遲的不停流轉(zhuǎn)。

傳統(tǒng)的企業(yè)消息系統(tǒng)并不是 非常適合大規(guī)模的數(shù)據(jù)處理。為了已在同時搞定在線應(yīng)用(消息)和離線應(yīng)用(數(shù)據(jù)文件,日志)Kafka就出現(xiàn)了。Kafka可以起到兩個作用:

  • 降低系統(tǒng)組網(wǎng)復(fù)雜度。

  • 降低編程復(fù)雜度,各個子系統(tǒng)不在是相互協(xié)商接口,各個子系統(tǒng)類似插口插在插座上,Kafka承擔(dān)高速數(shù)據(jù)總線的作用

Kafka主要特點(diǎn):

  • 同時為發(fā)布和訂閱提供高吞吐量。據(jù)了解,Kafka每秒可以生產(chǎn)約25萬消息(50 MB),每秒處理55萬消息(110 MB)。

  • 可進(jìn)行持久化操作。將消息持久化到磁盤,因此可用于批量消費(fèi),例如ETL,以及實時應(yīng)用程序。通過將數(shù)據(jù)持久化到硬盤以及replication防止數(shù)據(jù)丟失。

  • 分布式系統(tǒng),易于向外擴(kuò)展。所有的producer、broker和consumer都會有多個,均為分布式的。無需停機(jī)即可擴(kuò)展機(jī)器。

  • 消息被處理的狀態(tài)是在consumer端維護(hù),而不是由server端維護(hù)。當(dāng)失敗時能自動平衡。

  • 支持online和offline的場景。

Kafka的設(shè)計要點(diǎn):

1、直接使用linux 文件系統(tǒng)的cache,來高效緩存數(shù)據(jù)。

2、采用linux Zero-Copy提高發(fā)送性能。傳統(tǒng)的數(shù)據(jù)發(fā)送需要發(fā)送4次上下文切換,采用sendfile系統(tǒng)調(diào)用之后,數(shù)據(jù)直接在內(nèi)核態(tài)交換,系統(tǒng)上下文切換減少 為2次。根據(jù)測試結(jié)果,可以提高60%的數(shù)據(jù)發(fā)送性能。

3、數(shù)據(jù)在磁盤上存取代價為O(1)。kafka以topic來進(jìn)行消息管理,每個topic包含多個part(ition),每個part對應(yīng)一 個邏輯log,有多個segment組成。每個segment中存儲多條消息(見下圖),消息id由其邏輯位置決定,即從消息id可直接定位到消息的存儲 位置,避免id到位置的額外映射。每個part在內(nèi)存中對應(yīng)一個index,記錄每個segment中的第一條消息偏移。發(fā)布者發(fā)到某個topic的消息 會被均勻的分布到多個part上(隨機(jī)或根據(jù)用戶指定的回調(diào)函數(shù)進(jìn)行分布),broker收到發(fā)布消息往對應(yīng)part的最后一個segment上添加該消 息,當(dāng)某個segment上的消息條數(shù)達(dá)到配置值或消息發(fā)布時間超過閾值時,segment上的消息會被flush到磁盤,只有flush到磁盤上的消息 訂閱者才能訂閱到,segment達(dá)到一定的大小后將不會再往該segment寫數(shù)據(jù),broker會創(chuàng)建新的segment。

4、顯式分布式,即所有的producer、broker和consumer都會有多個,均為分布式的。Producer和broker之間沒有負(fù) 載均衡機(jī)制。broker和consumer之間利用zookeeper進(jìn)行負(fù)載均衡。

所有broker和consumer都會在zookeeper中進(jìn) 行注冊,且zookeeper會保存他們的一些元數(shù)據(jù)信息。如果某個broker和consumer發(fā)生了變化,所有其他的broker和 consumer都會得到通知。

關(guān)于Kafka有哪些特點(diǎn)問題的解答就分享到這里了,希望以上內(nèi)容可以對大家有一定的幫助,如果你還有很多疑惑沒有解開,可以關(guān)注創(chuàng)新互聯(lián)-成都網(wǎng)站建設(shè)公司行業(yè)資訊頻道了解更多相關(guān)知識。

新聞名稱:Kafka有哪些特點(diǎn)-創(chuàng)新互聯(lián)
轉(zhuǎn)載來于:http://jinyejixie.com/article12/jgjgc.html

成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián),為您提供外貿(mào)網(wǎng)站建設(shè)、動態(tài)網(wǎng)站、品牌網(wǎng)站制作、網(wǎng)站排名、網(wǎng)站收錄、網(wǎng)站制作

廣告

聲明:本網(wǎng)站發(fā)布的內(nèi)容(圖片、視頻和文字)以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主,如果涉及侵權(quán)請盡快告知,我們將會在第一時間刪除。文章觀點(diǎn)不代表本網(wǎng)站立場,如需處理請聯(lián)系客服。電話:028-86922220;郵箱:631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載,或轉(zhuǎn)載時需注明來源: 創(chuàng)新互聯(lián)

綿陽服務(wù)器托管
邮箱| 东港市| 武平县| 门头沟区| 宝兴县| 平江县| 新昌县| 五莲县| 五莲县| 阳江市| 天台县| 如皋市| 阳泉市| 靖边县| 蒙阴县| 镇赉县| 景宁| 乌苏市| 会理县| 灌阳县| 舞阳县| 宁安市| 壤塘县| 景宁| 原阳县| 玛纳斯县| 青岛市| 拉萨市| 绍兴市| 明光市| 淄博市| 湘乡市| 崇阳县| 天峨县| 民勤县| 辽中县| 哈尔滨市| 吴川市| 桓台县| 尤溪县| 平潭县|