本篇內(nèi)容介紹了“Hadoop棧由哪些組件組成”的有關(guān)知識,在實(shí)際案例的操作過程中,不少人都會遇到這樣的困境,接下來就讓小編帶領(lǐng)大家學(xué)習(xí)一下如何處理這些情況吧!希望大家仔細(xì)閱讀,能夠?qū)W有所成!
成都創(chuàng)新互聯(lián)-專業(yè)網(wǎng)站定制、快速模板網(wǎng)站建設(shè)、高性價比石嘴山網(wǎng)站開發(fā)、企業(yè)建站全套包干低至880元,成熟完善的模板庫,直接使用。一站式石嘴山網(wǎng)站制作公司更省心,省錢,快速模板網(wǎng)站建設(shè)找我們,業(yè)務(wù)覆蓋石嘴山地區(qū)。費(fèi)用合理售后完善,10余年實(shí)體公司更值得信賴。一、Hadoop生態(tài)體系?
Hadoop?是一個分布式系統(tǒng)基礎(chǔ)架構(gòu),由Apache基金會開發(fā)。用戶可以在不了解分布式底層細(xì)節(jié)的情況下,開發(fā)分布式程序。充分利用集群的威力高速運(yùn)算和存儲。Hadoop實(shí)現(xiàn)了一個分布式文件系統(tǒng)(Hadoop?Distributed?File?System),簡稱HDFS。?
Hadoop?“棧”由多個組件組成。包括:?
1.Hadoop分布式文件系統(tǒng)(HDFS):所有Hadoop集群的默認(rèn)存儲層
2.名稱節(jié)點(diǎn):在Hadoop集群中,提供數(shù)據(jù)存儲位置以及節(jié)點(diǎn)失效信息的節(jié)點(diǎn)。?
3.?二級節(jié)點(diǎn):名稱節(jié)點(diǎn)的備份,它會定期復(fù)制和存儲名稱節(jié)點(diǎn)的數(shù)據(jù),以防名稱節(jié)點(diǎn)失效。?
4.作業(yè)跟蹤器:Hadoop集群中發(fā)起和協(xié)調(diào)MapReduce作業(yè)或數(shù)據(jù)處理任務(wù)的節(jié)點(diǎn)。
5.從節(jié)點(diǎn):Hadoop集群的普通節(jié)點(diǎn),從節(jié)點(diǎn)存儲數(shù)據(jù)并且從作業(yè)跟蹤器那里獲取數(shù)據(jù)處理指令。?
二、Spark生態(tài)體系?
Spark?是一種與?Hadoop?相似的開源集群計算環(huán)境,但是兩者之間還存在一些不同之處,這些有用的不同之處使?Spark?在某些工作負(fù)載方面表現(xiàn)得更加優(yōu)越,換句話說,Spark?啟用了內(nèi)存分布數(shù)據(jù)集,除了能夠提供交互式查詢外,它還可以優(yōu)化迭代工作負(fù)載。?
Spark?是在?Scala?語言中實(shí)現(xiàn)的,它將?Scala?用作其應(yīng)用程序框架。與?Hadoop?不同,Spark?和?Scala?能夠緊密集成,其中的?Scala?可以像操作本地集合對象一樣輕松地操作分布式數(shù)據(jù)集。?
三、Storm實(shí)時開發(fā)?
Storm是一個免費(fèi)并開源的分布式實(shí)時計算系統(tǒng)。利用Storm可以很容易做到可靠地處理無限的數(shù)據(jù)流,像Hadoop批量處理大數(shù)據(jù)一樣,Storm可以實(shí)時處理數(shù)據(jù)。Storm簡單,可以使用任何編程語言。?
Storm有如下特點(diǎn):?
1.編程簡單:開發(fā)人員只需要關(guān)注應(yīng)用邏輯,而且跟Hadoop類似,Storm提供的編程原語也很簡單?
2.高性能,低延遲:可以應(yīng)用于廣告搜索引擎這種要求對廣告主的操作進(jìn)行實(shí)時響應(yīng)的場景。?
3.分布式:可以輕松應(yīng)對數(shù)據(jù)量大,單機(jī)搞不定的場景?
4.可擴(kuò)展:?隨著業(yè)務(wù)發(fā)展,數(shù)據(jù)量和計算量越來越大,系統(tǒng)可水平擴(kuò)展?
5.容錯:單個節(jié)點(diǎn)掛了不影響應(yīng)用?
6.消息不丟失:保證消息處理?
“Hadoop棧由哪些組件組成”的內(nèi)容就介紹到這里了,感謝大家的閱讀。如果想了解更多行業(yè)相關(guān)的知識可以關(guān)注創(chuàng)新互聯(lián)-成都網(wǎng)站建設(shè)公司網(wǎng)站,小編將為大家輸出更多高質(zhì)量的實(shí)用文章!
分享題目:Hadoop棧由哪些組件組成-創(chuàng)新互聯(lián)
本文地址:http://jinyejixie.com/article2/piooc.html
成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián),為您提供網(wǎng)站收錄、外貿(mào)建站、Google、ChatGPT、做網(wǎng)站、App開發(fā)
聲明:本網(wǎng)站發(fā)布的內(nèi)容(圖片、視頻和文字)以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主,如果涉及侵權(quán)請盡快告知,我們將會在第一時間刪除。文章觀點(diǎn)不代表本網(wǎng)站立場,如需處理請聯(lián)系客服。電話:028-86922220;郵箱:631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載,或轉(zhuǎn)載時需注明來源: 創(chuàng)新互聯(lián)
猜你還喜歡下面的內(nèi)容