首先附上官網(wǎng)鏈接:阿里云官網(wǎng)
成都創(chuàng)新互聯(lián)公司成立于2013年,我們提供高端重慶網(wǎng)站建設(shè)、成都網(wǎng)站制作、成都網(wǎng)站設(shè)計(jì)、網(wǎng)站定制、全網(wǎng)營(yíng)銷推廣、小程序制作、微信公眾號(hào)開發(fā)、成都網(wǎng)站推廣服務(wù),提供專業(yè)營(yíng)銷思路、內(nèi)容策劃、視覺設(shè)計(jì)、程序開發(fā)來完成項(xiàng)目落地,為成都門窗定制企業(yè)提供源源不斷的流量和訂單咨詢。點(diǎn)擊上邊鏈接,注冊(cè)后登陸官網(wǎng),選擇產(chǎn)品選項(xiàng),然后選擇云服務(wù)器ECS,就進(jìn)入云服務(wù)器ECS購(gòu)買界面。綿陽(yáng)電信機(jī)房
進(jìn)入云服務(wù)ECS購(gòu)買界面,點(diǎn)擊立即購(gòu)買,在界面中分為一鍵購(gòu)買和自定義購(gòu)買,如何對(duì)配置沒有概念,感覺太麻煩,推薦使用一鍵購(gòu)買。本文以一鍵購(gòu)買為例,主要是從以下幾個(gè)方面進(jìn)行選購(gòu):成都服務(wù)器托管
地域及可用性:選擇離自己比較近的地域,如我在上海,選擇華東2(上海),搭建hadoop集群的時(shí)候,購(gòu)買的多臺(tái)服務(wù)器一定要選擇在同一個(gè)區(qū)域,避免后續(xù)配置麻煩。
實(shí)例規(guī)格: 選擇CPU,及CPU運(yùn)行內(nèi)存,搭建hadoop集群的時(shí)候,master主機(jī)的運(yùn)行內(nèi)存必須是2G以上,其他節(jié)點(diǎn)可以為1G。我選購(gòu)的3臺(tái)云服務(wù)器的配置為:master:1 vCPU 2GiB,slave1:1 vCPU 1GiB,slave2:1 vCPU 1GiB。
鏡像:選擇服務(wù)器的系統(tǒng)和系統(tǒng)版本,系統(tǒng)可以選擇CentOS和Ubuntu,版本無要求,我選擇是 CentOS 8.0 64位。
網(wǎng)絡(luò)類型(公網(wǎng)帶寬):選擇帶寬,1-200Mbps都可以選擇,我選擇是1Mbps。
-購(gòu)買數(shù)量(購(gòu)買時(shí)長(zhǎng)):選擇購(gòu)買數(shù)量和購(gòu)買時(shí)長(zhǎng)之后,付完款,就可以登陸了。配置越高費(fèi)用越高。我選擇的最低配置一個(gè)月:60元。
購(gòu)買完成后,進(jìn)入實(shí)例。選擇遠(yuǎn)程登陸,輸入自己的密碼,即可進(jìn)入系統(tǒng)。進(jìn)入為命令行模式(黑窗口),不是圖形化界面。綿陽(yáng)電信機(jī)房登陸云服務(wù)器的方法,可以通過官網(wǎng)登陸,也可以通過SecureCRT或者Xshell等軟件進(jìn)行登陸,輸入的IP地址(外網(wǎng)IP地址)和密碼即可。
官網(wǎng)上的一個(gè)活動(dòng),有想法的可以參與一下。
阿里云大禮包領(lǐng)取
使用WEB界面訪問HDFS和Yarn,該端口分別為50070和18088,這兩個(gè)端口在這個(gè)文件中hdfs-site.xml、yarn-site.xml設(shè)置的。忘記的可以參考上一篇文章:阿里云搭建hadoop集群
使用WEB界面訪問HDFS和Yarn的兩個(gè)條件:成都服務(wù)器托管
關(guān)閉防火墻命令:成都服務(wù)器托管
1 2 3 4 5 6 7 8 9 10 11 12 13 | #查看防火墻開啟狀態(tài) systemctl status firewalld #關(guān)閉防火墻 systemctl stop firewalld #禁止開機(jī)啟動(dòng)防火墻 systemctl disable firewalld #開啟防火墻 systemctl start firewalld #設(shè)置開機(jī)啟動(dòng)防火墻 systemctl enable firewalld #重啟防火墻 systemctl restart firewalld 123456789101112 |
云服務(wù)器安全組配置端口:成都服務(wù)器托管
進(jìn)入控制臺(tái),選擇自己已經(jīng)開通的云服務(wù)器ECS產(chǎn)品,選擇網(wǎng)絡(luò)與安全,點(diǎn)擊安全組,選擇配置規(guī)則,然后選擇手動(dòng)添加,添加如上兩個(gè)端口。成都機(jī)柜租用
WEB界面訪問HDFS和Yarn,直接在瀏覽器中輸入外網(wǎng)IP地址:50070訪問HDFS,外網(wǎng)IP地址:18088訪問Yarn。
HDFS功能測(cè)試:
上傳本地文件到HDFS根目錄,命令如下:成都服務(wù)器托管
1 2 3 | hdfs dfs -put spark-3.0.1-bin-hadoop3.2.tgz hdfs://master:9000 / #也可去掉 hdfs://master:9000 ,core-site.xml中設(shè)置的hdfs名字。 hdfs dfs -put spark-3.0.1-bin-hadoop3.2.tgz / |
本地文件上傳到HDFS成功的話,會(huì)在web端Utilities下Browse the file system中看到上傳的文件,以及文件備份數(shù),文件塊大小,文件塊的存放位置。
Yarn功能測(cè)試
運(yùn)行一個(gè)jar任務(wù),計(jì)算pi(圓周率)大小,命令如下:成都服務(wù)器托管
1 | hadoop jar /usr/local/hadoop-3.2.1/share/hadoop/mapreduce/hadoop-mapreduce-examples-3.2.1.jar pi 10 10 |
找到hadoop文件下的mapreduce例子運(yùn)行,會(huì)在web端看到j(luò)ob歷史。
不求點(diǎn)贊 只求有用
標(biāo)題名稱:阿里云服務(wù)器搭建hadoop集群補(bǔ)充
網(wǎng)站路徑:http://jinyejixie.com/article36/sihsg.html
成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián),為您提供網(wǎng)站設(shè)計(jì)、云服務(wù)器、網(wǎng)站排名、商城網(wǎng)站、微信公眾號(hào)、App開發(fā)
聲明:本網(wǎng)站發(fā)布的內(nèi)容(圖片、視頻和文字)以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主,如果涉及侵權(quán)請(qǐng)盡快告知,我們將會(huì)在第一時(shí)間刪除。文章觀點(diǎn)不代表本網(wǎng)站立場(chǎng),如需處理請(qǐng)聯(lián)系客服。電話:028-86922220;郵箱:631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載,或轉(zhuǎn)載時(shí)需注明來源: 創(chuàng)新互聯(lián)