在上一篇的分享文章中我是給大家分享了運行部署hadoop的一些安裝準(zhǔn)備工作,這篇接上一篇繼續(xù)為大家分享一些個人的學(xué)習(xí)經(jīng)驗總結(jié)。我學(xué)習(xí)用的是大快發(fā)行版DKHadoop,所以所有的經(jīng)驗分享都是以DKHadoop為基礎(chǔ),這里要先說明一下。個人覺得DKHadoop對新手還是算是很友好的了,新手朋友們可以大快搜索網(wǎng)站下載一個三節(jié)點的dkhadoop玩一下看看。
閑話到此結(jié)束,本篇重點整理的是服務(wù)器操作系統(tǒng)的配置問題,寫的可能會有點長,需要一點點耐心看的哦!
1.修改權(quán)限
步驟:在準(zhǔn)備工作中拷貝安裝包DKHPlantform.zip到主節(jié)點/root/目錄后,解壓并修改文件權(quán)限(文件所有者可讀可寫可執(zhí)行,與文件所有者屬于一個用戶組的其他用戶可讀可執(zhí)行,其他用戶組可讀可執(zhí)行)。
命令:
cd /root/
unzip DKHPlantform.zip
chmod -R 755 DKHPlantform
2. 搭建hadoop集群設(shè)置SSH免密登錄
步驟:
修改主機名 vi /etc/sysconfig/network reboot
(1)修改本機hosts文件,寫入對應(yīng)關(guān)系
命令:
vi /etc/hosts
通過按鍵盤上的insert或是I鍵進入編輯模式,編輯完成后按一下Esc鍵然后按一下按Shift+:鍵,輸入wq 后回車就可以保存。輸入q!后回車則是放棄保存并退出.
進入編輯模式后,按照規(guī)則寫入主機與ip的對應(yīng)關(guān)系(主機名稱dk41是自己命名的,如下圖)例:
192.168.1.41 dk41
192.168.1.42 dk42
192.168.1.43 dk43
編輯完后,保存退出。把對應(yīng)關(guān)系拷到其他兩臺機器上。
命令:
scp??-r??/etc/hosts??192.168.1.42:/etc
scp??-r??/etc/hosts??192.168.1.43:/etc
(2)執(zhí)行集群之間免密前的準(zhǔn)備工作
a)執(zhí)行sshpass.sh的腳本的時候會去讀sshhosts和sshslaves這兩個文件,替換sshpass.sh中的master和slave文件。
修改文件sshhosts,輸入全部機器的主機名,每行一個主機名(如下圖)
命令:
vi /root/DKHPlantform/autossh/sshhosts
通過按鍵盤上的insert或是I鍵進入編輯模式,編輯完成后按一下Esc鍵然后按一下按Shift+:鍵,輸入wq,后回車就可以保存。輸入q!后回車則是放棄保存并退出.
修改文件sshslaves,寫入除主機名之外的所有機器名(如下圖)
命令:
vi /root/DKHPlantform/autossh/sshslaves
通過按鍵盤上的insert或是I鍵進入編輯模式,編輯完成后按一下Esc鍵然后按一下按Shift+:鍵,輸入wq,后回車就可以保存。輸入q!后回車則是放棄保存并退出.
b)執(zhí)行insExpect.sh,系統(tǒng)會裝兩個rpm包,在執(zhí)行sshpass.sh的過程中無需再輸密碼和yes,腳本自動繼續(xù)執(zhí)行。
命令:
cd /root/DKHPlantform/autossh
./insExpect.sh
按照提示多次輸入yes和密碼(如下圖)
c)執(zhí)行changeMaster.sh腳本為了清空/root/.ssh目錄下的所有文件(在/root/DKHPlantform/autossh目錄下),避免在執(zhí)行sshpass.sh腳本時產(chǎn)生的新密鑰時與舊的密鑰發(fā)生沖突。
命令:
./changeMaster.sh
按照提示輸入(如下圖)
(3)執(zhí)行集群免密(SSH)
a)執(zhí)行SSH:
命令:
cd /root/
./sshpass.sh 密碼
123456為集群密碼,根據(jù)自己實際情況輸入。
b)防止訪問服務(wù)器時某些服務(wù)被攔截,需關(guān)閉防火墻。
命令:
cd /root/DKHPlantform/autossh
./offIptables.sh
3.安裝雙機熱備份的MySQL
目的:存放Hive的元數(shù)據(jù)
步驟:
(1)從主節(jié)點分發(fā)mysql安裝目錄到第二節(jié)點
命令:
scp?-r?/root/DKHPlantform/mysqlInst/?192.168.1.42:/root/
(2)主節(jié)點執(zhí)行:
命令:
cd /root/DKHPlantform/mysqlInst/
./mysql.sh 1
ssh前往第二臺機器(從節(jié)點)并執(zhí)行:
命令:
cd /root/mysqlInst/
./mysql.sh 2
(3)執(zhí)行成功之后執(zhí)行熱備份(兩臺機器上都要執(zhí)行,兩個ip互換,41上寫42,42上寫41,密碼是Mysql的密碼為:123456。平臺內(nèi)已經(jīng)設(shè)定好,請勿修改):
命令:
source /etc/profile
./sync.sh 192.168.1.xxx(另一臺mysql地址) root 123456
4.創(chuàng)建數(shù)據(jù)庫
步驟:
(1)導(dǎo)入MySQL數(shù)據(jù)表,只在主節(jié)點執(zhí)行:
命令:
mysql -uroot -p123456 < { 此處為sql文件,主目錄下文件: dkh.sql}
如:mysql -uroot -p123456 </root/DKHPlantform/dkh.sql
(2)執(zhí)行完后查看一下兩臺mysql的數(shù)據(jù)表是否存在,從節(jié)點查看執(zhí)行:
命令:
mysql??-uroot??-p123456
show?databases;
另外有需要云服務(wù)器可以了解下創(chuàng)新互聯(lián)scvps.cn,海內(nèi)外云服務(wù)器15元起步,三天無理由+7*72小時售后在線,公司持有idc許可證,提供“云服務(wù)器、裸金屬服務(wù)器、高防服務(wù)器、香港服務(wù)器、美國服務(wù)器、虛擬主機、免備案服務(wù)器”等云主機租用服務(wù)以及企業(yè)上云的綜合解決方案,具有“安全穩(wěn)定、簡單易用、服務(wù)可用性高、性價比高”等特點與優(yōu)勢,專為企業(yè)上云打造定制,能夠滿足用戶豐富、多元化的應(yīng)用場景需求。
當(dāng)前文章:hadoop環(huán)境安裝配置介紹與步驟-創(chuàng)新互聯(lián)
網(wǎng)站URL:http://jinyejixie.com/article4/dijeie.html
成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián),為您提供品牌網(wǎng)站制作、全網(wǎng)營銷推廣、響應(yīng)式網(wǎng)站、外貿(mào)網(wǎng)站建設(shè)、網(wǎng)站營銷、App設(shè)計
聲明:本網(wǎng)站發(fā)布的內(nèi)容(圖片、視頻和文字)以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主,如果涉及侵權(quán)請盡快告知,我們將會在第一時間刪除。文章觀點不代表本網(wǎng)站立場,如需處理請聯(lián)系客服。電話:028-86922220;郵箱:631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載,或轉(zhuǎn)載時需注明來源: 創(chuàng)新互聯(lián)
猜你還喜歡下面的內(nèi)容