小編給大家分享一下如何測試Hadoop的hdfs的問題,希望大家閱讀完這篇文章之后都有所收獲,下面讓我們一起去探討吧!
成都創(chuàng)新互聯(lián)專注為客戶提供全方位的互聯(lián)網(wǎng)綜合服務(wù),包含不限于網(wǎng)站建設(shè)、成都做網(wǎng)站、呈貢網(wǎng)絡(luò)推廣、微信小程序定制開發(fā)、呈貢網(wǎng)絡(luò)營銷、呈貢企業(yè)策劃、呈貢品牌公關(guān)、搜索引擎seo、人物專訪、企業(yè)宣傳片、企業(yè)代運營等,從售前售中售后,我們都將竭誠為您服務(wù),您的肯定,是我們最大的嘉獎;成都創(chuàng)新互聯(lián)為所有大學(xué)生創(chuàng)業(yè)者提供呈貢建站搭建服務(wù),24小時服務(wù)熱線:18982081108,官方網(wǎng)址:jinyejixie.com
在測試hadoop-2.4.1版本的hdfs時,總是報錯:
Unable to load native-hadoop library for your platform
Hadoop是使用Java語言開發(fā)的,但是有一些需求和操作并不適合使用java,所以就引入了本地庫(Native Libraries)的概念,通過本地庫,Hadoop可以更加高效地執(zhí)行某一些操作。
目前在Hadoop中,本地庫應(yīng)用在文件的壓縮上面:
在使用這兩種壓縮方式的時候,Hadoop默認會從$HADOOP_HOME/lib/native/Linux-*目錄中加載本地庫。
如果加載成功,輸出為:
DEBUG util.NativeCodeLoader - Trying to load the custom-built native-hadoop library...
INFO util.NativeCodeLoader - Loaded the native-hadoop library
如果加載失敗,輸出為:
INFO util.NativeCodeLoader - Unable to load native-hadoop library for your platform... using builtin-java classes where applicable
在Hadoop的配置文件core-site.xml中可以設(shè)置是否使用本地庫:
<property>
<name>hadoop.native.lib</name>
<value>true</value>
<description>Should native hadoop libraries, if present, be used.</description>
</property>
Hadoop默認的配置為啟用本地庫。
另外,可以在環(huán)境變量中設(shè)置使用本地庫的位置:
export JAVA_LIBRARY_PATH=/path/to/hadoop-native-libs
有的時候也會發(fā)現(xiàn)Hadoop自帶的本地庫無法使用,這種情況下就需要自己去編譯本地庫了。在
$HADOOP_HOME目錄下,
使用如下命令即可:
ant compile-native
編譯完成后,可以在$HADOOP_HOME/build/native目錄下找到相應(yīng)的文件,然后指定文件的路徑或者移動編譯好的文件到默認目錄下即可。
看完了這篇文章,相信你對“如何測試Hadoop的hdfs的問題”有了一定的了解,如果想了解更多相關(guān)知識,歡迎關(guān)注創(chuàng)新互聯(lián)行業(yè)資訊頻道,感謝各位的閱讀!
名稱欄目:如何測試Hadoop的hdfs的問題
標題網(wǎng)址:http://jinyejixie.com/article20/ppesco.html
成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián),為您提供網(wǎng)站收錄、微信公眾號、網(wǎng)站營銷、服務(wù)器托管、ChatGPT、移動網(wǎng)站建設(shè)
聲明:本網(wǎng)站發(fā)布的內(nèi)容(圖片、視頻和文字)以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主,如果涉及侵權(quán)請盡快告知,我們將會在第一時間刪除。文章觀點不代表本網(wǎng)站立場,如需處理請聯(lián)系客服。電話:028-86922220;郵箱:631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載,或轉(zhuǎn)載時需注明來源: 創(chuàng)新互聯(lián)