ø 測試hdfs
hdfs shell操作
#檢視幫助
hadoop fs -help
#上傳
hadoop fs -put 上檔案
> 上的路徑
>
#檢視檔案內容
hadoop fs -cat 上的路徑
>
#檢視檔案列表
hadoop fs -ls /
hadoop fs -get 上的路徑
> 上檔案
>
上傳檔案到hdfs
檔案系統上
hadoop fs -put 上檔案
> 上的路徑
>
例如:hadoop fs -put /root/install.log hdfs://itcast01:9000/
刪除hdfs
系統檔案
hadoop fs -rmr hdfs://itcast01:9000/install.log
注:如果能正常上傳和刪除檔案說明hdfs
沒問題。
ø 測試yarn
上傳乙個檔案到hdfs
hadoop fs -put words.txt hdfs://itcast01:9000/
讓yarn
來統計一下檔案資訊
cd /$hadoop_home/etc/hadoop/share/hadoop/target/mapreduce/
#測試命令
hadoop jar hadoop-mapreduce-examples-2.7.0.jar wordcount /works.txt hdfs://itcast01:9000/wc
注:如果能正常生成乙個目錄,並把統計資訊輸出到資料夾下,說明yarn
沒問題。
hadoop測試環境搭建1
廢話少說直接乾貨 在虛擬機器裡安裝hadoop,關閉防火牆 配置ip 我的系統環境為 win8系統 vmware11 centos8 1 設定虛擬機器網路通訊模式為host only模式 在虛擬機器目錄下找到vmnetcfg檔案 2 設定windows連線 3 修改linux系統的的ip 命令 if...
Hadoop學習 02Hadoop執行環境搭建
新建虛擬機器 修改虛擬機器的靜態ip 修改主機名 關閉防火牆 systemctl stop firewalld.service 停止firewall systemctl disable firewalld.service 禁止firewall開機啟動建立hadoop 可自定義名字 使用者 usera...
Hadoop環境搭建(二)
一 yarn的配置 啟動命令 sbin yarn daemon.sh start resourcemanager sbin yarn daemon.sh start nodemanager 二 配置mapreduce 三 執行mapreduce程式案例 要求 寫mr程式的一定要有輸入和輸出的路徑 準...