yum -y install svn ncurses-devel gcc*
yum -y install lzo-devel zlib-devel autoconf automake libtool cmake openssl-devel
wget
/findbugs/files
/findbugs/
1.3.9/findbugs-1.3.9.tar.gz
解壓配置環境變數
export findbugs_home=/home/hadoop
/labc/findbugs-1.3.9
export path=$path
:$findbugs_home/bin
wget
/protobuf/releases
/download/v2.5.0/protobuf-2.5.0.tar.gz -o protobuf-2.5.0.tar.gz
cd protobuf-2.5.0
./configure
make
make install
wget
/v3.10/cmake-3.10.0-linux-x86_64.sh |sh
wget
.edu
.cn/apache/hadoop/common/hadoop-2.7
.4/hadoop-2.7
.4-src.tar
.gz
如果不需要native code、忽略測試用例和文件,可以用下面的命令建立二進位制分發版:
mvn package -pdist -dskiptests -dtar
建立二進位制分發版,帶native code和文件:
mvn package -pdist,native,docs -dskiptests -dtar
建立原始碼分發版
[wyp@date52 /home/wyp/hadoop]$ mvn package -psrc -dskiptests
建立二進位制帶原始碼分發版,帶native code和文件:
mvn package -pdist,native,docs,src -dskiptests -dtar
建立本地版web頁面,放在/tmp/hadoop-site
mvn clean site; mvn site:stage -dstagingdirectory=/tmp/hadoop-site
hadoop 原始碼筆記
public inte ce tool extends configurable public int run string args throws exception public static void main string args throws exception toolrunner執行...
Hadoop原始碼結構
hadoop專案已經得到社群以及行業內很多大牛的貢獻,現在版本已經推進到了1.0.0版本,本人以後將就當前1.0.0版本進行原始碼分析,如有重大特性更新的版本發布,會有相關的原始碼增補分析,多謝!bin 此目錄下為進行hadoop配置 執行以及管理的shell命令集合 c 此目錄下為linux下am...
Hadoop原始碼之JobTracker
jobtracker是map reducer中任務排程的伺服器。1 有如下執行緒為其服務 1 提供兩組rpc服務 intertrackerprotocol jobsubmissionprotocol 的1個listener執行緒與預設10個handler執行緒 2 提供任務執 況查詢的一組web服務...