hadoop 原始碼編譯2 7 4

2021-08-11 19:35:32 字數 1237 閱讀 3421

yum -y install svn ncurses-devel gcc*

yum -y install lzo-devel zlib-devel autoconf automake libtool cmake openssl-devel

wget

/findbugs/files

/findbugs/

1.3.9/findbugs-1.3.9.tar.gz

解壓配置環境變數

export findbugs_home=/home/hadoop

/labc/findbugs-1.3.9

export path=$path

:$findbugs_home/bin

wget

/protobuf/releases

/download/v2.5.0/protobuf-2.5.0.tar.gz -o protobuf-2.5.0.tar.gz

cd protobuf-2.5.0

./configure

make

make install

wget

/v3.10/cmake-3.10.0-linux-x86_64.sh |sh

wget 

.edu

.cn/apache/hadoop/common/hadoop-2.7

.4/hadoop-2.7

.4-src.tar

.gz

如果不需要native code、忽略測試用例和文件,可以用下面的命令建立二進位制分發版:

mvn package -pdist -dskiptests -dtar

建立二進位制分發版,帶native code和文件:

mvn package -pdist,native,docs -dskiptests -dtar

建立原始碼分發版

[wyp@date52 /home/wyp/hadoop]$ mvn package -psrc -dskiptests

建立二進位制帶原始碼分發版,帶native code和文件:

mvn package -pdist,native,docs,src -dskiptests -dtar

建立本地版web頁面,放在/tmp/hadoop-site

mvn clean site; mvn site:stage -dstagingdirectory=/tmp/hadoop-site

hadoop 原始碼筆記

public inte ce tool extends configurable public int run string args throws exception public static void main string args throws exception toolrunner執行...

Hadoop原始碼結構

hadoop專案已經得到社群以及行業內很多大牛的貢獻,現在版本已經推進到了1.0.0版本,本人以後將就當前1.0.0版本進行原始碼分析,如有重大特性更新的版本發布,會有相關的原始碼增補分析,多謝!bin 此目錄下為進行hadoop配置 執行以及管理的shell命令集合 c 此目錄下為linux下am...

Hadoop原始碼之JobTracker

jobtracker是map reducer中任務排程的伺服器。1 有如下執行緒為其服務 1 提供兩組rpc服務 intertrackerprotocol jobsubmissionprotocol 的1個listener執行緒與預設10個handler執行緒 2 提供任務執 況查詢的一組web服務...