虛擬機器部署HDP大資料平台(1) 規劃準備篇

2021-10-25 03:33:37 字數 1132 閱讀 9198

頂層設計規劃

1.宿主機環境準備

命令工具 iterm2

ftp工具 transmit

物理機 mac bookpro

虛擬機器 vmware fusion

虛擬機器系統 centos 7.4

大資料平台 hdp的ambari

2.集群機器準備

(1)物理機配置

處理器:intel® core™ i7 處理器

記憶體:16.00gb

系統型別:macos作業系統,基於 x64 的處理器

作業系統:macos15.4

(2)磁碟陣列

常用磁碟陣列型別:raid 0,raid 1,raid 10,raid 01

由於本系列是在虛擬機器上搭建大資料平台,因此本系列使用 raid 0,即不設定冗餘磁碟。

(3)虛擬機器配置

記憶體:主節點4g,從節點3g,2g

處理器:intel® core™ i7 單核處理器

硬碟:scsi 硬碟,20gb 容量

網路介面卡:nat

作業系統:centos release 7.4 (final)

3.集群節點規劃

節點名稱

nn1nn2

dnrm

nm規劃ip

other

hadoop01

namenode

datanode

nodemanager

192.168.221.201

hive/hdfs

hadoop02

secondarynamenode

datanode

resourcemanager

nodemanager

192.168.221.202

hbase/kms

hadoop03

datanode

nodemanager

192.168.221.202

mysql/spark

另外,單獨使用一台伺服器做ambari本地安裝ftp伺服器。這裡我使用的樹莓派做ambari的ftp安裝伺服器。

大資料平台CDH和HDP

cdh cloudera s distribution,including apache hadoop 是hadoop眾多分支中的一種,由cloudera維護,基於穩定版本的apache hadoop構建,並整合了很多補丁,可直接用於生產環境。cloudera manager則是為了便於在集群中進行...

大資料 Hadoop分布式部署虛擬機器

分布式部署 複製hadoop senior2重新命名為hadoop senior3 image.png 在vmware workstation中開啟hadoop senior3 image.png 命令 在虛擬機器中自動生成mac位址 修改自動生成的eth1 刪除eth0 image.png 命令 ...

Linux虛擬機器部署

虛擬機器 雲主機 不關機 個人推薦 ucloud雲 群檔案 若澤大資料 大資料環境部署之青云云主機 b站 需要花錢買 vm虛擬機器 自己電腦上 需要關 開 4g 買記憶體條 若澤大資料 大資料環境部署之vm虛擬機器 b站 自己配置 但是需要自己買記憶體條 雲伺服器是用來幹嘛的 1.vmware10 ...