大資料命令

2021-08-30 08:40:57 字數 2597 閱讀 3944

flume 命令

bin/flume-ng agent --conf conf/ --name agent  --conf-file conf/a2.conf -dflume.root.logger=info,console

kafka啟動命令

bin/kafka-server-start.sh config/server.properties &

停止kafka:

bin/kafka-server-stop.sh

檢視topic命令:

bin/kafka-topics.sh --list --zookeeper hadoop:2181

刪除topic命令:

bin/kafka-topics.sh --zookeeper hadoop:2181 --delete --topic test-topic

建立topic

bin/kafka-topics.sh --create --zookeeper hadoop:2181  --replication-factor 1 --partitions 1 --topic testflume1 

生產者bin/kafka-console-producer.sh --broker-list hadoop:9092 --topic my-replicated-topic

消費者bin/kafka-console-consumer.sh --zookeeper hadoop:2181 --topic flumetopic --from-beginnin

hive命令:

bin/hive --service metastore &

zookeeper命令:

啟動命令:bin/zkserver.sh start

nc命令:

nc -lk 9999

啟動hbase的命令

$ bin/hbase-daemon.sh start master

$ bin/hbase-daemon.sh start regionserver

** $ bin/start-hbase.sh

** $ bin/stop-hbase.sh

訪問:$ bin/hbase shell

hbase(main):001:0> 

> help

> list     --顯示所有資料表

> create 'emp','info'    --表名,列族

> desc 'emp'      --檢視表資訊

> describe 'emp'  --同上

> create 't1',,,    --多個列族

> put 'emp','1001','info:name','zhangsan'    --插入

> put 'emp','1001','info:name','aaa'         --更新

> put 'emp','1001','info:age','25'

......

> scan 'emp'

--檢視資料

> get 'emp','1001'

> get 'emp','1001','info'

> get 'emp','1001','info:name'

> get 'emp','1001',     --同上

> get 'emp','1001','info:name','info:age'

> get 'emp','1001',

> get 'emp','1001', 'info:name', 'info:age', 'info:***'        --有不存在的列

> get 'emp','1001',  

--scan(範圍)

> put 'emp','1003','info:name','wangwu'

> scan 'emp'

> scan 'emp',

> scan 'emp',    --多列,結果和列序無關

> scan 'emp',

> scan 'emp',

> scan 'emp',    --[1002,1003)

> scan 'emp',    --rowkey的上限,而非記錄條數的上限

--刪除資料

> delete 'emp','1001','info:age'    --至少3個引數

> deleteall 'emp','1001'            --至少2個引數,可以刪除整行

> deleteall 'emp','1001','info:age' --也可以用來刪除列

> truncate 'emp'    --清空表資料

--刪除表

> disable 'emp'  --禁用

> scan 'emp'

> enable 'emp'   --啟用

> scan 'emp'

> drop 'emp'     --需要先禁用

統計一張表有多少行資料

> count 'emp'     --rowkey數

大資料學習 vi命令

vim path to somefile vim 開啟檔案,並定位於第 行 vim 開啟檔案,定位至最後一行 vim pattern 開啟檔案,定位至第一次被pattern匹配到的行的行首 末行模式 q 退出 沒有動過檔案 wq 儲存並退出 動過了,不後悔 q 不儲存並退出 動過了,後悔了 w 儲存...

大資料 hive 命令列

hive h 幫助文件 usage hive commands.e.g.d a b or define a b database specify the database to use e sql from command line f sql from files h,help print hel...

大資料 hdfs操作命令手冊

這裡使用的hadoop版本是3.1.2 使用hdfs和使用linux檔案系統是相似的,這裡列舉出常用的幾個命令。在使用hdfs之前,我們必須對namenode進行格式化,這個步驟在部署偽分布式的時候已經執行過了 hdfs namenode format建立使用者目錄,進入hdfs時,預設目錄就是 u...