本篇文章以最簡單的方式快速搭建flink 1.12.0環境,供開發學習使用。
flink版本列表:
flink-1.12.0/flink-1.12.0-bin-scala_2.12.tgz
wget flink-1.12.0/flink-1.12.0-bin-scala_2.12.tgz
tar -xzf flink-1.12.0-bin-scala_2.12.tgz
啟動:
./bin/start-cluster.sh
檢查是否啟動成功:
[root@localhost flink-1.12.0]# jps -l | grep flink
3922 org.apache.flink.runtime.taskexecutor.taskmanagerrunner
3615 org.apache.flink.runtime.entrypoint.standalonesessionclusterentrypoint
檢查web ui是否啟動成功:
使用flink自帶的word count程式實現單詞計數,如果不輸入任何引數(輸入檔案路徑和輸出檔案路徑),則使用程式內建的資料:
executing wordcount example with default input data set.
use --input to specify file input.
job has been submitted with jobid d1e96fab40dec4fffefa8b96674bd0ea
program execution finished
job with jobid d1e96fab40dec4fffefa8b96674bd0ea has finished.
job runtime: 168 ms
檢視結果:
more ../output/wordcount-result
a 5
action 1
after 1
against 1
all 2
and 12
arms 1
arrows 1
......
安裝netcat:
yum install -y nc
監聽tcp埠,傳送資料:
nc -l 8881
啟動流處理示例程式:
[root@localhost flink-1.12.0]# ./bin/flink run ./examples/streaming/socketwindowwordcount.jar --port 8881
job has been submitted with jobid 41831fee1253dc7cd4a1e4dfee357916
傳送資料:
aa bb bb cc
控制台輸出結果::
cc : 1
aa : 1
cc : 1
bb : 2
內建的web-ui,預設埠為8081:
我們可以通過這也介面來提交和監控flink程式,以及檢視執行日誌等等。
Flink Flink調優指南
jobmanger.rpc.address jm的位址。jobmanager.rpc.port jm的埠號。jobmanager.heap.mb jm的堆記憶體大小。不建議配的太大,1 2g足夠。taskmanager.numberoftaskslots slot數量。在yarn模式使用的時候會受到...
Flink Flink的應用場景
目錄 事件驅動型應用 資料分析型應用 資料管道型應用 flink 功能強大,支援開發和執行多種不同種類的應用程式。它的主要特性包括 批流一體化 精密的狀態管理 事件時間支援以及精確一次的狀態一致性保障等。事件驅動型應用是一類具有狀態的應用,它從乙個或多個事件流提取資料,並根據到來的事件觸發計算 狀態...
LAMP環境搭建 php環境搭建
yum groupinstall development tools y yum groupinstall desktop platform development y yum install cmake pcre devel ncurses devel openssl devel libcurl ...