producer: 傳送例如 aa-zz
consumer:收到zz
通過-切分得到後面的,如果沒有-就正常輸出
public class logprocessor implements processor
//具體業務邏輯
public void process(byte key, byte value)
//輸出資料
context.forward(key,line.getbytes());
}//釋放資源
public void close()
}
public static void main(string args)
},"source").addsink("sink",twotopic,"processor");
//輸出
kafkastreams ka = new kafkastreams(builder,prop); //可以是builder,s,我試過,好像過時了.....
ka.start();
}} kafka可以做流計算,但是不適合
kafka流處理平台
一 kafka有三個特性 1 可以發布和訂閱資料的流,類似於乙個訊息佇列 2 資料流儲存的平台並具備錯誤容忍 3 當資料產生時就可以對訊息進行處理。面向資料流的生產 轉換 儲存 消費的流資料 二 基本概念 producer 訊息和資料的生產者,向kafka的乙個topic發布訊息的程序 服務 con...
流計算框架 Flink 與 Storm 的效能對比
apache flink 和 apache storm 是當前業界廣泛使用的兩個分布式實時計算框架。其中 apache storm 以下簡稱 storm 在美團點評實時計算業務中已有較為成熟的運用 可參考 storm 的可靠性保證測試 有管理平台 常用 api 和相應的文件,大量實時作業基於 sto...
kafka資料處理框架
kafka框架 高吞吐量分布式的訊息發布和訂閱系統,提供乙個分布式的,可劃分的,冗餘備份的永續性的日誌服務。主要用於處理活躍的流式資料。在大資料系統中,經常碰到乙個問題,整個大資料是由各個子系統組成,且資料需要在各個子系統中高效能,低延時的不停流轉。這時候kafka相當於起到了整個大資料系統的資料匯...