ps:越努力越幸運。
你要思考一些一些問題,決定吞吐量的因素有哪些?
第一點: 資料傳輸的效率肯定是離不開網路的。
第二點: 就越是你資料的產生的速度,如果網路足夠了,但是資料產生的速度不夠也依舊達不到瓶頸。
第三點: 就是你需要達到什麼樣的效率,這個時候就要將網路效能是否滿足你的需求做乙個詳細的評估了。這就叫做量力而行嘛, 你網路不夠還非要要求那麼高那就尷尬了。想讓馬兒跑,不給馬兒吃草是不行滴。
上面兩個問題只是讓你簡單的思考一些,接下來步入正題。
確定好kafka的分割槽的數量,首先和你的業務需要的吞吐量有關,比如說生產者傳送資料的效率是p=40m/s 消費者美妙接受的效率是每秒鐘c=30m/s
而我們的業務場景要求每秒鐘達到1gb/s 那麼這個時候需要的分割槽就是 1gb/max
kafka 修改分割槽 kafka分割槽
一 topic下引入partition的作用 topic是邏輯的概念,partition是物理的概念。為了效能考慮,如果topic內的訊息只存於乙個broker,那這個broker會成為瓶頸,無法做到水平擴充套件。kafka通過演算法盡可能的把partition分配到集群的不同伺服器上。partit...
kafka的分割槽模式?
當別人問這個問題的時候,別人肯定是想你是否看過原始碼。是否針對不同場景改過kafka的分割槽模式 這是別人最想知道的是,你的message如何負載均衡的傳送給topic的partition 我們用kafka的時候,可以動態指定partition,也可以不指定partition 當我們動態指定了par...
kafka 分割槽數
kafka的分割槽,相當於把乙個topic再細分成了多個通道 對應 多個執行緒 部署的時候盡量做到乙個消費者 執行緒 對應乙個分割槽。如果你的分割槽數是n,那麼最好執行緒數也保持為n。kafkastream 它是consumer的關鍵類,提供了遍歷方法用於consumer程式呼叫實現資料的消費。其底...