ogg + filebeat + kafka + logstash + elaticsearch + springboot + echarts + jquery
1、專案是通過beat採集業務系統的日誌,傳送至kafka ,logstash解析日誌存入elaticsearch,
2、另外乙個資料,通過oracle內部的ogg同步至kafka,訊息中中包含insert,update的狀態字段。採集時區分inset和update。由於elaticsearch具有原子性。自己設定好document_id。多次插入和更新都是最新狀態。
3、專案簡單,伺服器6臺,資料量支援上億查詢。
4、時效性能達到秒級別,這是es和採集的beat造成的。
5、一人開發,未進行前後端分離,專案使用的是ajax請求後端。
該專案特別感謝開源軟體的支援。
後續,我將逐步將**貼出來。
感謝你的閱讀!
後續的更新:
2、目錄介紹
3、前端和配置
4、後端**
2023年10大資料視覺化專案
datafocus按 視覺化快發展成一項平民技術了,但是正如一句話說的 好看的皮囊千篇一律,有趣的靈魂萬里挑一 優秀的視覺化作品能直指內心,給你帶來視覺震撼。讓datafocus君帶你一起來欣賞2017年10大優秀視覺化作品吧。奧利維亞 瓦爾奇 olivia walch 用漫畫形式解釋了格里曼 ge...
BI大資料專案的0 1開展模型
在軟體工程的概念裡面,對於乙個資訊系統專案,有幾類開發模型。對於bi大資料專案而言,各種模型各有利弊,對於不同類的企業,也需要不同的開發模型進行資料化運營的實施。下面為大家介紹bi大資料專案的開展使用的模型。下面我們可以結合各類軟體開發模型進行講解 1 瀑布模型 瀑布模型的開發過程是通過設計一系列階...
11 個實戰專案,掌握 Python 資料視覺化
俗語有曰 字不如表,表不如圖。人類天生就是視覺動物。想象一本教科書,如果沒有圖表 插圖或流程圖,將變得更加枯燥和難以理解。視覺效果對於資料分析 傳達結果都有至關重要的作用。資料視覺化就是通過易讀 易懂的圖表,降低使用者的理解難度,從而實現用數字給使用者講個故事的工作目的。看看下面這些作品,你一定會更...