(一)elk系列之elk介紹
(二)elk系列之elasticsearch搭建
(三)elk系列之kibana搭建
(四)elk系列之logstash搭建
1、filebeat包準備
提取碼:fbjo
當然也可以直接用wget在linux裡面獲取
[root@es1_master_node_test ~]# wget
安裝好後進到配置檔案
[root@es3_data_node2_test filebeat]# vim /etc/filebeat/filebeat.yml
進行以下配置
你可以對多個日誌進行採集,以document_type來進行區分
為了測試,新增下面兩行
output.console: # 指定在終端上輸出日誌資訊
enable: true
儲存後退出
測試之前確定沒有開啟filebeat,否則會報乙個程序衝突的錯誤
[root@es1_master_node_test ~]# /usr/share/filebeat/bin/filebeat -c /etc/filebeat/filebeat.yml
這裡我配置的是ng的日誌,能看到日誌直接列印在終端螢幕上
證明測試成功,此時回到配置檔案,把這個測試的兩行注釋掉,
這裡我用到的架構是通過filebeat採集日誌傳輸給logstash去過濾,所以這裡的output的項如下配置,其中hosts填寫的是logstash伺服器的ip
配置好後就可以去logstash伺服器進行配置,生成乙個對應的新的conf檔案,當然也可以不用生成,但是為了區分,在這裡我單獨對filebeat採集到的ng日誌區分
詳細過濾配置如下
在logstash配置檔案logstash.yml中配置這一條
配置完成後,重啟logstash和filebeat服務
去es伺服器檢視是否有新配置的索引ngaccrss-*和ngerror-*
可以看到有索引了,那麼從filebeat-->logstash-->es徹底連通了,接下來去kibana裡面新增索引,在(三)elk系列之kibana搭建中已經有說明,此處就不再重複
此處畫個重點,收集的日誌檔案以及所屬資料夾一定要給足許可權,不然會出現filebeat一直收集不了的情況
ELK日誌處理之Filebeat工作原理
beats是elastic stack技術棧中輕量級的日誌採集器,beats家族包括以下五個成員 elk架構中使用logstash收集 解析日誌,但是logstash對記憶體 cpu io等資源消耗比較高。相比 logstash,beats所佔系統的cpu和記憶體幾乎可以忽略不計。elasticse...
ELK日誌處理之Filebeat工作原理
beats是elastic stack技術棧中輕量級的日誌採集器,beats家族包括以下五個成員 filebeat 輕量級的日誌採集器,可用於收集檔案資料。metricbeat 5.0版本之前名為topbeat,蒐集系統 程序和檔案系統級別的 cpu 和記憶體使用情況等資料。packetbeat 收...
(一)ELK系列之ELK介紹
elk介紹 elk簡介 隨著業務的不斷擴大,伺服器的不斷增加,各種服務的不斷增加,相應的日誌量也大量增加,訪問日誌 應用日誌 錯誤日誌種類繁多。從兩個角度進行分析 1 開發人員的角度來說,還需要去到伺服器上檢視繁多的日誌,無法高效的定位問題所在,所以並不方便 2 運營人員的角度來說,他們也需要獲取一...