在前面一篇部落格《微服務輪子專案(13) - 統一日誌中心詳解(docker安裝部署)》,主要講解了在docker下部署elk,以及各個元件的作用(包括filebeat
)。
step1: 修改資料庫配置,增加慢sql日誌
vim /etc/my.cnf
#是否開啟慢查詢日誌
slow_query_log=on
#日誌存放位址
slow_query_log_file=
/var/lib/mysql/mysql-slow.log
#慢查詢時間(s),這裡為了測試所以設定比較小
long_query_time=
0.1
step2: 重啟資料庫
service mysqld restart
step3:登入資料庫查詢配置資訊是否生效
show variables like '%slow%'
;show variables like 'long_query_time'
;
step1:修改10-syslog.conf
配置,在filter
裡增加以下內容
if
[fields]
[doctype]
=="mysqlslowlogs"
\[[^\]]+\]\s+@\s+(?:(?\s*) )?\[(?:%)?\]\s+id:\s+%\n# query_time: %\s+lock_time: %\s+rows_sent: %\s+rows_examined: %\nuse\s(?\w+);\nset\s+timestamp=%;\n(?[\s\s]*)"
,"message"
,"^#\s+user@host:\s+%\[[^\]]+\]\s+@\s+(?:(?\s*) )?\[(?:%)?\]\s+id:\s+%\n# query_time: %\s+lock_time: %\s+rows_sent: %\s+rows_examined: %\nset\s+timestamp=%;\n(?[\s\s]*)"
,"message"
,"^#\s+user@host:\s+%\[[^\]]+\]\s+@\s+(?:(?\s*) )?\[(?:%)?\]\n# query_time: %\s+lock_time: %\s+rows_sent: %\s+rows_examined: %\nuse\s(?\w+);\nset\s+timestamp=%;\n(?[\s\s]*)"
,"message"
,"^#\s+user@host:\s+%\[[^\]]+\]\s+@\s+(?:(?\s*) )?\[(?:%)?\]\n# query_time: %\s+lock_time: %\s+rows_sent: %\s+rows_examined: %\nset\s+timestamp=%;\n(?[\s\s]*)"]}
date
date
mutate
}
step2: 修改30-output.conf
配置,增加以下內容
if
[fields]
[doctype]
=="mysqlslowlogs"
" document_type =
>
"%"}
}
修改配置檔案filebeat.yml
,在filebeat.inputs
裡改為以下內容:
filebeat.inputs:
-type
: log
enabled: true
paths:
-/var/lib/mysql/mysql-slow.log
fields:
doctype: mysqlslowlogs
exclude_lines:
['^\# time'
] multiline:
pattern:
'^\# time|^\# user'
negate: true
match: after
微服務輪子專案(07) 日誌解決方案設計
4 總結 下面先附上一張解決方案圖 說明 這種架構是比較原始的部署架構,在各應用伺服器端分別部署乙個logstash元件,作為日誌收集器,然後將logstash收集到的資料過濾 分析 格式化處理後傳送至elasticsearch儲存,最後使用kibana進行視覺化展示,這種架構不足的是 logsta...
maven deploy 之父子專案依賴
首先父類的pom定義 com.digital.promotion media promotion 1.0 snapshot pommedia promotion 父類pom的打包方式一般是pom格式。在子類中引用了父類的專案,子類的pom.xml 如下。com.digital.promotion m...
Hadoop中的子專案Zookeeper能做什麼
很高興得看到yahoo捐獻的zookeeper已經從sourceforge遷移到apache,並成為hadoop的子專案.那麼zookeeper是什麼呢?zookeeper是google的chubby乙個開源的實現.是高有效和可靠的協同工作系統.zookeeper能夠用來leader選舉,配置資訊維...