由於專案需求,需要將玩家資訊從日誌中存入到db中,db暫選mysql.
本文並未使用開源的向fluentd 一樣的系統,我的工作只是日誌分析,存入db,剩下的是開發人員如何展示資料啦。現列出部分指令碼,歡迎各位提出意見:
日誌收集指令碼(用shell搞定),核心思想是scp,並用cat 合併檔案。
此程式分3個目錄,bin目錄下可執行指令碼collect_log.sh expect_rsync.sh
conf 目錄,service_server sync_file web_server 三個檔案儲存ip,和檔名稱
data目錄 儲存收集、合併結果
expect_rsync.sh 遠端傳輸:
set host [lindex $ar** 0]collect_log.sh 判斷機器和檔名set remote_dir [lindex $ar** 1]
set file [lindex $ar** 2]
set local_dir [lindex $ar** 3]
spawn scp "******@$host#36000:$remote_dir/$file" $local_dir
expect -re "permission denied, please try again." -re "connection refused" timeout eof
}expect eof
exit
#!/bin/bash待續。。。web_remote_dir=/data/matrixjoyweb/matrixjoy-dragon-web/logs
service_remote_dir=/data/matrixjoyservice/matrixjoy-dragon-gameserver/logs/
scdir=/data/log-system/
rawdatadir=$scdir/data/raw/
logdate=$(date +%y%m%d --date="-$1 day")
#transport function
function expect_rsync_logs()
#mkdir directory
function ensure_dir()
function collect()
function main()
#merge log
function merge()
function merge_result()
main
merge_result
餐飲業務資料分析
餐飲業務資料分析 一 資料描述 fd fd 日期 銷量 1 2015 3 1 51.00 2 2015 2 28 2618.20 3 2015 2 27 2608.40 4 2015 2 26 2651.90 5 2015 2 25 3442.10 6 2015 2 24 3393.10 7 201...
資料分析系統
資料分析系統,是精準推廣系統的後端分析有效結果的標準,分析推廣抓取來的有效資料和有效客戶,形成銷售轉化乃至二次購買。同時進行使用者行為分析等一系列內容反過來指導推廣工作的優化。1 資料統計 精準推廣得來的各維度資料先要進行資料統計,這裡的統計包括各渠道 平台的流量 宣傳質量 轉化率 互動率及成交量等...
資料分析 常用業務運營指標
本文是學習了天善學院秦路老師的課程的總結使用者 客戶生命週期 企業 產品和消費者在整個業務關係階段的週期。不同業務劃分的階段不同。傳統營銷中分為潛在使用者 興趣使用者 新客戶 老客戶 流失客戶 使用者價值 使用者貢獻 產出量 投入量 100 內容運營,比如知乎 使用者價值 貢獻1 貢獻2 比如金融行...