一、資料上雲
克拉克拉(kilakila)資料來源主要分為兩部分:1.結構化業務資料表(mysql);2.非結構化使用者行為日誌
結構化業務庫上雲主要使用阿里雲datax、dts兩種工具。
▲圖一:datax資料同步
datax原理是將mysql資料完全透明化同步至maxcompute資料表中,是表對表的對映。
▲圖二:dts資料同步
dts主要以mysql binlog方式來進行資料同步,該同步的優勢在於不會影響線上生產環境mysql庫i/o壓力,與此同時對於刪除操作也會進行實時同步。
使用者行為日誌上雲,該日誌主要使用阿里雲日誌服務(log service)元件。該元件除了滿足將海量日誌儲存在maxcompute資料倉儲中外,也解決了實時業務計算需求,如storm集群。
▲圖三:log service工作流
▲圖四:日誌服務各topic日誌源
▲圖五:克拉克拉使用者行為日誌片段
二、資料計算
為滿足各類批處理計算業務需求,基於maxcompute建立了小時維度、天維度、月維度等不同維度的工作流以及業務流程。在資料開發階段我們使用maxcompute的web datawork進行任務開發、任務運維、任務監控等。
▲圖六:datawork sql開發
在datawork中可以建立sql指令碼,通過編寫sql語言滿足我們的臨時查詢需求。
▲圖六:datawork工作流
在datawork中可以根據業務場景配置工作流,解決生產環節中所面臨的定時計算任務等訴求。
圖七:datawork運維中心
運維中心可實時監控任務的狀態,對應不同的任務狀態進行不同情況的報警;
綜上所訴,得益於datawork強大的資料開發多樣性和豐富的內建函式,我們可以針對不同業務場景進行快速的專案開發和上線。
**三、克拉克拉業務應用場景**
克拉克拉(kilakila)在實際生產環境中,主要有以下四個資料業務應用場景。如下:
1. 報表系統
▲圖八:克拉克拉bi報表系統架構
基於maxcompute與quickbi組合快速構建了業務報表系統。該系統通過datawork部署系列報表計算任務,最終的計算結果可儲存maxcompute表中以及mysql表中。quickbi通過資料來源關聯即可實現前端趨勢圖靈活展示。
圖八:克拉克拉bi報表系統
2. 克拉克拉(kilakila)榜單業務
圖九:克拉克拉榜單業務計算場景
通過maxcompute滿足了克拉克拉主播排行榜、熱門榜單等排序業務。
3. 對外開放介面平台(restful api )
為了滿足第三方通過api介面獲取克拉克拉資料倉儲中的使用者標籤資料,基於maxcompute lightning架構搭建開放介面服務,通過該服務的閘道器鑑權機制保證了授權訪問和防ddos攻擊。
圖九:克拉克拉開放介面結構
4.演算法業務
圖十:克拉克拉渠道roi**業務
通過阿里雲所提供大資料解決方案,除了解決了克拉克拉所遇到的大資料挑戰,也極大的縮短了克拉克拉(kilakila)諸多資料專案從想法到落地的研發週期。
1.《克拉克拉:基於阿里雲pai實現渠道roi投放**系統》
3.《克拉克拉(kilakila):大規模實時計算平台架構實戰》
二次元的正確開啟方式
本文 github 已收錄,有技術乾貨文章,整理的學習資料,一線大廠面試經驗分享等,歡迎 star 和 完善。去年發表的 talking head 大家都看過了吧?最近,這位谷歌工程師對演算法進行了公升級,talking head 2 效果更好!只需要一張 png 二次元角色,就可以生成虛擬偶像,生...
繪畫教程 二次元男生頭髮的畫法
男性的髮型不如女性般豐富,但不同的造型和線條運用也能形成多樣的變化。男性的髮絲通常較硬,形成的發簇形狀也更像有稜角的幾何形。男生頭髮的基本畫法 正面 拉出發際的輔助線 以沒有頭髮和臉的頭部作為基礎,從額頭到耳朵上畫一條髮際線的輔助線。畫劉海 參考額頭的輔助線線,畫出劉海。畫一束頭髮 在頭頂部做乙個螺...
細數那些年二次元動漫的之最系列
上次已經做了一期遊戲chat,應廣大粉絲的要求,這就開乙個二次元動畫的chat。無論你現在多大,無論你是否喜歡動畫,相信總有一些是觸動了你的內心深處的那份情懷或者記憶。動畫並不是兒童的專屬,動畫中塑造了乙個乙個有血有肉的角色,有的角色純粹無腦熱血,有的角色是你非常討厭的,也有的角色是你這一生嚮往成為...