本文為您介紹實時計算在天貓雙十一大屏業務中的應用。
天貓雙十一大屏背後最強大最核心的支援力量來自於阿里雲實時計算。曾經天貓雙十一大屏後台流式計算使用開源的storm來進行開發,整個開發時間長達乙個月。現在使用阿里雲實時計算 sql,將整個雙十一大屏的開發周期縮短到一周,並且由於阿里雲實時計算底層完全遮蔽了故障處理、執行優化,最終上線的阿里雲實時計算作業比storm更快、更高效。
下面是天貓雙十一整體資料流圖。天貓使用了阿里雲實時計算平台,讓整體處理鏈路變得更加穩定和高效。
前端視覺化展現 前端資料視覺化元件團隊為天貓雙十一大屏專門定製了翻牌器、全球交易熱點等諸多酷炫內容。前端伺服器將定期輪詢rds系統,並利用web前端技術實現雙十一大屏的震撼效果。
Spark Streaming實時計算框架介紹
隨著大資料的發展,人們對大資料的處理要求也越來越高,原有的批處理框架mapreduce適合離線計算,卻無法滿足實時性要求較高的業務,如實時推薦 使用者行為分析等。spark streaming是建立在spark上的實時計算框架,通過它提供的豐富的api 基於記憶體的高速執行引擎,使用者可以結合流式 ...
Spark Streaming實時計算框架介紹
隨著大資料的發展,人們對大資料的處理要求也越來越高,原有的批處理框架mapreduce適合離線計算,卻無法滿足實時性要求較高的業務,如實時推薦 使用者行為分析等。spark streaming是建立在spark上的實時計算框架,通過它提供的豐富的api 基於記憶體的高速執行引擎,使用者可以結合流式 ...
Spark Streaming及實時計算介紹
spark streaming其實就是spark提供對於大資料進行實時計算的一種框架。它的底層,其實也是基於spark core。基本的計算模型還是基於記憶體的大資料實時計算模型。而且它的底層的元件或者叫做概念其實還是最核心的rdd。只不過針對實時計算的特點,在rdd之上進行了一層封裝,叫做dstr...