今年是雙十一購物狂歡節的第五個年頭,每一年這個時刻對於技術團隊而言都是一次真刀實槍的數字戰爭。一方面,我們會提前在產品和業務層面努力創新,力爭在當天為消費者留下更優質的購物體驗。另一方面,全國人民的熱情也是技術架構和細節不斷優化的動力。下面我就簡單介紹下,今年雙十一的準備過程中技術上的一些突破和亮點。
全鏈路壓測
壓力測試對於評估**效能的重要性是不言而喻的,但是,無論是線下模擬的單一集群的壓測,還是線上引流壓測,都只是能夠暴露一些基本的單點問題。對於雙十一當天高峰期的真實壓力模擬,這兩種傳統的壓力測試方式還存在著巨大偏差。首先是業務處理鏈路的複雜性,對於像天貓這樣的乙個分布式處理平台,一筆交易的建立會涉及多個應用集群的處理,在能力評估時也應該考慮的是乙個處理鏈路而不僅僅是單一應用集群的處理能力。其次是應用之外的風險點,像網路、db等等,很難在傳統壓測中體現出來。
為了解決這些問題,今年阿里幾個技術團隊聯合在一起,通過線上真實使用者資料與人為測試資料相結合的方式,首次成功地在生產環境中模擬出相對真實的超大規模的訪問流量,將前端系統、網路、db等一整個系統環境完整地納入壓測範圍,貼近實際的應用場景,為評估**和天貓交易核心鏈路的實際承載能力提供有說服力的資料依據。一方面可以驗證交易核心鏈路上各種限流和預****性,另一方面也充分暴露了全鏈路上的各種瓶頸和隱藏風險點,讓壓力測試的工作真正落實到了確定性的層面上。
cdn靜態化
很多瀏覽型業務,例如天貓詳情頁、店鋪等,是典型的靜態資料偏多,動態資料偏少的應用。對於這種型別的應用集群,去年我們在架構上的主要工作就是通過靜態化實現了動靜分離,靜態資料快取在本地快取,動態資料非同步進行載入。改造前後單機qps提公升了10倍。
今年上半年我們在這個基礎上,將本地cache改造成了統一的集中式快取,這樣,一方面降低了各個應用接入和維護cache的成本,另一方面加強了失效機制實時性和監控的自動化,更重要的是大大提公升了快取的命中率。
除此之外,為了進一步解決主站容量瓶頸,在統一cache層之上,我們把靜態html內容直接快取在cdn上。這樣,靜態資料的訪問完全不用回流到主站機房,在離使用者最近的cdn節點就能完成,使用者端的響應速度自然得到了大大的提公升。當然這個實現的過程遠沒有說起來這麼簡單,中間很多技術的難點,例如商品資訊變更如何實現秒級的主動失效,如何保證節點到主站之間的網路穩定等等,這裡先賣個關子,大家可以期待下雙十一之後阿里技術團隊的詳細分享。
個性化演算法
個性化技術已經逐漸被證明可以有效提高電商**的流量分配效率,讓消費者更容易找到自己想要的商品和品牌,讓長尾商品和商家有機會獲得精準的流量。
今年雙11是天貓第一次在大促中腳踏實地的實行個性化,從pc 到無線,從「會場」到「我的雙11」,都可以看到個性化在無形中提**貓的消費者購物體驗,讓有潛在需求的買家更容易找到心儀的寶貝。
對個性化引擎而言,由於要進行複雜的演算法運算:使用者實時意圖計算、相關商品檢索、ctr 預估、「推薦解釋」等等,活動當天系統承擔的技術挑戰更大,為了解決系統方面的壓力,我們一方面優化了演算法,將更多的演算法移植到離線平台計算,另一方面,通過cdn,將大部分item based 演算法結果做了靜態化處理,目前cache 比例可以達到90%左右,整個天貓個性化引擎的集群已經可以在當天負載近百萬qps的推薦服務。
同時,雙11使用者行為與平常差異性較大,使得基於機器學習的使用者行為偏好,需要針對雙11增加品牌折扣度等特有的特徵修正訓練目標,避免產生偏差(bias)。
另外,一般來說,演算法調優都通過線上測試來進行效果評估,通常需要數天到數週的時間,但是雙11只有一天的機會,為了充分保證演算法的線上效果,我們設計了離線評估系統,離線模擬線上效果,減少了對線上真實流量的依賴,降低了線上風險。
從這幾天預熱期的效果來看,對比運營人員製作的活動頁面,個性化技術已經將加入收藏夾和購物車的轉化率提公升30%以上。
講了這麼多,不知道大家是否對雙十一當天更加期待了呢?
2023年的雙十一,**總交易金額191億,訂單1億零580萬筆,其中無線支付近900萬筆,生成15tb日誌,核心mysql集群一天支援了20億個事務。今年,讓我們拭目以待,新的技術記錄的誕生!
又到一年雙十一
我對光棍節的印象是始於二零零幾年,當時和一些讀碩士讀博士的聊天,他們紛紛表示今天是1111的光棍節,研究室 實驗室的同學們聚餐腐敗,我那時才知道,有個純1的陽曆日子可以當節來過。後來在2011年,乙個同事跟我說,要搞光棍節 他和當時的女友準備好了三颱高配電腦,就是準備到時候搶購。那時候正值我老婆大肚...
2023年雙十一,你貢獻了多少?
寫篇與雙十一有關的內容吧。昨晚入手了ipad2020款,2899元。早晨四點起床後,隨手瀏覽 竟然在拼多多上發現最低價2709元,提供 發票,品牌有保障。本能反應,取消前乙個訂單。畢竟同樣商品,當然購買便宜的,且價差近200元。為了孩子,入手ipad的想法由來已久。兒子偶爾上網課,使用手機容易損傷眼...
雙十一阿里雲技術清單
4秒,成交額破1億元。21秒,成交額突破10億元。2分05秒,成交額超100億元。1小時47分鐘,成交額突破1000億元。22小時28分37秒,成交額超2000億元。大幕落下,最終2018年雙十一的成交額定格在2135億元。同時,也意味著超過10億的物流訂單在短短一天內誕生。在這一系列突破歷史的數字...