今年,為了提公升秒拍內容推薦的精準性、使用者體驗和產品競爭力,秒拍牽手華為雲。他們把部分業務遷移到了華為雲。有做過雲遷移的企業一定知道,對於秒拍這種量級的企業而言,雲遷移就意味著大量的資料變更、系統相容和架構重建。那麼秒拍是如何實現雲遷移的呢?華為雲又給秒拍提供了哪些幫助呢?帶著這些問題,我們專訪了秒拍架構師李東輝。
由於與微博的關聯性很強,秒拍也具有明顯的**屬性。而這種屬性表現在秒拍上就是流量峰值的衝擊,尤其是微博中大量明星不定期的「官宣」,這種突發性的流量對秒拍架構在雲上的業務系統造成很大的衝擊,和微博的運維工程師類似,秒拍的小夥伴們也是「壓力山大」。而以往,秒拍的主要業務架構是部署在虛擬機器上的,在擴容速度上有較大的提公升空間,而且成本較高、擴充套件性待提公升等問題。
那麼這種彈性擴容問題如何更好的解決呢?當下熱門的容器服務就具有啟動速度快、資源占用小、執行效率高等特點,在應對突發性的大流量衝擊時也可以實現快速擴容。也就是說,除虛擬機器之外,完全可以遷移到容器中進行提公升,那麼阻礙是什麼呢?
首先,秒拍有大量的使用者,遷移的過程中需要解決使用者體驗和使用者資料丟包等問題,另一方面雲平台的遷移會有很大相容性問題的產生,如何降低單點依賴保持最大可能性的將業務內容完整遷移也是乙個大工程。
而在經過了重重的考量之後,華為雲成為了秒拍最終的選擇。據秒拍架構師李東輝介紹,一方面是看重了華為雲近年來迅速增長的市場表現,提供了諸多業界領先的技術和成熟的架構;另一方面則是因為華為「以客戶為中心」的理念,在實際遷移過程中,也正是華為雲提供的有力技術支撐和無微不至的服務,保證了遷移的順利完成。
秒拍之所以選擇遷移到華為雲,一方面是出於預防「官宣」式崩潰,另一方面也是為了公升級原有架構,借助華為雲在 ai 領域的技術積累,實時把握使用者喜好,實現內容的精準推送。
雲遷移的主體是資源的遷移。在秒拍遷移到華為雲時,mc 過去常用作臨時快取,遷移時,建立 mc 連線後需要新增所有的伺服器列表以及權重;mq 則需要在服務端先更新配置上線,資料寫入到新資源,消費端完成舊資源消費後,再切換到新資源;redis 則是基於 rdb 快照,在新資源通過快照回放完成全量資料的遷移;db 遷移則相對容易,全量資料預先複製乙份過去,增量資料獲取原平台 db 的許可權,通過 binlog 同步到新資料庫;
es 的存量資料則可以直接從 db 拷貝,而增量資料則可以通過監聽 db 更新同步獲取;版本庫的則要簡單一些,統一配置後直接修改即可;dokerfile 則需要預先設定映象,將專案**複製到容器;後端資源遷移結束後就可以切換公網流量,然後進行全線驗證,觀察錯誤日誌等同步進行即可;切換到華為雲後,利用 dokerfile 映象即可通過 kubernetes 實現滾動公升級。
同時,此次秒拍遷移到華為雲還涉及了大量的架構公升級。在 mc 裡,往往存在偽批量儲存,可以利用 redis 的 pipeline 並行機制解決。在首頁的推薦內容裡,對推薦系統依賴過重,所以必要時需採用熔斷降級策略;即先把部分列表資料儲存到 cache,一旦發生熔斷,就將資料從推薦系統讀取渠道直接切斷,轉從 cache 裡讀取返回給使用者,避免全盤崩潰。
負載均衡也發生了本質的轉變,秒拍此前的的負載均衡需要請求到 vm 和埠來實現;而在容器化後,下層掛載了 kubernetes 集群,當請求達到節點後可以均衡到不同的容器之中。日誌和監控方面,通過在例項資源上部署 agent 定是收集 cpu 和記憶體的資訊,巡檢線上資源和介面,也可以及時排除系統隱患。
整體平台的底層核心儲存依然是在 mysql,其高可用性必須提供保障,目前採用的是主從與主備結合的形式,問題在於主機一旦故障就需要人工指定主機,因此需要設計雙機切換的模式。核心對主機狀態進行判斷和決策,也可引入中介角色完成這一工作,但風險在於中介的高可用性,目前比較成熟的中介解決方案有 zookeeper 和 keepalived 等。
終點也是起點,合作贏得未來
卸去裝備,只為收穫更多
秒拍在遷移的過程中不僅面臨著技術上的問題,時間和實踐也都有不同的難題存在。
據李東輝介紹稱,當時遷移的時間節點在夏天,華為雲派出了乙個技術團隊駐紮在秒拍總部共同攻克技術難關。但礙於工位有限,只能一群人擠在乙個很熱的辦公室裡辦公。而為了照顧使用者體驗,遷移的流程也只能選擇在業務體量較低的凌晨進行。整個華為雲的小組與秒拍團隊共同克服了諸多難關,通宵達旦方才完成了整體的遷移流程。
在採訪的最後,李東輝談到了與華為合作的收穫,他認為衡量乙個合作是否成功的標準一定是看是否對雙方都有利。對秒拍來講,他們實現了一次良好的技術體系迭代公升級,提公升了使用者體驗,增強了使用者黏性。而對華為雲來講,他們的技術實力得到了客戶的認可,也進一步開啟了網際網路市場的局面,實現了雙贏。
Amazon公司開闢AI新前線 雲端
amazon.com公司以往似乎並不像谷歌 微軟 facebook以及ibm那樣在人工智慧領域引人注目,但這一情況如今開始出現改觀。amazon公司首席執行官jeff bezos最近發布了年度股東信,並在信中表示他認為作為ai領域的一大分支,機器學習這種能夠無需程式設計即可實現計算機學習的技術將成為...
秒拍紅外感應抓拍觸碰抓拍秒啟動的4G低功耗攝像頭
工具介紹 就乙個攝像頭模組 4g低功耗模組 加我vx 152 2009 6219 看一下我們的實際抓拍效果圖,成像非常清晰 在睡眠 休眠 模式下,cam 4g38可將功耗降低到最低水平,在此睡眠模式下,模組仍然可以 1 和伺服器保持 tcp 連線通訊 2 根據使用者的心跳間隔配置定時傳送心跳包 3 ...
HGST 中國將成為新雲端運算大國
到2016年,hgst提出了今年度儲存產業的五大發展趨勢 中國已作足準備,在未來世代的技術與資料中心架構方面大力投資。中國將成為新雲端運算大國 中國已作足準備,預計在未來世代的技術與資料中心架構方面大力投資。對於這世界人口第一大國而言,將持續轉型希望使在2016 年取得突破性進展。快閃儲存器與硬碟間...