寫資料中臺第一帖,首先來個開篇明義,希望不要閉門造車。
由於很多同行在聊中颱,那麼這裡我們聊中臺需要做到有差異和有真實背景。這個帖子是基於建設銀行廣州開發中心、廣發行資料中心的一些情況來聊的。目前各個國有大行、股份制銀行在大資料方面的投入很大,寄予希望通過資料產業推動業務公升級、推動生產和管理上的改革和進步、促使效率提公升和產業結構變化。
建行廣開申請下來大量伺服器,搭建起很多元件的集群,cdh集群、fi集群、storm集群、es集群、spark集群、elk集群、redis集群、flink集群等,並且有些集群還有多套(ab角),例如fi集群就有多套。
然而這些集群似乎沒有完全應用起來,存在空置狀態。但並不意味著大資料的應用已經做到盡頭,而相反的是,基於大資料的很多應用的成效並未達到銀行的預期,還沒有做到通過資料化運營來推動業務的快速公升級。
大資料還在乙個「變現」的階段,多年來年的積累和努力集中在於建立乙個大資料平台(相當於池子),積蓄和儲存資料(相當於水)。而資料的應用比較多的是在銀行風控和銀行營銷方面的實踐。目前發展空間還是比較大。那麼下乙個階段的大資料究竟是怎麼樣的形態。
參考阿里提出了「雙中台」規劃,乙個是業務中臺,乙個是資料中臺,銀行又應該如何建立中臺。這就是寫這個文章的出發點,並且努力做到不空談不妄言,把銀行的實際情況分享出來。那麼我們就以此為引子,來開展關於資料中颱的**。
把具體的中颱的規劃、目標都放到後邊去聊。這裡先想想乙個問題。當資料中颱和業務中颱都構建好了之後,銀行的內部架構會變成怎樣。想想康威定律,這必然是乙個很有趣的話題。
廣發行的開發中心和資料中心都在廣東佛山千燈湖的金融中心。資料中心做大資料平台的建設和基於大資料的應用,而開發中心做各個業務渠道,包括對公、個人、信用卡等的應用系統。
然而這個過程並不無混亂。
前端時間傳出,開發中心已經在構建自己的大資料平台,和資料中心的大資料平台存在一定的重疊。另外原本劃分在資料中心的風控應用系統及其開發團隊,因為各種原因被劃分到了開發中心。因為風控劃分在資料中心時,整個風控的呼叫鏈路過長而不好控制響應時間;也因為資料中心存在需求響應速度和質量控制不好的問題而備受業務部門的非議。所以才存在這種業務上的調整。
然而其中肯定是有值得商榷的地方的。因為風控的資料**於大資料的風險畫像,很多指標和標籤的計算都在大資料離線批次中完成。並且風控過程也可能存在實時流的計算和加工。這些就是資料開發能力的一部分。所以劃分到開發中心後,就存在了業務邊界模糊的情況了。
幸好這個過程還是比較良性的,相信調整的方向是往更好的協作方式去走。
建設銀行的開發中心劃分為北開(北京開發中心,位於稻香湖附近)、廣開(廣州開發中心,位於科韻路)、廈開(廈門開發中心)。
也許是建行總行的鼓勵內部競爭策略或其他的出發點,各個開發中心之間的業務是存在相互爭搶的。例如廈開偏重資料倉儲(edw)的建設,而廣開偏重於渠道上的應用建設和維護,但廈開會做應用、廣開也會建設數倉和大資料平台。相互之間既是建行這個大架構中的重要組成部門而完成整個銀行的業務,但又爭搶著基於大資料的應用建設業務。這是不利於架構調整的。
而中颱的構建能不能作為一把錘子,重錘打破這種格局。
基於上述總總,我們聊聊,銀行的企業架構的理想狀態是怎麼樣的。業務部門-開發中心-資料中心應該如何分工。然後我們再去聊中颱應該怎麼開展。
無論中農工建交這些國有大行,或如廣發、興業、浦發這些股份制商業銀行,又或者是城商行、農信等,都需要清晰劃分資料中心的業務邊界和開發中心的業務邊界。資料中心對應的是資料中臺、開發中心對應的是業務中臺。
按照不同銀行的合規要求,對行內各部門各渠道的資料採集可採取離線或實時的方式,而對行外第三方資料的採集,出於安全的要求,可通過開發中心的介面進行透傳採集。那麼就可以做到統一的全行性的採數。
然後進行etl、然後存入大資料分層中。
然後就是資料探索、資料開發。而資料開發加工分為批量離線加工、記憶體計算加工、實時流計算加工。
之後是資料模型建設,包括建模過程管理、統一模型管理、模型驗證等。
之後是對資料資產的管理。包括依賴管理和血緣管理。
最後,資料通過統一的服務中間價對外提供資料和消費資料。產生資料的價值。
如果,這裡是說如果,銀行的分工真做到丁是丁卯是卯,資料中心只管理資料,開發中心只管理應用。那麼資料中颱和業務中颱就可以真的定義好各自的邊界了。
待續。
開博第一貼
一直以來都是註冊了csdn卻除了跟朋友聊天之外從來沒有用過別的功能,沒空也沒心思。這幾天在論壇裡提了個問題,忽然想起來還有部落格的功能,乾脆就把從工作以來遇到的問題和解決的方法都記錄下來,當作自己的工作筆記吧。希望也能幫到跟我一樣剛剛畢業,一切都是從頭學起的人。現在在用asp.net2.0編 從需求...
2005情感第一貼
本想是在元月一號寫點東西,哎 工作讓我靜不下心來。也許是本命年的緣故吧,過去的一年發生了太多太多的事情,好一段時間的消極情緒直到現在還在影響著我,工作雖說就算定了吧,但我心裡知道,我是身在曹營心在漢,從回來的那一天起我就感覺心裡充滿了失落,畢竟在張店生活了快5年了 究竟什麼時候能從這種失落的心情當中...
回家歸來第一貼
做個紀念 14號晚上9點半的回家的車,雖然汽車站人很多,但秩序都很好,工作人員態度還是很好的,路過火車站的時候被那場面給嚇怕了,呵呵。車子是晚上的,所以昏昏沉沉的睡了一覺 是空調直達快吧 比較討厭那些臥鋪車 因為回來的時候做了一次,發誓下輩子都不會坐臥鋪了 15號早上到了柳州。回家過年好累了,天天象...