元資料管理

2021-10-25 13:45:19 字數 1637 閱讀 7572

元資料管理的核心功能如下:

在操作方式上分為自動採集和手動採集兩種:

同時,提供採集日誌資訊的檢視,檢查採集是否成功。檢視採集日誌可以查詢到採集任務的如下資訊:開始時間、任務狀態、結束時間、過程日誌,採集的數量等等。

元資料採集完成後,儲存在資料庫中,支撐包括元資料統計、查詢、血緣分析、影響性分析、資料資產地圖等元資料應用。

依照元資料管理制度及要求,獲取元資料後,根據規則進行元資料分類,後續根據每類元資料定義,實現元資料的分類管理。元資料分為業務元資料、技術元資料和管理元資料。

背景:元資料系統採用樹形方式來統一展示元資料資訊,層級結構清晰,便於使用者直觀了解元資料組織結構。但由於元資料**繁多,數量巨大,很難快速地精準定位到使用者所關心的特定的元資料資訊。

自助式元資料查詢為使用者提供直觀簡潔的介面,使用者根據自定義搜尋條件,查詢符合該使用者訪問許可權的所有元資料資訊,以列表的形式展現出來,支援模糊查詢。

用於統計各類元資料的數量,如各部門提供的各類資料的種類,各部門資料被使用的冷、熱度等,方便使用者掌握大資料平台中元資料的彙總資訊。元資料統計的展現方式有報表,圖形等直觀的方式。

元資料版本管理用於管理元資料的版本發布,以及基於版本的元資料檢視、比對等操作,通過版本管理功能,使用者可以更清晰了解元資料的版本變更歷史,掌握元資料生命週期,提公升了後續使用元資料的可靠性。例如,當某個資訊系統的元資料第一次全量採集進入元資料管理庫中,對其發布乙個基線版本;經過幾年後,該資訊系統進行了一次重大公升級,許多資料結構都被改變了,還有新增和刪除的元資料,這時候再對元資料進行一次全量採集,對其發布第二個版本。

使用者可以自行訂閱許可權範圍內自己所關注的元資料,當這些元資料發生變更後,系統將以郵件、簡訊等形式通知使用者變更的發生,使用者可根據指引,進一步在系統中查詢到該變更的具體內容及相關的影響性分析。

元資料影響性分析指的是評估資料變更對資料應用的影響。影響性分析能幫助使用者迅速了解分析當前元資料物件的下游資料資訊,快速識別元資料的價值,掌握元資料變更可能造成的影響,以便更有效的評估變化帶來的風險。

血緣分析是建立在元資料整合的基礎上,記錄資料治理過程中的血緣關係,基於這些血緣關係資訊,可以進行以資料流向為主線的血緣追溯功能,可以一直追溯到資料的產生。

血緣分析的輸出結果包括回溯過程中所找到的所有相關元資料物件,以及這些元資料物件之間的關係。這些元資料物件可能是指標、介面檔案、報表、資料庫表、資料庫檢視、資料立方體實體、資料處理過程和資料來源介面等。

血緣分析通過圖形化的方式展示給使用者,使用者看到的是代表該元資料血緣關係的一條分布有各個節點的鏈形圖,圖中的每乙個節點代表資料**過程中的乙個步驟。

大資料平台內的元資料種類繁多、形式各異,元資料查詢、血緣分析、影響性分析等功能,是面向元資料細節資訊的使用需求,更適用於具體的人員,各部門基於元資料開展相關工作,對於領導、管理人員等高層使用者,由於關注層次更高,範圍更廣泛,大量的細節資訊不能有效的滿足該類使用者的需要。

資料資產地圖用於在巨集觀層面組織資訊,力求以全域性視角對資料進行歸併、整理,展現資料的巨集觀資訊。資料資產地圖以圖形化的方式管理資料資產,提供多形式的圖形化展現,如支援全景資料地圖,方便使用者從巨集觀角度對資料進行深入的理解,如資料分布情況等。資料資產地圖支援資料庫級別的資料流向視覺化展示,資料按照時間維度的增量、存量展示,便於監控資料的增量、存量情況。

元資料管理

大資料倉儲越來越重視元資料的管理,但是元資料怎麼管理,還處於探索階段。這樣帶來的弊端顯而易見,就是1 及時性達不到,2 準確性達不到,3 同步性也達不到。它只是結項的必交的文件而已。二 越來越多的角色的人使用數倉,迫切需要乙個介面展示具體指的意思,業務統計口徑等,用乙個web介面展示,但是後端還是e...

HDFS元資料管理

hdfs的目錄結構,包含哪些資料夾子資料夾,以及資料夾下面包含哪些檔案,以及每個檔案的block資訊 id,副本係數,block存放在那個datanode上 元資料存放在 name路徑下。在namenode的記憶體中有乙個樹形結構,存放的就是元資料資訊,對檔案的任何修改都在記憶體中有體現,但是如果機...

DevOps元資料管理

元資料是自動化運維的基礎,對元資料的管理和查詢貫穿整個運維的生命週期。我們從乙個元資料的使用場景開始 雙十一搶購火熱進行中,某電商後端例項的日誌 現了502錯誤碼,運維平台監測到該異常並傳送告警給相關運維。在這個過程中,運維元資料發揮了什麼作用?回答這個問題前,我們先回顧下元資料是什麼。運維系統中的...