大資料亦需要資料虛擬化

2021-09-23 13:41:36 字數 1670 閱讀 7341

摘要:為了實現大資料所勾畫出的美好願景,你需要在資料層和基礎設施層等基礎架構中對資料進行抽象化的工作。在雲上的大資料擁有跨越大量節點、集群和層的眾多潛在功能服務層,而這些節點、集群和層很容易變得不堪重負。為了應對這些問題。首先,你應該規劃乙個全面的雲資料虛擬化基礎設施。虛擬化雲分析法是新時代中的大資料典範。作為一種整合方法,它能夠確保大資料的統一訪問、建模、部署、優化和管理成為一種異構資源。

在雲上的大資料擁有跨越大量節點、集群和層的眾多潛在功能服務層,而這些節點、集群和層很容易變得不堪重負。為了應對這些問題。首先,你應該規劃乙個全面的雲資料虛擬化基礎設施。虛擬化雲分析法是新時代中的大資料典範。作為一種整合方法,它能夠確保大資料的統一訪問、建模、部署、優化和管理成為一種異構資源。

與任何虛擬化一樣,資料虛擬化是一種允許使用者訪問、管理和優化異構基礎架構的方法,就好像它們是一種單

一、且在邏輯上是統一的資源一樣。這使得使用者能夠從一些服務、功能或其他資源的內部部署中對外部介面進行抽象化。

與支援邏輯上統一的訪問、查詢、報告、**分析,以及針對關係型、hadoop、nosql等不同後端資料庫應用的任何「sql-虛擬化」解決方法相同,資料虛擬化的核心是抽象層。當然,資料虛擬化可能會轉而依靠其他的基礎設施虛擬化層,例如儲存與伺服器平台。在某些情況下,資料虛擬化可能會在地理上和多雲環境中進行擴張。

在我們討論的眾多層中,虛擬化無疑是這些枯燥資料話題的乙個縮影。但是如果你希望自己的大資料雲平台能夠解決以下業務需求,那麼它們無疑是最基礎的。這些具體的業務需求是:

·基於彈性、靈活拓撲結構的先進分析型資源

·汲取源自任何**、格式和方案的純消費性資源

·能夠留存、聚合、處理任何動靜結合資訊的「延遲-靈敏」資源

·在價值鏈中擴充套件,在私有雲[注]和公有雲[注]中擴張的聯合資源

·能夠讓你通過現有工具和應用,調整、擴充套件和公升級後端資料平台的無縫互操作資源

是的,這是一項艱鉅的任務。毫無疑問,資料虛擬化和虛擬的基礎架構實踐起來比說起來困難的多。此外,部署、管理和優化的工作也需要花費大量的資金。

基於雲的大資料需要越來越複雜的虛擬化基礎設施。對於大部分大資料專業人員而言,解決這一難題就如同天文學家試圖繪製出宇宙中的暗物質一樣困難。他們知道這項工作既重要,但又十分的乏味和煩瑣。實際上,大資料專業人員更喜歡從事hadoop和nosql的研究,因為它們正在新的技術領域中閃爍著最耀眼的光芒。

隨著大資料應用範圍的不斷拓展,使用者未來幾乎必定要沿著虛擬化這條路前行。混合大資料雲難以處理的異質性將推動使用者選擇這一方向。在私有雲中,大資料平台融合需要乙個虛擬化架構,以將新的方案與之前的投資相關聯起來。然而,融合將會阻止使用者持續的平台現代化與遷移嘗試,妨礙使用者將創新和適合的平台整合到雲中,阻礙廠商的「產品-改良」迴圈。除非將所有的大資料方案都放到「通用的」公有雲服務上,否則使用者在多種組合方案中需要虛擬化公有雲、私有雲和混合雲[注]架構的訪問。

當然,能沿著「資料-虛擬化」路線走多遠,將取決於使用者業務需求和大資料環境的複雜性。此外,還取決於使用者對風險、複雜性和困難的承受程度。在未來,隨著分析模型、規則和大資料雲上匯聚的資訊日益複雜,平台將成為虛擬化訪問、執行和管理的核心。在這一新領域內,mapreduce將成為關鍵的(但並不是唯一的)開發框架。此外,mapreduce還將成為針對內聯分析和交易計算的虛擬化架構的一部分。不過,目前這一虛擬化架構雖然涵蓋範圍更廣,但是大部分仍沒有被明確定義。

迄今為止,還沒有人能夠對這些將雲與大資料世界拼接在一起的層、介面和抽象化展開進一步概述,而這也是一項擺在我們面前的艱鉅任務。

虛擬化技術與大資料 新書推薦 大資料技術基礎

然而,面向大資料技術應該學什麼?如何學?以及學會怎樣用?是困擾眾多大資料初學者的主要問題。圍繞這些問題,我們以大資料相關概念及技術為主線,採用模組化方法對大資料及其相關的基本理論 關鍵技術和實際應用進行了綜合梳理,構建了大資料模組化知識體系 基於深入淺出思想及配套的實用 應用案例和操作實踐,融會貫通...

大資料和虛擬化結合是方向

1.一體機是當前大資料的主要方式 當前資料庫重要的玩家如oracle,ibm,teradata,基本推出一體機解決方案。所謂一體機即軟硬體一體化,軟體廠商對特定硬體做特定調優,以追求效能最優。一體機對客戶的重要價值是,整合度高,效能好,使用和維護簡單,縮短工程交付時間。同時一體機由於軟硬體繫結在一起...

雲計算與大資料 虛擬化技術

描述 虛擬化一般分為硬體級虛擬化 hardware level virtualization 和作業系統級虛擬化 os level virtualization 硬 件級虛擬化是執行在硬體之上的虛擬化技術,它的管理軟體也就是我們通常說的hypervisor 或者 virtual machine mo...