大資料時代 資料分析方法及理論詳解

2021-07-11 21:58:41 字數 3619 閱讀 5788

像一場戰役的總指揮影響著整個戰役的勝敗一樣,資料分析師的思想對於整體分析思路,甚至分析結果都有著關鍵性的作用。

定義問題(重要步驟之一):

1)首先,要搞清楚問題的實質,準確、完整、真實地表達問題。

2)其次,弄清楚為什麼要解決這個問題?

3)最後,解決這個問題的意義何在?是必須解決還是無關緊要,或是需要馬上解決這個問題還是不太著急。

蒐集、整理關於要解決問題的歷史資料、類似情況和現狀。例如,從現有的報表資料中就能看到當前問題點的資料情況或者一段時間的趨勢;

選取分析方法:

1)分析涉及到的主要維度,為後面提取資料需求做準備;

2)選取的分析軟體以及分析方法(統計學相關方法);

1)根據分析內容以及分析方法,提出分析所需的資料需求;

2)對於反饋回來的資料,需要進行部分加工,以便更能反映所要分析的問題;

分析結果及結論:

1)根據分析的結果,得出一些當前問題產生的一些結論。這裡注意分析的方法以及維度,結果的展示方式等。

2)結論需要足夠的資料作支撐;

實施及建議措施:

1)針對資料分析結論,給出當前問題的解決建議措施;

2)一方面從業務層面進行建議措施。另一方面,可以就問題點進行更深層次分析,給出資料探勘層面的解決措施;

實施效果評估及報告整理:

1)根據措施實施效果進行評估,將完成的分析過程、結果以及評估整理報告,為以後出現問題提供經驗教訓;

2)對於本次沒有完全解決的問題,進行說明。

3 精確地陳述問題

5w2h法:

5w:what、when、where、who、why;

2h:how many、how much;

where——**存在問題?

what——存在的問題是什麼?

why——原因在**?

when——什麼時候開始出現這樣的問題?

who——與什麼物件有關?

how many——發生的次數和數量?

how much——損失有多大?

問題結構是由現狀、直接原因以及最終原因構成的。針對直接原因進行的叫初步問題分析、針對最終原因進行分析的叫深層及問題分析。

統計方法的三大特性,用三句話來簡單概括:

1)實用性:除了實情,資料能證明一切;

2)豐富性:統計揭露出的部分固然明晰,沒揭露出來的或許更重要;

3)公平性:每個人都應當用資料說話。

「五點法」:最小值、1/4分位數、均值、3/4分位數、最大值;

「兩度」:峰度、偏度

六西格瑪:

按挖掘方法分類:包括統計方法、機器學習方法、神經網路方法和資料庫方法。

其中:

1)統計方法可分為:判別分析(貝葉斯判別、費謝爾判別、非引數判別等),聚類分析(系統聚類、動態聚類等),探索性分析(主成分分析等)等。

2)機器學習方法可分為:歸納學習方法(決策樹、規則歸納等),基於範例學習,遺傳演算法等。

3)神經網路方法可分為:前向神經網路(bp演算法等),自組織神經網路(自組織特徵對映、競爭學習等)。

4)資料庫方法分為:多維資料分析和olap技術,此外還有面向屬性的歸納方法。

關聯規則:關聯規則反映乙個事物與其他事物之間的相互依存性和關聯性,如果兩個事物或者多個事物之間存在一定的關聯關係,那麼其中乙個事物就能夠通過其他事物**到。

在現實社會中,存在著大量的「髒資料」:

不完整性(資料結構的設計人員、資料採集裝置和資料錄入人員):

1)缺少感興趣的屬性

2)感興趣的屬性缺少部分屬性值

3)僅僅包含聚合資料,沒有詳細資料

噪音資料(採集資料的裝置、資料錄入人員、資料傳輸):

1)資料中包含錯誤的資訊

2)存在著部分偏離期望值的孤立點

不一致性(資料結構的設計人員、資料錄入人員):

1)資料結構的不一致性

2)label的不一致性

3)資料值的不一致性

資料型別衝突:

1)性別:string(male、female)、char(m、f)、integer(0、1)

2)日期:date、datetime、sting

資料標籤衝突:解決同名異義、異名同義:

學生成績、分數

度量單位衝突:

1)學生成績

a.百分制:100~0

b.五分制:a、b、c、d、e

c.字元表示:優、良、及格、不及格

概念不清:

最近交易額:前乙個小時、昨天、本週、本月

聚焦衝突:根源在於表結構的設計

11 資料的清洗處理

主要任務:

處理方法:

分箱(binning)的方法:

聚類方法:檢測並消除異常點

線性回歸:對不符合回歸的資料進行平滑處理

人機結合共同檢測:由計算機檢測可疑的點,然後由使用者確認

►指標分析與政策分析並重

►反映重點問題、實事求是

►材料、資料要真實,論據要有說服力

資料分析結果呈現準備工作:

確定表達的主題:

►使用圖形的目的:

將思想和觀點形象化地表達,加深讀者或聽眾的印象

►使用圖示時,必須明確通過圖表要表達的資訊是什麼

確定對比關係:

►同一類別不同專案間的對比

►不同類別不同專案間的對比

內容決定形式、形式服務於內容,當形式經過時間考驗被普遍接受後就固化成一種模式。

建議措施分類:業務層面;資料探勘

1)營銷活動效果反饋資料,分析對於問題的解決程度

2)業務模型優化提公升

大資料分析步驟及分析方法詳解

1 識別目標需求 首先必須明確資料分析的目標需求,從而為資料的收集和分析提供清晰的方向,該步驟是資料分析有效性的首要條件。2 採集資料3 資料預處理 對資料進行必要的預處理,常用的資料預處理方法包括 資料整合 資料清洗 資料去冗餘。4 資料探勘 資料探勘的目的是在現有資料基礎之上利用各類有效的演算法...

資料時代,大資料分析技術的介紹

近些年,由於以社交 基於位置的服務lbs等為代表的新型資訊產生方式的湧現,以及雲計算 移動和物聯網技術的迅猛發展,無處不在的移動 無線感測器等裝置無時不刻都在產生資料,數以億計使用者的網際網路服務時時刻刻都在產生著資料互動,大資料時代已經到來。在當下,大資料炙手可熱,不管是企業還是個人都在談論或者從...

大資料分析及處理

從所周知,大資料已經不簡簡單單是資料大的事實了,而最重要的現實是對大資料進行分析,只有通過分析才能獲取很多智慧型的,深入的,有價值的資訊。那麼越來越多的應用涉及到大資料,而這些大資料的屬性,包括數量,速度,多樣性等等都是呈現了大資料不斷增長的複雜性,所以大資料的分析方法在大資料領域就顯得尤為重要,可...