一、為什麼機器學習中使用概率論？
【摘自】prml讀書筆記(1) - 深度理解機器學習之概率論(probability theory)
機器學習領域的乙個關鍵概念是不確定性（uncertainty）。然而概率論為不確定性的量化和操縱提供了框架，並形成了機器學習的核心基礎之一。當與後面討論的決策論相結合時，其可以根據一些可獲得的資訊做出最佳**，即使這些資訊可能並不完整。
機器學習包括監督學習，非監督學習和強化學習這 3 類。
監督學習分為分類（classification）和回歸（regression）這兩部分應用。分類和回歸的最大區別是分類是離散的，而回歸是連續的。
分類又包括二元分類和多元分類。與二元分類有關的是伯努利分布（bernoulli distribution）；與多元分類有關的是多項分布（multinomial distribution）。
而與回歸有關的是高斯分布（gaussian distribution）。
從上，回歸模型與這些概率分布之間有密切聯絡。
二、機器學習中概率論相關知識
【摘自】深度學習之數學基礎（概率與統計）
三、概率論學習路線
【摘自】機器學習中的概率統計
概率論學習
離散型隨機變數的值和概率的分布列表 在很多教材中，這樣的列表都被叫做離散型隨機變數的 概率分布 其實嚴格來說，它應該叫 離散型隨機變數的值分布和值的概率分布列表 這個名字雖然比 概率分布 長了點，但是對於我們這些笨學生來說，肯定好理解了很多。因為這個列表，上面是值，下面是這個取值相應取到的概率，而且...
機器學習系列 基礎 概率論 數字特徵
最近在看各種演算法的時候，都會涉及到各種各樣的數字特徵，比如在knn中會涉及到眾數的概念，kd中會涉及到中位數的概念，決策樹中會涉及到期望的概念，本篇則主要對這些數字特徵進行一下對比和總結。如下是最簡單的一張思維導圖 用搜尋引擎定義，平均數就是期望，因為計算方式和結果都是一樣的。比如擲骰子，投擲了8...
概率論 第二章
2.1 隨機變數及其分布函式 一 隨機變數 二 分布函式 例1 拋一枚硬幣,觀察正面 1,反面 2出 現的情況 隨機變數常用x y 或 等表示 定義了隨機變數後,就可以用隨機變數的取值情況來刻劃隨機事件 有了隨機變數,隨機試驗中的各種事件，就可以通過隨機變數的關係式表達出來.二 分布函式 對隨機變數...