機器學習的目的是給出能自動識別資料模式的策略，並使用研究出的模式對資料或其他輸出進行**。
目前機器學習主要分為以下兩種型別：
除此以外，還有機器學習的第三種型別：強化學習。
分類的目的是建立從輸入x到輸出y的乙個對映，y是乙個種類的集合。
如果y的種類為2，則又可以稱為二分類（binary classification），如果y的種類大於2，則稱為多分類（multiclass classification）。分類標籤可以重疊。
我們可以使用近似函式的方法來逼近尋找出分類方法。輸入x可以為離散的、連續的或者為乙個組合。
在進行分類時，可能遇到無法區分的情況，這時我們就要使用概率**的方法。
agent根據環境的反饋做出決策。在對環境的觀測中分為兩種：完全觀測與不完全觀測，一般情況下將完全觀測作為前提。
採用的策略同樣分為兩種：deterministic policy和stochastic policy。
價值函式用來計算此後時刻所得到的補償，存在乙個指數型的衰減。
最後求出的策略為在某狀態上採取某行動時會得到何種補償。
下一步狀態只取決於當前狀態，與以往狀態無關。
決策過程（s,a,p,r,r），其中s是乙個狀態序列，a是乙個行動序列，p是概率矩陣，r是反饋公式，r是乙個補償因素。
通過貝爾曼方程求出v表示當前+以後的補償reward。
目前常見的型別包括：
生成網路g的輸入為隨機矩陣，輸出為假影象（fake image），通過判定網路d為訓練集和輸出的假影象進行區分。
訓練d，使得real data輸出為1，generated data輸出為0。
訓練g，使得all data輸出為1。
cyclegan（迴圈一致對抗網路）是乙個雙向的網路，可以處理兩組訓練集。
應用：平移、旋轉、剛體變換。（既希望平移不變，又希望變形穩定）
性質：能量隨損失快速遞減，平移不變，變形穩定，計算很快。可以作為特徵提取的過程。
定義不變性：平移後沒有變化。（傅利葉變換再取模是平移不變的）。
定義穩定性：穩定性只需要控制在一定範圍內，並且這裡的變形穩定指的是小規模變形。
小波變換：對變形穩定，但不具有平移不變。
所謂散射變換就是不斷和新的小波進行卷積，並且卷積乙個低通濾波器來求平均。取平均為區域性平均，具有一定的分辨能力。
用多層散射小波變換才能區分資料，一般用兩層，層數太多會導致能量損失。
學習小筆記 機器學習
看書的時候做點筆記，偶爾翻出來看看才能真正掌握 否則很快就遺忘了 艾賓浩斯遺忘曲線 1 整合學習bagging基於自助取樣法 給定包含 m 個樣本的資料集，我們先隨機取出乙個樣本放入取樣集中，再把該樣本放回初始資料集，使得下次取樣時該樣本仍有可能被選中，這樣，經過 m次隨機取樣操作，我們得到含 m ...
機器學習筆記 1
1 機器學習的定義 如果乙個程式可以在任務t上，隨經驗e的增加，效果p隨之增加，則這個程式可以從經驗中學習。過程 單個神經元 2 基於tensorflow的nn 神經網路 用張量表示資料，用計算圖搭建神經網路，用會話執行，優化線上的權重 引數 得到模型。2.1 張量 多維陣列 列表 階 表示張量的維...
機器學習筆記1
高斯分布屬於指數分布族，線性最小二乘就是基於高斯分布。線性最小二乘 最大似然 最小二乘。高斯判別分析 gda 針對的是特徵向量 x 為連續值時的問題，而樸素貝葉斯 nb 針對的是特徵向量 x 為離散值時的問題。gda 比 logistic 回歸有更嚴格的前置假設。當資料服從或大致服從正態分佈時，使用...