1.什麼是學習？
對人類來說學習就是通過觀察（視覺、聽覺、嗅覺等）掌握某種技能。比如我們從到大認識世界的過程。
對於機器學習，我們希望計算機能夠像人類一樣，通過在大量的資料中觀察，發現事物的規律，獲得某種分析與解決問題的能力。
- 所要解決的問題存在一些規律或者模式，可以通過學習提高表現；（exists some 『underlying pattern』 to be learned）
- 用普通的程式難以解決；（but no programmable (easy) definition）
- 有針對所要解決問題的大量樣本可供使用；（somehow there is data about the pattern）
機器學習的應用體現生活（衣、食、住、行、教育、娛樂等）的方方面面。
基本術語：
輸入：x
輸出：y
理想決策函式：f
訓練樣本：data
假設空間：hypothesis set，在訓練樣本data中，通過演算法a，在假設空間中找到最合適的決策函式矩g，使這個函式最接近我們理想的函式f，矩g就是我們想要的模型表示式。
2.機器學習的基本流程（假設為監督學習）
機器學習和資料探勘（machine learning and data mining）
這兩個領域很像，但是也有一些細微的差別，具體見下圖：
機器學習和人工智慧（machine learning and artificial intelligence）：機器學習只是實現人工智慧的一種方式。
機器學習和統計（machine learning and statistics）：統計是實現機器學習的一種方法。
台灣大學林軒田老師機器學習基石 內容簡介
第一周 ml簡介 ml與dm ai statistics的區別 第二週 perceptron線性分類器 第三週 從輸入特徵 輸出空間 label狀況 學習方式四方面對ml進行分類 第四周 pac學習原理 盡量大的訓練集d和有限的假設空間h 第五 七周 shatter and vc dimension...
林軒田《機器學習基石》筆記一
整個基石課程分成四個部分 機器學習可以被定義為 improving some performance measure with experence computed from data.也就是機器從資料中總結經驗，從資料中找出某種規律或者模型，並用它來解決實際問題。應用場合大致可歸納為三個條件 對於...
台灣大學機器學習
第三章 機器學習的不同類別 三個角度 1 二分類，多分類，回歸，struction learning 不常見 2 監督學習，非監督學習，半監督學習 比如人臉識別中，不是每個樣本我們都能知道其類別，增強學習 訓狗，深藍計算機的智慧型下棋 3 batch learning,online learning...