極大似然估計(maximum likelihood estimate)mle
極大似然估計主要有兩種
1.離散型統計模型：
其概率分布為。 
l(θ) 表示為樣本的似然函式
2.連續型統計模型
f(xi;θ)表示概率密度函式，∏_(i=1)^n▒〖f(xi;θ)〗表示其聯合概率密度
似然函式的直觀意義：刻畫引數θ與資料的匹配程度
假設共有n個樣本，x的取值為1，或者2，其中x取1有n1個，x取2有n2個；n1+n2=n設有x
12pθ
1- θ
直觀表示θ=n1/n； 1- θ=n2/n
使用似然函式表示法：
使l(θ)最大化，
即是求導數，但是由於似然函式本身的複雜性，所以讓其求導簡單化，所以求極大似然函式估計值的一般步驟為：
（1） 寫出似然函式；
（2） 對似然函式取對數，並整理；
（3） 求導數 ；
（4） 解似然方程 。
使得導數為0
得出
從上述例子得知，極大似然估計是找到乙個統一的方法，使得解出的概率讓其和直覺得出的結果相統一。
機器學習中的邏輯回歸
本文參考了bin的專欄和李航 統計學習方法 線性回歸因為它的簡單，易用，且可以求出閉合解，被廣泛地運用在各種機器學習應用中。事實上，除了單獨使用，線性回歸也是很多其他演算法的組成部分。線性回歸的缺點也是很明顯的，因為線性回歸是輸入到輸出的線性變換，擬合能力有限 另外，線性回歸的目標值是 而有的時候，...
機器學習 邏輯回歸
邏輯回歸 線性回歸的式子，作為邏輯回歸的輸入 適用場景 二分類 線性回歸的輸入 sigmoid函式 分類 0,1 概率值 計算公式 當目標值為1時 損失函式的變化 當目標值為0時 損失函式的變化 下面用乙個例項來說明邏輯回歸的用法 癌症概率 部分資料的截圖如下 資料描述 699條樣本，供11列資料，...
機器學習 邏輯回歸
coding utf 8 import pandas as pd import seaborn as sns from sklearn.model selection import train test split import matplotlib.pyplot as plt 用於畫圖 from ...