演算法優化之道：避開鞍點
鞍點 （saddle point）的數學含義是： 目標函式在此點上的梯度（一階導數）值為 0， 但從改點出發的乙個方向是函式的極大值點，而在另乙個方向是函式的極小值點。
判斷鞍點的乙個充分條件是：函式在一階導數為零處（駐點）的黑塞矩陣為不定矩陣。
半正定矩陣： 所有特徵值為非負。
半負定矩陣：所有特徵值為非正。
不定矩陣：特徵值有正有負。
典型的鞍點是函式 f(x)=x^3 中的(0,0)，函式 z=x^2-y^2 的 多個鞍點 (0,0,0)，(1,1,0)，(2,2,))。畫圖表示：
上圖中的紅點即為對應函式的鞍點。
常見數學符號的直觀理解筆記
不少常見的數學符號，我經常不認識，看 的時候，每次小丑都是我自己 所以先把這些花裡胡哨的公式列出來，方便查詢。argmax f x 是使得 f x 取得最大值所對應的變數點x 或x的集合 這個定義也太容易理解了吧 對於q learning系列，arg maxa q s a argmax a q s,...
常見資料集
有幾個資料集常常聽到，但時間一長就容易混淆忘記，現記錄如下。持續更新。全稱the pascal visual object classes，也可簡稱voc。主題 目標分類 版本 該競賽現已結束 主題 識別 分割 版本 介紹 首先是每年的競賽 coco競賽從2015年開始，最初的競賽內容是detect...
常見資料集
官網 映象 pascal voc 挑戰賽主要有 object classification object detection object segmentation human layout action classification 這幾類子任務 pascal voc 2007 和 2012 資料...