認知計算與深度學習

由於統計學習理論和支援向量機從理論與實踐上解決了包括非線性系統在內的一系列淺層學習問題。之後機器學習的研究重點從分類與**轉向更深入的領域：認知的過程。

認知：也稱為認識，是指人認識外界事物的過程，或者可以說是人的感官系統對外界資訊進行感知和加工的過程。

對於人來說，與認知活動有關的資訊處理，包括有：個體對感覺訊號的接收、檢測、轉換、簡約、合成、編碼、儲存、提取、重建、概念形成、判斷和問題解決的資訊加工處理過程。

認知過程可以分為兩大層次：

1.具體認知（指對客觀事物的基本認知，是感知的低階形式），可以分為5個層次：

第乙個層次：對強度資訊的感知，即量的感知

第二個層次：由專門的器官接收不同的能量形式，由此形成感官系統，成為定性的感知，即感覺。

第三個層次：對物件模式的感知。人的認知能力不是簡單的基於影象的匹配過程，而是存在著內在的資訊分解和重構的過程，也就是機器學習中的模式識別。——對空間的感知（構型）

第四個層次：同一特徵在時間序列上變化的感知能力。對事物運動和變化的感知發展處我們對時間的概念。這個階段我們稱為轉換transition。

第五個層次：事件event。是指物件在時空中的乙個完整的運動序列，有開始、過程和終結。

第六個層次：關係relationship。

第七個層次：範疇category。範疇是對物件和時間集合的抽象，範疇的感知**於在空間和時間上具有相似特徵的物件的集合。

第八個層次：序列sequence。序列是對轉換的抽象，是某種底層感知或認知（如構型、事件、範疇等）的時間序。序列的作用在於刻畫和控制事件。例如，青蛙捕食。

第九個層次：程式program。程式的乙個典型結構就是存在決策點或選擇點。範疇的確定性與網路結構的連通性使認知在程式階段創造了另一種新的機制——迭代。迭代的產生使得思維在時間上有了過程，由此產生了抽象思維，人類開始變得有思想。

第十個層次：原理principle。程式的本質是主體對外在物件的判斷和推理，是一種目的導向的行為，達到目的即停止。而原理或是規律是通過反覆歷時的對某一類物件實施某一程式，觀察歸納出的週期性、確定性的、普遍性的規律和規則。其具有指導性，對程式層次起到高層的控制作用。

第十乙個層次：系統system concept。將各種來自經驗的原理和規律組合起來，便形成認知的至高無上的新階段，這就是認知的最後乙個層級——系統觀念，也被稱為意識形態。

人的大腦的視覺機理：總的來說，人的視覺系統的資訊處理是分級的。高層特徵是底層特徵的組合， 從底層到高層的特徵表示越來越抽象；而抽象層面越高，存在的可能猜測越少，越有利於解釋。當訊號被高度抽象後，在額葉層形成分類判斷，最後付諸行動。

1）多層的神經網路具有優異的特徵學習能力，學習得到的特徵對資料有更本質的刻畫，從而有利於視覺化或分類。

2）深度神經網路在訓練上的難度，可以通過「逐層初始化」來有效克服。

通過loss function來評估優劣。

採用梯度下降演算法獲得最佳學習方法。

——來自李巨集毅的《一天搞懂深度學習》

但是，梯度下降演算法並不能保證全域性最優，所以需要進一步優化。

具體演算法如下：

主要用來解決影象識別、聲音識別、自然語言處理的問題。

theano是python-gpu運算庫，現在已經發展成使用deep learning 模型的綜合**庫。

theano實現的deep learning模型包括：多層感知器、卷積神經網路、深度置信網路、混合蒙特卡羅抽樣、遞迴神經網路、情感分析的lstm網路、壓縮自動編碼器、rnn-rbm網路等。

深度學習 卷積神經網路認知

卷積神經網路 cnn 是一種特殊的對影象識別的方式，屬於帶有前向反饋的網路，可用來合理有效的減少神經網路的引數個數。其特點是經過多次特徵提取，關聯型 序列型或結構化等型別的特徵被提取，主要來識別二維圖形。1 輸入層 代表一張圖的畫素矩陣 如32 32 3。特徵提取 2 卷積層 深入分析得到抽象程度更...

深度學習auc 深度學習 AUC PR計算

1 auc auc 表示隨機抽取乙個正樣本和乙個負樣本，分類器正確給出正樣本的score高於負樣本的概率，在所以標註樣本中，正樣本共t個，負樣本共f 個，如果隨機抽取乙個正樣本和負樣本，共有t f 個pair，其實如果有s個pair 的正負樣本pair 滿足於正樣本的score 高於負樣本 權重為1...

工種認知與服務認知

看七牛雲儲存ceo許式偉的訪談 十一年逆流順流，首席架構師到ceo 對其中談到的關於工種認知與服務認知的那一段深表認同。工種是工作種類，也可以指代為某種職能角色。在乙個產品團隊裡，產品經理是工種，工程師也是工種。拿工程師而言，具備開發技能 滿足崗位需求就可以了。於是，現在我們說的團隊就是由各工種的人...