首先深度學習之所以能夠在現在獲得大的突破，主要依靠於硬體技術的進步和大資料的發展。卷積神經網路需要的高併發，依賴於gpu的發展不斷進步，甚至已經有了很多專用裝置，如谷歌tpu，阿里和華為也都有最新針對ai演算法的晶元。
高併發時可能導致梯度下降出問題，目前多採用非同步梯度下降。
當模型過大時，通常可以通過模型壓縮來減少記憶體和運算時間。（具體方法這裡沒提）
模型可以動態選擇運算單元，如注意力模型。
應用很廣的乙個領域，如無人駕駛中識別紅綠燈等。這裡主要介紹了預處理和資料集增強的一些方式：
主要介紹三種方式：全域性對比度歸一化、區域性對比度歸一化和白化
語音轉文字的一種應用。傳統方式主要通過hmm和gmm實現；深度學習發展後，可通過受限玻爾茲曼機可實現，後面章節才有詳細介紹。
機器學習很大的乙個分支，為了解決詞的高維和稀疏性，提出了以下方案：
短列表：常見詞組合組成列表
分層softmax：這裡說結果並不好
重要取樣：給權重
雜訊對比估計和排名損失：
之前多使用協同過濾，有冷啟動問題，所以有基於內容的推薦系統。後面介紹了基於強化學習的推薦系統，貌似不常用啊。
第十二章學習筆記
塊裝置將資訊儲存在固定大小的塊中，每個塊都有自己的位址。對作業系統來說，塊裝置是以字元裝置的外觀展現的，雖然對這種字元裝置可以按照位元組為單位進行訪問，但是實際上到塊裝置上卻是以塊為單位 最小512byte，既乙個扇區 這之間的轉換是由作業系統來完成的。扇區 磁碟碟片上的扇形區域，邏輯化資料，方便管...
第十二章 學習筆記
檔案系統使用一系列i o緩衝區作為塊裝置的快取記憶體。當程序試圖讀取 dev，blk 標識的磁碟塊時，他首先在緩衝區快取中搜尋分配給磁碟塊的緩衝區。如果緩衝區中存在並且包含有效資料，那麼它只需要從緩衝區中讀取資料，而無需再次從磁碟中讀取資料塊。如果該緩衝區不存在，他會為磁碟塊分配乙個緩衝區，將資料從...
Objective C學習筆記第十二章類別
第十二章類別 利用objective c的動態執行時分配機制，可以為現有的類新增新方法，這種為現有的類新增新方法的方式稱為類別catagory，他可以為任何類新增新的方法，包括那些沒有源 的類 類別使得無需建立物件類的子類就能完成同樣的工作 一 建立類別 1 宣告類別 宣告類別與宣告類的形式很相似 ...