（1）參***詳見：
（2）參***詳見：
詞向量也稱為詞嵌入，是指將詞轉換成為向量的形式。
word2vec從實現方法來看分為兩個大的框架：一、hierarchical softmax模型框架；二、negative sampling模型框架。
a.early stopping
b.dropout
c.正則化
d.資料集擴增
gru作為lstm的一種變體，將忘記門和輸入門合成了乙個單一的更新門。同樣還混合了細胞狀態和隱藏狀態，加諸其他一些改動。最終的模型比標準的 lstm 模型要簡單，也是非常流行的變體。
使用lstm的原因之一是解決rnn deep network的gradient錯誤累積太多，以至於gradient歸零或者成為無窮大，所以無法繼續進行優化的問題。gru的構造更簡單：比lstm少乙個gate，這樣就少幾個矩陣乘法。在訓練資料很大的情況下gru能節省很多時間。
sigmoid, tanh, relu ,swish（效能優於relu）,softmax等
有三層網路：input層，一層隱藏層，output輸出層
a.加快收斂速度
b.提高**精度
《人工智慧工程師》回歸樹模型
當資料不是離散型變數而是數值或者連續值時，可以用回歸樹模型進行劃分。回歸樹模型的本質是對樣本空間的劃分。劃分的區域不相交的子區域。注意 區域rj中的樣本的結果是所有的樣本點取平均得到的結果。rss的偏差，這個是指預估結果和真實結果的差異。yi是真實值，yrj是指預估值 最小二分法 為什麼計算量大？空...
機器學習和人工智慧
機械人和人工智慧這個領域確實已進入了瓶頸階段，因為現在的存在的各種人工智慧和機器裝置，都是人工程式設計控制的，再精密的動作都是在按照人工方式模擬下進行的，因此已經進入誤區。試想下 我們生下來就被遺傳了1 1 2的計算功能嗎？一生下來就能有意識的抬起手臂嗎？而目前再簡單的人工智慧都可以完成，但這僅僅侷...
人工智慧軟體工程師軟體清單
visual studio 2015 c4d r18 mdk5 google chrome shaowsocks ubuntu16.04 lts git gui 1.9 p2psearcher pdf天嵌 正點原子 xshell 360office viso xmind8 有道雲筆記 有道詞典 gi...