1，損失函式怎麼選擇？
一般情況下，分類問題需要採用交叉熵作為損失函式。而回歸問題一般採用歐氏距離作為損失函式。交叉熵損失函式：
2,神經網路怎麼進行權重初始化？
一般採用隨機數進行初始化，均勻分布，正態分佈。暫時沒有證據證明那種初始化方法更好，選擇是一般選擇最常用的就可以了。
3，為什麼需要學習率？一般怎麼用？
為了保證x的k+1點在xk的の領域內，如此在泰勒展開時我們就可以忽略高階無窮小項了。一般設定為接近於0（0.0001）的正數作為學習率。在常用框架tensorflow，caffa等中 ，還有自適應學習率的演算法可以使用。
4，人工神經網路的挑戰與改進問題？
①梯度消失問題②退化③區域性極小值④鞍點問題
人工神經網路 多層神經網路
模型原型 sklearn.neural network.mlpclassifier hidden layer sizes 100,activation relu algorithm adam alpha 0.0001,batch size auto learning rate constant le...
人工神經網路
人工神經網路 artificial neural network,ann 通過對大量歷史資料的計算來建立分類和 模型。神經網路的學習就是通過迭代演算法對權值逐步修改優化的過程。學習的目標是通過修改權值是訓練樣本集中所有樣本都能被正確分類。人工神經元用於模擬生物神經元，人工神經元可以看作乙個多輸入 單...
人工神經網路
import numpy as np import matplotlib.pyplot as plt import pandas as pd import seaborn as sns from sklearn.model selection import train test splitann建模...