神經網路和深度學習(一) 初識神經網路

2021-09-21 05:49:22 字數 951 閱讀 5051

人類的視覺系統是世界上最棒的系統之一,比如下列一串手寫數字:

大多數人都可以一眼看出它是504192。在我們大腦的每乙個半球,都有主要的視覺皮質的輸入依賴於其輸出,這很難理解,所以我們不允許這樣的迴圈。

然而,有些人造神經網路中存在反饋迴路是可能的。這樣的模型稱為遞迴神經網路。這些模型的思想是讓神經元在有限時間裡啟用,然後保持非啟用狀態。這種啟用可以刺激其他神經元在稍後一段時間啟用。這會導致許神經元啟用,隨著時間推移,我們將獲得一串啟用神經元。在這樣的模型中,迴圈不會引起問題,因為乙個神經元的輸出只會在稍後的時間影響它的輸入,而不是馬上就影響。

遞迴神經網路的影響力比前饋神經網路的小,一部分原因是到目前為止,遞迴網路的學習演算法不那麼強大。但是遞迴網路仍然很有研究意義。比起前饋網路,它更接近我們大腦的思維方式。遞迴網路可能解決一些前饋網路很難解決的問題。本書目前只專注於更廣泛使用的前饋網路。

參考原文:

以上是作者對原文的翻譯和理解,有不對的地方請指正。

人類的視覺系統是世界上最棒的系統之一,比如下列一串手寫數字:

大多數人都可以一眼看出它是504192。在我們大腦的每乙個半球,都有主要的視覺皮質的輸入依賴於其輸出,這很難理解,所以我們不允許這樣的迴圈。

然而,有些人造神經網路中存在反饋迴路是可能的。這樣的模型稱為遞迴神經網路。這些模型的思想是讓神經元在有限時間裡啟用,然後保持非啟用狀態。這種啟用可以刺激其他神經元在稍後一段時間啟用。這會導致許神經元啟用,隨著時間推移,我們將獲得一串啟用神經元。在這樣的模型中,迴圈不會引起問題,因為乙個神經元的輸出只會在稍後的時間影響它的輸入,而不是馬上就影響。

遞迴神經網路的影響力比前饋神經網路的小,一部分原因是到目前為止,遞迴網路的學習演算法不那麼強大。但是遞迴網路仍然很有研究意義。比起前饋網路,它更接近我們大腦的思維方式。遞迴網路可能解決一些前饋網路很難解決的問題。本書目前只專注於更廣泛使用的前饋網路。

參考原文:

以上是作者對原文的翻譯和理解,有不對的地方請指正。

神經網路和深度學習(一) 初識神經網路

人類的視覺系統是世界上最棒的系統之一,比如下列一串手寫數字 大多數人都可以一眼看出它是504192。在我們大腦的每乙個半球,都有主要的視覺皮質v1 它包含了1.4億個神經元,在這些神經元之間有數百億的接觸。然而人類的視覺不僅僅包含了v1 而是一系列的視覺皮質v1 v2,v3,v 4,v5 逐步進行更...

神經網路和深度學習(一) 初識神經網路

人類的視覺系統是世界上最棒的系統之一,比如下列一串手寫數字 大多數人都可以一眼看出它是504192。在我們大腦的每乙個半球,都有主要的視覺皮質的輸入依賴於其輸出,這很難理解,所以我們不允許這樣的迴圈。然而,有些人造神經網路中存在反饋迴路是可能的。這樣的模型稱為遞迴神經網路。這些模型的思想是讓神經元在...

神經網路和深度學習(一) 初識神經網路

人類的視覺系統是世界上最棒的系統之一,比如下列一串手寫數字 大多數人都可以一眼看出它是504192。在我們大腦的每乙個半球,都有主要的視覺皮質的輸入依賴於其輸出,這很難理解,所以我們不允許這樣的迴圈。然而,有些人造神經網路中存在反饋迴路是可能的。這樣的模型稱為遞迴神經網路。這些模型的思想是讓神經元在...