電腦科學 2019 01 貝葉斯卷積神經網路

2021-09-19 04:18:55 字數 1165 閱讀 7137

人工神經網路是一種互連系統,它通過學習例項來完成給定的任務,而不必事先了解該任務。這是通過為每個節點中的權重找到最佳點估計來完成的。一般來說,使用點估計作為權重的網路在大型資料集上表現良好,但它們無法在資料很少或沒有資料的區域中表達不確定性,從而導致決策過於自信。

本文提出了一種基於變分推理的貝葉斯卷積神經網路(bayescnn),它引入了權值上的概率分布。此外,所提出的bayescnn結構也被應用於影象分類、影象超解析度和生成對抗網路等任務中。bayescnn是基於backprop提出的貝葉斯模型,它匯出了真後驗概率的變分近似。我們提出的方法不僅在相同的架構中實現了與頻率推斷相當的效能,而且還包含了不確定性和規則化的測量,還進一步消除了在模型中使用的dropout。此外,我們還**了模型**是如何基於認知和偶然的不確定性,最後,我們提出了修剪貝葉斯架構的方法,使其更具計算效率。

**的第一部分對貝葉斯神經網路進行了解釋,並將其應用於影象分類任務中。分類結果與基於mnist、cifar-10和cifar-100資料集的點估計架構進行了比較。此外,還計算了不確定性,對貝葉斯架構進行了修剪,並對結果進行了比較。在**的第二部分中,該概念進一步應用於其他計算機視覺任務,即影象超解析度和生成對抗網路。對貝葉斯神經網路的概念進行了測試,並與同類領域的其他概念進行了比較。

1 引言

1.1 問題描述

1.2 當前研究概況

1.3 我們的假設

1.4 本文研究貢獻

2 專案背景

2.1 神經網路

2.2 基於概率的機器學習

2.3 貝葉斯學習的不確定性

2.4 後向傳播

2.5 模型權重修剪

3 相關研究工作

4 相關概念

4.1 變差推斷的貝葉斯卷積神經網路

4.2 cnn中的不確定估計

4.3 模型修剪

5 經驗分析

5.1 實驗方法

5.2 案例1:小型資料集(mnist、cifar-10)

5.3 案例2:大型資料集(cifar-100)

5.4 不確定估計

5.5 模型修剪

5.6 訓練時間

6 應用

6.1 影象超解析度的bayescnn應用

6.2 生成對抗網路的bayescnn應用

7 結論與未來研究展望

附錄a 實驗規範

附錄b 如何重複實驗結果

電腦科學

電腦科學就是研究計算 如何表示和處理資訊。解決問題 你將學會各種演算法策略,比如分而治之法 遞迴 探索法 貪婪搜尋和隨機演算法,它們可以幫你分解和解決任何一種問題。邏輯 你開始使用更準確和正式的方式進行思考,比如抽象 布林邏輯 數字理論和集合理論,你因此能夠以一種嚴謹的方式來解決問題。資料 你接觸到...

計算機與電腦科學初識

1.為何要學習計算機與計算科學?這是乙個智慧型化與資料化的時代,計算解決自然社會問題,已經成為這個資料時代的基本需求了。而計算機自動化高效處理大量問題這種機器計算也已成為一種常態,為實現機器更好的自動計算,計算科學這門藝術便誕生了。計算科學從一種思維高度來決定我們對於計算的認知,讓我們更好把握計算的...

這是電腦科學

演算法對於計算機的發明和發展,真的是.太重要了。我們永遠都不會忘記,是數學家們的不斷努力,才將計算機的構想變為現實。而計算機也是通過數學 邏輯 運算,幫助人們解決現實問題的。所以能把演算法搞到noi和icpc金銀牌的程度,了不起哉 前途光明哉 但是,也應該看到,電腦科學並不是僅僅有演算法,非演算法的...