softmax把一些輸入對映為0-1之間的實數,並且歸一化保證和為1,因此多分類的概率之和也剛好為1**或參考:小白都能看懂的softmax詳解
在機器學習尤其是深度學習中,softmax是個非常常用而且比較重要的函式,尤其在多分類的場景中使用廣泛。他把一些輸入對映為0-1之間的實數,並且歸一化保證和為1,因此多分類的概率之和也剛好為1。
首先我們簡單來看看softmax是什麼意思。顧名思義,softmax由兩個單詞組成,其中乙個是max。對於max我們都很熟悉,比如有兩個變數a,b。如果a>b,則max為a,反之為b。用偽碼簡單描述一下就是if a > b return a; else b
。
另外乙個單詞為soft。max存在的乙個問題是什麼呢?如果將max看成乙個分類問題,就是非黑即白,最後的輸出是乙個確定的變數。更多的時候,我們希望輸出的是取到某個分類的概率,或者說,我們希望分值大的那一項被經常取到,而分值較小的那一項也有一定的概率偶爾被取到,所以我們就應用到了soft的概念,即最後的輸出是每個分類被取到的概率。
接下來開始求導
參考文獻:
1.2.回歸
小白都能看懂的block
首先說明一下,我自己也是乙個小白 這是我對block的一點認識或總結,有不對的地方,希望大家指出來 block就是乙個 塊,用來執行一小段程式的,通常我們定義乙個block 可以用它的基本模型,返回值型別 變數的名字 引數型別 例如 int myblock int 這就是定義了乙個block 這個變...
SQL基本語法 小白都能看懂
本篇主要從以下四個方面介紹,主要是比較基礎的語法,讓每一位學習者都能看懂。本文中資料庫名為testdemo,資料表的名字為tb user 1.ddl 資料庫定義語言 ddl主要是針對建立表時對錶結構的定義,使用中主要體現在以下三個關鍵字上 注 資料庫標準中要求關鍵字都應大寫,為了學習方便,這裡進行小...
新手都能看懂的Dubbo!
1.dubbo架構 上述節點簡單說明 呼叫關係說明 1.服務容器負責啟動,載入,執行服務提供者。2.服務提供者在啟動時,向註冊中心註冊自己提供的服務。3.服務消費者在啟動時,向註冊中心訂閱自己所需的服務。4.註冊中心返回服務提供者位址列表給消費者,如果有變更,註冊中心將基於長連線推送變更資料給消費者...