**自: http://www.cnblogs.com/jetz/archive/2008/02/22/1078123.html
專注是力量的秘訣－注意力的分配
似乎是拿破崙說的，專注是力量的秘訣，我深以為然，但似乎總是不得其法，覺得日子都蹉跎在鬱悶與彷徨中，很難專心做一件事情。今天看這段講得更清楚，注意力分為幾個方面，專一的注意力該怎樣得到。
我們的心靈裡有一盞探照燈，每時每刻，我們只能意識它照到的地方，這就是注意。它將我們的心靈從一處帶向另一處。一般情況下，我們的注意都要在三個領域之間不斷切換，這就是感知覺、動作控制和心理感受。
感知覺提供給我們外部世界和身體情況的資訊。看到馬路上車來車往，聽到附近有人叫你，跑步以後感覺胸悶，肌肉痠痛。或者很久不吃飯，腹中飢餓。這都是感知覺的內容。
你每天都要作各種動作。這些動作對不對？得體不得體？都是你要考慮的。這屬於動作控制的範疇。
同時，你還會感受到自己的內心世界。你知道自己在想什麼，你能感受到自己的情緒和慾望。
只要我們在行動，我們的注意力就不停地在這三者間切換。
a、你會邊騎車邊想問題，但到了路口，你不得不觀察過往車輛。這個時候，注意從內心世界轉到感知覺。
b、會場上，你坐在台下的時候，會觀察周圍的情況。如果你上台演說，注意力會轉移到自己的言談舉止上來。這個時候，注意力從感覺覺轉移到動作控制。
c、學生會在聽課時走神。這個時候，注意力從感知覺轉移到內心世界。
d、優秀足球運動員能夠在帶球跑的時候抬頭觀察場上情況。這時候，他的注意力從動作控制轉移到感知覺。
在有的場合裡，我們的注意可能更集中於外部環境。比如在電影院裡，一部驚險電影會讓我們忘記自己的內心煩惱，也不需要我們做什麼動作。
有的時候，我們的注意更集中在動作控制上。比如在練習駕車的時候，在體育課上練習乙個新動作的時候。或者第一次上台演講的時候，你都更關注自己的動作完成得怎麼樣？而對周圍情況的感知則會變得狹窄而模糊。
有的時候，我們的注意更集中在內心感受上。比如在入睡前，我們既不聽也不看，更不做動作，你的注意力完全集中在內心體驗上。
大部分情況下，我們的注意力更多地分配在感知覺和動作控制上。和內心感受相比，感知覺訊號很鮮明，更能吸引我們。而動作控制決定了我們眼下的工作效果，它強制著我們去注意。
很多白領都有這樣的念頭：我這段時間太忙了，真想靜下來獨處一段時間。從注意力分配的角度看，他正是希望能夠有機會擺脫對外部世界和動作的注意，去關注一下自己的內心世界。
然而，一旦人們工作負荷不足，生活圈子有限，缺乏外部世界的資訊，也不用對動作進行關注，便很容易退縮回自己的內心世界。這些人會變得過分敏感，一驚一乍。注意力過度集中在內心世界，許多心理問題都來自於這個原因。
注意力漂移
在學習李笑來的一本講自學的新書時，我學習到乙個概念 注意力漂移，這個概念很好的概況了自己有時候在生活工作中的一種狀態。如果你對上面的場景特別熟悉，那麼需要自己注意了，如果上面的場景經常在你的生活工作 現，你可能並不是乙個高效的工作者。在上面的例子中，我發現時間過去了，自己想做的工作卻幾乎沒有進展，問...
注意力機制
從網路結構本身的角度出發，可以從以下四個維度來提公升卷積神經網路的效能，分別是 深度 resnet 寬度 wideresnet 基數 resnext 和注意力 senet 一般來說，網路越深，所提取到的特徵就越抽象 網路越寬，其特徵就越豐富 基數越大，越能發揮每個卷積核獨特的作用 而注意力則是一種能...
注意力機制
深度學習中的attention，源自於人腦的注意力機制，當人的大腦接受到外部資訊，如視覺資訊 聽覺資訊時，往往不會對全部資訊進行處理和理解，而只會將注意力集中在部分顯著或者感興趣的資訊上，這樣有助於濾除不重要的資訊，而提最早將attention利用在影象處理上的出發點是，希望通過乙個類似於人腦注意力...