盡量滿足每個sm上面的最大執行緒數。
每個sm支援的執行緒塊有上限，所以每個執行緒塊的執行緒數不能太少，並且最好為32或16的倍數。
當乙個sm中的block的所有執行緒形成阻塞（同步或者等待）時，相應的sm會閒置導致效率下滑。通常讓block的數目是sm的2倍以上，方便sm對其進行排程，使其在時間軸上重疊來提高利用率。
對每個執行緒塊進行設定時，如果使用了暫存器，需要明確每個執行緒最大支援的暫存器個數，防止因為每個執行緒使用過多暫存器而導致每個時刻sm所能處理的執行緒數急劇下降。
當一維的執行緒塊不足以滿足計算需求或是在處理影象等二維資料時，可以使用二維執行緒塊。
cuda 學習筆記（二）cuda於cpu時間對比
include cuda runtime.h include device launch parameters.h include include include include include define row 1024 define col 1024 long long g cpu calc...
二 cuda學習筆記之 cuda基本概念
cuda c是對c c 語言進行拓展後形成的變種，相容c c 語法，檔案型別為.cu檔案，編譯器使用的是nvcc。相比傳統的c c 主要新增了一下幾個方面 1.一維結構 首先從簡單的一維結構來確認執行緒索引。如下圖所示 grid在x,y,z方向上都有block,block在x,y,z三個方向都有th...
cuda合併訪問的要求 CUDA學習筆記（二）
1.高效公式 最大化計算強度 math memory 即 數學計算量 每個執行緒的記憶體 2.合併全域性記憶體 按順序讀取的方式最好 3.避免執行緒發散 執行緒發散 同乙個執行緒塊中的執行緒執行不同內容的 1 kernel中做條件判斷 2 迴圈長度不一 1 檢視本機引數 注 kernel的載入中，自...