隱式同步：
如果主機執行緒在它們之間發出以下任一操作，則來自不同流的兩個命令不能同時執行：
對於支援併發核心執行且計算能力為3.0或更低的裝置，任何需要依賴性檢查以檢視流式核心啟動是否完成的操作：
重疊行為：
兩個流之間的執行重疊量取決於向每個流發出命令的順序，以及裝置是否支援資料傳輸和核心執行，並行核心執行或併發資料傳輸
例如，在不支援併發資料傳輸的裝置上，建立和銷毀**示例的兩個流根本不重疊，因為從裝置的儲存器複製之後從主機到裝置的儲存器複製被發布到流[1] 到主機被傳送到流[0]，所以一旦從裝置到主機的儲存器拷貝發出到流[0]，它就只能啟動完成。 如果**按以下方式重寫（並且假設裝置支援資料傳輸和核心執行的重疊）
for (int i = 0; i < 2; ++i)
cudamemcpyasync(inputdevptr + i * size, hostptr + i * size,
size, cudamemcpyhosttodevice, stream[i]);
for (int i = 0; i < 2; ++i)
mykernel << <100, 512, 0, stream[i] >> >
(outputdevptr + i * size, inputdevptr + i * size, size);
for (int i = 0; i < 2; ++i)
cudamemcpyasync(hostptr + i * size, outputdevptr + i * size,
size, cudamemcpydevicetohost, stream[i]);
CUDA學習（九十三）
簡化gpu程式設計 儲存空間的統一意味著主機和裝置之間不再需要顯式儲存器傳輸。在託管記憶體空間中建立的任何分配都會自動遷移到需要的位置。程式以兩種方式之一分配託管記憶體 通過cudamallocmanaged 例程，它在語義上類似於cudamalloc 或者通過定義乙個全域性的 managed 變數...
CUDA學習（三十三）
最大化指令吞吐量 為了最大化指令吞吐量，應用程式應 在本節中，吞吐量以每個多處理器每個時鐘週期的操作次數給出。對於32的變形大小，一條指令對應於32個操作，所以如果n是每個時鐘週期的運算元，則指令吞吐量是每個時鐘週期n 32條指令。所有的吞吐量都是針對乙個多處理器的。它們必須乘以裝置中的多處理器數量...
CUDA實踐指南（十三）
裝置記憶體空間 cuda裝置使用多個記憶體空間，這些記憶體空間具有不同的特性，這些特性反映了它們在cuda應用程式中的不同用法 這些記憶體空間包括全域性，本地，共享，紋理和暫存器，如圖2所示 合併的訪問要求取決於裝置的計算能力，可以查閱cuda c程式設計指南中。在這些不同的記憶空間中，全域性記憶是...