學習深度學習，顯示卡(gpu)可以說是比不可少的投資。本文試圖**哪個gpu才是學習入門價效比最高的？
我們先來比較一下cpu和gpu的不同，下圖是乙個簡化的處理器內部結構圖[1]，其中：
我們可以很明顯地看出，gpu擁有更多alu，能夠進行強大的計算。cpu是乙個有多種功能的優秀領導者，優點在於排程、管理、協調能力強，計算能力則位於其次。gpu相當於乙個接受cpu排程的「擁有大量計算能力」的員工。
深度學習需要進行大量的矩陣運算，gpu剛好滿足了這一要求。同時gpu還有其他優點：
針對不同深度學習架構，gpu引數的選擇優先順序是不一樣的，總體來說分兩條路線：
卷積網路和transformer：張量核心(gpu)>flops（每秒浮點運算次數）>視訊記憶體頻寬》16位浮點計算能力
迴圈神經網路：視訊記憶體頻寬》16位浮點計算能力》張量核心(gpu)>flops
tim dettmers對比了各個廠商的顯示卡，繪製了下圖：
總之，根據量子位對tim dettmers博文的翻譯，在gpu的選擇上有三個原則：
使用gtx 1070或更好的gpu；
購買帶有張量核心的rtx gpu；
在gpu上進行原型設計，然後在tpu或雲gpu上訓練模型。
針對不同研究目的、不同預算，tim給出了如下的建議：
更新：2020.09.09
時代變了，大人：rtx 3090時代，哪款顯示卡配得上我的煉丹爐？
^gpu與cpu比較，gpu為什麼更適合深度學習?
^為什麼gpu對於深度學習如此重要?
^深度學習gpu最全對比，到底誰才是價效比之王？ | 選購指南
^gpu與cpu比較，gpu為什麼更適合深度學習?
^gpu（下）：為什麼深度學習需要使用 gpu？
深度學習 訓練吃顯示卡 學習深度學習，如何選購顯示卡？
學習深度學習，顯示卡 gpu 可以說是比不可少的投資。本文試圖 哪個gpu才是學習入門價效比最高的？為什麼深度學習需要gpu？我們先來比較一下cpu和gpu的不同，下圖是乙個簡化的處理器內部結構圖dram即動態隨機訪問儲存器，是常見的系統記憶體。cache儲存器 電腦中作高速緩衝儲存器，是位於cpu...
深度學習配置
安裝顯示卡驅動前需要安裝gcc 安裝gcc報錯 linux安裝時出現 有一些軟體包無法被安裝。如果您用的是 unstable 發行版，這也許是 因為系統無法達到您要求的狀態造成的 解決方案 sudo apt get update 在ubuntu下安裝gcc 和其他一些linux系統有點不一樣 方法1...
深度學習 訓練吃顯示卡 在深度學習中餵飽GPU
新智元推薦 前段時間訓練了不少模型，發現並不是大力出奇蹟，顯示卡越多越好，有時候 1 張 v100 和 2 張 v100 可能沒有什麼區別，後來發現瓶頸在其他地方，寫篇文章來總結一下自己用過的一些小 trick，最後的效果就是在 cifar 上面跑 vgg 的時間從一天縮到了乙個小時，imagene...