深度學習之選擇GPU或CPU方法

2021-08-29 17:57:21 字數 2113 閱讀 5194

import os

os.environ["cuda_device_order"] = "pci_bus_id"

os.environ["cuda_visible_devices"] = "1"

上邊表示使用第二塊gpu執行程式,如果要使用多塊,如第一塊和第三塊,可使用如下方法指定

os.environ["cuda_visible_devices"] = "0,2"
如果想遮蔽輸出資訊,使用以下設定

os.environ['tf_cpp_min_log_level']='3' #close log output
import tensorflow as tf

with tf.device('/gpu:1'):

v1 = tf.constant([1.0, 2.0, 3.0], shape=[3], name='v1')

v2 = tf.constant([1.0, 2.0, 3.0], shape=[3], name='v2')

sumv12 = v1 + v2

with tf.session(config=tf.configproto(log_device_placement=true)) as sess:

print sess.run(sumv12)

選擇gpu後,可以設定每塊占用的比例,因為tensorflow預設占用全部

gpu_options = tf.gpuoptions(per_process_gpu_memory_fraction=0.2)

with tf.session(graph=detection_graph,

config=tf.configproto(gpu_options=gpu_options)) as sess:

也可以設定按需分配視訊記憶體

gpu_options = tf.gpuoptions(allow_growth=true)

with tf.session(graph=detection_graph,

config=tf.configproto(gpu_options=gpu_options)) as sess:

如果想強制使用cpu執行tensorflow,只需要將cuda_visible_devices這個引數設為空即可,如下

os.environ["cuda_visible_devices"] = " "
如果想要指定cpu核數,使用如下方法 

cpu_num=10#指定使用的cpu個數

config = tf.configproto(device_count=,

inter_op_parallelism_threads = cpu_num,

intra_op_parallelism_threads = cpu_num,

log_device_placement=true)

# 開始訓練

with tf.session(config=config) as sess:

#以下編寫自己的**

log_device_placement = true可以把程式執行時跑的裝置情況給輸出

pytorch預設使用從0開始的gpu,如果gpu0正在執行程式,需要指定其他gpu。

有如下兩種方法來指定需要使用的gpu。

類似tensorflow指定gpu的方式,使用cuda_visible_devices。

cuda_visible_devices=1 python my_script.py
import os

os.environ["cuda_visible_devices"] = "2"

見**:

import torch

torch.cuda.set_device(id)

該函式見 pytorch-master\torch\cuda\__init__.py。

不過官方建議使用cuda_visible_devices,不建議使用 set_device 函式。

(深度學習)為什麼GPU比CPU慢?

gpu由於擅長矩陣運算,在深度學習尤其是計算機視覺方面得到了廣泛的應用。前幾天在我廢了好大勁在我的的電腦上安裝了tensorflow 2.0 gpu,然後就迫不及待地去體驗一下gpu的速度。我去tensorflow官網上直接複製了一段 就是最簡單的神經網路識別mnist手寫數字資料集。然後分別用gp...

AI開發 深度學習如何選擇GPU?

機器推理在深度學習的影響下,準確性越來越高 速度越來越快。深度學習對人工智慧行業發展的貢獻巨大,這得益於現階段硬體計算能力的提公升 網際網路海量訓練資料的出現。本篇文章主要介紹深度學習過程中如何選擇合適的gpu顯示卡,如果你是深度學習新手,希望這篇文章對你有幫助。推理用到的硬體分兩種,一種是專業ai...

(深度學習)GPU比CPU慢?快看這裡!

gpu由於擅長矩陣運算,在深度學習尤其是計算機視覺方面得到了廣泛的應用。前幾天在我廢了好大勁在我的的電腦上安裝了tensorflow 2.0 gpu,然後就迫不及待地去體驗一下gpu的速度。我去tensorflow官網上直接複製了一段 就是最簡單的神經網路識別mnist手寫數字資料集。然後分別用gp...