import os
os.environ["cuda_device_order"] = "pci_bus_id"
os.environ["cuda_visible_devices"] = "1"
上邊表示使用第二塊gpu執行程式,如果要使用多塊,如第一塊和第三塊,可使用如下方法指定
os.environ["cuda_visible_devices"] = "0,2"
如果想遮蔽輸出資訊,使用以下設定
os.environ['tf_cpp_min_log_level']='3' #close log output
import tensorflow as tf
with tf.device('/gpu:1'):
v1 = tf.constant([1.0, 2.0, 3.0], shape=[3], name='v1')
v2 = tf.constant([1.0, 2.0, 3.0], shape=[3], name='v2')
sumv12 = v1 + v2
with tf.session(config=tf.configproto(log_device_placement=true)) as sess:
print sess.run(sumv12)
選擇gpu後,可以設定每塊占用的比例,因為tensorflow預設占用全部
gpu_options = tf.gpuoptions(per_process_gpu_memory_fraction=0.2)
with tf.session(graph=detection_graph,
config=tf.configproto(gpu_options=gpu_options)) as sess:
也可以設定按需分配視訊記憶體
gpu_options = tf.gpuoptions(allow_growth=true)
with tf.session(graph=detection_graph,
config=tf.configproto(gpu_options=gpu_options)) as sess:
如果想強制使用cpu執行tensorflow,只需要將cuda_visible_devices這個引數設為空即可,如下
os.environ["cuda_visible_devices"] = " "
如果想要指定cpu核數,使用如下方法
cpu_num=10#指定使用的cpu個數
config = tf.configproto(device_count=,
inter_op_parallelism_threads = cpu_num,
intra_op_parallelism_threads = cpu_num,
log_device_placement=true)
# 開始訓練
with tf.session(config=config) as sess:
#以下編寫自己的**
log_device_placement = true可以把程式執行時跑的裝置情況給輸出
pytorch預設使用從0開始的gpu,如果gpu0正在執行程式,需要指定其他gpu。
有如下兩種方法來指定需要使用的gpu。
類似tensorflow指定gpu的方式,使用cuda_visible_devices。
cuda_visible_devices=1 python my_script.py
import os
os.environ["cuda_visible_devices"] = "2"
見**:
import torch
torch.cuda.set_device(id)
該函式見 pytorch-master\torch\cuda\__init__.py。
不過官方建議使用cuda_visible_devices,不建議使用 set_device 函式。
(深度學習)為什麼GPU比CPU慢?
gpu由於擅長矩陣運算,在深度學習尤其是計算機視覺方面得到了廣泛的應用。前幾天在我廢了好大勁在我的的電腦上安裝了tensorflow 2.0 gpu,然後就迫不及待地去體驗一下gpu的速度。我去tensorflow官網上直接複製了一段 就是最簡單的神經網路識別mnist手寫數字資料集。然後分別用gp...
AI開發 深度學習如何選擇GPU?
機器推理在深度學習的影響下,準確性越來越高 速度越來越快。深度學習對人工智慧行業發展的貢獻巨大,這得益於現階段硬體計算能力的提公升 網際網路海量訓練資料的出現。本篇文章主要介紹深度學習過程中如何選擇合適的gpu顯示卡,如果你是深度學習新手,希望這篇文章對你有幫助。推理用到的硬體分兩種,一種是專業ai...
(深度學習)GPU比CPU慢?快看這裡!
gpu由於擅長矩陣運算,在深度學習尤其是計算機視覺方面得到了廣泛的應用。前幾天在我廢了好大勁在我的的電腦上安裝了tensorflow 2.0 gpu,然後就迫不及待地去體驗一下gpu的速度。我去tensorflow官網上直接複製了一段 就是最簡單的神經網路識別mnist手寫數字資料集。然後分別用gp...