使用GPU跑程序

绝地灬酷狼 2022-05-13 20:17 180阅读 0赞

查看机器上GPU情况

命令： nvidia-smi

功能：显示机器上gpu的情况

命令： nvidia-smi -l

功能：定时更新显示机器上gpu的情况

命令：watch -n 3 nvidia-smi

功能：设定刷新时间（秒）显示GPU使用情况

![Center][]

其中左上侧有0、1、2、3的编号，表示GPU的编号，在后面指定GPU时需要使用这个编号。

在终端执行程序时指定GPU

CUDA\_VISIBLE\_DEVICES=1   python  your\_file.py

这样在跑你的网络之前，告诉程序只能看到1号GPU，其他的GPU它不可见

可用的形式如下：

CUDA\_VISIBLE\_DEVICES=1           Only device 1 will be seen  
CUDA\_VISIBLE\_DEVICES=0,1         Devices 0 and 1 will be visible  
CUDA\_VISIBLE\_DEVICES="0,1"       Same as above, quotation marks are optional  
CUDA\_VISIBLE\_DEVICES=0,2,3       Devices 0, 2, 3 will be visible; device 1 is masked

CUDA\_VISIBLE\_DEVICES=""          No GPU will be visible

在Python代码中指定GPU

import os

os.environ\["CUDA\_DEVICE\_ORDER"\] = "PCI\_BUS\_ID"  
os.environ\["CUDA\_VISIBLE\_DEVICES"\] = "0"

设置定量的GPU使用量

config = tf.ConfigProto()   
config.gpu\_options.per\_process\_gpu\_memory\_fraction = 0.9 \# 占用GPU90%的显存   
session = tf.Session(config=config)

设置最小的GPU使用量

config = tf.ConfigProto()   
config.gpu\_options.allow\_growth = True   
session = tf.Session(config=config)

[Center]: /images/20220514/d51b29615d044ec2a1e8106635fce24a.png

发表评论取消回复

表情：

评论列表（有 0 条评论，180人围观）

还没有评论，来说两句吧...

相关阅读

相关 1.使用nsys分析GPU应用程序

例子 GPU 跨步矩阵加法 vector-add.cu include <stdio.h> / Refactor host funct

痛定思痛。/ 2022年12月23日 03:54/ 0 赞/ 275 阅读

相关指定使用哪个GPU运行程序

一：首先使用命令`nvidia-smi`查看有哪些可以使用的GPU 二：指定GPU运行Python程序 CUDA_VISIBLE_DEVICES=1 python

我不是女神ヾ/ 2022年11月21日 06:57/ 0 赞/ 329 阅读

相关 tensorflow gpu使用说明

转自 [ http://blog.csdn.net/hjxu2016/article/details/71402998][http_blog.csdn.net_hjxu2016

约定不等于承诺〃/ 2022年06月04日 03:05/ 0 赞/ 251 阅读

相关使用GPU跑程序

查看机器上GPU情况命令： nvidia-smi 功能：显示机器上gpu的情况命令： nvidia-smi -l 功能：定时更新显示机器上gpu的情况命令：wa

绝地灬酷狼/ 2022年05月13日 20:17/ 0 赞/ 181 阅读

相关程序是怎样跑起来的

<table> <tbody> <tr> <td><font> 写在前面</font></td> </tr> </tbody> </table>

清疚/ 2022年05月11日 04:04/ 0 赞/ 232 阅读

相关【tensorflow 学习】 gpu使用

由于tensorflow默认抢占服务器所有GPU显存，只允许一个小内存的程序也会占用所有GPU资源。下面提出使用GPU运行tensorflow的几点建议： 1.在运行之前先查

傷城~/ 2022年04月18日 00:11/ 0 赞/ 723 阅读

相关小程序实现跑马灯效果

跑马灯效果比较常见，一般做电商类的小程序都会使用到; ![在这里插入图片描述][20181112114423109.gif] 跑马灯效果的制作制作方式很简单，先方

素颜马尾好姑娘i/ 2022年04月17日 02:55/ 0 赞/ 569 阅读

相关 tensorflow使用指定gpu

持续监控GPU使用情况命令： $ watch -n 10 nvidia-smi 一、指定使用某个显卡如果机器中有多块GPU，tensorflow会默认吃掉所有能

悠悠/ 2022年01月14日 11:55/ 0 赞/ 391 阅读

相关查看是否用GPU跑的TensorFlow程序

查看是否用GPU跑的TensorFlow程序第一种方法，直接输出日志法（推荐） import tensorflow as tf sess = tf.Session

桃扇骨/ 2022年01月12日 06:11/ 0 赞/ 440 阅读

相关 Pytorch 使用GPU加速

Pytorch中使用`torch.device()`选取并返回抽象出的设备，然后在定义的网络模块或者Tensor后面加上`.to(device变量)`就可以将它们搬到设备上了。

我不是女神ヾ/ 2021年11月04日 16:52/ 0 赞/ 776 阅读