解决运行出现CUDA error:out of memory的问题

左手的ㄟ右手 2023-10-06 12:21 23阅读 0赞

模型运行出现以下问题，经过查找资料发现解决方案如下：  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzMwNjUzNjMx_size_16_color_FFFFFF_t_70]  
CUDA\_VISIBLE\_DEVICES限制一下使用的GPU。

比如有0,1,2,3号GPU，CUDA\_VISIBLE\_DEVICES=2,3，则当前进程的可见GPU只有物理上的2、3号GPU，此时它们的编号也对应变成了0、1，即cuda:0对应2号GPU，cuda:1对应3号GPU。

如何设置CUDA\_VISIBLE\_DEVICES:

① 使用python的os模块

import os

os.environ\[‘CUDA\_VISIBLE\_DEVICES’\]=‘2, 3’

②直接设置环境变量(linux系统)

export CUDA\_VISIBLE\_DEVICES=2,3

之后程序正常运行  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzMwNjUzNjMx_size_16_color_FFFFFF_t_70 1]

参考：[https://www.cnblogs.com/jisongxie/p/10276742.html][https_www.cnblogs.com_jisongxie_p_10276742.html]

[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzMwNjUzNjMx_size_16_color_FFFFFF_t_70]: https://img-blog.csdnimg.cn/20200704142612160.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzMwNjUzNjMx,size_16,color_FFFFFF,t_70
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzMwNjUzNjMx_size_16_color_FFFFFF_t_70 1]: https://img-blog.csdnimg.cn/20200704142745460.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzMwNjUzNjMx,size_16,color_FFFFFF,t_70
[https_www.cnblogs.com_jisongxie_p_10276742.html]: https://www.cnblogs.com/jisongxie/p/10276742.html

发表评论取消回复

表情：

评论列表（有 0 条评论，23人围观）

还没有评论，来说两句吧...

相关阅读

相关 Kettle出现问题：Out of memory error解决方案

Kettle出现问题：Out of memory error解决方案

傷城~/ 2024年04月24日 20:45/ 0 赞/ 91 阅读

相关 CUDA out of memory怎么解决

"CUDA out of memory" 错误可以通过以下几种方法解决: 1. 减少 batch size 2. 使用 GPU memory 压缩 3. 重新分配 GP

妖狐艹你老母/ 2024年03月25日 18:54/ 0 赞/ 72 阅读

相关解决运行出现CUDA error:out of memory的问题

模型运行出现以下问题，经过查找资料发现解决方案如下： ![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_t

左手的ㄟ右手/ 2023年10月06日 12:21/ 0 赞/ 24 阅读

相关 RunTime Error : cuda out of memory

在运行pytorch出现这个错误，找了很多文章发现并没有作用，而且我的cuda内存明明很够用 RunTime Error : cuda out of memory

素颜马尾好姑娘i/ 2023年06月27日 06:19/ 0 赞/ 37 阅读

相关出现 CUDA out of memory 的解决方法

目录 1. 问题所示 2. 原理分析 3. 解决方法 3.1 调batch\_size大小 3.2 不考虑梯度

短命女/ 2023年01月24日 04:30/ 0 赞/ 504 阅读

相关 RunTime Error : cuda out of memory

cuda out of memory 分为两种情况第一种 CUDA out of memory. Tried to allocate 16.00 MiB ![在这

骑猪看日落/ 2022年12月08日 15:46/ 0 赞/ 218 阅读

相关 RuntimeError: CUDA error: out of memory

写在前面（已解决）记录一下很诡异的情况，实验室两台同样的电脑做服务器，相同的代码在一直使用的机子上是 ok 的，移到另一台配置好的电脑就开始在 `model=mode

「爱情、让人受尽委屈。」/ 2022年11月10日 03:51/ 0 赞/ 258 阅读

相关【经验】RuntimeError: CUDA error: out of memory

最近写代码，指定显卡的时候出现了`CUDA error：out of memory`的错误，用`nvidia-smi`命令查看发现该显卡并没有被占用呀，查了资料后才知道是调用的

待我称王封你为后i/ 2022年10月15日 12:54/ 0 赞/ 224 阅读

相关 CUDA ---- Memory Model

Memory kernel性能高低是不能单纯的从warp的执行上来解释的。比如之前博文涉及到的，将block的维度设置为warp大小的一半会导致load efficien

灰太狼/ 2022年04月14日 06:57/ 0 赞/ 338 阅读

相关 CUDA SHARED MEMORY

在global Memory部分，数据对齐和连续是很重要的话题，当使用L1的时候，对齐问题可以忽略，但是非连续的获取内存依然会降低性能。依赖于算法本质，某些情况下，非连续访问是

灰太狼/ 2022年04月14日 06:54/ 0 赞/ 306 阅读