巧用 Docker 快速部署 GPU 环境

- 日理万妓 2021-07-26 11:38 457阅读 0赞

公众号关注 「开源Linux」

回复「学习」，有我为您特别筛选的学习资料~

![format_png][]

在 Linux 服务器上使用 GPU 跑深度学习的模型很正常不过。如果我们想用 Docker 实现同样的需求，就需要做些额外的工作。本质上就是我们要在容器里能看到并且使用宿主机上的显卡。在这篇文章里我们就介绍一下 Docker 使用 GPU 的环境搭建。

## Nvidia 驱动 ##

某些命令以 Ubuntu 作为示例。首先宿主机上必现安装 Nvidia 驱动。

这里推荐从 Nvidia 官网下载脚本安装，安装和卸载都比较方便并且适用于任何 Linux 发行版，包括 CentOS，Ubuntu 等。NVIDIA Telsa GPU 的 Linux 驱动在安装过程中需要编译 kernel module，系统需提前安装 gcc 和编译 Linux Kernel Module 所依赖的包，例如 `kernel-devel-$(uname -r)` 等。

### 安装 gcc 和 kernel-dev ###

$ sudo apt install gcc kernel-dev -y

### 安装 Nvidia 驱动 ###

1.  访问 https://www.nvidia.com/Download/Find.aspx
2.  选择对应操作系统和安装包，并单击 \[SEARCH\] 搜寻驱动，选择要下载的驱动版本

![format_png 1][]

1.  在宿主机上下载并执行对应版本安装脚本

$ wget https://www.nvidia.com/content/DriverDownload-March2009/confirmation.php?url=/tesla/450.80.02/NVIDIA-Linux-x86_64-450.80.02.run&lang=us&type=Tesla
    $ chmod +x NVIDIA-Linux-x86_64-450.80.02.run && ./NVIDIA-Linux-x86_64-450.80.02.run

1.  验证

使用 `nvidia-smi` 命令验证是否安装成功，如果输出类似下图则驱动安装成功。

![format_png 2][]

## CUDA 驱动 ##

CUDA（Compute Unified Device Architecture）是显卡厂商 NVIDIA 推出的运算平台。`CUDA™`是一种由 NVIDIA 推出的通用并行计算架构，该架构使 GPU 能够解决复杂的计算问题。它包含了 CUDA 指令集架构（ISA）以及 GPU 内部的并行计算引擎。这里安装的方式和显卡驱动安装类似。

1.  访问官网下载对应版本安装包，https://developer.nvidia.com/cuda-toolkit-archive  
      
    
    
    ![format_png 3][]

1.  配置环境变量

$ echo 'export PATH=/usr/local/cuda/bin:$PATH' | sudo tee /etc/profile.d/cuda.sh 
    $ source /etc/profile

## nvidia-docker2 ##

Docker 的安装这里就不展开了，具体查看官方文档非常详细。

这里我们就直接介绍安装 nvidia-docker2.

既然叫 nvidia-docker2 就有 nvidia-docker1 就是它的 1.0 版本目前已经废弃了，所以注意不要装错。

这里先简单说一下 nvidia-docker2 的原理，nvidia-docker2 的依赖由下几部分组成.

*  libnvidia-container
 *  nvidia-container-toolkit
 *  nvidia-container-runtime  
      
    
    
    ![format_png 4][]

nvidia-container-runtime 是在 runc 基础上多实现了 nvidia-container-runime-hook (现在叫 nvidia-container-toolkit)，该 hook 是在容器启动后（Namespace已创建完成），容器自定义命令(Entrypoint)启动前执行。当检测到 NVIDIA\_VISIBLE\_DEVICES 环境变量时，会调用 libnvidia-container 挂载 GPU Device 和 CUDA Driver。如果没有检测到 NVIDIA\_VISIBLE\_DEVICES 就会执行默认的 runc。

下面分两步安装

1.  设置 repository 和 GPG key

$ distribution=$(. /etc/os-release;echo $ID$VERSION_ID)
    $ curl -s -L https://nvidia.github.io/nvidia-docker/gpgkey | sudo apt-key add -
    $ curl -s -L https://nvidia.github.io/nvidia-docker/$distribution/nvidia-docker.list | sudo tee /etc/apt/sources.list.d/nvidia-docker.list

1.  安装

$ sudo apt-get update
    $ sudo apt-get install -y nvidia-docker2
    $ sudo systemctl restart docker

1.  验证

执行以下命令：

$ docker run --rm --gpus all nvidia/cuda:10.2-base nvidia-smi

如果输出跟直接在宿主机上执行 `nvidia-smi` 一致则说明安装成功。如果跑的深度学习模型使用的是 tensorflow 可以在容器里执行:

import tensorflow as tf
    tf.contrib.eager.num_gpus()

如果输出了宿主机上的 Nvidia 显卡数量，则模型能使用到显卡加速。如果使用的是 pytorch 可以在容器里执行：

import torch
    torch.cuda.is_available()

如果输出 True 证明环境也成功了，可以使用显卡。

1.  使用示例

*  使用所有显卡

$ docker run --rm --gpus all nvidia/cuda nvidia-smi 
    $ docker run --rm --runtime=nvidia -e NVIDIA_VISIBLE_DEVICES=all nvidia/cuda nvidia-smi

*  指明使用哪几张卡

$ docker run --gpus '"device=1,2"' nvidia/cuda nvidia-smi 
    $ docker run --rm --runtime=nvidia -e NVIDIA_VISIBLE_DEVICES=1,2 nvidia/cuda nvidia-smi

到这里在 Docker 下使用 Nvidia 显卡加速计算的基础环境搭建就介绍完了。后续我们可以继续研究一下 K8S 下调度 GPU 的实现。

> 本文转载自：「lxkaka」，原文：https://lxkaka.wang/docker-nvidia/，版权归原作者所有。

![format_png 5][]

关注「开源Linux」加星标，提升IT技能

[format_png]: /images/20210726/3eae46ef983742529f3664a1c54e4ae4.png
[format_png 1]: /images/20210726/41a2cc34ddd14b19ad3dc9ca06834516.png
[format_png 2]: /images/20210726/9fe2de82063a4a6ebc1a24991baa00d2.png
[format_png 3]: /images/20210726/550562d463ae459c8dd7ce63aab6dbc0.png
[format_png 4]: /images/20210726/8d73a63f0f7445f087907bbaf31bca9b.png
[format_png 5]: /images/20210726/3b15d6847bae46e5878eacfffd7984ab.png