利用docker和GPU进行Pycharm调试

Question

在PyCharm中调试一个Python应用程序，其中我使用Tensorflow将解释器设置为自定义docker映像，因此需要GPU。问题是，据我所知，Pycharm的命令构建没有提供一种发现可用GPU的方法。

使用以下命令输入容器，指定要使哪些GPU可用(--GPUs):

docker run -it --rm --gpus=all --entrypoint="/bin/bash" 3b6d609a5189        # image has an entrypoint, so I overwrite it

在容器内，我可以运行nvidia-smi查看是否找到GPU，并确认Tensorflow找到了它，使用：

from tensorflow.python.client import device_lib
device_lib.list_local_devices()
# physical_device_desc: "device: 0, name: Quadro P2000, pci bus id: 0000:01:00.0, compute capability: 6.1"]

如果我不使用--GPUs标志，就不会发现GPU，这是预期的。注意：使用docker 19.03版及更高版本，本机支持Nvidia运行时，因此不需要nvidia-docker，而且docker-run参数--runtime=Nvidia也不推荐使用。相关线程。

下面是运行的配置：

（我意识到其中一些路径看起来可能不正确，但现在这不是问题）

错误消息显示可以加载CUDA库（即在LD_LIBRARY_PATH上找到is)，但仍未找到设备。这就是为什么我认为docker运行参数--gpus=all必须设置在某个地方的原因。我在Pycharm找不到办法。

1. 在PyCharm中，使用Docker执行模板配置（而不是Python模板），在这里可以指定运行参数，因此我希望传递--GPUS=all，但这些选项的解析器似乎不支持这一点:

{
    "runtimes": {
        "nvidia": {
            "runtimeArgs": ["gpus=all"]
        }
    }
}

但是，我不确定这是正确的格式。我已经尝试了上面的一些变体，但没有得到GPU的识别。上面的示例至少可以被解析，并允许我重新启动docker守护进程而不会出错。

我注意到在正式的Tensorflow docker映像中，他们安装了一个名为nvinfer-runtime-trt-repo-ubuntu1804-5.0.2-ga-cuda10.0的包（通过apt install)，这听起来像是一个很棒的工具，尽管看起来只是针对TensorRT的。我把它添加到我的Dockerfile中作为一个暗箭，但不幸的是它并没有解决这个问题。

将nvidia_visible_devices=all等添加到PyCharm配置的环境变量中，但没有运气。

Answer 1

Docker GPU的支持现在可以在PyCharm 2020.2中使用，而不需要全局default-runtime。只需在“配置”窗口的“Docker容器设置”部分下设置--GPUS ALL。

如果没有NVIDIA GPU设备存在：/dev/nvidia0不存在仍然发生错误，请确保取消选中Run with Python Console，因为它仍然不能正常工作。