https://hub.fastgit.org/PaddlePaddle/Serving/tree/v0.6.0/tools
Docker 镜像
(简体中文|English)
该文档维护了 Paddle Serving 提供的镜像列表。
获取镜像
您可以通过两种方式获取镜像。
通过 TAG 直接从 registry.baidubce.com 或 拉取镜像,具体TAG请参见下文的镜像说明章节的表格。
docker pull registry.baidubce.com/paddlepaddle/serving: # registry.baidubce.com
基于 Dockerfile 构建镜像
建立新目录,复制对应 Dockerfile 内容到该目录下 Dockerfile 文件。执行
cd tools
docker build -f ${DOCKERFILE} -t : .
镜像说明
运行时镜像不能用于开发编译。 若需要基于源代码二次开发编译,请使用后缀为-devel的版本。 在TAG列,latest也可以替换成对应的版本号,例如0.5.0/0.4.1等,但需要注意的是,部分开发环境随着某个版本迭代才增加,因此并非所有环境都有对应的版本号可以使用。
镜像选择 操作系统 TAG Dockerfile
CPU development Ubuntu16 latest-devel Dockerfile.devel
GPU (cuda10.1-cudnn7-tensorRT6-gcc54) development Ubuntu16 latest-cuda10.1-cudnn7-gcc54-devel Dockerfile.cuda10.1-cudnn7-gcc54.devel
GPU (cuda10.1-cudnn7-tensorRT6) development Ubuntu16 latest-cuda10.1-cudnn7-devel Dockerfile.cuda10.1-cudnn7.devel
GPU (cuda10.2-cudnn8-tensorRT7) development Ubuntu16 latest-cuda10.2-cudnn8-devel Dockerfile.cuda10.2-cudnn8.devel
GPU (cuda11-cudnn8-tensorRT7) development Ubuntu18 latest-cuda11-cudnn8-devel Dockerfile.cuda11-cudnn8.devel
Java镜像:
registry.baidubce.com/paddlepaddle/serving:latest-java
XPU镜像:
registry.baidubce.com/paddlepaddle/serving:xpu-arm # for arm xpu user
registry.baidubce.com/paddlepaddle/serving:xpu-x86 # for x86 xpu user
运行CUDA容器的要求
运行CUDA容器需要至少具有一个支持CUDA的GPU以及与您所使用的CUDA工具包版本兼容的驱动程序。
运行CUDA容器的机器只需要相应的NVIDIA驱动程序,而CUDA工具包不是必要的。
相关CUDA工具包版本、驱动版本和GPU架构的关系请参阅 nvidia-docker wiki。
(附录)所有镜像列表
编译镜像:
开发镜像:
Env Version Docker images tag OS Gcc Version
CPU >=0.5.0 0.6.0-devel Ubuntu 16 8.2.0
<=0.4.0 0.4.0-devel CentOS 7 4.8.5
Cuda10.1 >=0.5.0 0.6.0-cuda10.1-cudnn7-devel Ubuntu 16 8.2.0
0.6.0 0.6.0-cuda10.1-cudnn7-gcc54-devel Ubuntu 16 5.4.0
<=0.4.0 0.6.0-cuda10.1-cudnn7-devel CentOS 7 4.8.5
Cuda10.2 >=0.5.0 0.6.0-cuda10.2-cudnn8-devel Ubuntu 16 8.2.0
<=0.4.0 Nan Nan Nan
Cuda11.0 >=0.5.0 0.6.0-cuda11.0-cudnn8-devel Ubuntu 18 8.2.0
<=0.4.0 Nan Nan Nan
运行镜像:
运行镜像比开发镜像更加轻量化, 且由于python,运行环境的多种组合,进而导致运行镜像种类过多。 如果您想了解有关信息,请检查文档在Kubernetes上使用Paddle Serving。
注意事项: 如果您在0.5.0及以上版本需要在一个容器当中同时运行CPU server和GPU server,需要选择Cuda10.1/10.2/11的镜像,因为他们和CPU环境有着相同版本的gcc。