Docker部署AI算法教程

docker上部署算法除了一些推理框架外，有时候会自己用torch推理加上一些web应用，下面写下自己用的一套方法。

Docker+cuda10.1+miniconda3+torch1.7.1

docker要求19.03以上才支持cuda

1.安装docker，我这里使用的centos7

$ sudo yum install -y yum-utils device-mapper-persistent-data lvm2
$ sudo yum-config-manager --add-repo https://download.docker.com/linux/centos/docker-ce.repo
$ sudo yum install docker-ce


启动并加入开机启动
$ sudo systemctl start docker
$ sudo systemctl enable docker

2.安装nvidia-container-runtime

sudo yum install nvidia-container-runtime

3.下载cuda docker镜像

docker pull nvidia/cuda:10.1-base-ubuntu18.04

4.启动一个容器（顺便把/hone目录挂载到容器中的/host 方便访问文件）

sudo docker run -it --gpus all --name train_server_1 -v /home:/host nvidia/cuda

5.在容器中安装miniconda3

下载地址：

https://repo.anaconda.com/miniconda/Miniconda3-latest-Linux-x86_64.sh

sh Miniconda3-latest-Linux-x86_64.sh(一路yes 回车就可以了)

再使其python环境生效：:

source ~/.bashrc

5.安装torch

pip install torch==1.7.1

6.运行自己的AI算法代码就行了