目录

构建docker容器

使用 Dockerfile 构建自定义镜像

---

构建docker容器

docker images
docker pull pytorch/torchserve:latest-gpu
docker imagesdocker run -d --rm --gpus all --name torchserve-dev-bg -u $(id -u):$(id -g) -v /nas:/nas pytorch/torchserve:latest /bin/bash
映射了端口没测：
docker run -d --rm --gpus all -p 8080:8080 -p 8081:8081 --name torchserve-music -u $(id -u):$(id -g) -v /nas:/nas pytorch/torchserve:latest-gpu /bin/bash将-it（交互式前台运行）改为-d（后台运行）
docker exec -it torchserve-dev-bg /bin/bash
docker stop torchserve-music  # 停止容器
docker rm torchserve-music    # 删除容器

如果容器启动后立即退出，可以尝试不带 -d 参数运行，以便查看错误信息：

docker run --rm --gpus all \-p 8080:8080 -p 8081:8081 \--name torchserve-music \-v /nas/lbg/project/tool_pack/model_store:/model-store \pytorch/torchserve:latest-gpu \torchserve --start --model-store /model-store --models ast-audio-classifier.mar

使用 Dockerfile 构建自定义镜像

1. 创建 Dockerfile：

cat > Dockerfile << 'EOF'
FROM pytorch/torchserve:latest-gpu
RUN pip install transformers torchaudio soundfile nvgpu
EOF

1. 构建自定义镜像：

docker build -t torchserve-gpu-bg:latest .

1. 使用自定义镜像启动服务：

docker run --rm --gpus all \-p 8080:8080 -p 8081:8081 \--name torchserve-music \-v /nas/lbg/project/tool_pack/musicdetectmodelservice/model_store:/model-store \torchserve-gpu-bg:latest \torchserve --foreground --model-store /model-store --models ast=ast-audio-classifier.mar