1.一键安装docker 测试ok

curl -fsSL https://get.docker.com | sh

2.安装cuda支持 通用的应该没问题

也可以搜索安装 cuda版docker

distribution=$(. /etc/os-release;echo $ID$VERSION_ID) \
&& curl -s -L https://nvidia.github.io/libnvidia-container/gpgkey | sudo gpg --dearmor -o /usr/share/keyrings/nvidia-container-toolkit.gpg \
&& curl -s -L https://nvidia.github.io/libnvidia-container/$distribution/libnvidia-container.list | \sed 's#deb https://#deb [signed-by=/usr/share/keyrings/nvidia-container-toolkit.gpg] https://#g' | \sudo tee /etc/apt/sources.list.d/nvidia-container-toolkit.list

安装工具包

sudo apt-get update
sudo apt-get install -y nvidia-container-toolkit

配置 runtime：

sudo nvidia-ctk runtime configure --runtime=docker sudo systemctl restart docker

3.检查 Docker 是否支持 NVIDIA 运行时

docker info | grep -i runtime

结果 包含 nvidia 就是支持gpu，没有就是不支持。

或者更详细地检查

结果：

docker info | grep -A5 -B5 -i nvidia

为空 是不支持，有东西是支持。