1、去下载ollama的linux版的压缩包：
地址：https://github.com/ollama/ollama/releases

2、上传到linux中。

3、解压：

tar zxvf ollama-linux-amd64-0.9.6.tgz -C /usr/local/

4、如果仅仅是要手工执行，已经可以了：
ollama serve
5、创建服务文件 /etc/systemd/system/ollama.service：

[Unit]
Description=Ollama Service
After=network-online.target[Service]
ExecStart=/usr/local/bin/ollama serve
User=ollama
Group=ollama
Restart=always
RestartSec=3
Environment="PATH=/root/anaconda3/bin:/root/anaconda3/condabin:/usr/local/cuda/bin:/root/anaconda3/bin:/usr/local/cuda/bin:/usr/share/Modules/bin:/usr/local/sbin:/usr/local/bin:/usr/sbin:/usr/bi$
Environment="OLLAMA_MODELS=/myweb/ollama/data"
Environment="OLLAMA_HOST=0.0.0.0"[Install]
WantedBy=default.target

6、启动服务

systemctl start ollama

7、可以看下状态：

systemctl status ollama