部分内容参考自：使得 docker 容器内部可以访问宿主机的 ollama 服务_docker 访问 ollama-CSDN 博客，补充添加了更多的细节，也补充了一个更加简单的方案。
我测试的系统版本：Ubuntu 24.04.2 LTS noble，查看方式是指令lsb_release -a。
有时，我们会通过 docker run 或者 docker compose 来起一个服务，这个服务起在了 docker 容器内部，如果想让这个服务来访问宿主机的 ollama 服务，从而使用本地的大模型，需要如下：
文章目录
- 一、配置 ollama 服务监听 0.0.0.0
- 1. 编辑 systemd 服务文件
- 2. 重启服务使配置生效
- 3. 验证监听地址
- 二、在启动服务时，要添加内部端口映射
- 1. 172.17.0.1
- 2. host.docker.internal
一、配置 ollama 服务监听 0.0.0.0
默认的 ollama 服务只监听 127.0.0.1:11434，docker 容器内部是无法访问到这个的（哪怕通过访问主机 ip:11434 也不可以）
1. 编辑 systemd 服务文件
打开 Ollama 的 systemd 服务配置文件：
sudo vim /etc/systemd/system/ollama.service
在 [Service] 部分添加监听地址的环境变量：
[Service]
Environment="OLLAMA_HOST=0.0.0.0:11434" # 设置监听所有网络接口
如果你的 Environment 已经有内容了，可以用逗号分隔，如下：
2. 重启服务使配置生效
sudo systemctl daemon-reload # 重新加载服务配置
sudo systemctl restart ollama # 重启服务
sudo systemctl status ollama # 检查服务状态是否正常
不出意外的话可以看到Listening on [::]:11434：
3. 验证监听地址
运行以下命令，检查 Ollama 是否已监听 0.0.0.0:11434：
netstat -tuln | grep 11434 # 输出应为 ":::11434"
二、在启动服务时，要添加内部端口映射
添加端口映射有两种方案，两种方案都挺简单的，大家可以参考一下：
1. 172.17.0.1
这种方式你的 docker 运行指令和 docker_compose.yml 文件都不用变，访问主机上的服务用http://172.17.0.1:端口号就可以了，比如 ollama 可以用http://172.17.0.1:11434，这是 docker 自带的网桥。
你可以直接通过指定 url 为：https://172.17.0.1:11434 来访问宿主机的 ollama 服务。
验证方式可以是：
sudo apt install curl
curl https://172.17.0.1:11434
正常情况会输出Ollama is running。
2. host.docker.internal
如果使用 docker run 启动，则需要
docker run --add-host=host.docker.internal:host-gateway -d your-app-image
如果使用 docker compose 启动，则docker_compose.yml中应该有如下代码（仅供参考）：
version: '3'
services:your-app:image: your-app-imageenvironment:OLLAMA_API_URL: http://host.docker.internal:11434extra_hosts:- "host.docker.internal:host-gateway" # Linux 需 Docker 20.10+支持
并且你可以通过先切换到 docker_compose.yml 的目录，再运行docker build -t your-app .的方式去创建 docker。然后再通过sudo docker run -itd --name "你的 docker 容器的名字" "your-app" /bin/bash的方式去运行 docker 容器。
也可以通过“docker-compose up -d”的方式去运行。
如果你发现 image 拉取不下来，可以看一下我的博客：【记录】Docker｜Docker 镜像拉取超时的问题、推荐的解决办法及安全校验（以拉取 Ubuntu24.04 为例）_docker 拉取 ubuntu 超时-CSDN 博客
这样，你便可以通过指定 url 为：https://host.docker.internal:/11434/v1 来访问宿主机的 ollama 服务。
本账号所有文章均为原创，欢迎转载，请注明文章出处：https://shandianchengzi.blog.csdn.net/article/details/151398449。百度和各类采集站皆不可信，搜索请谨慎鉴别。技术类文章一般都有时效性，本人习惯不定期对自己的博文进行修正和更新，因此请访问出处以查看本文的最新版本。
)
