最新

Ollama 怎么修改默认监听端口

Ollama 换监听端口的完整步骤:改环境变量、重启服务、同步客户端地址,以及三条验证动作。

Ollama 装好以后默认只在本机的 11434 端口上提供服务,别的机器连不上,本机端口冲突时也起不来。换端口靠一个环境变量,但改完必须让服务真的重启,否则看起来改了其实没生效。这篇只讲这一件事。

入口在哪

  • 服务端配置在启动 Ollama 服务的那一层:Linux 上看 systemd 的服务单元,macOS 看图形应用的启动环境,Windows 看系统环境变量。
  • 关键变量是 OLLAMA_HOST,写法为「地址:端口」,例如 127.0.0.1:11435 或 0.0.0.0:11435。
  • 客户端一侧的接口地址在各自软件的设置里,OpenAI 兼容端点一般是 http://主机:端口/v1。
  • 同一台机器上装过多个版本、或者图形版和命令行版并存时,先确认你改的是当前正在运行的那个服务的配置,否则改了也白改。

具体步骤

  1. 先确认现在可用:本机访问 http://127.0.0.1:11434 能看到运行提示,ollama list 能列出模型。
  2. 决定绑定范围。只给本机换端口就写 127.0.0.1:11435;要给局域网用才写 0.0.0.0,风险见下一节。
  3. 把变量写进服务层:Linux 用 systemd 的覆盖方式加一条 Environment,macOS 用 launchctl 设置后重启应用,Windows 在系统环境变量里新增再退出托盘重开。
  4. 重启服务,用旧端口和新端口各访问一次,确认旧的已经不通。
  5. 把客户端里的接口地址改成新端口,保存后发一条测试消息。

几个坑

  • 绑 0.0.0.0 等于把模型接口开放给同网段所有人,Ollama 本身不做鉴权,谁都能调用、也能拉走模型。只在可信网络里这么做,并用防火墙限制来源。
  • 端口被别的程序占用时服务会直接退出,日志里是绑定失败的报错,现象看起来像装坏了。
  • 只 export 了变量却没重启服务,配置不会生效;macOS 图形版要从托盘真正退出再打开,关窗口不算。
  • 有些客户端把端口写死在配置里,服务端改完还要同步改客户端,否则报连接被拒或 404。

怎么验证

依次做三件事:本机访问新端口能返回运行提示;访问旧端口失败;ollama list 仍然正常。浏览器可能缓存了旧的失败页面,用无痕窗口或命令行访问更可靠。如果要求局域网可用,再从另一台机器访问新端口,并顺手确认防火墙规则没有把整段网段放进来。最后跑一次 ollama run,确认换端口没有影响模型加载。

常见问题

端口改了但命令行还连旧的

命令行客户端读的是同一套环境变量。在当前终端里重新设置一次,或者新开一个终端再执行;后台服务和你敲命令的 shell 是两套环境,这是最常见的错位。

能不能用域名或反向代理

可以,但要注意流式输出会被缓冲,需要关掉反代的响应缓冲并放宽超时,否则回答会一次性蹦出来或者中途断开。

换端口会丢模型吗

不会。模型文件存在数据目录里,和监听端口没有关系,换完端口 ollama list 还是原来那些。

一句话总结:改 OLLAMA_HOST 只做了一半,重启服务并同步改客户端地址,旧端口访问不通才算改完。