Ollama 怎么让局域网其他设备连上来
模型跑在台式机上,笔记本却连不上。默认只监听本机,改一个监听地址就能让同网段设备调用,这篇讲怎么改、放行和风险。
把大模型跑在一台常开的机器上,其他设备直接调用,比每台都装一份省事。但装完 Ollama 后,从笔记本访问那台机器往往连不上,原因是它默认只监听本机回环地址,外部请求根本进不来。要改的是一个监听地址,加上防火墙放行。
入口在哪
- 监听地址由环境变量控制,默认值只对本机开放,改成对所有网卡开放才允许外部访问。
- Linux 上服务由系统服务管理器托管,环境变量要写进服务配置,临时导出不算数。
- 桌面版可以在应用设置里改,也可以设系统环境变量后重启应用,两种方式都会覆盖默认值。
具体步骤
- 先在服务器本机确认服务是通的:访问本机的模型列表接口,能返回 JSON 就说明服务正常。
- 设置监听地址环境变量,指到所有网卡,端口保持默认或改成自己记得住的。
- 重启服务。改了环境变量不重启,进程还在用旧配置。
- 在系统防火墙里放行该端口,只对内网网段开放,不要开成任意来源。
- 到另一台设备访问服务器的模型列表接口,能看到模型说明链路通了。
- 在客户端里把服务地址填成服务器的内网地址,不要填本机回环地址。
几个坑
- 直接暴露到公网。这个服务默认没有鉴权,端口一旦被扫到,别人可以用你的机器跑模型,也可能借此摸进内网。
- 只改了终端里的变量。服务是托管启动的,终端里导出对已运行的进程无效,必须写进配置文件再重启。
- 在容器里跑时端口没映射出去,或者容器内监听的仍是回环地址,外面怎么都连不上。
- 浏览器端客户端被跨域拦住。除了监听地址,还要允许来源,否则请求发不出去。
怎么验证
在服务器上看端口监听地址,应该是所有网卡而不是仅回环。再从另一台设备访问模型列表,能列出模型就成功。接着发一个最小的生成请求,看能否返回内容。如果列表能通但生成超时,多半是模型太大、内存不足,跟网络无关。端口通了而客户端仍报错,先看客户端里填的地址有没有带协议和端口号。
常见问题
改了还是连不上怎么办
按顺序查三件事:服务是否重启、监听地址是否真的变了、防火墙是否放行。三项都对还不通,就在两台机器之间互 ping 一次,确认网络本身可达。
局域网访问要不要加密码
服务本身不带账号体系。只在可信内网用,或者前面加一层带鉴权的反向代理,别把端口直接映射到公网。
多台设备同时用会不会很慢
会,显存和内存是共享的,并发请求要排队。轻量任务用小模型,重任务避开高峰,或者按用途配不同模型。
一句话总结:让别的设备连上来要改监听地址并重启服务,防火墙只放内网,端口别对公网开,不通就按三步查。