Ollama 怎么拉取和删除本地模型
拉取时标签怎么写、删除到底删掉了什么,删完怎么用模型列表和目录体积确认磁盘空间真的回来了。
本地跑模型的磁盘开销主要来自模型文件,一个中等规模的量化模型动辄几个 G,拉上几个就上百 G。会拉不会删,硬盘很快满。这篇讲拉取时标签怎么写、删除到底删掉了什么、以及删完怎么确认空间真的回来了。
入口在哪
- 终端命令:拉取用
ollama pull,列出已下载用ollama list,删除用ollama rm,查看当前加载的用ollama ps。 - 后台服务:
ollama serve负责常驻,命令报连接失败时先确认它在跑。 - 模型存放目录:默认在当前用户主目录下的 .ollama 目录里,按内容分块存放,不是按模型名一个文件。
- 环境变量:改存放位置用 OLLAMA_MODELS,设置后要重启服务才生效。
具体步骤
- 先跑一次
ollama list,把现有的模型名和体积记下来,后面判断删除效果就靠这份对照。 - 拉取时写全模型名加标签,例如指定参数量和量化等级的那个标签。不写标签时默认取 latest,未必是你要的规格。
- 拉完用
ollama run试一句,确认能正常加载再去下别的,避免一批拉完才发现某个跑不起来。 - 删除用
ollama rm加完整的模型名与标签。只写模型名时删掉的是某个特定标签,同名其他标签仍在占空间。 - 删完再跑一次
ollama list,同时看模型目录的体积,两个数字都降下来才算真的清掉。 - 如果服务正在使用该模型,先停掉相关进程或重启服务,否则可能出现列表已删、显存仍被占着的情况。
几个坑
- 同名多标签只删了一个。以为删干净了,实际还剩几个量化版本,每个都是完整的体积。
- 拉取中断留下不完整的分块。下次拉取会尝试复用,个别情况下报校验失败,处理办法是删掉该模型目录重新拉。
- 模型目录放在系统盘。默认位置就在主目录下,长期使用容易把根分区写满,装之前先看剩余空间。
- 手动删文件夹而不用命令。可能留下索引记录,列表里出现删不掉的条目,收拾起来比删模型费劲。
怎么验证
- 两步对照:列表条目数减少,模型目录体积同步下降。
- 看磁盘剩余空间,增量应该和删掉的体积大致对得上,差得很多说明还有别的东西在占。
- 重新拉一个小模型试一次,能正常拉取并运行,说明仓库和索引没被删坏。
常见问题
删除模型会丢对话记录吗
不会。删的是模型权重文件,历史对话存在别的位置。但反过来也成立:删模型并不能清掉聊天记录占用的空间,那是另一件事。
能不能只下某个量化版本
可以,在标签里指定量化等级即可。低比特量化体积小、显存占用低,代价是质量下降。具体标签名以模型页公布的为准,别凭印象写。
拉取很慢或者总中断怎么办
先看网络和磁盘剩余空间,空间不足时下载会反复失败。中断后重试一般能续传,多次失败就删掉该模型重来。换镜像源是常见做法,配置方式随版本不同,查对应文档最快。
一句话总结:拉取写全标签、删除认准标签,删完用列表和目录体积双重确认,模型目录别放系统盘。