最新

Ollama 怎么拉取和删除本地模型

拉取时标签怎么写、删除到底删掉了什么,删完怎么用模型列表和目录体积确认磁盘空间真的回来了。

本地跑模型的磁盘开销主要来自模型文件,一个中等规模的量化模型动辄几个 G,拉上几个就上百 G。会拉不会删,硬盘很快满。这篇讲拉取时标签怎么写、删除到底删掉了什么、以及删完怎么确认空间真的回来了。

入口在哪

  • 终端命令:拉取用 ollama pull,列出已下载用 ollama list,删除用 ollama rm,查看当前加载的用 ollama ps。
  • 后台服务:ollama serve 负责常驻,命令报连接失败时先确认它在跑。
  • 模型存放目录:默认在当前用户主目录下的 .ollama 目录里,按内容分块存放,不是按模型名一个文件。
  • 环境变量:改存放位置用 OLLAMA_MODELS,设置后要重启服务才生效。

具体步骤

  1. 先跑一次 ollama list,把现有的模型名和体积记下来,后面判断删除效果就靠这份对照。
  2. 拉取时写全模型名加标签,例如指定参数量和量化等级的那个标签。不写标签时默认取 latest,未必是你要的规格。
  3. 拉完用 ollama run 试一句,确认能正常加载再去下别的,避免一批拉完才发现某个跑不起来。
  4. 删除用 ollama rm 加完整的模型名与标签。只写模型名时删掉的是某个特定标签,同名其他标签仍在占空间。
  5. 删完再跑一次 ollama list,同时看模型目录的体积,两个数字都降下来才算真的清掉。
  6. 如果服务正在使用该模型,先停掉相关进程或重启服务,否则可能出现列表已删、显存仍被占着的情况。

几个坑

  • 同名多标签只删了一个。以为删干净了,实际还剩几个量化版本,每个都是完整的体积。
  • 拉取中断留下不完整的分块。下次拉取会尝试复用,个别情况下报校验失败,处理办法是删掉该模型目录重新拉。
  • 模型目录放在系统盘。默认位置就在主目录下,长期使用容易把根分区写满,装之前先看剩余空间。
  • 手动删文件夹而不用命令。可能留下索引记录,列表里出现删不掉的条目,收拾起来比删模型费劲。

怎么验证

  • 两步对照:列表条目数减少,模型目录体积同步下降。
  • 看磁盘剩余空间,增量应该和删掉的体积大致对得上,差得很多说明还有别的东西在占。
  • 重新拉一个小模型试一次,能正常拉取并运行,说明仓库和索引没被删坏。

常见问题

删除模型会丢对话记录吗

不会。删的是模型权重文件,历史对话存在别的位置。但反过来也成立:删模型并不能清掉聊天记录占用的空间,那是另一件事。

能不能只下某个量化版本

可以,在标签里指定量化等级即可。低比特量化体积小、显存占用低,代价是质量下降。具体标签名以模型页公布的为准,别凭印象写。

拉取很慢或者总中断怎么办

先看网络和磁盘剩余空间,空间不足时下载会反复失败。中断后重试一般能续传,多次失败就删掉该模型重来。换镜像源是常见做法,配置方式随版本不同,查对应文档最快。

一句话总结:拉取写全标签、删除认准标签,删完用列表和目录体积双重确认,模型目录别放系统盘。