返回老金精选
经典馆 · 经受时间考验的常青项目模型与部署
Ollama
Star 快照：⭐ 176.5k · 2026-07 录
访问 GitHub 仓库推荐理由
本地跑开源模型的最低门槛：一行命令拉起 Llama、Qwen、DeepSeek，隐私数据不出本机。想验证「这个场景本地模型够不够」的第一步永远是它。
老金建议
先用 7B-8B 量级验证场景，别一上来拉 70B 把机器跑趴。自带 OpenAI 兼容接口，现有代码改个 base_url 就能接。Mac M 系列体验最顺；商用部署留意各模型许可证。
Star 数为 2026-07 快照，仅作量级参考；实时数据以 GitHub 为准。