Ollama 模型怎么选？参数量、量化与硬件需求

ollama.com 上有上百个模型，每个模型又有好几种尺寸。本节教你看懂这些标识，选出电脑跑得动、又符合需求的模型。

参数量：B 是什么

模型名称中的 7b、14b 代表参数量，b 是 billion（十亿）。

参数越多，通常越聪明、知识越丰富，但需要更多内存，速度也越慢。
e2b、e4b 这类标识代表“有效参数量”，属于针对设备优化的架构。
30b-a3b 这类标识代表 MoE（混合专家） 模型：总共 300 亿参数，但每次只启用约 30 亿。它需要的内存接近 30B 模型，速度却接近 3B 模型。

原始模型的每个参数通常用 16 位存储。量化是把参数压缩成更少的位，大幅降低内存需求，代价是少量的质量损失。

量化	每个参数约	质量	说明
`fp16` / `bf16`	16 位	原始质量	需要最多内存
`q8_0`	8 位	几乎无损	内存约为原来的一半
`q4_K_M`	约 4.5～5 位	轻微下降	Ollama 最常见的默认值，性价比最好
`q3`、`q2`	更少	明显下降	只有内存非常不足时才考虑

在模型页面点击 Tags 可以看到所有可用版本，例如 qwen3:8b-q8_0。

粗略公式：

模型大小（GB） ≈ 参数量（B） × 每个参数的位数 ÷ 8

按 4 位量化估算，再加上约 1～2 GB 的上下文（KV cache）与运行空间：

最准确的方式是直接查看模型页面上标注的文件大小，再加上几 GB 的余量。上下文设置得越长（见环境变量），需要的内存越多。

最重要的原则：模型要能完整放进 VRAM。 一旦超出，部分放到系统内存，速度可能降到原来的几分之一。宁可选小一号、但能完整放进 GPU 的模型。

模型更新很快，以下列出撰写本文时 Ollama 上热门、值得先试的模型系列。实际使用时请以 ollama.com 上的最新版本为准。

模型	说明
`qwen3` / `qwen3.5`	中文能力在开源模型中名列前茅，尺寸从 1B 以下到上百 B 都有
`gemma3` / `gemma4`	Google 出品，小尺寸表现优秀，支持看图
`llama3.1` / `llama3.2`	英文表现好，生态完整
`gpt-oss:20b`	OpenAI 的开放权重模型，约 16 GB 内存即可运行

deepseek-r1、qwen3、gpt-oss 等支持思考模式的模型，会先推理再回答，适合需要多步思考的问题，但回答时间较长。

qwen2.5-coder、qwen3-coder 等代码专用模型，适合代码补全、解释与重构。

模型页面标注 vision 的模型，例如 gemma3、qwen3.5、llava。

nomic-embed-text、mxbai-embed-large、bge-m3（多语言，中文表现好）。这类模型不能聊天，只能把文本转成向量，用法见文本嵌入与 RAG。

用同一个问题询问不同模型，并开启 /set verbose 比较速度：

ollama run qwen3:4b
ollama run qwen3:8b
ollama run gemma3:12b

准备 5～10 个你实际会问的问题（例如工作文件摘要、你常写的程序），比任何排行榜都更能帮你找出适合自己的模型。

ollama list               # 列出已下载的模型与大小
ollama rm gemma3:12b      # 删除不需要的模型，释放硬盘空间

更新于 2026年10月12日