Ollama 模型怎麼選？參數量、量化與硬體需求

ollama.com 上有上百個模型，每個又有好幾種尺寸。這一節教你看懂這些標示，選出你的電腦跑得動、又符合需求的模型。

參數量：B 是什麼

模型名稱中的 7b、14b 代表參數量，b 是 billion（十億）。

參數越多，通常越聰明、知識越豐富，但需要更多記憶體，速度也越慢。
e2b、e4b 這類標示代表「有效參數量」，屬於針對裝置最佳化的架構。
30b-a3b 這類標示代表 MoE（混合專家） 模型：總共 300 億參數，但每次只啟用約 30 億。它需要的記憶體接近 30B 模型，速度卻接近 3B 模型。

原始模型的每個參數通常用 16 位元儲存。量化是把參數壓縮成較少的位元，大幅降低記憶體需求，代價是一點點品質損失。

量化	每個參數約	品質	說明
`fp16` / `bf16`	16 位元	原始品質	需要最多記憶體
`q8_0`	8 位元	幾乎無損	記憶體約為原始一半
`q4_K_M`	約 4.5～5 位元	輕微下降	Ollama 最常見的預設，性價比最好
`q3`、`q2`	更少	明顯下降	記憶體非常不足時才考慮

在模型頁面點選 Tags 可以看到所有可用的版本，例如 qwen3:8b-q8_0。

粗略公式：

模型大小（GB） ≈ 參數量（B） × 每個參數的位元數 ÷ 8

以 4 位元量化估算，再加上約 1～2 GB 的上下文（KV cache）與執行空間：

最準確的方式是直接看模型頁面上標示的檔案大小，再加上幾 GB 的餘裕。上下文設得越長（見環境變數），需要的記憶體越多。

最重要的原則：模型要能完整放進 VRAM。 一旦超出、部分放到系統記憶體，速度可能掉到原本的幾分之一。寧可選小一號但能完整放進 GPU 的模型。

模型更新非常快，以下列出撰寫本文時在 Ollama 上熱門、值得先試的模型家族。實際請以 ollama.com 上的最新版本為準。

模型	說明
`qwen3` / `qwen3.5`	中文能力在開源模型中名列前茅，尺寸從 1B 以下到上百 B 都有
`gemma3` / `gemma4`	Google 出品，小尺寸表現優秀，支援看圖
`llama3.1` / `llama3.2`	英文表現好，生態系完整
`gpt-oss:20b`	OpenAI 的開放權重模型，約 16 GB 記憶體即可執行

deepseek-r1、qwen3、gpt-oss 等支援思考模式的模型，會先推理再回答，適合需要多步驟思考的問題，但回答時間較長。

qwen2.5-coder、qwen3-coder 等程式碼專用模型，適合程式補全、解釋與重構。

模型頁面標示 vision 的模型，例如 gemma3、qwen3.5、llava。

nomic-embed-text、mxbai-embed-large、bge-m3（多語言，中文表現好）。這類模型不能聊天，只能把文字轉成向量，用法見文字嵌入與 RAG。

同一個問題問不同模型，並開啟 /set verbose 比較速度：

ollama run qwen3:4b
ollama run qwen3:8b
ollama run gemma3:12b

準備 5～10 個你實際會問的問題（例如你的工作文件摘要、你常寫的程式），比任何排行榜都更能找出適合你的模型。

ollama list               # 列出已下載的模型與大小
ollama rm gemma3:12b      # 刪除不需要的模型，釋放硬碟空間

更新於 2026年10月12日