目次
Ollamaのモデル選び入門:パラメーター数、量子化、ハードウェア要件
ollama.comには数百のモデルがあり、それぞれに複数のサイズがあります。このセクションでは、表記の意味を理解し、お使いのコンピューターで動作し、ニーズにも合うモデルを選ぶ方法を説明します。
パラメーター数:Bとは
モデル名の7bや14bはパラメーター数を表し、bはbillion(10億)の略です。
- パラメーター数が多いほど、一般に賢く知識も豊富ですが、より多くのメモリが必要になり、速度も遅くなります。
e2bやe4bのような表記は「有効パラメーター数」を示し、デバイス向けに最適化されたアーキテクチャです。30b-a3bのような表記は**MoE(Mixture of Experts)**モデルを示します。合計300億のパラメーターがありますが、1回の処理で有効になるのは約30億です。必要なメモリは30Bモデルに近く、速度は3Bモデルに近くなります。
量子化:Q4、Q8とは
元のモデルでは、各パラメーターを通常16ビットで保存します。量子化ではパラメーターをより少ないビット数に圧縮し、品質をわずかに犠牲にする代わりに、必要なメモリを大幅に減らします。
| 量子化 | 1パラメーターあたりの目安 | 品質 | 説明 |
|---|---|---|---|
fp16 / bf16 | 16ビット | オリジナル品質 | 最も多くのメモリが必要 |
q8_0 | 8ビット | ほぼ損失なし | メモリは元の約半分 |
q4_K_M | 約4.5~5ビット | わずかに低下 | Ollamaで最も一般的なデフォルトで、コストパフォーマンスに優れる |
q3、q2 | さらに少ない | 大幅に低下 | メモリが非常に限られている場合にのみ検討 |
モデルページでTagsを選ぶと、qwen3:8b-q8_0など、利用可能なバージョンをすべて確認できます。
必要なメモリを見積もる
概算式:
モデルサイズ(GB) ≈ パラメーター数(B) × 1パラメーターあたりのビット数 ÷ 8
4ビット量子化を前提に、コンテキスト(KV cache)と実行領域として約1~2 GBを加算します。
| パラメーター数 | Q4モデルのファイルサイズ | 推奨使用可能メモリ |
|---|---|---|
| 1B~3B | 1~2 GB | 4 GB |
| 7B~8B | 約5 GB | 8 GB |
| 12B~14B | 約8~9 GB | 12~16 GB |
| 27B~32B | 約17~20 GB | 24 GB |
| 70B | 約40 GB | 48 GB以上 |
最も正確な方法は、モデルページに記載されたファイルサイズを確認し、数GBの余裕を加えることです。コンテキストを長く設定するほど(環境変数を参照)、より多くのメモリが必要になります。
最も重要な原則は、モデル全体をVRAMに収めることです。 容量を超えて一部がシステムメモリに置かれると、速度が元の数分の一まで落ちることがあります。GPUに全体を収められる、ひと回り小さいモデルを選びましょう。
用途別のおすすめ
モデルは頻繁に更新されます。以下は、この記事の執筆時点でOllamaで人気があり、まず試す価値のあるモデルファミリーです。実際に利用する際は、ollama.comで最新バージョンを確認してください。
一般的なチャットと中国語
| モデル | 説明 |
|---|---|
qwen3 / qwen3.5 | オープンソースモデルの中でも中国語能力がトップクラスで、1B未満から100B超までサイズが豊富 |
gemma3 / gemma4 | Google製。小型モデルの性能が高く、画像認識にも対応 |
llama3.1 / llama3.2 | 英語の性能が高く、エコシステムも充実 |
gpt-oss:20b | OpenAIのオープンウェイトモデルで、約16 GBのメモリで実行可能 |
推論(数学、論理)
deepseek-r1、qwen3、gpt-ossなど、思考モードに対応したモデルは、回答の前に推論を行います。複数段階の思考が必要な質問に適していますが、回答には時間がかかります。
コーディング
qwen2.5-coderやqwen3-coderなどのコード専用モデルは、コード補完、説明、リファクタリングに適しています。
画像認識(ビジョン)
モデルページにvisionと記載されたモデルを使います。例:gemma3、qwen3.5、llava。
テキスト埋め込み(RAG向け)
nomic-embed-text、mxbai-embed-large、bge-m3(多言語対応で、中国語の性能が高い)などがあります。この種のモデルはチャットには使えず、テキストをベクトルに変換するために使います。使い方はテキスト埋め込みとRAGを参照してください。
実際に比較する方法
同じ質問を複数のモデルに尋ね、/set verboseを有効にして速度を比較します。
ollama run qwen3:4b
ollama run qwen3:8b
ollama run gemma3:12b
仕事の文書の要約や、よく書くプログラムなど、実際に尋ねる質問を5~10個用意しましょう。どのランキングよりも、自分に合うモデルを見つけるのに役立ちます。
ダウンロード済みモデルを管理する
ollama list # ダウンロード済みのモデルとサイズを一覧表示
ollama rm gemma3:12b # 不要なモデルを削除してディスク容量を解放
その他のコマンドはOllamaコマンド一覧を参照してください。
更新日 2026年10月12日