目次
Ollama 入門：Ollamaとは何か、ローカルで大規模言語モデルを実行する方法
一言で説明すると
Ollamaは、自分のパソコンにオープンソースの大規模言語モデルをダウンロードし、管理して実行するためのツールです。「AIモデル版のDocker」と考えるとわかりやすいでしょう。
| Docker | Ollama |
|---|---|
docker pull nginx | ollama pull llama3.2 |
docker run nginx | ollama run llama3.2 |
docker ps | ollama ps |
| Dockerfile | Modelfile |
Ollamaでできること
- チャットでの質問応答：ChatGPTのように会話できますが、モデルは自分のパソコンで動作します。
- 画像の読み取り：視覚機能に対応したモデルなら、画像の説明や文字の認識ができます。
- プログラミング：コード専用モデルを使って、コードの作成や解説を支援できます。
- APIサーバーとして使う：OllamaはバックグラウンドでHTTP API（デフォルトは
http://localhost:11434）を提供します。プログラムやWebインターフェース、その他のツールから呼び出せます。 - テキスト埋め込みの生成：テキストをベクトルに変換し、意味検索やRAG（モデルが自分の文書に基づいて回答する仕組み）に利用できます。
仕組み
ollama run qwen3
│
▼
Ollama サービス（バックグラウンドで実行、11434 ポートをリッスン）
│ 1. モデルがローカルにない場合 → ollama.com からダウンロード
│ 2. モデルをGPUメモリ（VRAM）またはシステムメモリに読み込む
▼
推論エンジンが回答を生成 → ターミナルまたはAPIに1文字ずつ出力モデルはダウンロード後、ハードディスクに保存されるため、次からはネットワーク接続なしで使えます。
ローカルモデルとクラウドAIサービスの比較
| ローカル（Ollama） | クラウド（ChatGPT、Geminiなど） | |
|---|---|---|
| データのプライバシー | データはパソコンの外に出ない | データはサービス提供者に送信される |
| 費用 | 無料（電気代とハードウェアを除く） | サブスクリプションまたは従量課金 |
| オフラインでの使用 | 可能 | 不可 |
| モデルの能力 | ハードウェアに左右され、大規模モデルは動かせない場合がある | 最も高性能なモデルを使える |
| 速度 | GPUによる | 通常は高速 |
| 設定とメンテナンス | 自分で対応する必要がある | 不要 |
ローカルモデルの能力は、最先端のクラウドモデルにはまだ及びません。それでも、要約、翻訳、分類、データ抽出、プログラミング支援などの日常的な作業では、中規模のオープンソースモデルが十分役立ちます。
Ollamaではクラウドモデルも提供しており、同じコマンドとAPIでより大きなモデルを利用できます。詳しくはクラウドモデルをご覧ください。
どのようなパソコンが必要か
どのサイズのモデルを実行できるかを決める要素はメモリです。特にGPUメモリ（VRAM）が重要です。
| パソコンの仕様 | スムーズに実行できるモデルの目安 |
|---|---|
| メモリ8 GB、専用GPUなし | 1B～4Bの小型モデル（速度は遅め） |
| メモリ16 GBのApple Silicon Mac | 7B～8Bモデル |
| VRAM 8 GBのNVIDIA GPU | 7B～8Bモデル |
| VRAM 16～24 GB | 14B～32Bモデル |
| ユニファイドメモリ32 GB以上のMac | 30Bクラスのモデル |
（一般的な4ビット量子化版を基準にした目安です。詳しくはモデルの選び方とハードウェア要件をご覧ください。）
- NVIDIA GPU：最も幅広くサポートされ、速度も最速です。
- Apple Silicon（Mシリーズ）Mac：ユニファイドメモリにより、同価格帯のPCより大きなモデルを実行でき、性能も優れています。
- AMD GPU：一部のモデルに対応しています。
- CPUのみ：実行できますが、速度はかなり遅く、小型モデル向けです。
主なオープンソースモデルのファミリー
| モデル | 開発元 | 特徴 |
|---|---|---|
| Llama | Meta | 最も有名なオープンソースモデルファミリーの一つ |
| Qwen | Alibaba | 中国語に強く、サイズの選択肢が豊富 |
| Gemma | 小型モデルの性能が高く、一部のバージョンは画像に対応 | |
| DeepSeek-R1 | DeepSeek | 先に「思考」してから回答する推論モデル |
| gpt-oss | OpenAI | OpenAIが公開したオープンウェイトモデル |
| Mistral | Mistral AI | 欧州のチームが開発し、効率に優れる |
モデルの一覧はollama.comのModelsページで確認できます。新しいモデルは通常、公開後すぐに追加されます。
まとめ
- Ollamaを使うと、簡単なコマンドでオープンソースAIモデルをローカルで実行できます。
- APIサーバーとしても動作するため、他のプログラムと簡単に連携できます。
- 実行できるモデルのサイズはメモリ、特にGPUメモリによって決まります。
次の章では、Ollamaをインストールします。
更新日 2026年10月12日