目次
Ollama入門:ローカルLLMの実行とAPI連携を学ぶ
Ollama は、自分のPCで大規模言語モデル(LLM)を実行するためのツールです。コマンドを1行実行するだけで、Llama、Qwen、Gemma、DeepSeek、gpt-oss などのオープンモデルをダウンロードして会話できます。データはすべてローカルに保存され、従量課金もありません。
ollama run gemma3
このOllamaチュートリアルでは、インストールから始め、Python連携、モデルからの構造化データの取得、ツール呼び出し、自分専用のローカル知識ベースを使った質問応答(RAG)の構築まで学びます。
学べること
- Ollamaとは何か、何ができるか、どのようなPCが必要か
- Windows、macOS、LinuxへのOllamaのインストール
- GPUメモリに合わせたモデルと量子化バージョンの選び方
- Modelfileを使ったカスタムモデルの作成
- REST API、Python、JavaScriptを使ったOllamaとの連携
- 構造化出力(JSON)、ツール呼び出し(Function calling)、テキスト埋め込み、RAG
- DockerでOllamaをデプロイし、Open WebUIでChatGPTのようなWebインターフェースを作成
対象読者
- ローカル環境でオープンAIモデルを試したい方
- データのプライバシーを重視し、クラウドへのデータ送信を避けたいチーム
- 自分のプログラムにAI機能を追加したい開発者
ターミナルでコマンドを入力できれば始められます。プログラム連携の章では、PythonまたはJavaScriptの基本知識を使います。
すぐに始める
-
ollama.com からOllamaをダウンロードしてインストールします(詳しくはOllamaのインストールを参照してください)。
-
ターミナルを開いて、次のコマンドを実行します。
ollama run gemma3 -
モデルのダウンロードが完了したら、質問を入力してEnterキーを押します。
Ollamaとはから始めましょう。
基礎編
- Ollamaとは
Ollamaとは何かをわかりやすく解説します。用途や仕組み、ChatGPTなどのクラウドサービスとの違い、長所と短所、ローカルAIモデルの実行に必要なパソコンについて紹介します。
- Ollama のインストール
Windows、macOS、Linux に Ollama を順を追ってインストールし、GPU が正しく有効になっているか確認する方法と、Ollama サービスの起動、更新、アンインストール方法を説明します。
- 最初のモデルを実行
ollama runでモデルをダウンロードして会話し、対話モードのコマンド(/set、/show、/clear、/bye)、複数行入力、単発の質問、ファイルや画像の読み込み、モデルに日本語で回答させる方法を学びます。
- モデル選びとハードウェア要件
モデル名の7B、14B、Q4_K_Mなどの表記を理解し、必要なVRAMを見積もる方法と、用途(チャット、中国語、コーディング、画像認識、埋め込み)に合ったOllamaモデルを紹介します。
- Ollamaコマンド一覧
Ollamaの主なコマンドを解説します。run、pull、list、ps、stop、rm、show、create、cp、serve、push、signinの使い方と実例を紹介します。
詳細設定
- Modelfile によるモデルのカスタマイズ
Modelfile で独自の Ollama モデルを作成しましょう。システムプロンプトや temperature、num_ctx の設定、会話例の追加、Hugging Face の GGUF モデルの読み込み方法を紹介します。繁体字中国語アシスタントの例も掲載します。
- 環境変数と設定
Ollamaの環境変数を詳しく解説します。LAN接続、モデルの保存先、コンテキスト長、モデルの常駐時間、並列リクエスト数の調整方法と、Windows、macOS、Linuxでの設定方法を紹介します。
- GPUとパフォーマンス調整
OllamaがGPUを使っているか確認し、CPUのみで動く問題を解決します。モデルがVRAMに収まらない場合の影響と、速度を改善する方法を学びます。
- Dockerで実行
公式のollama/ollamaイメージを使ってDockerでOllamaを実行し、NVIDIA・AMD GPUの設定、モデルデータの保存、Open WebUIとのCompose起動を行います。
API とプログラム連携
- REST API
Ollama REST API の入門。/api/chat による会話、/api/generate によるテキスト生成、ストリーミングと非ストリーミング応答、options パラメーター、keep_alive、画像入力、思考モード、OpenAI 互換 API の使い方を学びます。
- Python で接続
公式の ollama Python パッケージでローカルモデルを呼び出す方法を解説します。チャット、ストリーミング、複数ターンの会話、非同期処理、リモート接続に加え、OpenAI Python SDK で Ollama に接続する手順も紹介します。
- JavaScript 連携
公式の ollama npm パッケージを使って、Node.js やブラウザーから Ollama を呼び出す方法を解説します。チャット、ストリーミング出力、リクエストの中止、接続設定、fetch による REST API 呼び出し、OpenAI SDK の使い方を紹介します。
- 構造化出力(JSON)
Ollama の format パラメーターで JSON Schema に準拠したデータを出力し、Python の Pydantic と JavaScript の Zod で形式を定義して、テキストの情報抽出や分類、画像からの情報抽出を実装します。
- ツール呼び出し
Ollama のモデルに自作関数を呼び出させ、天気の確認や計算、データベースの検索を行う方法を解説します。ツール呼び出しの流れと、Python および REST API の完全な例、複数のツールや複数ターンでの呼び出し方を紹介します。
- テキスト埋め込みとRAG
Ollamaの埋め込みモデル(bge-m3、nomic-embed-text)でテキストをベクトル化し、意味検索を実装します。Python 60行未満でローカルRAGナレッジベースのQ&Aを構築し、チャンク分割、類似度、よくある改善方法を解説します。
統合アプリ
- Open WebUI の Web インターフェース
Open WebUI をインストールして Ollama に接続し、ChatGPT のようなローカル AI チャット Web アプリを作成します。Docker と pip でのインストール、接続設定、複数ユーザー、ファイルをアップロードしたナレッジベースへの質問、モデルのカスタマイズ、よくある質問を説明します。
- クラウドモデル
Ollama のクラウドモデル(Cloud models)を解説します。PCで動かせない大規模モデルの実行方法、サインイン、APIキー、プライバシー、クラウド機能の無効化方法を紹介します。
- よくある質問とエラー
Ollamaのよくある問題を解決します。11434に接続できない、モデルのダウンロードが遅い・中断する、メモリ不足、日本語で回答しない、回答が途中で切れる、モデルが意味不明な回答をする、ディスク容量が足りない、ログの確認方法などを説明します。
更新日 2026年10月12日