目次

Ollama入門:ローカルLLMの実行とAPI連携を学ぶ

Ollama は、自分のPCで大規模言語モデル(LLM)を実行するためのツールです。コマンドを1行実行するだけで、Llama、Qwen、Gemma、DeepSeek、gpt-oss などのオープンモデルをダウンロードして会話できます。データはすべてローカルに保存され、従量課金もありません。

ollama run gemma3

このOllamaチュートリアルでは、インストールから始め、Python連携、モデルからの構造化データの取得、ツール呼び出し、自分専用のローカル知識ベースを使った質問応答(RAG)の構築まで学びます。

学べること

  • Ollamaとは何か、何ができるか、どのようなPCが必要か
  • Windows、macOS、LinuxへのOllamaのインストール
  • GPUメモリに合わせたモデルと量子化バージョンの選び方
  • Modelfileを使ったカスタムモデルの作成
  • REST API、Python、JavaScriptを使ったOllamaとの連携
  • 構造化出力(JSON)、ツール呼び出し(Function calling)、テキスト埋め込み、RAG
  • DockerでOllamaをデプロイし、Open WebUIでChatGPTのようなWebインターフェースを作成

対象読者

  • ローカル環境でオープンAIモデルを試したい方
  • データのプライバシーを重視し、クラウドへのデータ送信を避けたいチーム
  • 自分のプログラムにAI機能を追加したい開発者

ターミナルでコマンドを入力できれば始められます。プログラム連携の章では、PythonまたはJavaScriptの基本知識を使います。

すぐに始める

  1. ollama.com からOllamaをダウンロードしてインストールします(詳しくはOllamaのインストールを参照してください)。

  2. ターミナルを開いて、次のコマンドを実行します。

    ollama run gemma3
  3. モデルのダウンロードが完了したら、質問を入力してEnterキーを押します。

Ollamaとはから始めましょう。

基礎編

  1. Ollamaとは

    Ollamaとは何かをわかりやすく解説します。用途や仕組み、ChatGPTなどのクラウドサービスとの違い、長所と短所、ローカルAIモデルの実行に必要なパソコンについて紹介します。

  2. Ollama のインストール

    Windows、macOS、Linux に Ollama を順を追ってインストールし、GPU が正しく有効になっているか確認する方法と、Ollama サービスの起動、更新、アンインストール方法を説明します。

  3. 最初のモデルを実行

    ollama runでモデルをダウンロードして会話し、対話モードのコマンド(/set、/show、/clear、/bye)、複数行入力、単発の質問、ファイルや画像の読み込み、モデルに日本語で回答させる方法を学びます。

  4. モデル選びとハードウェア要件

    モデル名の7B、14B、Q4_K_Mなどの表記を理解し、必要なVRAMを見積もる方法と、用途(チャット、中国語、コーディング、画像認識、埋め込み)に合ったOllamaモデルを紹介します。

  5. Ollamaコマンド一覧

    Ollamaの主なコマンドを解説します。run、pull、list、ps、stop、rm、show、create、cp、serve、push、signinの使い方と実例を紹介します。

詳細設定

  1. Modelfile によるモデルのカスタマイズ

    Modelfile で独自の Ollama モデルを作成しましょう。システムプロンプトや temperature、num_ctx の設定、会話例の追加、Hugging Face の GGUF モデルの読み込み方法を紹介します。繁体字中国語アシスタントの例も掲載します。

  2. 環境変数と設定

    Ollamaの環境変数を詳しく解説します。LAN接続、モデルの保存先、コンテキスト長、モデルの常駐時間、並列リクエスト数の調整方法と、Windows、macOS、Linuxでの設定方法を紹介します。

  3. GPUとパフォーマンス調整

    OllamaがGPUを使っているか確認し、CPUのみで動く問題を解決します。モデルがVRAMに収まらない場合の影響と、速度を改善する方法を学びます。

  4. Dockerで実行

    公式のollama/ollamaイメージを使ってDockerでOllamaを実行し、NVIDIA・AMD GPUの設定、モデルデータの保存、Open WebUIとのCompose起動を行います。

API とプログラム連携

  1. REST API

    Ollama REST API の入門。/api/chat による会話、/api/generate によるテキスト生成、ストリーミングと非ストリーミング応答、options パラメーター、keep_alive、画像入力、思考モード、OpenAI 互換 API の使い方を学びます。

  2. Python で接続

    公式の ollama Python パッケージでローカルモデルを呼び出す方法を解説します。チャット、ストリーミング、複数ターンの会話、非同期処理、リモート接続に加え、OpenAI Python SDK で Ollama に接続する手順も紹介します。

  3. JavaScript 連携

    公式の ollama npm パッケージを使って、Node.js やブラウザーから Ollama を呼び出す方法を解説します。チャット、ストリーミング出力、リクエストの中止、接続設定、fetch による REST API 呼び出し、OpenAI SDK の使い方を紹介します。

  4. 構造化出力(JSON)

    Ollama の format パラメーターで JSON Schema に準拠したデータを出力し、Python の Pydantic と JavaScript の Zod で形式を定義して、テキストの情報抽出や分類、画像からの情報抽出を実装します。

  5. ツール呼び出し

    Ollama のモデルに自作関数を呼び出させ、天気の確認や計算、データベースの検索を行う方法を解説します。ツール呼び出しの流れと、Python および REST API の完全な例、複数のツールや複数ターンでの呼び出し方を紹介します。

  6. テキスト埋め込みとRAG

    Ollamaの埋め込みモデル(bge-m3、nomic-embed-text)でテキストをベクトル化し、意味検索を実装します。Python 60行未満でローカルRAGナレッジベースのQ&Aを構築し、チャンク分割、類似度、よくある改善方法を解説します。

統合アプリ

  1. Open WebUI の Web インターフェース

    Open WebUI をインストールして Ollama に接続し、ChatGPT のようなローカル AI チャット Web アプリを作成します。Docker と pip でのインストール、接続設定、複数ユーザー、ファイルをアップロードしたナレッジベースへの質問、モデルのカスタマイズ、よくある質問を説明します。

  2. クラウドモデル

    Ollama のクラウドモデル(Cloud models)を解説します。PCで動かせない大規模モデルの実行方法、サインイン、APIキー、プライバシー、クラウド機能の無効化方法を紹介します。

  3. よくある質問とエラー

    Ollamaのよくある問題を解決します。11434に接続できない、モデルのダウンロードが遅い・中断する、メモリ不足、日本語で回答しない、回答が途中で切れる、モデルが意味不明な回答をする、ディスク容量が足りない、ログの確認方法などを説明します。

更新日 2026年10月12日