Ollamaで最初のモデルを実行する：ollama runと会話のコツ

会話を始める

ollama run qwen3:8b

初回はモデルが自動的にダウンロードされ、続いてプロンプトが表示されます。

>>> Send a message (/? for help)

質問を入力して Enter を押すだけです。Ctrl + D を押すか /bye を入力すると会話を終了します。

名前とタグ

qwen3:8b の形式は Docker イメージと同じです。コロンの前がモデル名、後ろがタグ（通常はパラメーター数や量子化バージョンを表します）です。タグを省略すると latest が使われ、通常はそのモデルで最も推奨されるサイズを指します。

ollama run gemma3        # gemma3:latest
ollama run gemma3:1b     # 1Bの小型モデル。速度は速く、能力は控えめ
ollama run gemma3:12b    # 12B。より多くのメモリが必要

選び方については、モデルの選び方とハードウェア要件を参照してください。

単発の質問

質問をコマンドの後ろに直接書くと、モデルは回答後に終了します。スクリプトに書くのに適しています。

ollama run qwen3:8b "東京で雨の日に行くのにおすすめの観光スポットは？5つ挙げて"

パイプを使ってファイルを処理できます。

cat meeting-notes.txt | ollama run qwen3:8b "この会議の議事録を5項目に要約してください"

複数行入力

3つの二重引用符 """ で囲みます。

>>> """
... 次の文章を英語に翻訳してください：
... 今日はとてもいい天気です。
... 公園へ散歩に行きましょう。
... """

対話モードのコマンド

>>> プロンプトで / から始まるものは Ollama のコマンドで、モデルには送信されません。

生成速度を確認する

コマンドに --verbose を直接追加する方法もあります。以下は、GPUがなく、CPUが1コアのみの小型サーバーで Ollama 0.40 を使い、qwen3:0.6b を実行したときの実際の出力です。

$ ollama run qwen3:0.6b --think=false --verbose "東京を一言で紹介して"
東京は日本の首都で、東太平洋の中東に位置し、日本の重要な経済・文化の中心地です。

total duration:       46.080188811s
load duration:        33.014530786s
prompt eval count:    21 token(s)
prompt eval duration: 8.75411s
prompt eval rate:     2.40 tokens/s
eval count:           27 token(s)
eval duration:        4.179069999s
eval rate:            6.46 tokens/s

通常の読書では、eval rate が毎秒10トークン程度を超えるとスムーズに感じます。この例では6.46しかなく、読み込みだけで33秒かかっています。これがGPUを使わない場合の代償です。

回答の内容にも注目してください。「東太平洋の中東に位置する」は誤りです。小さいモデルほど、もっともらしく誤ったことを言いやすくなります。0.6Bのような超小型モデルは、テストやごく簡単なタスクにのみ適しています。実際に使う場合は、ハードウェアに合った大きめのモデルを選んでください。

モデルに日本語で回答させる

多くのモデルは、中国語の質問を見ると簡体字中国語で回答します。最も効果的な方法は、システムプロンプトを設定することです。

>>> /set system "あなたは親切なアシスタントです。常に日本語で回答してください。"

設定を永続化するには、Modelfileを使って、デフォルトで日本語を使うモデルを作成できます。また、Qwenシリーズなど、日本語能力の高いモデルを使うと、通常はよりよい結果が得られます。

思考モード（推論モデル）

DeepSeek-R1やQwen3などのモデルは、回答の前に「思考」します。思考内容は回答の前に表示されます。コマンドで制御できます。

ollama run qwen3:8b --think=false "1+1はいくつ？"   # 思考を無効にして、回答を速くする
ollama run qwen3:8b --hidethinking "..."            # 思考するが、過程は表示しない

対話モードでは、/set think と /set nothink で切り替えられます。（Ollamaのバージョンによって使用できるオプションが多少異なる場合があります。/? を入力して確認してください。）

画像を読み込む（視覚モデル）

視覚機能に対応したモデル（gemma3、qwen3.5、llava など）は画像を読み取れます。プロンプトに画像のパスを書きます。

ollama run gemma3 "この画像には何が写っていますか？ ./photo.jpg"

Windowsでは、パスを C:\Users\you\Pictures\photo.jpg と書けます。

モデルをバックグラウンドで常駐させる・停止する

モデルは最後に使ってからデフォルトで5分間メモリに保持されるため、次の質問では再読み込みが不要です。

ollama ps              # 読み込み済みのモデルを表示
ollama stop qwen3:8b   # 直ちにメモリからアンロード

ヒント

• 質問を具体的に書くほど、回答の質が上がります。例えば「3つの項目で、それぞれ20字以内で説明してください」のように指定します。
• 小型モデルは、もっともらしく誤ったことを言いがちです。重要な情報は自分で確認してください。
• 会話が長くなると、モデルは前の内容を忘れてしまいます（コンテキスト長の制限によるものです）。/clear で最初からやり直せます。

次の章では、パソコンの性能に合わせたモデルの選び方を説明します。

更新日 2026年10月12日