运行第一个模型：ollama run 与对话技巧

开始对话

ollama run qwen3:8b

首次运行会自动下载模型，接着会出现提示符：

>>> Send a message (/? for help)

直接输入问题并按 Enter 即可。按 Ctrl + D 或输入 /bye 结束对话。

名称与 tag

qwen3:8b 的格式和 Docker 镜像一样：冒号前是模型名称，冒号后是 tag（通常表示参数量或量化版本）。不写 tag 时会使用 latest，通常指向该模型最推荐的尺寸。

ollama run gemma3        # gemma3:latest
ollama run gemma3:1b     # 1B 小模型，速度快、能力较弱
ollama run gemma3:12b    # 12B，需要更多内存

如何挑选，请看 模型选择与硬件需求。

单次提问

把问题直接写在命令后面，模型回答完就会结束，适合写在脚本里：

ollama run qwen3:8b "台北有哪些适合雨天游玩的景点？列出 5 个"

搭配管道处理文件：

cat meeting-notes.txt | ollama run qwen3:8b "请把这份会议记录整理成 5 点摘要"

多行输入

用三个双引号 """ 括起来：

>>> """
... 请帮我把以下内容翻译成英文：
... 今天天气很好，
... 我们去公园散步。
... """

交互模式命令

在 >>> 提示符下，以 / 开头的是 Ollama 的命令，不会发送给模型：

查看生成速度

也可以直接在命令中加上 --verbose。下面是在一台没有显卡、只有 1 核心 CPU的小型服务器上，使用 Ollama 0.40 运行 qwen3:0.6b 的真实输出：

$ ollama run qwen3:0.6b --think=false --verbose "用一句话介绍台北"
台北是中国台湾省的省会，位于太平洋西岸，是台湾的重要经济与文化中心。

total duration:       46.080188811s
load duration:        33.014530786s
prompt eval count:    21 token(s)
prompt eval duration: 8.75411s
prompt eval rate:     2.40 tokens/s
eval count:           27 token(s)
eval duration:        4.179069999s
eval rate:            6.46 tokens/s

一般阅读时，eval rate 大约要达到每秒 10 个 token 以上才会觉得流畅。这个例子只有 6.46，而且光加载就花了 33 秒，这就是没有 GPU 的代价。

还要注意回答的内容：“位于太平洋西岸”是不准确的。参数越少的模型越容易一本正经地胡说八道，0.6B 这种迷你模型只适合测试或非常简单的任务，实际使用请选择适合硬件的较大模型。

让模型用简体中文回答

很多模型看到中文问题时，默认会用简体中文回答。最有效的方法是设置系统提示词：

>>> /set system "你是一位乐于助人的助手。请始终使用简体中文回答。"

想要永久生效，可以用 Modelfile 创建一个默认使用简体中文的模型。另外，中文能力较好的模型（例如 Qwen 系列）通常效果也更好。

思考模式（推理模型）

DeepSeek-R1、Qwen3 等模型会先“思考”再回答。思考内容会显示在答案前面。可以在命令中进行控制：

ollama run qwen3:8b --think=false "1+1 等于多少？"   # 关闭思考，回答更快
ollama run qwen3:8b --hidethinking "..."            # 思考但不显示过程

交互模式中可以用 /set think 与 /set nothink 切换。（不同版本的 Ollama 可用选项可能略有不同，可以输入 /? 查看。）

读取图片（视觉模型）

支持视觉功能的模型（例如 gemma3、qwen3.5、llava）可以读取图片。把图片路径写在提示词里：

ollama run gemma3 "这张图片里有什么？ ./photo.jpg"

在 Windows 上，路径可以写成 C:\Users\you\Pictures\photo.jpg。

在后台常驻与停止模型

模型在最后一次使用后默认会在内存中保留 5 分钟，下次提问时无需重新加载。

ollama ps              # 查看已加载的模型
ollama stop qwen3:8b   # 立即从内存中卸载

小技巧

• 问题写得越具体，回答越好。例如“用 3 点说明，每点不超过 20 字”。
• 小模型容易“一本正经地胡说八道”，重要信息请自行核实。
• 对话太长时，模型会忘记前面的内容（受上下文长度限制），可以用 /clear 重新开始。

下一节将教你如何根据电脑配置挑选模型。

更新于 2026年10月12日