目录
Ollama 云端模型教程:用同样的命令运行超大模型
本地可运行的模型受显卡内存限制。数百 B 参数的大模型,一般电脑根本装不下。Ollama 的云端模型让你使用相同的 ollama run 命令和相同的 API,把这些大模型交给 Ollama 的服务器运行。
本地模型 vs 云端模型
| 本地模型 | 云端模型 | |
|---|---|---|
| 在哪里运行 | 你的电脑 | Ollama 的服务器 |
| 需要下载 | 是,可能有数十 GB | 否 |
| 模型大小 | 受限于你的内存 | 可以使用非常大的模型 |
| 需要网络 | 否 | 是 |
| 需要账号 | 否 | 需要 ollama.com 账号 |
| 数据 | 不会离开你的电脑 | 发送到 Ollama 的服务器处理 |
| 费用 | 免费 | 有用量限制,具体取决于方案 |
如何识别云端模型
在 ollama.com 的模型页面上,支持云端运行的模型会标记为 cloud,tag 名称中也会带有 cloud。你可以在 ollama.com 的模型搜索中筛选 Cloud 类别,查看当前提供的云端模型。
开始使用
1. 登录
ollama signin
按照提示在浏览器中登录 ollama.com 账号。新版 Ollama 在首次运行时也会引导你完成登录设置。
2. 运行
ollama run 模型名称:带有cloud的tag
使用方式与本地模型完全相同。在本地 API(http://localhost:11434)中,也可以直接使用云端模型的名称,Ollama 会自动将请求转发到云端。这意味着 Open WebUI 或你自己编写的程序无需任何修改就能使用云端模型。
直接调用云端 API
无需安装 Ollama,也可以直接调用 ollama.com 的 API:
-
在 ollama.com 的账号设置中创建 API 密钥。
-
设置环境变量:
export OLLAMA_API_KEY="你的密钥" -
调用 API:
curl https://ollama.com/api/chat \ -H "Authorization: Bearer $OLLAMA_API_KEY" \ -d '{ "model": "云端模型名称", "messages": [{ "role": "user", "content": "你好" }], "stream": false }'
Python 包的用法:
import os
from ollama import Client
client = Client(
host="https://ollama.com",
headers={"Authorization": "Bearer " + os.environ["OLLAMA_API_KEY"]},
)
response = client.chat(model="云端模型名称", messages=[{"role": "user", "content": "你好"}])
print(response.message.content)
OpenAI 兼容端点为 https://ollama.com/v1。
不要将 API 密钥写在前端代码中,也不要提交到 Git。
列出当前可用的云端模型:
curl https://ollama.com/api/tags
用量与方案
云端模型有用量限制,你可以在 ollama.com 的账号设置中查看当前用量。详细方案请参阅官网的价格页面。云端模型也可能随时间淘汰,账号设置中会显示即将下架的模型;已下载到本地的模型不受影响。
隐私考量
使用云端模型时,提示词和回复会发送到 Ollama 的服务器处理。Ollama 表示不会使用这些数据训练模型,但如果你处理的是机密数据(客户个人信息、未公开的商业信息),请使用本地模型,或先确认公司的数据政策。
彻底停用云端功能
在只允许本地运算的环境中,可以停用所有云端功能(云端模型与网络搜索):
OLLAMA_NO_CLOUD=1
设置方法见 环境变量与设置。
什么时候使用云端模型
- 本地模型的质量不够,需要更大的模型
- 笔记本电脑或没有独立显卡的电脑
- 想先试用大模型,再决定是否投资硬件
日常、大量或涉及机密数据的任务,仍然建议使用本地模型。
更新于 2026年10月12日