目录

Ollama 云端模型教程:用同样的命令运行超大模型

本地可运行的模型受显卡内存限制。数百 B 参数的大模型,一般电脑根本装不下。Ollama 的云端模型让你使用相同的 ollama run 命令和相同的 API,把这些大模型交给 Ollama 的服务器运行。

本地模型 vs 云端模型

本地模型云端模型
在哪里运行你的电脑Ollama 的服务器
需要下载是,可能有数十 GB否
模型大小受限于你的内存可以使用非常大的模型
需要网络否是
需要账号否需要 ollama.com 账号
数据不会离开你的电脑发送到 Ollama 的服务器处理
费用免费有用量限制,具体取决于方案

如何识别云端模型

在 ollama.com 的模型页面上,支持云端运行的模型会标记为 cloud,tag 名称中也会带有 cloud。你可以在 ollama.com 的模型搜索中筛选 Cloud 类别,查看当前提供的云端模型。

开始使用

1. 登录

ollama signin

按照提示在浏览器中登录 ollama.com 账号。新版 Ollama 在首次运行时也会引导你完成登录设置。

2. 运行

ollama run 模型名称:带有cloud的tag

使用方式与本地模型完全相同。在本地 API(http://localhost:11434)中,也可以直接使用云端模型的名称,Ollama 会自动将请求转发到云端。这意味着 Open WebUI 或你自己编写的程序无需任何修改就能使用云端模型。

直接调用云端 API

无需安装 Ollama,也可以直接调用 ollama.com 的 API:

  1. 在 ollama.com 的账号设置中创建 API 密钥。

  2. 设置环境变量:

    export OLLAMA_API_KEY="你的密钥"
  3. 调用 API:

    curl https://ollama.com/api/chat \
      -H "Authorization: Bearer $OLLAMA_API_KEY" \
      -d '{
        "model": "云端模型名称",
        "messages": [{ "role": "user", "content": "你好" }],
        "stream": false
      }'

Python 包的用法:

import os
from ollama import Client

client = Client(
    host="https://ollama.com",
    headers={"Authorization": "Bearer " + os.environ["OLLAMA_API_KEY"]},
)
response = client.chat(model="云端模型名称", messages=[{"role": "user", "content": "你好"}])
print(response.message.content)

OpenAI 兼容端点为 https://ollama.com/v1。

不要将 API 密钥写在前端代码中,也不要提交到 Git。

列出当前可用的云端模型:

curl https://ollama.com/api/tags

用量与方案

云端模型有用量限制,你可以在 ollama.com 的账号设置中查看当前用量。详细方案请参阅官网的价格页面。云端模型也可能随时间淘汰,账号设置中会显示即将下架的模型;已下载到本地的模型不受影响。

隐私考量

使用云端模型时,提示词和回复会发送到 Ollama 的服务器处理。Ollama 表示不会使用这些数据训练模型,但如果你处理的是机密数据(客户个人信息、未公开的商业信息),请使用本地模型,或先确认公司的数据政策。

彻底停用云端功能

在只允许本地运算的环境中,可以停用所有云端功能(云端模型与网络搜索):

OLLAMA_NO_CLOUD=1

设置方法见 环境变量与设置。

什么时候使用云端模型

  • 本地模型的质量不够,需要更大的模型
  • 笔记本电脑或没有独立显卡的电脑
  • 想先试用大模型,再决定是否投资硬件

日常、大量或涉及机密数据的任务,仍然建议使用本地模型。

更新于 2026年10月12日