目錄

Ollama 雲端模型:用同樣的指令執行超大模型

本機能跑的模型受限於顯示卡記憶體。數百 B 參數的大模型,一般電腦根本放不下。Ollama 的雲端模型讓你用相同的 ollama run 指令和相同的 API,把這些大模型交給 Ollama 的伺服器執行。

本機模型 vs 雲端模型

本機模型雲端模型
在哪裡執行你的電腦Ollama 的伺服器
需要下載是,可能數十 GB否
模型大小受限於你的記憶體可以使用非常大的模型
需要網路否是
需要帳號否需要 ollama.com 帳號
資料不離開你的電腦傳送到 Ollama 的伺服器處理
費用免費有用量限制,依方案而定

如何辨認雲端模型

在 ollama.com 的模型頁面上,支援雲端執行的模型會標示 cloud,tag 名稱中也會帶有 cloud。可以在 ollama.com 的模型搜尋中篩選 Cloud 類別,查看目前提供的雲端模型。

開始使用

1. 登入

ollama signin

依照指示在瀏覽器中登入 ollama.com 帳號。新版的 Ollama 第一次執行時也會引導你完成登入設定。

2. 執行

ollama run 模型名稱:帶有cloud的tag

使用方式和本機模型完全相同。在本機的 API(http://localhost:11434)中,也可以直接使用雲端模型的名稱,Ollama 會自動把請求轉送到雲端。這代表 Open WebUI 或你自己寫的程式,不需要任何修改就能使用雲端模型。

直接呼叫雲端 API

不安裝 Ollama 也可以直接呼叫 ollama.com 的 API:

  1. 到 ollama.com 的帳號設定中建立 API 金鑰。

  2. 設定環境變數:

    export OLLAMA_API_KEY="你的金鑰"
  3. 呼叫 API:

    curl https://ollama.com/api/chat \
      -H "Authorization: Bearer $OLLAMA_API_KEY" \
      -d '{
        "model": "雲端模型名稱",
        "messages": [{ "role": "user", "content": "你好" }],
        "stream": false
      }'

Python 套件的寫法:

import os
from ollama import Client

client = Client(
    host="https://ollama.com",
    headers={"Authorization": "Bearer " + os.environ["OLLAMA_API_KEY"]},
)
response = client.chat(model="雲端模型名稱", messages=[{"role": "user", "content": "你好"}])
print(response.message.content)

OpenAI 相容端點則是 https://ollama.com/v1。

API 金鑰不要寫在前端程式碼或提交到 Git。

列出目前可用的雲端模型:

curl https://ollama.com/api/tags

用量與方案

雲端模型有用量限制,可以在 ollama.com 的帳號設定中查看目前的用量,詳細方案請參考官網的價格頁面。雲端模型也可能隨時間汰換,帳號設定中會顯示即將下架的模型;已下載到本機的模型不受影響。

隱私考量

使用雲端模型時,提示詞和回應會傳送到 Ollama 的伺服器處理。Ollama 表示不會使用這些資料訓練模型,但如果你處理的是機密資料(客戶個資、未公開的商業資訊),請使用本機模型,或先確認公司的資料政策。

完全停用雲端功能

在只允許本機運算的環境中,可以停用所有雲端功能(雲端模型與網路搜尋):

OLLAMA_NO_CLOUD=1

設定方式見 環境變數與設定。

什麼時候用雲端模型

  • 本機模型的品質不夠,需要更大的模型
  • 筆電或沒有獨立顯示卡的電腦
  • 想先試用大模型,再決定要不要投資硬體

日常、大量、或涉及機密資料的任務,仍然建議用本機模型。

更新於 2026年10月12日