目錄
Ollama 雲端模型:用同樣的指令執行超大模型
本機能跑的模型受限於顯示卡記憶體。數百 B 參數的大模型,一般電腦根本放不下。Ollama 的雲端模型讓你用相同的 ollama run 指令和相同的 API,把這些大模型交給 Ollama 的伺服器執行。
本機模型 vs 雲端模型
| 本機模型 | 雲端模型 | |
|---|---|---|
| 在哪裡執行 | 你的電腦 | Ollama 的伺服器 |
| 需要下載 | 是,可能數十 GB | 否 |
| 模型大小 | 受限於你的記憶體 | 可以使用非常大的模型 |
| 需要網路 | 否 | 是 |
| 需要帳號 | 否 | 需要 ollama.com 帳號 |
| 資料 | 不離開你的電腦 | 傳送到 Ollama 的伺服器處理 |
| 費用 | 免費 | 有用量限制,依方案而定 |
如何辨認雲端模型
在 ollama.com 的模型頁面上,支援雲端執行的模型會標示 cloud,tag 名稱中也會帶有 cloud。可以在 ollama.com 的模型搜尋中篩選 Cloud 類別,查看目前提供的雲端模型。
開始使用
1. 登入
ollama signin
依照指示在瀏覽器中登入 ollama.com 帳號。新版的 Ollama 第一次執行時也會引導你完成登入設定。
2. 執行
ollama run 模型名稱:帶有cloud的tag
使用方式和本機模型完全相同。在本機的 API(http://localhost:11434)中,也可以直接使用雲端模型的名稱,Ollama 會自動把請求轉送到雲端。這代表 Open WebUI 或你自己寫的程式,不需要任何修改就能使用雲端模型。
直接呼叫雲端 API
不安裝 Ollama 也可以直接呼叫 ollama.com 的 API:
-
到 ollama.com 的帳號設定中建立 API 金鑰。
-
設定環境變數:
export OLLAMA_API_KEY="你的金鑰" -
呼叫 API:
curl https://ollama.com/api/chat \ -H "Authorization: Bearer $OLLAMA_API_KEY" \ -d '{ "model": "雲端模型名稱", "messages": [{ "role": "user", "content": "你好" }], "stream": false }'
Python 套件的寫法:
import os
from ollama import Client
client = Client(
host="https://ollama.com",
headers={"Authorization": "Bearer " + os.environ["OLLAMA_API_KEY"]},
)
response = client.chat(model="雲端模型名稱", messages=[{"role": "user", "content": "你好"}])
print(response.message.content)
OpenAI 相容端點則是 https://ollama.com/v1。
API 金鑰不要寫在前端程式碼或提交到 Git。
列出目前可用的雲端模型:
curl https://ollama.com/api/tags
用量與方案
雲端模型有用量限制,可以在 ollama.com 的帳號設定中查看目前的用量,詳細方案請參考官網的價格頁面。雲端模型也可能隨時間汰換,帳號設定中會顯示即將下架的模型;已下載到本機的模型不受影響。
隱私考量
使用雲端模型時,提示詞和回應會傳送到 Ollama 的伺服器處理。Ollama 表示不會使用這些資料訓練模型,但如果你處理的是機密資料(客戶個資、未公開的商業資訊),請使用本機模型,或先確認公司的資料政策。
完全停用雲端功能
在只允許本機運算的環境中,可以停用所有雲端功能(雲端模型與網路搜尋):
OLLAMA_NO_CLOUD=1
設定方式見 環境變數與設定。
什麼時候用雲端模型
- 本機模型的品質不夠,需要更大的模型
- 筆電或沒有獨立顯示卡的電腦
- 想先試用大模型,再決定要不要投資硬體
日常、大量、或涉及機密資料的任務,仍然建議用本機模型。
更新於 2026年10月12日