目錄
安裝 Ollama(Windows、macOS、Linux)
Windows
- 到 ollama.com 下載 Windows 安裝程式(
OllamaSetup.exe)。 - 執行安裝程式,不需要系統管理員權限,預設安裝在使用者資料夾中。
- 安裝完成後,Ollama 會在背景執行,右下角系統匣會出現 Ollama 圖示,同時也會開啟 Ollama 的桌面應用程式。
打開 PowerShell 或命令提示字元確認:
ollama --version
使用 NVIDIA 顯示卡時,請先將顯示卡驅動程式更新到較新的版本。Ollama 會自動偵測並使用 GPU。
macOS
- 到 ollama.com 下載 macOS 版本。
- 解壓縮後把 Ollama 拖進「應用程式」資料夾並開啟。
- 第一次開啟時會詢問是否安裝命令列工具
ollama,請同意。
Apple Silicon(M 系列)Mac 會自動使用 GPU 加速。
Linux
官方提供一鍵安裝腳本:
curl -fsSL https://ollama.com/install.sh | sh
腳本會:
- 安裝
ollama執行檔 - 建立
ollama系統使用者 - 建立並啟動 systemd 服務
ollama.service - 偵測 NVIDIA / AMD 顯示卡並設定相關元件
確認服務狀態:
systemctl status ollama
ollama --version
查看服務日誌(除錯時很有用):
journalctl -u ollama -f
如果你習慣先檢查腳本再執行,可以先
curl -fsSL https://ollama.com/install.sh -o install.sh下載下來看過再執行。
用 Docker 安裝
想用容器執行,請看 用 Docker 執行 Ollama。
確認安裝成功
ollama run llama3.2 "用一句話介紹你自己"
第一次執行會先下載模型(約 2 GB)。看到模型的回答,就代表安裝成功。
確認有沒有用到 GPU
模型載入後,在另一個終端機執行:
ollama ps
NAME ID SIZE PROCESSOR CONTEXT RUNNER UNTIL
llama3.2:latest a80c4f17acd5 3.5 GB 100% GPU 4096 llamacpp 4 minutes from now
PROCESSOR 欄位:
| 顯示 | 意思 |
|---|---|
100% GPU | 整個模型都在顯示卡上,速度最快 |
100% CPU | 完全用 CPU 執行,沒有使用 GPU |
48%/52% CPU/GPU | 顯示卡記憶體不夠,部分模型放在系統記憶體,速度會明顯變慢 |
如果應該要用 GPU 卻顯示 100% CPU,請參考 GPU 與效能調校。
Ollama 服務在哪裡
Ollama 由兩部分組成:
- 服務(server):在背景執行,負責載入模型、提供 API,預設監聽
127.0.0.1:11434。 - 命令列工具(CLI):你輸入的
ollama指令,實際上是呼叫服務的 API。
Windows 和 macOS 的應用程式會自動啟動服務;Linux 由 systemd 管理。也可以手動在前景啟動(例如除錯時):
ollama serve
如果已經有服務在執行,會出現 address already in use 錯誤,這是正常的。
確認服務有沒有在跑:
curl http://localhost:11434
回應 Ollama is running 就代表正常。
更新
- Windows / macOS:應用程式會自動檢查更新,重新啟動即可套用。
- Linux:重新執行安裝腳本即可升級。
curl -fsSL https://ollama.com/install.sh | sh
解除安裝
-
Windows:在「設定 → 應用程式」中解除安裝。模型檔案在
C:\Users\使用者名稱\.ollama,需要手動刪除。 -
macOS:結束 Ollama,刪除「應用程式」中的 Ollama,並刪除
~/.ollama資料夾。 -
Linux:
sudo systemctl stop ollama sudo systemctl disable ollama sudo rm /etc/systemd/system/ollama.service sudo rm $(which ollama) sudo rm -rf /usr/local/lib/ollama # GPU 函式庫(若存在) sudo rm -r /usr/share/ollama sudo userdel ollama sudo groupdel ollama
模型檔案通常佔用很大的空間,解除安裝時記得一併刪除。
更新於 2026年10月12日