目錄

安裝 Ollama(Windows、macOS、Linux)

Windows

  1. 到 ollama.com 下載 Windows 安裝程式(OllamaSetup.exe)。
  2. 執行安裝程式,不需要系統管理員權限,預設安裝在使用者資料夾中。
  3. 安裝完成後,Ollama 會在背景執行,右下角系統匣會出現 Ollama 圖示,同時也會開啟 Ollama 的桌面應用程式。

打開 PowerShell 或命令提示字元確認:

ollama --version

使用 NVIDIA 顯示卡時,請先將顯示卡驅動程式更新到較新的版本。Ollama 會自動偵測並使用 GPU。

macOS

  1. 到 ollama.com 下載 macOS 版本。
  2. 解壓縮後把 Ollama 拖進「應用程式」資料夾並開啟。
  3. 第一次開啟時會詢問是否安裝命令列工具 ollama,請同意。

Apple Silicon(M 系列)Mac 會自動使用 GPU 加速。

Linux

官方提供一鍵安裝腳本:

curl -fsSL https://ollama.com/install.sh | sh

腳本會:

  • 安裝 ollama 執行檔
  • 建立 ollama 系統使用者
  • 建立並啟動 systemd 服務 ollama.service
  • 偵測 NVIDIA / AMD 顯示卡並設定相關元件

確認服務狀態:

systemctl status ollama
ollama --version

查看服務日誌(除錯時很有用):

journalctl -u ollama -f

如果你習慣先檢查腳本再執行,可以先 curl -fsSL https://ollama.com/install.sh -o install.sh 下載下來看過再執行。

用 Docker 安裝

想用容器執行,請看 用 Docker 執行 Ollama。

確認安裝成功

ollama run llama3.2 "用一句話介紹你自己"

第一次執行會先下載模型(約 2 GB)。看到模型的回答,就代表安裝成功。

確認有沒有用到 GPU

模型載入後,在另一個終端機執行:

ollama ps
NAME               ID              SIZE      PROCESSOR    CONTEXT    RUNNER      UNTIL
llama3.2:latest    a80c4f17acd5    3.5 GB    100% GPU     4096       llamacpp    4 minutes from now

PROCESSOR 欄位:

顯示意思
100% GPU整個模型都在顯示卡上,速度最快
100% CPU完全用 CPU 執行,沒有使用 GPU
48%/52% CPU/GPU顯示卡記憶體不夠,部分模型放在系統記憶體,速度會明顯變慢

如果應該要用 GPU 卻顯示 100% CPU,請參考 GPU 與效能調校。

Ollama 服務在哪裡

Ollama 由兩部分組成:

  • 服務(server):在背景執行,負責載入模型、提供 API,預設監聽 127.0.0.1:11434。
  • 命令列工具(CLI):你輸入的 ollama 指令,實際上是呼叫服務的 API。

Windows 和 macOS 的應用程式會自動啟動服務;Linux 由 systemd 管理。也可以手動在前景啟動(例如除錯時):

ollama serve

如果已經有服務在執行,會出現 address already in use 錯誤,這是正常的。

確認服務有沒有在跑:

curl http://localhost:11434

回應 Ollama is running 就代表正常。

更新

  • Windows / macOS:應用程式會自動檢查更新,重新啟動即可套用。
  • Linux:重新執行安裝腳本即可升級。
curl -fsSL https://ollama.com/install.sh | sh

解除安裝

  • Windows:在「設定 → 應用程式」中解除安裝。模型檔案在 C:\Users\使用者名稱\.ollama,需要手動刪除。

  • macOS:結束 Ollama,刪除「應用程式」中的 Ollama,並刪除 ~/.ollama 資料夾。

  • Linux:

    sudo systemctl stop ollama
    sudo systemctl disable ollama
    sudo rm /etc/systemd/system/ollama.service
    sudo rm $(which ollama)
    sudo rm -rf /usr/local/lib/ollama   # GPU 函式庫(若存在)
    sudo rm -r /usr/share/ollama
    sudo userdel ollama
    sudo groupdel ollama

模型檔案通常佔用很大的空間,解除安裝時記得一併刪除。

更新於 2026年10月12日