目录

安装 Ollama(Windows、macOS、Linux)

Windows

  1. 前往 ollama.com 下载 Windows 安装程序(OllamaSetup.exe)。
  2. 运行安装程序,无需管理员权限,默认安装在用户文件夹中。
  3. 安装完成后,Ollama 会在后台运行,右下角系统托盘会出现 Ollama 图标,同时也会打开 Ollama 桌面应用。

打开 PowerShell 或命令提示符确认:

ollama --version

使用 NVIDIA 显卡时,请先将显卡驱动更新到较新版本。Ollama 会自动检测并使用 GPU。

macOS

  1. 前往 ollama.com 下载 macOS 版本。
  2. 解压后将 Ollama 拖到“应用程序”文件夹中并打开。
  3. 首次打开时会询问是否安装命令行工具 ollama,请同意。

Apple Silicon(M 系列)Mac 会自动使用 GPU 加速。

Linux

官方提供一键安装脚本:

curl -fsSL https://ollama.com/install.sh | sh

脚本会:

  • 安装 ollama 可执行文件
  • 创建 ollama 系统用户
  • 创建并启动 systemd 服务 ollama.service
  • 检测 NVIDIA / AMD 显卡并配置相关组件

确认服务状态:

systemctl status ollama
ollama --version

查看服务日志(调试时很有用):

journalctl -u ollama -f

如果你习惯先检查脚本再执行,可以先运行 curl -fsSL https://ollama.com/install.sh -o install.sh 下载脚本,查看后再执行。

使用 Docker 安装

想在容器中运行,请看使用 Docker 运行 Ollama。

确认安装成功

ollama run llama3.2 "用一句话介绍你自己"

首次运行会先下载模型(约 2 GB)。看到模型的回答,就表示安装成功。

确认是否使用了 GPU

模型加载后,在另一个终端中运行:

ollama ps
NAME               ID              SIZE      PROCESSOR    CONTEXT    RUNNER      UNTIL
llama3.2:latest    a80c4f17acd5    3.5 GB    100% GPU     4096       llamacpp    4 minutes from now

PROCESSOR 字段:

显示含义
100% GPU整个模型都在显卡上运行,速度最快
100% CPU完全使用 CPU 运行,没有使用 GPU
48%/52% CPU/GPU显卡内存不足,部分模型放在系统内存中,速度会明显变慢

如果应该使用 GPU 却显示 100% CPU,请参考GPU 与性能调优。

Ollama 服务在哪里

Ollama 由两部分组成:

  • 服务(server):在后台运行,负责加载模型、提供 API,默认监听 127.0.0.1:11434。
  • 命令行工具(CLI):你输入的 ollama 命令,实际上会调用服务的 API。

Windows 和 macOS 应用会自动启动服务;Linux 由 systemd 管理。也可以在前台手动启动(例如调试时):

ollama serve

如果已有服务在运行,会出现 address already in use 错误,这是正常的。

确认服务是否正在运行:

curl http://localhost:11434

如果响应为 Ollama is running,就表示运行正常。

更新

  • Windows / macOS:应用会自动检查更新,重新启动即可应用更新。
  • Linux:重新运行安装脚本即可升级。
curl -fsSL https://ollama.com/install.sh | sh

卸载

  • Windows:在“设置 → 应用”中卸载。模型文件位于 C:\Users\用户名\.ollama,需要手动删除。

  • macOS:退出 Ollama,删除“应用程序”中的 Ollama,并删除 ~/.ollama 文件夹。

  • Linux:

    sudo systemctl stop ollama
    sudo systemctl disable ollama
    sudo rm /etc/systemd/system/ollama.service
    sudo rm $(which ollama)
    sudo rm -rf /usr/local/lib/ollama   # GPU 函数库(若存在)
    sudo rm -r /usr/share/ollama
    sudo userdel ollama
    sudo groupdel ollama

模型文件通常会占用大量空间,卸载时记得一并删除。

更新于 2026年10月12日