目录
安装 Ollama(Windows、macOS、Linux)
Windows
- 前往 ollama.com 下载 Windows 安装程序(
OllamaSetup.exe)。 - 运行安装程序,无需管理员权限,默认安装在用户文件夹中。
- 安装完成后,Ollama 会在后台运行,右下角系统托盘会出现 Ollama 图标,同时也会打开 Ollama 桌面应用。
打开 PowerShell 或命令提示符确认:
ollama --version
使用 NVIDIA 显卡时,请先将显卡驱动更新到较新版本。Ollama 会自动检测并使用 GPU。
macOS
- 前往 ollama.com 下载 macOS 版本。
- 解压后将 Ollama 拖到“应用程序”文件夹中并打开。
- 首次打开时会询问是否安装命令行工具
ollama,请同意。
Apple Silicon(M 系列)Mac 会自动使用 GPU 加速。
Linux
官方提供一键安装脚本:
curl -fsSL https://ollama.com/install.sh | sh
脚本会:
- 安装
ollama可执行文件 - 创建
ollama系统用户 - 创建并启动 systemd 服务
ollama.service - 检测 NVIDIA / AMD 显卡并配置相关组件
确认服务状态:
systemctl status ollama
ollama --version
查看服务日志(调试时很有用):
journalctl -u ollama -f
如果你习惯先检查脚本再执行,可以先运行
curl -fsSL https://ollama.com/install.sh -o install.sh下载脚本,查看后再执行。
使用 Docker 安装
想在容器中运行,请看使用 Docker 运行 Ollama。
确认安装成功
ollama run llama3.2 "用一句话介绍你自己"
首次运行会先下载模型(约 2 GB)。看到模型的回答,就表示安装成功。
确认是否使用了 GPU
模型加载后,在另一个终端中运行:
ollama ps
NAME ID SIZE PROCESSOR CONTEXT RUNNER UNTIL
llama3.2:latest a80c4f17acd5 3.5 GB 100% GPU 4096 llamacpp 4 minutes from now
PROCESSOR 字段:
| 显示 | 含义 |
|---|---|
100% GPU | 整个模型都在显卡上运行,速度最快 |
100% CPU | 完全使用 CPU 运行,没有使用 GPU |
48%/52% CPU/GPU | 显卡内存不足,部分模型放在系统内存中,速度会明显变慢 |
如果应该使用 GPU 却显示 100% CPU,请参考GPU 与性能调优。
Ollama 服务在哪里
Ollama 由两部分组成:
- 服务(server):在后台运行,负责加载模型、提供 API,默认监听
127.0.0.1:11434。 - 命令行工具(CLI):你输入的
ollama命令,实际上会调用服务的 API。
Windows 和 macOS 应用会自动启动服务;Linux 由 systemd 管理。也可以在前台手动启动(例如调试时):
ollama serve
如果已有服务在运行,会出现 address already in use 错误,这是正常的。
确认服务是否正在运行:
curl http://localhost:11434
如果响应为 Ollama is running,就表示运行正常。
更新
- Windows / macOS:应用会自动检查更新,重新启动即可应用更新。
- Linux:重新运行安装脚本即可升级。
curl -fsSL https://ollama.com/install.sh | sh
卸载
-
Windows:在“设置 → 应用”中卸载。模型文件位于
C:\Users\用户名\.ollama,需要手动删除。 -
macOS:退出 Ollama,删除“应用程序”中的 Ollama,并删除
~/.ollama文件夹。 -
Linux:
sudo systemctl stop ollama sudo systemctl disable ollama sudo rm /etc/systemd/system/ollama.service sudo rm $(which ollama) sudo rm -rf /usr/local/lib/ollama # GPU 函数库(若存在) sudo rm -r /usr/share/ollama sudo userdel ollama sudo groupdel ollama
模型文件通常会占用大量空间,卸载时记得一并删除。
更新于 2026年10月12日