Ollama 教學

Ollama 是什麼？用白話說明 Ollama 的用途、運作方式、和 ChatGPT 等雲端服務的差別、優缺點，以及需要什麼樣的電腦才能順利執行本機 AI 模型。

一步一步在 Windows、macOS、Linux 安裝 Ollama，確認 GPU 是否正確啟用，並說明 Ollama 服務的啟動方式、更新與解除安裝方法。

用 ollama run 下載並和模型對話，學會互動模式的指令（/set、/show、/clear、/bye）、多行輸入、單次提問、讀取檔案與圖片，以及如何讓模型用繁體中文回答。

教你看懂模型名稱中的 7B、14B、Q4_K_M 等標示，估算每個模型需要多少顯示卡記憶體（VRAM），並依照用途（聊天、中文、寫程式、看圖、嵌入）推薦適合的 Ollama 模型。

Ollama 常用指令完整整理：run、pull、list、ps、stop、rm、show、create、cp、serve、push、signin，附參數說明與實際範例，適合收藏查閱。

用 Modelfile 建立自己的 Ollama 模型：設定系統提示詞、調整 temperature 與 num_ctx 等參數、加入範例對話，並匯入 Hugging Face 的 GGUF 模型檔。附繁體中文助理範例。

Ollama 常用環境變數完整說明：讓區網其他電腦連線（OLLAMA_HOST）、更改模型存放位置（OLLAMA_MODELS）、調整上下文長度、模型常駐時間與平行請求數，以及在 Windows、macOS、Linux 上的設定方法。

確認 Ollama 是否使用 GPU、解決只用 CPU 的問題，了解模型超出顯示卡記憶體時的影響，並用上下文長度、KV cache 量化、Flash Attention、模型尺寸等方法提升速度。

用官方 ollama/ollama 映像檔在 Docker 中執行 Ollama，設定 NVIDIA 與 AMD GPU、保存模型資料，並用 Docker Compose 搭配 Open WebUI 一次啟動。

Ollama REST API 入門：/api/chat 對話、/api/generate 文字生成、串流與非串流回應、options 參數、keep_alive、圖片輸入、思考模式，以及 OpenAI 相容 API 的用法。

用官方 ollama Python 套件呼叫本機模型：chat、串流輸出、多輪對話、非同步、連線到遠端主機，以及改用 OpenAI Python SDK 連接 Ollama 的方法。附完整可執行範例。

使用官方 ollama npm 套件在 Node.js 與瀏覽器中呼叫 Ollama：chat、串流輸出、中止請求、連線設定，以及用 fetch 直接呼叫 REST API 與 OpenAI SDK 的寫法。

用 Ollama 的 format 參數讓模型輸出符合 JSON Schema 的資料，搭配 Python Pydantic 與 JavaScript Zod 定義格式，實作從文字中擷取資料、分類與圖片資訊擷取。

讓 Ollama 的模型呼叫你寫的函式：查詢天氣、計算、查資料庫。說明工具呼叫的運作流程，附 Python 與 REST API 完整範例，以及多個工具、多輪呼叫的寫法。

用 Ollama 的嵌入模型（bge-m3、nomic-embed-text）把文字轉成向量，實作語意搜尋，並用不到 60 行 Python 打造一個本機 RAG 知識庫問答系統。說明切塊、相似度與常見改進方法。

安裝 Open WebUI 並連接 Ollama，打造類似 ChatGPT 的本機 AI 聊天網頁：Docker 與 pip 安裝、連線設定、多人帳號、上傳文件做知識庫問答、自訂模型與常見問題。

了解 Ollama 雲端模型（Cloud models）：電腦跑不動的大模型如何透過 Ollama 雲端執行、登入與使用方式、API 金鑰、隱私考量，以及如何完全停用雲端功能。

Ollama 常見問題整理：連不到 11434、模型下載很慢或中斷、記憶體不足、回答是簡體中文、回答被截斷、模型胡言亂語、硬碟空間不足、如何查看日誌等問題的解決方法。