Contenido

Tutorial de Ollama: ejecuta modelos de lenguaje en tu propio equipo

Ollama es una herramienta que te permite ejecutar modelos de lenguaje grandes (LLM) en tu propio equipo. Con un solo comando puedes descargar modelos abiertos como Llama, Qwen, Gemma, DeepSeek y gpt-oss, y conversar con ellos. Tus datos permanecen en el equipo y no pagas por cada uso.

ollama run gemma3

Este tutorial de Ollama empieza con la instalación y te guía hasta conectar Ollama con Python, hacer que el modelo devuelva datos estructurados, llamar herramientas y crear tu propia base de conocimiento local para responder preguntas (RAG).

Qué aprenderás

  • Qué es Ollama, qué puedes hacer con él y qué tipo de equipo necesitas
  • Instalar Ollama en Windows, macOS y Linux
  • Elegir los modelos y las versiones cuantizadas adecuados según la memoria de la tarjeta gráfica
  • Crear tu propio modelo personalizado con Modelfile
  • Conectar Ollama mediante REST API, Python y JavaScript
  • Salidas estructuradas (JSON), llamadas a herramientas (Function calling), embeddings de texto y RAG
  • Implementar Ollama con Docker y combinarlo con Open WebUI para crear una interfaz web similar a ChatGPT

A quién va dirigido

  • A quienes quieran probar modelos de IA abiertos en su propio equipo
  • A equipos que priorizan la privacidad de los datos y no quieren enviarlos a la nube
  • A desarrolladores que quieran añadir funciones de IA a sus programas

Solo necesitas saber introducir comandos en la terminal para empezar. Los capítulos sobre integración con programas requieren conocimientos básicos de Python o JavaScript.

Inicio rápido

  1. Descarga e instala Ollama desde ollama.com (consulta Instalar Ollama).

  2. Abre la terminal y ejecuta:

    ollama run gemma3
  3. Cuando termine la descarga del modelo, escribe una pregunta y pulsa Enter para enviarla.

Empieza por Qué es Ollama.

Primeros pasos

  1. Qué es Ollama

    Descubre qué es Ollama, para qué sirve, cómo funciona, en qué se diferencia de ChatGPT y otros servicios en la nube, sus ventajas y limitaciones, y qué ordenador necesitas para ejecutar modelos de IA en local.

  2. Instalar Ollama

    Instala Ollama paso a paso en Windows, macOS y Linux, comprueba si la GPU está habilitada y aprende a iniciar, actualizar y desinstalar el servicio.

  3. Ejecutar el primer modelo

    Descarga modelos y conversa con ollama run. Aprende los comandos interactivos, la entrada multilínea, las preguntas puntuales y a usar archivos e imágenes.

  4. Elección del modelo y requisitos de hardware

    Aprende a interpretar 7B, 14B y Q4_K_M, estimar la VRAM necesaria y elegir modelos de Ollama para chat, chino, programación, visión y embeddings.

  5. Comandos de Ollama

    Guía completa de los comandos más usados de Ollama: run, pull, list, ps, stop, rm, show, create, cp, serve, push y signin, con opciones y ejemplos prácticos.

Configuración avanzada

  1. Modelos personalizados con Modelfile

    Crea tu propio modelo de Ollama con Modelfile: define el prompt del sistema, ajusta parámetros como temperature y num_ctx, añade conversaciones de ejemplo e importa modelos GGUF de Hugging Face. Incluye un ejemplo de asistente en español.

  2. Variables de entorno y configuración

    Guía de las variables de entorno más usadas de Ollama: acceso en la red local, ubicación de modelos, longitud del contexto, tiempo de permanencia y solicitudes paralelas en Windows, macOS y Linux.

  3. GPU y rendimiento

    Comprueba si Ollama usa la GPU y soluciona el uso exclusivo de CPU. Aprende a acelerar los modelos ajustando el contexto, la caché KV, Flash Attention y el tamaño.

  4. Ejecutar con Docker

    Ejecuta Ollama en Docker con la imagen oficial, configura GPU NVIDIA o AMD, conserva los modelos y combina Ollama con Open WebUI mediante Docker Compose.

API e integración con código

  1. REST API

    Introducción a la API REST de Ollama: chat, generación de texto, respuestas en streaming, opciones, keep_alive, imágenes, modo de razonamiento y API compatible con OpenAI.

  2. Conectar con Python

    Usa el paquete oficial de Python de Ollama para llamar a modelos locales: chat, transmisión, conversaciones, modo asíncrono y conexión remota. Incluye ejemplos ejecutables.

  3. Integración con JavaScript

    Usa el paquete oficial de npm ollama para llamar a Ollama desde Node.js y el navegador: chat, streaming, cancelación, conexión, REST con fetch y OpenAI SDK.

  4. Salidas estructuradas (JSON)

    Usa el parámetro format de Ollama para generar datos que cumplan un JSON Schema. Define formatos con Pydantic en Python y Zod en JavaScript para extraer y clasificar información.

  5. Llamadas a herramientas

    Permite que los modelos de Ollama llamen a tus funciones para consultar el tiempo, hacer cálculos o buscar datos. Aprende el flujo y usa ejemplos completos en Python y la API REST, con varias herramientas y llamadas encadenadas.

  6. Embeddings y RAG

    Convierte texto en vectores con modelos de embeddings de Ollama (bge-m3, nomic-embed-text), implementa búsqueda semántica y crea una base de conocimiento RAG local con menos de 60 líneas de Python.

Integraciones

  1. Interfaz web de Open WebUI

    Instala Open WebUI y conéctalo con Ollama para crear un chat de IA local como ChatGPT: instalación con Docker o pip, configuración, usuarios, documentos, modelos y preguntas frecuentes.

  2. Modelos en la nube

    Aprende a ejecutar modelos grandes con Ollama en la nube, iniciar sesión y usarlos, gestionar claves API, proteger la privacidad y desactivar la nube.

  3. Preguntas frecuentes y errores

    Soluciones a problemas frecuentes de Ollama: conexión al puerto 11434, descargas lentas o interrumpidas, falta de memoria o espacio, respuestas en chino simplificado o truncadas, registros y más.

Actualizado 12 de octubre de 2026