Contenido

Tutorial de Ollama: qué es y cómo ejecutar modelos de lenguaje en local

En una frase

Ollama es una herramienta para descargar, gestionar y ejecutar modelos de lenguaje grandes de código abierto en tu propio ordenador. Puedes imaginarlo como «Docker para modelos de IA»:

Docker	Ollama
`docker pull nginx`	`ollama pull llama3.2`
`docker run nginx`	`ollama run llama3.2`
`docker ps`	`ollama ps`
Dockerfile	Modelfile

Qué puedes hacer con Ollama

Chatear y hacer preguntas: conversa como con ChatGPT, pero el modelo se ejecuta en tu ordenador.
Analizar imágenes: los modelos con capacidades visuales pueden describir imágenes y reconocer texto.
Programar: usa modelos especializados en código para ayudarte a escribirlo y explicarlo.
Usarlo como servidor de API: Ollama proporciona una API HTTP en segundo plano (de forma predeterminada, http://localhost:11434) a la que pueden llamar tus programas, interfaces web y otras herramientas.
Generar embeddings de texto: convierte texto en vectores para realizar búsquedas semánticas y RAG (para que el modelo responda según tus documentos).

Cómo funciona

ollama run qwen3
     │
     ▼
Servicio Ollama (se ejecuta en segundo plano y escucha en el puerto 11434)
     │  1. Si el modelo no está en local → lo descarga de ollama.com
     │  2. Carga el modelo en la memoria de la tarjeta gráfica (VRAM) o en la memoria del sistema
     ▼
El motor de inferencia genera una respuesta → la muestra carácter a carácter en el terminal o la envía a la API

Una vez descargado, el modelo se guarda en tu disco duro. Después puedes usarlo sin conexión a Internet.

Modelos locales frente a servicios de IA en la nube

	En local (Ollama)	En la nube (ChatGPT, Gemini, etc.)
Privacidad de los datos	Los datos no salen de tu ordenador	Los datos se envían al proveedor del servicio
Coste	Gratis (sin contar la electricidad y el hardware)	Suscripción o pago por uso
Uso sin conexión	Sí	No
Capacidad del modelo	Depende de tu hardware; los modelos grandes pueden no funcionar	Puedes usar los modelos más potentes
Velocidad	Depende de la tarjeta gráfica	Suele ser rápida
Configuración y mantenimiento	Tienes que encargarte tú	No hace falta

Los modelos locales todavía están por detrás de los modelos en la nube más avanzados, pero los modelos de código abierto de tamaño medio ya funcionan muy bien para tareas cotidianas como resumir, traducir, clasificar, extraer datos y ayudar a programar.

Ollama también ofrece modelos en la nube, que te permiten usar modelos más grandes con los mismos comandos y la misma API. Consulta Modelos en la nube.

Qué ordenador necesitas

La memoria es lo que determina el tamaño de los modelos que puedes ejecutar, sobre todo la memoria de la tarjeta gráfica (VRAM).

Tu ordenador	Modelos que puedes ejecutar con un rendimiento aceptable, aproximadamente
8 GB de memoria, sin tarjeta gráfica dedicada	Modelos pequeños de 1B～4B (más lentos)
Mac con Apple Silicon y 16 GB de memoria	Modelos de 7B～8B
Tarjeta gráfica NVIDIA con 8 GB de VRAM	Modelos de 7B～8B
16～24 GB de VRAM	Modelos de 14B～32B
Mac con más de 32 GB de memoria unificada	Modelos de alrededor de 30B

(Estimaciones basadas en las versiones cuantizadas habituales de 4 bits. Consulta Cómo elegir un modelo y requisitos de hardware).

Tarjeta gráfica NVIDIA: ofrece el mejor soporte y la mayor velocidad.
Mac con Apple Silicon (serie M): la memoria unificada permite que los Mac ejecuten modelos más grandes que los PC de precio similar, y ofrece un buen rendimiento.
Tarjeta gráfica AMD: algunos modelos son compatibles.
Solo CPU: puedes ejecutar modelos, pero la velocidad será bastante menor; es una opción adecuada para modelos pequeños.

Familias de modelos de código abierto más conocidas

Modelo	Desarrollador	Características
Llama	Meta	Una de las familias de modelos de código abierto más conocidas
Qwen	Alibaba	Buen rendimiento en chino y muchas opciones de tamaño
Gemma	Google	Buen rendimiento en tamaños pequeños; algunas versiones admiten imágenes
DeepSeek-R1	DeepSeek	Modelo de razonamiento que primero «piensa» y después responde
gpt-oss	OpenAI	Modelo de pesos abiertos publicado por OpenAI
Mistral	Mistral AI	Equipo europeo y gran eficiencia

Encontrarás la lista completa de modelos en la página Models de ollama.com. Los modelos nuevos suelen estar disponibles poco después de su lanzamiento.

Resumen

Ollama te permite ejecutar modelos de IA de código abierto en local con comandos sencillos.
También funciona como servidor de API, lo que facilita su integración con otros programas.
El tamaño de los modelos que puedes ejecutar depende de la memoria, especialmente de la memoria de la tarjeta gráfica.

En la siguiente sección instalaremos Ollama.

Actualizado 12 de octubre de 2026