Contenido

Cómo elegir un modelo de Ollama: parámetros, cuantización y requisitos de hardware

en ollama.com hay cientos de modelos, y cada uno ofrece varios tamaños. En esta sección aprenderás a interpretar estas etiquetas y a elegir un modelo que tu ordenador pueda ejecutar y que se ajuste a tus necesidades.

Parámetros: qué significa B

En los nombres de los modelos, 7b y 14b indican la cantidad de parámetros; b significa billion (mil millones).

  • Cuantos más parámetros, normalmente más inteligente y amplio en conocimientos es el modelo, pero necesita más memoria y funciona más despacio.
  • Etiquetas como e2b y e4b indican la cantidad de parámetros efectivos y corresponden a arquitecturas optimizadas para dispositivos.
  • Etiquetas como 30b-a3b indican un modelo MoE (mezcla de expertos): tiene 30.000 millones de parámetros en total, pero activa unos 3.000 millones en cada ejecución. Necesita una cantidad de memoria similar a la de un modelo 30B, pero su velocidad se acerca a la de uno 3B.

Cuantización: qué significan Q4 y Q8

Normalmente, cada parámetro del modelo original se almacena con 16 bits. La cuantización comprime los parámetros usando menos bits, lo que reduce mucho el uso de memoria a cambio de una pequeña pérdida de calidad.

CuantizaciónBits aprox. por parámetroCalidadDescripción
fp16 / bf1616 bitsCalidad originalRequiere más memoria
q8_08 bitsCasi sin pérdidaUsa aproximadamente la mitad de memoria que el original
q4_K_MAproximadamente 4,5~5 bitsLeve reducciónLa opción predeterminada más común en Ollama, con la mejor relación calidad-precio
q3, q2MenosReducción notableConsidéralas solo si tienes muy poca memoria

Selecciona Tags en la página del modelo para ver todas las variantes disponibles, por ejemplo, qwen3:8b-q8_0.

Estimar cuánta memoria necesitas

Fórmula aproximada:

Tamaño del modelo (GB) ≈ cantidad de parámetros (B) × bits por parámetro ÷ 8

Con una cuantización de 4 bits como referencia, suma aproximadamente 1~2 GB para el contexto (KV cache) y el espacio de ejecución:

Cantidad de parámetrosTamaño del archivo del modelo Q4Memoria disponible recomendada
1B~3B1~2 GB4 GB
7B~8BAproximadamente 5 GB8 GB
12B~14BAproximadamente 8~9 GB12~16 GB
27B~32BAproximadamente 17~20 GB24 GB
70BAproximadamente 40 GB48 GB o más

La forma más precisa de calcularlo es consultar el tamaño del archivo que aparece en la página del modelo y añadir unos cuantos GB de margen. Cuanto más largo configures el contexto, más memoria necesitarás. Consulta Variables de entorno.

La regla más importante: el modelo debe caber por completo en la VRAM. Si supera esa capacidad y parte se carga en la memoria del sistema, la velocidad puede reducirse a una fracción de la original. Es mejor elegir un modelo algo más pequeño que quepa por completo en la GPU.

Modelos recomendados según el uso

Los modelos se actualizan muy rápido. A continuación se muestran algunas familias populares en Ollama cuando se escribió este artículo, que vale la pena probar primero. Consulta ollama.com para ver las versiones más recientes.

Chat general y chino

ModeloDescripción
qwen3 / qwen3.5Su capacidad en chino está entre las mejores de los modelos de código abierto; hay tamaños desde menos de 1B hasta más de 100B
gemma3 / gemma4De Google; buen rendimiento en tamaños pequeños y capacidad para procesar imágenes
llama3.1 / llama3.2Buen rendimiento en inglés y un ecosistema completo
gpt-oss:20bModelo de pesos abiertos de OpenAI que se puede ejecutar con unos 16 GB de memoria

Razonamiento (matemáticas y lógica)

Modelos con modo de razonamiento, como deepseek-r1, qwen3 y gpt-oss, razonan antes de responder. Son adecuados para problemas que requieren varios pasos de pensamiento, pero tardan más en responder.

Programación

Los modelos especializados en código, como qwen2.5-coder y qwen3-coder, son adecuados para autocompletar, explicar y refactorizar código.

Visión (imágenes)

Modelos cuya página indique vision, como gemma3, qwen3.5 y llava.

Embeddings de texto (para RAG)

nomic-embed-text, mxbai-embed-large y bge-m3 (multilingüe y con buen rendimiento en chino). Estos modelos no pueden chatear: solo convierten texto en vectores. Consulta Embeddings de texto y RAG para ver cómo se usan.

Cómo compararlos en la práctica

Haz la misma pregunta a distintos modelos y activa /set verbose para comparar la velocidad:

ollama run qwen3:4b
ollama run qwen3:8b
ollama run gemma3:12b

Prepara entre 5 y 10 preguntas que realmente vayas a hacer (por ejemplo, resumir documentos de trabajo o escribir código que suelas usar). Así encontrarás el modelo adecuado para ti mejor que con cualquier clasificación.

Administrar los modelos descargados

ollama list               # List downloaded models and their sizes
ollama rm gemma3:12b      # Delete an unneeded model to free up disk space

Consulta Referencia completa de comandos de Ollama para ver más comandos.

Actualizado 12 de octubre de 2026