Mejor GPU para modelos en local: qué cabe en cada escalón de VRAM

La mejor GPU para modelos en local es la que tiene la memoria de vídeo (VRAM) que necesita el modelo que quieres ejecutar, porque un modelo que no cabe va mucho más lento o no arranca. Esta guía no clasifica tarjetas ni da precios ni pruebas de rendimiento, que no podemos verificar y que cambian cada semana. En su lugar responde a la pregunta que decide la compra: qué modelos caben en 8, 12, 16, 24 y 32 GB de VRAM, con nuestras fórmulas de memoria ya validadas, las especificaciones publicadas por NVIDIA y la documentación de hardware de Ollama, todo comprobado el 6 de octubre de 2026.

¿Cuánta VRAM necesitas para ejecutar un modelo en local?

Un modelo necesita memoria para sus pesos, para la caché de claves y valores, que crece con la conversación, y para un margen del programa. Nuestra calculadora, contrastada con tamaños reales de archivos GGUF (a menos de un 3 %), da estos totales. Cada celda es el escalón de VRAM más pequeño en el que cabe el modelo con la cuantización Q4_K_M de 4 bits, con dos longitudes de contexto. Contamos 1 GB como 1.000.000.000 de bytes, que es prudente.

Tabla: el escalón de VRAM más pequeño en el que cabe (cálculo nuestro, Q4_K_M)

Léela como una regla práctica para cada escalón:

• 8 GB: modelos de 4.000 a 8.000 millones de parámetros con poco contexto. Con 32K tokens, hasta un modelo de 8B necesita unos 10 GB.
• 12 GB: modelos de 8B y 12B con sitio para contexto largo, y uno de 14B con contexto corto.
• 16 GB: un modelo de 14B con contexto largo y gpt-oss 20B, que guarda sus pesos en forma nativa de 4 bits.
• 24 GB: modelos de 24B a 35B, incluidos los de mezcla de expertos para programar, con contexto moderado.
• 32 GB: un modelo de 32B con contexto de 32K, o uno de 24B con cuantización de 8 bits.
• Más de 32 GB: Llama 3.3 70B necesita unos 47 GB con contexto corto y gpt-oss 120B unos 67 GB, que es donde las API en la nube empiezan a competir. Mira los precios de las API de modelos.

Los modelos de mezcla de expertos como Qwen3-Coder 30B-A3B cargan todos sus pesos, así que necesitan memoria para los 30.000 millones de parámetros aunque solo unos 3.000 millones estén activos por token. El número de parámetros activos afecta a la velocidad, no a la memoria que necesitas. Para probar tu caso, usa la calculadora de VRAM.

¿Cuánta VRAM tiene cada tarjeta NVIDIA?

La página comparativa de NVIDIA lista estas configuraciones de memoria (comprobadas el 6 de octubre de 2026):

La RTX 5090 tiene 32 GB; las 5080, 5070 Ti, 4080 y 4070 Ti SUPER tienen 16 GB; las 5070 y 4070 tienen 12 GB; y las 5060 Ti y 4060 Ti vienen en versiones de 16 GB u 8 GB, así que comprueba la variante exacta antes de comprar. La 4090 tiene 24 GB.

Por qué importa el ancho de banda de memoria

Cuando un modelo cabe entero en la GPU, cada token nuevo exige leer una vez los pesos del modelo, así que el ancho de banda de memoria marca un techo de velocidad: los tokens por segundo nunca pueden superar el ancho de banda dividido entre los bytes de los pesos. NVIDIA publica el ancho de banda de su serie 50. Aplicando esa fórmula a Llama 3.1 8B en Q4_K_M, que pesa 4,91 GB, salen estos límites superiores:

Tabla: techos teóricos de velocidad con Llama 3.1 8B Q4_K_M (cálculo nuestro)

Son techos, no mediciones: la velocidad real es menor por la sobrecarga y la espera hasta el primer token, y no hemos probado ninguna tarjeta. Explican por qué dos tarjetas con la misma VRAM pueden sentirse distintas y por qué la 5060 Ti de 16 GB puede ejecutar un modelo mayor que la 5070, pero con un techo más bajo.

¿Qué GPU admite Ollama?

La documentación de Ollama dice que admite tarjetas NVIDIA con capacidad de cálculo 5.0 o superior y controlador 550 o posterior; tarjetas AMD mediante ROCm (versión 7), incluidas las familias Radeon RX, Radeon PRO, APU Ryzen e Instinct, en Linux y Windows; dispositivos Apple mediante la API Metal (la serie M de Apple, con macOS Sonoma 14 o posterior); y otras tarjetas en Windows y Linux mediante Vulkan. El soporte de software importa tanto como la VRAM: una tarjeta que Ollama o llama.cpp no puedan usar no te sirve de nada, así que comprueba la lista de compatibilidad de tu modelo exacto. Nuestra guía para instalar Ollama explica los pasos.

¿Y si el modelo no cabe?

Tienes cinco opciones, en el orden en que las probaríamos:

1. Usa un modelo más pequeño o más comprimido. Q3_K_M necesita un 18 % menos de memoria para los pesos que Q4_K_M (3,996 frente a 4,894 bits por peso en la tabla de llama.cpp), con una pérdida de calidad que depende del modelo.
2. Acorta el contexto. La caché de claves y valores crece en línea recta con el número de tokens (mira qué es la ventana de contexto).
3. Cuantiza la caché. OLLAMA_KV_CACHE_TYPE de Ollama admite q8_0, que usa más o menos la mitad de memoria que el f16 por defecto.
4. Acepta el reparto. Una parte del modelo se ejecuta en la CPU desde la memoria RAM, que es más lento. Ejecuta ollama ps y busca «100% GPU» para saber si un modelo cabe entero.
5. Usa una API en su lugar. Para un modelo por encima de tu escalón de VRAM, compáralo con el coste de una API.

¿Qué escalón de VRAM te conviene?

Sin precios ni pruebas, la orientación honesta es por modelo: 8 GB para asistentes pequeños, de 12 a 16 GB para la clase de 8B a 14B con documentos largos, 24 GB para probar los modelos de 24B a 35B que mucha gente usa para programar, 32 GB para un modelo de 32B con margen. Elijas el que elijas, comprueba la variante exacta de la tarjeta, el ancho de banda de memoria, si tu software la admite y el precio actual en tienda, que esta página no da.