Ollama no usa la GPU: cómo comprobarlo y arreglarlo

Cuando Ollama no usa la GPU no salta ningún error: el modelo sigue respondiendo, pero mucho más despacio, con el procesador al máximo y la tarjeta gráfica parada. Ollama pasa a la CPU por su cuenta si no encuentra una GPU compatible o si el modelo no cabe en la memoria de vídeo, y no avisa. Esta guía explica cómo comprobar qué está usando de verdad y repasa las causas en el orden en que nosotros las miraríamos, con los comandos y ajustes exactos de la documentación de Ollama a 9 de octubre de 2026, para Windows, Linux, Docker y Mac.

Paso 1: comprueba qué usa Ollama con ollama ps

Carga un modelo enviándole una pregunta y ejecuta:

ollama ps

La columna PROCESSOR dice dónde está el modelo. Las preguntas frecuentes de Ollama definen tres lecturas posibles:

• 100% GPU: todo el modelo está en la memoria de vídeo. Es lo que quieres.
• 100% CPU: todo el modelo está en la memoria del sistema. Ollama no ha encontrado una GPU utilizable o algo le obliga a usar la CPU.
• Un reparto, como 48%/52% CPU/GPU: la GPU funciona, pero el modelo y su contexto no caben, así que una parte corre en la CPU. La propia Ollama recomienda evitar ese reparto para no perder rendimiento.

En la misma salida aparece la columna CONTEXT, con la longitud de contexto que se ha reservado. Tenla en cuenta: muchas veces es la culpable del reparto. Si necesitas repasar el resto de comandos, tienes nuestra chuleta de comandos de Ollama.

Paso 2: si ves un reparto CPU/GPU, el modelo no cabe

Es el caso más frecuente y no es un problema de drivers. La memoria de vídeo tiene que guardar los pesos del modelo y la memoria de trabajo de la conversación (la caché KV), que crece con la longitud del contexto. La documentación de Ollama avisa de que un contexto más largo aumenta la memoria necesaria, y sus preguntas frecuentes añaden que la memoria crece con el número de peticiones en paralelo multiplicado por el contexto.

Ollama elige un contexto por defecto según tu memoria de vídeo: 4k tokens con menos de 24 GiB de VRAM, 32k entre 24 y 48 GiB y 256k a partir de 48 GiB. Si lo has subido (por ejemplo a los 64.000 tokens que Ollama recomienda para agentes y herramientas de programación) en una tarjeta con poca memoria, el modelo se desborda a la CPU. Soluciones, de la más barata a la más cara:

1. Baja la longitud de contexto en el control deslizante de la configuración de la app o arranca el servidor con un valor menor en OLLAMA_CONTEXT_LENGTH.
2. Usa una versión más pequeña del modelo: menos parámetros o una cuantización más fuerte (otra etiqueta del mismo modelo). Qué se pierde lo explicamos en qué es la cuantización.
3. Cuantiza la caché KV. OLLAMA_KV_CACHE_TYPE fija su precisión; por defecto es f16 y el ajuste vale para todos los modelos del servidor.
4. Mira qué más está usando la GPU. Los juegos, el navegador u otros modelos también ocupan memoria de vídeo. Por defecto, Ollama mantiene cargado un modelo 5 minutos después de usarlo.

Para saber antes de descargar si un modelo cabe, usa nuestra calculadora de VRAM, que suma los pesos y la caché KV para cada longitud de contexto.

Paso 3: comprueba que tu GPU y tu driver son compatibles

Si ollama ps dice 100% CPU, empieza por la lista de hardware. La página de GPU de Ollama pide esto:

Tabla: compatibilidad de GPU en Ollama (documentación consultada el 9 de octubre de 2026)

Dos casos merecen una mirada más atenta:

• Una NVIDIA antigua. Un driver anterior al 550 (o al 570 en las tarjetas más viejas admitidas) basta para caer a la CPU. Actualiza el driver desde la web de NVIDIA y reinicia Ollama.
• Una AMD que no está en la lista (Linux). Ollama documenta HSA_OVERRIDE_GFX_VERSION para que ROCm trate la tarjeta como un modelo parecido que sí admite. Su ejemplo es una Radeon RX 5400 (gfx1034) con el valor 10.3.0. Solo funciona con chips muy cercanos a uno admitido: tómalo como un experimento.

Si todavía estás eligiendo tarjeta, nuestra guía de la mejor GPU para modelos en local muestra qué modelos caben en 8, 12, 16, 24 y 32 GB de memoria de vídeo.

Paso 4: lee el registro del servidor

El registro dice por qué Ollama ha ignorado la GPU. Dónde está, según su página de solución de problemas:

• Windows: %LOCALAPPDATA%\Ollama\server.log (los anteriores se llaman server-1.log y siguientes).
• Linux: journalctl -u ollama --no-pager --follow --pager-end
• macOS: cat ~/.ollama/logs/server.log
• Docker: docker logs <nombre-del-contenedor>

Para ver más detalle, reinicia Ollama con la variable de depuración. En Windows, cierra antes Ollama desde el icono de la bandeja y ejecuta en PowerShell:

$env:OLLAMA_DEBUG="1"
& "ollama app.exe"

Con NVIDIA, Ollama enumera los códigos de error de detección de la GPU que puede mostrar: 3 (sin inicializar), 46 (dispositivo no disponible), 100 (ningún dispositivo) y 999 (desconocido). Con CUDA_ERROR_LEVEL=50 el registro da más información.

Paso 5: arreglos por sistema

Windows. Actualiza el driver de la gráfica y reinicia el ordenador. Ollama hereda las variables de entorno del usuario y del sistema, así que ciérralo desde la bandeja antes de cambiar una y vuelve a abrirlo. Busca si quedó una CUDA_VISIBLE_DEVICES u OLLAMA_VULKAN de algún tutorial antiguo (paso 6).

Linux con NVIDIA. Ollama avisa de que, tras suspender y reanudar el equipo, a veces no encuentra la GPU. Recarga el módulo del driver:

sudo rmmod nvidia_uvm && sudo modprobe nvidia_uvm

sudo nvidia-modprobe -u lo carga si falta y sudo dmesg | grep -i nvrm muestra los errores del driver. Reiniciar con el último driver de NVIDIA resuelve casi todo lo demás. Para poner una variable de entorno al servicio, ejecuta systemctl edit ollama.service, añade una línea Environment= bajo [Service], recarga systemd y reinicia Ollama.

Linux con AMD. El acceso a /dev/kfd suele exigir estar en el grupo video o render. Si el registro dice «failed to finish discovery before timeout», Ollama indica que el driver de AMD probablemente es anterior a ROCm 7: actualízalo con amdgpu-install, reinicia y vuelve a arrancar Ollama.

Docker. Un contenedor no ve la GPU si no se la das. Con NVIDIA, instala NVIDIA Container Toolkit, compruébalo con docker run --gpus all ubuntu nvidia-smi y arranca Ollama así:

docker run -d --gpus=all -v ollama:/root/.ollama -p 11434:11434 --name ollama ollama/ollama

Con AMD, usa la imagen de ROCm y pasa los dispositivos: docker run -d --device /dev/kfd --device /dev/dri -v ollama:/root/.ollama -p 11434:11434 --name ollama ollama/ollama:rocm. Si la GPU funciona al principio y luego vuelve a la CPU con errores de detección, la solución de Ollama es añadir "exec-opts": ["native.cgroupdriver=cgroupfs"] a /etc/docker/daemon.json en el equipo anfitrión. En sistemas con SELinux, sudo setsebool container_use_devices=1 permite que los contenedores lleguen a las GPU de AMD.

Mac. Ollama usa la GPU de los dispositivos de Apple a través de Metal. Un reparto en un Mac casi siempre significa que el modelo y el contexto no caben en la memoria disponible (paso 2).

Paso 6: asegúrate de que nada obliga a usar la CPU

Ollama documenta varias variables que apagan la GPU a propósito. Cualquiera de ellas, olvidada tras una prueba o una guía, da 100% CPU:

• CUDA_VISIBLE_DEVICES con un identificador no válido, como -1 (NVIDIA)
• ROCR_VISIBLE_DEVICES con un identificador no válido, como -1 (AMD)
• OLLAMA_VULKAN=0 o GGML_VK_VISIBLE_DEVICES=-1 (Vulkan)
• OLLAMA_LLM_LIBRARY con una biblioteca de CPU, como cpu_avx2

En un portátil con gráfica integrada y dedicada, Ollama sugiere apuntar GGML_VK_VISIBLE_DEVICES a la dedicada (por ejemplo, 1) si la integrada da problemas. Con varias NVIDIA, nvidia-smi -L lista sus UUID, más fiables que los números en CUDA_VISIBLE_DEVICES.

Tabla: síntoma, causa probable y primer arreglo

Si nada de esto funciona, guarda el registro de depuración del paso 4 y la salida de ollama ps: te harán falta para avisar del problema en el GitHub de Ollama. Y si Ollama se sigue peleando con tu equipo, LM Studio es la alternativa principal; nuestra guía para instalar Ollama explica la instalación paso a paso.