RAG vs fine-tuning: ¿cuál necesitas?

RAG vs fine-tuning es la pregunta detrás de la mayoría de los chatbots de empresa: ¿le das al modelo la información correcta cuando alguien pregunta, o cambias el modelo para que se comporte como quieres? RAG (generación aumentada por recuperación) añade conocimiento al prompt en el momento de la pregunta. El fine-tuning, o ajuste fino, entrena un modelo con ejemplos para que cambie su comportamiento. Esta guía compara las dos opciones con lo que dicen OpenAI, AWS, Anthropic y los artículos de investigación originales, comprobado el 6 de octubre de 2026, y termina con una guía para decidir.

¿Qué diferencia hay entre RAG y fine-tuning?

Tabla: RAG y fine-tuning, lado a lado

Las cuatro primeras filas se deducen de cómo funciona cada método y de la descripción de RAG de AWS, que cuenta entre sus ventajas evitar el reentrenamiento, acceder a información actual y atribuir fuentes. La última fila es un resumen nuestro, no una cifra de ningún fabricante: calcula los dos con la página de precios de tu proveedor.

¿Qué dice OpenAI del fine-tuning?

OpenAI describe el ajuste fino en su guía de optimización de modelos como una forma de tomar un modelo base de OpenAI, darle el tipo de entradas y salidas que esperas en tu aplicación y obtener un modelo que destaque en las tareas para las que lo usarás. Enumera estos métodos: ajuste fino supervisado, optimización directa de preferencias, ajuste fino por refuerzo y ajuste fino de visión.

Lo recomienda cuando necesitas dar al modelo más ejemplos de los que caben en una sola ventana de contexto, reducir el coste en tokens a gran escala, entrenar con datos propios o conseguir que un modelo más pequeño sea suficientemente bueno para una tarea. Igual de importante, dice que se empiece por otro sitio: escribir pruebas (evals) que midan la salida de tu modelo para fijar un punto de partida, y recuerda que el proceso de ingeniería de prompts «may be all you need in order to get great results», es decir, puede ser todo lo que necesites para obtener buenos resultados.

¿Cómo abarata LoRA el fine-tuning?

Entrenar todos los pesos de un modelo grande es caro. LoRA (adaptación de bajo rango), de un artículo de 2021 de Edward Hu y colegas, congela los pesos preentrenados e inyecta pequeñas matrices entrenables en cada capa. Para GPT-3 175B entrenado con Adam, los autores informan de una reducción de 10.000 veces en el número de parámetros entrenables y de 3 veces en la memoria de GPU necesaria, con una calidad del modelo igual o mejor que la del ajuste fino completo y sin latencia adicional en la inferencia. Sea cual sea el método, el modelo adaptado sigue teniendo que caber en memoria al ejecutarlo, que es la pregunta de cuánta VRAM necesitas para un modelo en local.

¿Qué aporta RAG?

RAG deja el modelo como está y cambia lo que lee. Según AWS, el sistema convierte tus documentos en embeddings en una base de datos vectorial, compara con ellos la pregunta del usuario, añade al prompt los mejores pasajes y mantiene el índice al día. Nuestra guía de qué es RAG repasa los pasos y las tasas de fallo de recuperación que midió Anthropic (5,7 % de partida y 1,9 % con su mejor combinación de técnicas, en su propio conjunto de pruebas). El texto recuperado también ocupa sitio en la ventana de contexto, de modo que el coste de RAG crece con lo que recuperes.

Cómo elegir: una guía corta para decidir

Hazte estas preguntas por orden:

1. ¿Lo resuelve un prompt mejor? OpenAI dice que se pruebe antes con prompts y evals. Si la respuesta es que sí, no necesitas ninguna de las dos.
2. ¿Al modelo le falta información? Documentos privados, precios, políticas o cualquier cosa que cambie cada semana: usa RAG. Reentrenar un modelo con hechos que estarán desfasados el mes que viene es difícil de mantener, y AWS cuenta evitar el reentrenamiento como una ventaja de RAG.
3. ¿Las respuestas tienen que citar de dónde salen? RAG, porque los pasajes se conocen y se pueden mostrar.
4. ¿Al modelo le falta comportamiento? Un formato de salida fijo, un tono de la casa o una tarea estrecha repetida miles de veces a partir de ejemplos: fine-tuning, que OpenAI recomienda también para recortar tokens a gran escala o usar un modelo más pequeño.
5. ¿Necesitas las dos? Muchos sistemas ajustan para el comportamiento y usan RAG para el conocimiento. Se complementan, así que la respuesta a «RAG o fine-tuning» a veces es «las dos, en este orden de esfuerzo: prompt, luego RAG, luego fine-tuning».

Errores frecuentes

• Hacer fine-tuning para enseñar hechos. La información que cambia es más fácil de mantener en documentos que puedes actualizar que en pesos que hay que reentrenar, y un modelo ajustado no tiene una forma de serie de citar una fuente.
• Montar RAG sin medir la recuperación. Si no se recupera el pasaje correcto, el mejor modelo no puede usarlo. Prueba la recuperación con una lista de preguntas reales antes de juzgar las respuestas.
• Saltarse las evals. Sin un punto de partida no puedes saber si alguno de los métodos ayudó.
• Enviar demasiado texto. Más pasajes recuperados cuestan más tokens y pueden diluir la respuesta, como advierten los fabricantes sobre los contextos largos.

Qué comprobar antes de invertir

Cuáles de tus problemas son de conocimiento y cuáles de comportamiento; con qué frecuencia cambia la información; si las respuestas deben citar fuentes; quién puede ver los documentos que indexas; y cuánto cuestan las dos opciones con tu proveedor. Para estimar la parte del prompt, usa nuestra calculadora de costes de API. Y si el sistema va a atender a clientes en la UE, repasa antes el Reglamento (UE) 2024/1689.