Modelos explicados

Aprende las ideas que hay detrás de las herramientas

Todos los chatbots y asistentes que usas se construyen con un puñado de ideas: el texto se corta en tokens, un modelo lee una cantidad limitada de ellos de una vez, se puede reducir, enseñar o dotar de documentos, y a veces afirma cosas falsas con total seguridad. Las guías de esta sección explican esas ideas en lenguaje claro y las vinculan a una cifra que puedes comprobar. Citan la documentación de los propios fabricantes y artículos de investigación, dicen cuándo una cifra es un cálculo nuestro y llevan la fecha en que las verificamos. Si un término de una página de precios o del anuncio de un producto te confunde, probablemente esté explicado aquí.

Por dónde empezar

Las cuatro primeras guías explican cómo ve el texto un modelo y conviene leerlas en este orden:

1. Qué es un token es la base. Los tokens son la unidad de texto que un modelo lee y escribe, y todo lo demás se mide en ellos: precios, límites y velocidad. En inglés, OpenAI calcula 100 tokens por unas 75 palabras, y en nuestro propio recuento del mismo texto jurídico el español necesitó un 22 % más de tokens que el inglés y el francés un 33 % más.
2. Qué es la ventana de contexto trata de la cantidad de texto que un modelo puede considerar en una petición, con los tamaños que indican hoy los fabricantes y el motivo por el que una ventana mayor no es automáticamente mejor: Anthropic dice que la precisión y la capacidad de recuerdo bajan a medida que crece el número de tokens.
3. Ingeniería de prompts reúne nueve técnicas que documentan a la vez OpenAI y Anthropic: ser claro y directo, usar roles, estructurar el prompt, mostrar de tres a cinco ejemplos, poner los documentos largos antes de la pregunta y especificar el formato de salida.
4. Alucinaciones de los modelos explica por qué los modelos afirman cosas falsas con fluidez. La investigación de OpenAI apunta al entrenamiento por predicción de la palabra siguiente y a unas puntuaciones que premian adivinar, y el remedio práctico es permitir el «no lo sé», aportar fuentes y verificar lo que importa.

• Qué es un LLM junta las cuatro: cómo predice un modelo de lenguaje grande un token tras otro, cómo lo moldean el preentrenamiento, el ajuste fino y las opiniones humanas, qué son el Transformer y los parámetros, y por qué un modelo de 1.300 millones de parámetros entrenado con opiniones humanas superó a GPT-3, de 175.000 millones, en las pruebas de OpenAI.
• ¿Funcionan los detectores de texto generado? resume la evidencia: OpenAI retiró su propio detector, un estudio vio un 61 % de redacciones de no nativos marcadas como generadas y Turnitin reconoce alrededor de un 4 % de falsos positivos por frase.
• Modelos de razonamiento explica los tokens de razonamiento: por qué OpenAI, Anthropic, Google y DeepSeek cobran como salida un razonamiento que no ves y cómo controlar su profundidad.

Las tres restantes tratan de adaptar un modelo a lo que necesitas:

5. Qué es RAG muestra cómo un sistema busca pasajes en tus documentos y los añade al prompt antes de que el modelo responda, de modo que no tienes que reentrenar el modelo cada vez que cambia tu información.
6. RAG vs fine-tuning te ayuda a elegir entre dar conocimiento al modelo y cambiar su comportamiento, y sigue el consejo de OpenAI de empezar por las evaluaciones y la ingeniería de prompts antes de entrenar nada.
7. Qué es la cuantización explica Q4_K_M, Q8_0 y los demás formatos que hacen que un modelo sea lo bastante pequeño para ejecutarlo en tu propio ordenador, con datos medidos de cuánta calidad cuesta cada paso.

• Qué son los embeddings recoge los vectores que hay detrás de la búsqueda semántica y de RAG: los modelos de OpenAI, Google, Voyage y Ollama, sus dimensiones y precios, y los errores que estropean la recuperación.
• Temperatura de un LLM: qué hace y cuándo usarla explica la temperatura y top_p, y por qué los modelos más nuevos de OpenAI, Anthropic y Google la limitan o la ignoran.
• Mixture of experts (MoE): qué es y parámetros totales y activos explica por qué los modelos indican parámetros totales y activos, qué supone para la memoria y la velocidad y cómo ejecuta llama.cpp modelos MoE grandes en un PC normal.
• Qué es un prompt de sistema explica cómo fija el papel, las reglas y el formato de un modelo antes de que escriba el usuario, cómo lo tratan OpenAI, Claude y Gemini, qué cuesta y por qué no es secreto.

Qué guía responde a cada pregunta

Si una factura te ha sorprendido, empieza por los tokens y después por cómo funcionan los precios de las API. Si un modelo se olvidó del principio de una conversación larga o de un documento, lee sobre la ventana de contexto. Si una respuesta fue segura y errónea, lee sobre las alucinaciones y después sobre RAG, porque basar al modelo en tus propias fuentes es la mitigación más habitual. Si quieres que el modelo siga un formato o un tono, lee primero sobre los prompts y deja el fine-tuning para el final. Si intentas que un modelo quepa en una tarjeta gráfica, lee sobre la cuantización y después usa nuestra calculadora de VRAM.

Cómo escribimos estas guías

Explicamos un concepto solo hasta donde podemos respaldarlo. Cuando un fabricante publica una cifra, la citamos y enlazamos su página; cuando hemos medido algo, como los tokens de un texto o el tamaño de un modelo cuantizado, decimos cómo. No afirmamos que una técnica supere siempre a otra, porque los propios fabricantes dicen que los resultados dependen de la tarea, y te indicamos que pruebes con tus propios ejemplos. Revisamos estas guías con un calendario, y el recuadro «qué puede cambiar» de cada página lista los datos que más probablemente se muevan.

Qué leer después

Cuando quieras aplicar las ideas, las guías prácticas son cómo instalar Ollama, qué es un agente y la caché de prompts. Si usas modelos de lenguaje en el trabajo en Europa, lee qué te exige ya el Reglamento (UE) 2024/1689.