API por lotes: cómo pagar la mitad por las peticiones que pueden esperar

Una API por lotes permite enviar un gran conjunto de peticiones a un modelo en un solo trabajo, esperar los resultados en lugar de recibirlos al momento y pagar más o menos la mitad del precio normal. A 23 de octubre de 2026, OpenAI, Anthropic, Google y Mistral documentan un descuento del 50 % en los trabajos por lotes, a cambio de un procesamiento asíncrono que puede tardar hasta 24 horas. Esta guía explica cómo funciona el procesamiento por lotes en cada API, cuánto cuesta, qué límites tiene y cuándo no conviene, a partir de la documentación de cada fabricante leída el 23 de octubre de 2026.

Cómo funciona un trabajo por lotes

El flujo es casi igual en todas partes. Preparas una lista de peticiones normales, cada una con un identificador tuyo, normalmente en un archivo JSONL donde cada línea es una petición. Envías el lote, el proveedor lo pone en cola y lo procesa cuando tiene capacidad, y consultas el trabajo (o esperas un aviso) hasta que termina. Después descargas los resultados y casas cada uno con su petición mediante tu identificador.

Ese identificador importa más de lo que parece. OpenAI avisa de que el orden de salida puede no coincidir con el de entrada, así que hay que unir los resultados por custom_id, y Anthropic exige un custom_id de 1 a 64 caracteres por el mismo motivo. En un lote no hay conversación: cada línea es una petición independiente con su prompt completo, así que si quieres ahorrar también en un prompt de sistema largo y compartido, combina los lotes con la caché de prompts.

El procesamiento por lotes en cuatro API

Tabla: procesamiento por lotes por fabricante (documentación oficial, comprobada el 23 de octubre de 2026)

Dos diferencias cambian el diseño de un proceso. Anthropic deja mezclar tipos de petición y modelos en un mismo lote, mientras que OpenAI y Mistral piden un solo modelo por lote. Y los plazos de conservación son distintos, así que descarga los resultados en cuanto termine el trabajo en vez de usar al proveedor como almacén.

Cuánto cuesta

El precio por lotes es el precio estándar por token partido por la mitad. Anthropic publica las tarifas en su documentación: Claude Sonnet 5.5 cuesta 1 $ por millón de tokens de entrada y 5 $ por millón de salida en modo por lotes, frente a 2 $ y 10 $ en la tarifa estándar, y Claude Opus 5.5 cuesta 2 $ y 10 $ por lotes. Claude Haiku 5.5 figura a 0,05 $ por millón de tokens de entrada y 0,25 $ por millón de salida por lotes con prompts de hasta 100.000 tokens.

La misma cuenta vale para los demás: lo que pagues por token en tarifa estándar, una petición por lotes cuesta la mitad. Nuestra calculadora de precios de API de LLM da las cifras estándar de partida, y las páginas del precio de la API de OpenAI, del precio de la API de Claude y del precio de la API de Gemini recogen las tarifas por modelo. Los lotes encajan muy bien con los modelos de razonamiento, cuyos tokens de salida son la mayor parte de la factura: Anthropic incluso recomienda el procesamiento por lotes para presupuestos de razonamiento de más de 32.000 tokens.

El trabajo fallido no se cobra igual en todas partes. OpenAI indica que cuando un lote caduca solo se cobran las peticiones que llegaron a completarse. Anthropic no factura las peticiones que acaban con error, canceladas o caducadas.

Límites y trampas

• No todas las funciones están disponibles. El modo por lotes de Gemini solo admite generateContent, y Anthropic excluye el streaming, entre otras opciones, de las peticiones por lotes. OpenAI enumera los endpoints que acepta en un archivo de lote.
• Límites de uso aparte. OpenAI procesa los lotes con sus propios límites de uso, así que un lote grande no consume tu cuota en tiempo real. Anthropic asocia cada lote al espacio de trabajo que lo creó.
• La caché sigue ayudando, pero sin garantía. Anthropic sugiere la caché de 1 hora para lotes que comparten contexto y advierte de que los aciertos de caché dentro de un lote no están garantizados. Gemini también admite caché de contexto en modo por lotes.
• La caducidad es real. Un lote que no termina dentro de su plazo acaba caducado y solo recibes lo que se completó. Cuenta con volver a enviar el resto.
• Valida antes de enviar. Una línea mal formada puede hacer fallar una petición o el archivo entero. Prueba primero con un lote pequeño de unas pocas peticiones.

Cuándo un lote no es buena idea

Nada que una persona esté esperando debe ir en un lote: el chat, las respuestas de soporte, el autocompletado o un bucle de agente que necesita la respuesta de un paso antes del siguiente. Eso necesita la API en tiempo real. Los lotes compensan en el trabajo que puede esperar: clasificar o etiquetar documentos atrasados, lanzar evaluaciones sobre un conjunto de pruebas, generar resúmenes o embeddings de un archivo entero, traducir un catálogo o rellenar una base de datos por la noche.

Una regla sencilla: si el resultado hace falta en menos de un día y nadie está mirando una rueda de carga, calcula el trabajo de las dos formas. Con un 50 % de descuento, un lote nocturno suele costar menos que optimizar el prompt, y puedes hacer las dos cosas. Si la unidad en la que se dan estos precios te resulta nueva, empieza por nuestra guía sobre qué es un token.