Cuándo los Modelos Locales Superan a las APIs: Calculadora Break-Even para Empresas de la UE

Los LLM locales superan a las APIs solo cuando encajan la carga, la gobernanza y el modelo operativo. Una hora GPU barata no es un caso de negocio. El caso de negocio es el coste por tarea exitosa después de contar utilización, concurrencia, redundancia, tiempo de ingeniería, mantenimiento de evals y residencia de datos en la UE. Si el modelo open-weight no pasa tu eval, la calculadora se detiene. Si lo pasa pero la GPU está ociosa casi todo el día, normalmente también.

Este artículo complementa nuestra calculadora de costes LLM 2026. Allí comparamos facturas API por tarea. Aquí comparamos tareas API contra inferencia local. La lección clave de la investigación de utilización en 2026 es clara: la misma H100 puede parecer extremadamente barata o dolorosamente cara por millón de tokens de salida según la carga y la concurrencia. Un paper reciente de arXiv midió una horquilla de $0.21 a $15.25 por millón de tokens de salida en hardware H100 idéntico cuando cambiaba la utilización.

La respuesta corta

Usa una API cuando el tráfico es bajo, irregular, cambiante o depende de razonamiento frontier. Evalúa un modelo local cuando tienes volumen alto y estable, un modelo que pasa tu eval, un equipo capaz de operar el stack, y requisitos de residencia de datos o un baseline API caro que deja margen real. Las APIs con región UE y los endpoints open-weight gestionados suelen ser el paso intermedio correcto.

La calculadora

Compara coste API por tarea exitosa contra coste local por tarea exitosa. No compares factura del proveedor contra factura de GPU.

Coste local efectivo por 1M tokens = ((gpu_hourly_rate + infra_hourly + ops_hourly) / (tokens_per_second * 3600 * measured_utilization)) * 1,000,000.

La utilización medida es la trampa. Si tu hoja asume 80% pero producción entrega 12%, el coste ya está equivocado por unas 6.7 veces antes de redundancia, guardias y evals.

Qué datos recoger

La utilización pesa más que el precio GPU

Las cotizaciones GPU son sencillas. La utilización no, porque emerge de tu tráfico. Un asistente interactivo puede tener mucho tiempo ocioso y picos repentinos. Un trabajo nocturno de extracción puede correr horas con una cola controlada. El segundo caso puede justificar local; el primero rara vez.

El stack de serving también importa. El estudio de vLLM frente a HuggingFace TGI encontró hasta 24x más throughput para vLLM en alta concurrencia, mientras TGI mostró menores latencias de cola en escenarios interactivos con concurrencia moderada. La calculadora necesita benchmarks de tu modelo, cuantización, longitud de contexto y SLO de latencia.

No compares contra la API equivocada

Un modelo local no tiene que superar al modelo frontier más caro salvo que tu tarea lo necesite. Tiene que superar al camino gestionado aceptable más barato después de caching, batch, routing y right-sizing.

• OpenAI pricing separa input, input cacheado y output, así que prefijos estables pueden cambiar mucho el baseline.
• Gemini pricing incluye context caching y precios batch en paid tiers, y separa uso para mejorar productos por tier.
• Amazon Bedrock indica batch inference para modelos seleccionados a un precio 50% menor que on-demand.
• Azure OpenAI añade opciones relevantes para la UE: data zones, provisioned throughput, reservas y procurement enterprise.

Para la escalera de optimización, lee cómo reducir costes de tokens LLM en 2026. Para elegir modelos, consulta nuestra comparativa de LLM open-weight.

Ejemplo de break-even

Una SaaS europea ejecuta una pipeline de enriquecimiento documental. La ruta API cuesta 0.018 dólares por documento exitoso tras caching, batch, reintentos y verificador. El candidato local pasa el mismo eval. El stack local cuesta 9,800 dólares al mes all-in: GPU, capacidad de reserva, storage, logging, monitoring, red, ingeniería y mantenimiento de evals. El coste variable local es 0.003 dólares por documento.

Agrega buffer de riesgo. Si baja el pass rate, si la utilización real es menor, si failover exige otra GPU caliente o si la demanda es estacional, el break-even se mueve a la derecha. Si la carga es async y satura la GPU de noche, se mueve a la izquierda.

Factores específicos de la UE

Para empresas de la UE, local versus API rara vez es solo precio. GDPR, DPAs, procurement de clientes, reglas sectoriales y auditabilidad pueden decidir la arquitectura. Pero gobernanza no significa automáticamente self-hosting.

Más contexto: residencia de datos en la UE para apps de IA y el coste real de self-hosting de LLMs en la UE.

El stack que estás pagando

El stack no es "modelo más GPU". Producción suele incluir runtime como vLLM, gestión de artefactos, cuantización, autoscaling o control de colas, telemetría, política de logs, control de acceso, eval jobs, rollout gates, respuesta a incidentes y una ruta fallback cuando el modelo local falla o el pool GPU se satura.

La arquitectura pragmática suele ser híbrida: local para trabajo barato, estable y de alto volumen; API para casos difíciles, overflow, multimodalidad, reasoning con muchas herramientas o tareas donde la calidad frontier todavía gana. La calculadora se convierte entonces en una calculadora de routing: local por defecto, fallback API, tasa de escalado medida y evals como control de calidad.

Fuentes y advertencia de precios

Los precios y nombres de modelos cambian rápido. Las fórmulas son estables; los ejemplos son snapshot de julio de 2026. Revisa OpenAI pricing, Gemini API pricing, Amazon Bedrock pricing y Azure OpenAI pricing. Para utilización y serving, lee Beyond Per-Token Pricing y el estudio vLLM vs TGI.