DeepSeek V4 Flash 0731 en un PC de IA: ¿qué funciona de verdad?

Sí, DeepSeek V4 Flash 0731 puede ejecutarse en un solo PC de IA con 128 GB de memoria unificada, pero necesita una cuantización agresiva y un runtime que implemente bien el modelo. Eso basta para un piloto serio de un usuario. No demuestra calidad de producción, un millón de tokens de contexto, concurrencia de equipo, automatización segura ni un coste total menor que la API.

El cambio importante es real: un sistema compacto con GB10 o AMD Strix Halo puede mantener un modelo de agentes de pesos abiertos muy grande dentro de tu infraestructura. La conclusión viral de que una sola caja sustituye a cualquier modelo cloud no lo es. Tu empresa sigue necesitando evals del workload, límites de permisos, observabilidad, rollback y una alternativa para las tareas que el modelo local no resuelve con fiabilidad.

¿Es cierta la afirmación de DeepSeek V4 en una sola GPU?

La afirmación limitada es cierta: el modelo genera resultados útiles en un equipo con 128 GB de memoria unificada. La afirmación amplia es falsa: cargar un checkpoint de pocos bits no equivale a operar un sistema de agentes fiable para varios usuarios.

¿Qué es DeepSeek V4 Flash 0731?

DeepSeek V4 Flash 0731 es la actualización de producción del 31 de julio para V4 Flash. La ficha oficial del modelo indica que conserva la arquitectura del preview, añade el módulo de decodificación especulativa DSpark y mejora el post-training para agentes. DeepSeek describió el preview como un Mixture of Experts de 284.000 millones de parámetros totales y 13.000 millones activos por token. El conjunto activo reduce el cálculo, no el almacenamiento: todos los expertos enrutados deben estar disponibles para el servidor.

La misma ficha presenta mejoras grandes en Terminal Bench 2.1, DeepSWE, Toolathlon y AutomationBench. Son cifras del fabricante, no una orden de compra. DeepSeek evaluó con su harness mínimo y el máximo esfuerzo de razonamiento. El harness aún no estaba publicado y dos conjuntos DSBench son internos. Wavect no reprodujo esas puntuaciones de forma independiente.

La receta oficial de alto rendimiento pone la diferencia en contexto. DeepSeek demuestra vLLM en un nodo con cuatro GPU GB300, paralelismo de expertos, KV cache FP8 y kernels específicos. La ruta local con llama.cpp es válida, pero optimiza para que el modelo quepa y sea interactivo. No es el mismo perfil de serving que el entorno de benchmarks.

¿Cuánta memoria necesita DeepSeek V4 Flash 0731?

En un solo equipo importa el artefacto cuantizado, no solo el titular de 13.000 millones de parámetros activos. La colección GGUF actual de Unsloth publica estos tamaños aproximados:

Un checkpoint de 96 GB no deja 32 GB limpios para contexto. El sistema operativo, el motor de inferencia, los buffers, el decodificador especulativo, el estado KV o comprimido, el procesamiento del prompt y cada secuencia concurrente también ocupan memoria. Después, la refrigeración y el ancho de banda deciden si el modelo solo carga o mantiene una respuesta útil.

Si todavía eliges modelo y cuantización, empieza por nuestra guía para saber qué LLM local cabe en tu hardware. Separa el ajuste de memoria, MoE y contexto del benchmark real de producción.

GB10 vs Strix Halo vs Gorgon Halo para DeepSeek V4 Flash 0731

NVIDIA especifica 128 GB de memoria coherente y 273 GB/s para DGX Spark. Eso hace físicamente viable un DeepSeek de 2 bits. No convierte al equipo en un servidor de cuatro GB300 bajo carga concurrente.

AMD documenta hasta 128 GB unificados y hasta 96 GB configurados como VRAM para Strix Halo. Algunos runtimes comunitarios aprovechan memoria compartida más allá de una reserva fija convencional. Por eso caben las demos locales. El software, build del kernel y contexto exactos deben quedar registrados en el benchmark.

Gorgon Halo amplía el margen. La especificación del Ryzen AI Max+ PRO 495 indica 192 GB, y el anuncio permite dedicar hasta 160 GB a gráficos. AMD lo posiciona para modelos de más de 300.000 millones de parámetros a 4 bits. En DeepSeek, Q3 o ciertos Q4 resultan más plausibles, pero runtime, contexto y workload siguen decidiendo calidad y velocidad.

¿Qué plataforma debería comprar una empresa?

Compra para el workload y el runtime compatible, no para el modelo más grande de una demo.

• Elige GB10 si la compatibilidad CUDA, los contenedores NVIDIA y un appliance predecible pesan más que la flexibilidad x86.
• Elige Strix Halo si necesitas ya una workstation x86, 128 GB bastan y tu equipo puede validar bien ROCm o Vulkan.
• Espera o prueba Gorgon Halo si la calidad exige más de 2 bits o el contexto y la concurrencia justifican 192 GB.
• Elige servidor o endpoint gestionado si importan más varios usuarios, latencia estricta, contexto largo o alta disponibilidad.

Si el modelo supera a cualquier host individual, añadir PCs normales no crea velocidad gratis. Nuestro análisis de inferencia local distribuida explica cuándo sumar memoria ayuda y por qué cada etapa de red añade latencia y fallos.

¿Sustituye DeepSeek V4 Flash 0731 a los modelos frontier cloud?

No como opción universal. Puede sustituir un modelo cloud en un workload acotado después de cumplir sus criterios de aceptación. Clasificar correo, revisar código, generar tests y buscar conocimiento interno son cuatro sistemas distintos. Sus datos, permisos, latencia, coste del error y recuperación cambian.

Ser propietario del modelo también es gradual. Los pesos abiertos permiten guardar el artefacto, fijar una versión y ejecutar sin enviar prompts al proveedor. Sigues dependiendo de firmware, drivers, runtime, cuantización, sistema operativo y entrenamiento original. “Ser dueño de tu IA” debería significar controlar el despliegue y la salida, no fingir que desaparece la cadena de suministro.

¿DeepSeek local es más privado que la API?

La inferencia local puede eliminar la transferencia al proveedor del modelo, un beneficio real. No vuelve privada por defecto a toda la aplicación. La política de privacidad de DeepSeek indica que los prompts y otros datos personales usados con sus servicios se procesan y almacenan en la República Popular China. Ejecutar localmente los pesos MIT cambia esa ruta porque la inferencia ya no llama al servicio.

Después revisa búsqueda web, conectores de correo y calendario, crash reporting, dashboards remotos, bases vectoriales, backups y trazas. Un modelo local con telemetría cloud puede seguir exportando la parte más sensible del proceso.

Los agentes locales conservan los riesgos de agencia. La guía de OWASP sobre agencia excesiva usa el caso exacto de un correo malicioso que induce a un asistente con permiso de envío a extraer datos. Los controles relevantes son menos herramientas, scopes menores, menos autonomía y aprobación para acciones con consecuencias. La ubicación de la GPU no corrige permisos excesivos.

¿Cómo usar OpenTelemetry con agentes de IA locales?

Traza cada llamada al modelo y cada herramienta, pero no captures el contenido de los prompts por defecto. OpenTelemetry puede mostrar la invocación del agente, llamadas al modelo, herramientas, latencia, tokens, motivos de finalización y errores. Así localizas al subagente que tomó el camino equivocado sin convertir el backend de observabilidad en otra base de prompts.

El ejemplo de observabilidad GenAI con OpenTelemetry documenta spans invoke_agent, chat y execute_tool. Prompts, respuestas, argumentos y resultados completos son opt-in porque pueden contener información sensible. El registro de convenciones GenAI repite la advertencia.

Una traza de producción útil registra:

• digest del artefacto, cuantización, versión del runtime y esfuerzo de razonamiento;
• versión del eval o workflow, agente y herramienta;
• tiempo hasta el primer token, latencia, procesamiento y velocidad de decode;
• tokens de entrada y salida, cola, reintentos y motivo de finalización;
• decisión de autorización, resultado de herramienta y aprobación humana;
• resultado de calidad o éxito de tarea vinculado a una traza redactada;
• pico de memoria, thermal throttling y errores de memoria.

La observabilidad explica qué ocurrió. No decide si el resultado era correcto. Añade checks deterministas, evals congelados y revisión humana cuando una respuesta plausible pero errónea genere costes.

Un piloto de producción antes de comprar una flota

1. Define un solo trabajo. Elige un workflow con entrada, salida, riesgo y responsable claros. “Todo local” no es un alcance medible.
2. Crea un set de aceptación. Usa 50 a 200 tareas representativas, casos difíciles, varios idiomas y contenido adversarial para herramientas.
3. Prueba dos cuantizaciones. Mide primero la tasa de éxito. Un modelo de 2 bits más rápido que rompe JSON no es más barato.
4. Mide la curva real de contexto. Registra primer token, decode y memoria en contexto normal, p95 y máximo útil.
5. Empieza con herramientas de solo lectura. Añade escritura operación a operación, con aprobación y auditoría.
6. Instrumenta sin capturar contenido. Activa primero metadatos. Añade muestras redactadas solo si el valor de debug supera el coste de privacidad.
7. Rompe el equipo. Prueba caídas, memoria llena, temperatura, descarga corrupta, herramientas caídas y actualizaciones fallidas.
8. Calcula la alternativa. Incluye depreciación, energía, capacidad ociosa, ingeniería, backup y fallback API.
9. Despliega con rollback. Fija digests y versiones, conserva la anterior y define quién promueve un modelo.

El núcleo del AI Risk Management Framework de NIST distingue igual entre demo y operación: hay que documentar tarea, límites, supervisión, tests, métricas, monitorización y recuperación. Una demo local cubre solo una fracción.

¿Cuándo gana local a la API de DeepSeek?

La página de precios de DeepSeek del 3 de agosto de 2026 lista V4 Flash a 0,14 dólares por millón de tokens de entrada sin caché y 0,28 por millón de salida, con entrada cacheada aún más barata. Con ese precio, una workstation no ahorra automáticamente. Local gana primero por control, uso offline, límites de datos y carga alta y estable. Pierde si permanece ocioso, el tráfico tiene picos o tu equipo mantiene un runtime frágil para un solo modelo.

Calcula el coste por tarea exitosa, incluidos fallos de eval y tiempo de ingeniería, con nuestro marco de break-even entre modelos locales y APIs. Compara DeepSeek con otras familias en la comparativa de LLM de pesos abiertos de 2026. El benchmark del modelo alimenta esas decisiones, no las sustituye.

Qué puede construir Wavect alrededor de un equipo de IA local

Wavect convierte un modelo prometedor en un sistema acotado que tu equipo puede operar. Puede incluir evaluación del workload y hardware, gateway local compatible con OpenAI, retrieval, conectores de mínimo privilegio, aprobaciones, trazas OpenTelemetry, evals de regresión, routing híbrido y despliegues controlados. El objetivo no es vender la caja mayor. Es demostrar la arquitectura más pequeña que cumple calidad, latencia, privacidad y coste.

Empieza por la consultoría e implementación de IA de Wavect si hay que diseñar producto y workflow. Usa AI enablement si la decisión inmediata es modelo, hardware, límites de datos e integración. Podemos ejecutar el bake-off antes de comprar o endurecer un entorno local que ya tienes.

Fuentes y límites de las afirmaciones

Arquitectura, licencia, evaluación y serving oficial proceden de la ficha y documentación API de DeepSeek. Las especificaciones de hardware son de NVIDIA y AMD. Los tamaños cuantizados son de la colección Unsloth en Hugging Face. Las afirmaciones de privacidad se refieren a los servicios alojados de DeepSeek, no a los pesos locales. Los controles de agentes proceden de OWASP y la telemetría de OpenTelemetry. Datos verificados el 3 de agosto de 2026. Wavect no midió de forma independiente DeepSeek V4 Flash 0731, la calidad de las cuantizaciones ni el rendimiento del hardware. Los informes comunitarios sirvieron para encontrar la pregunta, no como benchmarks factuales.