--- title: "SwarmLLM Review 2026: Inferencia LLM P2P en navegador" canonical: https://wavect.io/es/blog/swarmllm-browser-p2p-inference-review-2026/ language: es description: "Review de SwarmLLM: un LLM 27B entre móvil y portátil en navegador con WebGPU, WebRTC, benchmarks, límites de seguridad y un plan de piloto." image: "https://wavect.io/img/general/bak/open_graph_preview.jpg" --- [**Volver**](/es/blog/overview/) [![Kevin Riedl](/img/team/kevin.webp)](/es/team/kevin-riedl/) [Kevin Riedl](/es/team/kevin-riedl/) https://linkedin.com/in/wsdt 14 min de lectura · 9 sep 2026 Última revisión 9 de septiembre de 2026 [**Siguiente**](/es/blog/ripwire-ai-repo-context-review-2026/) # SwarmLLM Review 2026: ¿Puede un navegador ejecutar un LLM 27B entre móvil y portátil? Resumen SwarmLLM divide un gran modelo compatible en rangos contiguos de capas y ejecuta esos tramos en varios navegadores mediante WebGPU, mientras WebRTC transporta las activaciones intermedias entre peers. La demo actual de Qwen 3.8 27B muestra que un MacBook y un iPhone pueden cooperar con casi cero instalación para el usuario. El proyecto también publica evidencia de ingeniería poco común: benchmarks de kernels, medidas de transporte, pruebas de speculative decoding bit-exact y un threat model explícito. Los límites son igual de importantes: WebGPU no es universal, cada dispositivo añade hops, las activaciones no son confidenciales frente a peers determinados, el cómputo remoto aún no se verifica y el contexto multi-turn junto con recovery siguen en roadmap. Merece un piloto para salas de dispositivos de confianza o cuando sumar memoria resuelve un problema real de capacidad. No asumas que más dispositivos significan más velocidad ni que una ruta sin servidor central sea automáticamente suficientemente privada para producción. **SwarmLLM demuestra de forma técnicamente creíble que varias pestañas del navegador pueden cooperar para ejecutar un único modelo grande sobre dispositivos muy distintos.** Un MacBook puede alojar la mayoría de las capas, un iPhone aportar un tramo pequeño, WebGPU ejecuta cada slice localmente y WebRTC mueve el hidden state entre dispositivos. El usuario no necesita instalar Python ni un daemon nativo de inferencia para entrar en la sala. La pregunta para un comprador no es si la demo funciona. Funciona. La pregunta útil es si esta arquitectura sigue ganando cuando importan latencia, soporte de navegador, confianza entre peers, recovery y coste operativo. Nuestra conclusión actual es deliberadamente estrecha: **pilotar para experimentos de Browser AI con dispositivos de confianza y para problemas reales de memoria agregada, pero todavía no tratarlo como infraestructura de inferencia de producción.** El [repositorio público de SwarmLLM](https://github.com/Nehanth/swarmllm) usa licencia MIT y documenta un motor WebGPU propio junto con un runtime de salas WebRTC. Su demo principal de septiembre de 2026 ejecuta Qwen 3.8 27B entre un MacBook y un iPhone. SwarmLLM es trabajo open source independiente de Nehanth Narendrula, no un producto de Wavect. Independencia y marcas Wavect publica esta página y es también un proveedor, así que tenemos un interés comercial en ella. No estamos afiliados a las demás empresas nombradas aquí, no contamos con su respaldo y no somos socios suyos, y todos los nombres de empresa, marcas y marcas registradas de terceros pertenecen a sus respectivos titulares. Las afirmaciones sobre otros proveedores proceden de fuentes públicamente accesibles, sobre todo de sus propias páginas publicadas, en la fecha de revisión indicada en esta página, y pueden haber cambiado desde entonces. Verifícalas directamente antes de decidir. Esta página se ha redactado según nuestro leal saber y entender, con la intención de mantenernos objetivos. Si crees que algo aquí es inexacto o injusto, escríbenos y lo corregimos: [office@wavect.io](mailto:office@wavect.io) ## ¿Qué hace exactamente SwarmLLM? SwarmLLM usa pipeline model parallelism entre navegadores. En lugar de cargar el modelo completo en cada dispositivo, asigna rangos contiguos de capas transformer a los participantes. El host conserva tokenizer, embeddings, normalización final, LM head y sampler. Durante la generación, una activación intermedia recorre los dispositivos en el orden del modelo y vuelve al host para elegir el siguiente token. La promesa principal es sumar capacidad. Qwen 3.8 27B ocupa aproximadamente 15 GB de pesos Q4_0 en el setup publicado. Un móvil no puede ejecutar el modelo completo, pero sí contribuir unas pocas capas mientras un portátil más potente aloja la mayor parte. ## ¿Cómo viaja un token por los dispositivos? La [arquitectura publicada de SwarmLLM](https://github.com/Nehanth/swarmllm/blob/main/docs/architecture.md) describe para Qwen 3.8 un hidden state de 5.120 elementos. Empaquetado en f16 son unos 10 KB. Cada peer ejecuta sus capas, reenvía el estado actualizado y el último tramo vuelve al host para LM head y sampling. `prompt -> host embed -> capas del portátil -> capas del móvil -> LM head del host -> siguiente token` El prefill del prompt puede agrupar trabajo. El decode autoregresivo necesita vueltas repetidas. SwarmLLM combina prefill por lotes con multi-token prediction de Qwen para verificar varios candidatos por vuelta. En este diseño, la red forma parte del motor de inferencia. ## SwarmLLM vs Mesh LLM, Browser AI y self-hosting clásico Wavect ya tiene una [review de Mesh LLM](/es/blog/mesh-llm-distributed-inference-multiple-computers/) que cubre la intención más amplia de distribuir un LLM entre varios ordenadores. Este artículo posee una intención distinta y más estrecha: **inferencia LLM P2P directamente en navegador entre móviles, portátiles y PCs heterogéneos con casi cero fricción de instalación.** | Enfoque | Distribución del modelo | Trade-off | | --- | --- | --- | | SwarmLLM | Slices de capas entre navegadores | Entrada muy fácil, navegador y red pasan a ser dependencias del runtime | | Mesh LLM | Etapas de capas entre ordenadores | Más setup, mejor encaje para una malla privada estable | | WebLLM / Transformers.js | Modelo completo en un navegador | Topología simple, limitada por la memoria de un dispositivo | | Ollama / llama.cpp / vLLM | Runtime nativo local o servidor | Más instalación, ownership operativo más claro | | Cloud API | Infraestructura del proveedor | Sin problema de memoria local, con trade-offs de proveedor y datos | Para inferencia en un solo navegador, consulta la [guía de Transformers.js](/es/blog/transformers-js-browser-ai-guide/). Para decidir económicamente entre local y API, consulta [local models vs APIs](/es/blog/local-models-vs-apis-break-even-eu-2026/). ## ¿Qué demuestran los benchmarks? El [registro de benchmarks](https://github.com/Nehanth/swarmllm/blob/main/docs/bench-log.md) es más útil que el vídeo viral porque documenta hardware, prompts, cambios de transporte y resultados negativos de escalado. En una NVIDIA GB10, el proyecto publica unos 9 tok/s de decode normal y cerca de 16 tok/s con speculative decoding para Qwen 3.8 27B Q4_0. Un MacBook Pro solo en Chrome aparece cerca de 6,7 tok/s normal y 10,8 tok/s especulativo. El dato MacBook más iPhone necesita contexto. La demo del 7 de septiembre dice **10,7 tok/s** para una respuesta de 400 tokens. La tabla estructurada de rendimiento todavía muestra **7,7 tok/s** para MacBook Pro más iPhone y el bench log registra 7,7 tok/s en la prueba real del 4 de septiembre. Por ahora, 10,7 tok/s debe leerse como evidencia de una demo posterior, no como baseline universal. El log también demuestra algo más importante: añadir dispositivos no significa acelerar linealmente. Un emulador con tres dispositivos llegó a unos 10,4 tok/s, mientras una topología de dieciséis bajó a aproximadamente 3,8 a 4,7 tok/s incluso sin latencia de red, porque cada hop añade empaquetado, upload, readback y forwarding. **SwarmLLM agrega capacidad antes que velocidad.** Un piloto comercial debe reproducir resultados con tu hardware, tus versiones de navegador, tu red y tus prompts. ## Seguridad: P2P no significa privado frente a los peers La [documentación de seguridad](https://github.com/Nehanth/swarmllm/blob/main/SECURITY.md) es especialmente clara. El transporte WebRTC está cifrado y el broker de signaling no transporta tráfico del modelo. Sin embargo, las activaciones intermedias **no son cifrado**. El propio proyecto advierte que ataques de activation inversion pueden reconstruir información del prompt y recomienda asumir que cualquier participante de la sala podría leerlo. Tampoco existe todavía verificación del cómputo remoto. Un peer defectuoso o malicioso podría devolver activaciones manipuladas sin que el host demuestre que esa etapa se calculó correctamente. Para producción, el modelo de confianza correcto es: dispositivos y personas a los que ya entregarías la conversación. ## WebGPU permite el no-install y también lo limita SwarmLLM depende del [soporte de WebGPU](https://developer.mozilla.org/en-US/docs/Web/API/WebGPU_API). MDN todavía lo marca como disponibilidad limitada y no Baseline, y el uso web normal exige secure context. SwarmLLM describe Chrome en macOS como su host probado. Safari en iPhone puede aportar un slice pequeño, Safari en Mac puede recargar bajo presión de memoria con un slice grande de 27B, y Firefox o Linux Chromium tienen menos pruebas publicadas. En una empresa, políticas de navegador, drivers GPU, presión de memoria y térmicas móviles forman parte de la matriz de compatibilidad. ## Qué resuelve WebRTC y qué no Los [WebRTC data channels](https://developer.mozilla.org/en-US/docs/Web/API/WebRTC_API/Using_data_channels) transportan datos binarios arbitrarios entre peers y protegen el tráfico RTCDataChannel con DTLS. Es un mecanismo natural para las activaciones sin abrir puertos TCP personalizados. WebRTC no elimina NAT, relay, pérdida de paquetes ni latencia. Un diseño de producción sigue necesitando política de signaling, estrategia TURN o relay, observabilidad y comportamiento claro ante firewalls corporativos. ## ¿Qué madurez tiene SwarmLLM en septiembre de 2026? La respuesta más útil está en la [roadmap de contexto multi-turn](https://github.com/Nehanth/swarmllm/blob/main/roadmap/13-multi-turn-context.md). Documenta que cada Send resetea actualmente el estado del modelo, el límite de contexto de 512 tokens todavía no se aplica de forma segura y las respuestas se detienen en 400 tokens. Historial multi-turn real, contextos mayores, contadores visibles y manejo seguro del overflow siguen planificados. Recovery de peers, auditoría de cómputo y soporte de más modelos también siguen en roadmap. Son límites importantes para una dependencia de producción y, a la vez, hacen del proyecto un candidato interesante para un piloto controlado. ## ¿Quién debería pilotarlo? | Situación | Decisión | Motivo | | --- | --- | --- | | Investigación de Local AI en navegador | Pilotar | Arquitectura inspeccionable y fácil de demostrar | | Laboratorio, aula o hackathon con dispositivos de confianza | Pilotar | La participación sin instalación es una ventaja real | | Modelo ligeramente mayor que la memoria de una máquina | Comparar | La memoria agregada puede ayudar, un split nativo puede ser más fácil de operar | | Asistente de producción con datos confidenciales | Esperar o aislar | Peer trust y recovery necesitan más controles | | Swarm público con desconocidos | No usar hoy | Las activaciones no son privadas y el cómputo no está verificado | ## Piloto comercial de 14 días 1. Congela diez prompts reales con longitudes representativas. 2. Registra RAM, GPU, OS, navegador y soporte WebGPU de cada dispositivo. 3. Mide baseline de un solo dispositivo: prefill, decode, memoria y térmicas. 4. Añade peers uno a uno y separa capacidad ganada de hops añadidos. 5. Compara misma Wi-Fi, otras redes y salas cross-network. 6. Cierra pestañas, duerme un móvil y cambia de red durante una respuesta. 7. Usa prompts no sensibles durante la evaluación. 8. Incluye incompatibilidades y soporte humano en el TCO. 9. Define kill criterion: si un runtime nativo es más rápido, seguro y operable, úsalo. ## Dónde encaja Wavect La inferencia en navegador es una decisión tecnológica. El trabajo de [AI Enablement de Wavect](/es/services/ai-enablement/) cubre evaluación de workloads, selección de modelos, arquitectura local vs API, privacidad, compatibilidad de dispositivos, observabilidad, fallbacks y handover. El [caso Twinsoft AI](/es/case-studies/twinsoft-ai/) muestra el principio más amplio: el valor viene del sistema alrededor del modelo. Si la motivación son los costes cloud, compara SwarmLLM con nuestra [guía de costes de self-hosting LLM en Europa](/es/blog/self-hosting-llms-eu-cost/). Los dispositivos disponibles no son infraestructura gratis cuando sumas ingeniería, soporte y fallos. ## Veredicto **SwarmLLM es uno de los proyectos de inferencia browser-native más interesantes de 2026 porque combina un motor WebGPU serio con una sala WebRTC sin instalación.** La evidencia técnica publicada es bastante más fuerte que una demo viral por sí sola. Los límites también están claros: multi-turn incompleto, contexto inmaduro, recovery pendiente, cómputo remoto sin verificar y activaciones no confidenciales frente a miembros de la sala. Para equipos de confianza que exploran Local AI sobre hardware existente, merece un piloto controlado. Para producción, la pregunta decisiva es: **¿la participación desde navegador resuelve un problema de deployment que un runtime nativo estable o una API no resuelven?** Si no, gana la arquitectura más simple. ## Preguntas frecuentes ### ¿Qué es SwarmLLM? SwarmLLM es un proyecto MIT de inferencia distribuida en navegador. Divide un modelo compatible en rangos de capas, los ejecuta con WebGPU en varios dispositivos y mueve activaciones intermedias por WebRTC. ### ¿Puede ejecutar Qwen 3.8 27B entre móvil y portátil? La demo de septiembre de 2026 muestra Qwen 3.8 27B repartido entre un MacBook y un iPhone. El móvil no ejecuta el modelo completo, aporta un tramo pequeño de capas. ### ¿Es privado SwarmLLM? El transporte WebRTC está cifrado, pero el proyecto advierte que las activaciones no son cifrado. Trata a cada participante como potencialmente capaz de recuperar información del prompt. ### ¿10,7 tokens por segundo es un baseline? Es el dato de la demo del 7 de septiembre. La tabla estructurada todavía muestra 7,7 tok/s para MacBook más iPhone, así que conviene reproducirlo en hardware propio. ### ¿En qué se diferencia de Mesh LLM? Ambos dividen un modelo por capas. SwarmLLM prioriza participación sin instalación en navegadores heterogéneos con WebGPU y WebRTC. Mesh LLM encaja mejor como malla privada nativa entre ordenadores. ### ¿Debería una empresa usarlo hoy en producción? Todavía no como dependencia central. Sí es adecuado para pilotos controlados y dispositivos de confianza mientras multi-turn, recovery y verificación de cómputo siguen incompletos. ## También te puede gustar.. [**Mesh LLM: ¿Puede un LLM ejecutarse en varios ordenadores?** Compara el swarm browser-native con un stack de inferencia distribuida más convencional.](/es/blog/mesh-llm-distributed-inference-multiple-computers/) [**Wavect vs agencia de desarrollo generalista** Compara ingeniería senior dirigida por founders con delivery orientada a capacidad.](/es/compare/wavect-vs-dev-agencies/) Modelos e infraestructura ## Continúa por este clúster Selección de modelos, economía de inferencia, despliegue local, compresión y serving. [Empieza por el artículo fundamental**Alojar LLMs en la UE: Cuándo Salen a Cuenta los Open Weights**](/es/blog/self-hosting-llms-eu-cost/) - [Review de Phonely Alma: ¿Está listo el LLM de voz para producción?](/es/blog/phonely-alma-voice-llm-review/) - [Utopia: evaluar un grafo bitemporal empresarial](/es/blog/utopia-temporal-knowledge-graph/) - [NVIDIA PAIR: Routing de IA Local y la Brecha de AMD](/es/blog/nvidia-pair-amd-rocm-strix-halo/) - [Análisis de Tencent Hy4 Preview: ¿Merece un piloto con contexto de 1M?](/es/blog/tencent-hy4-preview-coding-agent-review/) - [PageLM: autoalojamiento y uso comercial](/es/blog/pagelm-self-hosted-ai-study-platform/) [**Volver**](/es/blog/overview/) [![Kevin Riedl](/img/team/kevin.webp)](/es/team/kevin-riedl/) [Kevin Riedl](/es/team/kevin-riedl/) https://linkedin.com/in/wsdt 14 min de lectura · 9 sep 2026 Última revisión 9 de septiembre de 2026 [**Siguiente**](/es/blog/ripwire-ai-repo-context-review-2026/) ## Structured Data ```json { "@context": "https://schema.org", "@graph": [ { "@id": "https://wavect.io/#organization", "@type": [ "Organization", "ProfessionalService", "LocalBusiness" ], "employee": [ { "@id": "https://wavect.io/team/kevin-riedl/#person", "@type": "Person", "jobTitle": "Managing Director", "name": "Kevin Riedl", "url": "https://wavect.io/team/kevin-riedl/", "worksFor": { "@id": "https://wavect.io/#organization", "@type": [ "Organization", "ProfessionalService", "LocalBusiness" ] } }, { "@id": "https://wavect.io/team/christof-jori/#person", "@type": "Person", "jobTitle": "Managing Director", "name": "Christof Jori", "url": "https://wavect.io/team/christof-jori/", "worksFor": { "@id": "https://wavect.io/#organization", "@type": [ "Organization", "ProfessionalService", "LocalBusiness" ] } } ], "founder": [ { "@id": "https://wavect.io/team/kevin-riedl/#person", "@type": "Person", "jobTitle": "Managing Director", "name": "Kevin Riedl", "url": "https://wavect.io/team/kevin-riedl/", "worksFor": { "@id": "https://wavect.io/#organization", "@type": [ "Organization", "ProfessionalService", "LocalBusiness" ] } }, { "@id": "https://wavect.io/team/christof-jori/#person", "@type": "Person", "jobTitle": "Managing Director", "name": "Christof Jori", "url": "https://wavect.io/team/christof-jori/", "worksFor": { "@id": "https://wavect.io/#organization", "@type": [ "Organization", "ProfessionalService", "LocalBusiness" ] } } ], "legalRepresentative": [ { "@id": "https://wavect.io/team/kevin-riedl/#person", "@type": "Person", "jobTitle": "Managing Director", "name": "Kevin Riedl", "url": "https://wavect.io/team/kevin-riedl/", "worksFor": { "@id": "https://wavect.io/#organization", "@type": [ "Organization", "ProfessionalService", "LocalBusiness" ] } }, { "@id": "https://wavect.io/team/christof-jori/#person", "@type": "Person", "jobTitle": "Managing Director", "name": "Christof Jori", "url": "https://wavect.io/team/christof-jori/", "worksFor": { "@id": "https://wavect.io/#organization", "@type": [ "Organization", "ProfessionalService", "LocalBusiness" ] } } ], "name": "Wavect GmbH", "subjectOf": { "@id": "https://wavect.io/verified-claims.json#dataset", "@type": "Dataset", "creator": { "@id": "https://wavect.io/#organization", "@type": [ "Organization", "ProfessionalService", "LocalBusiness" ] }, "description": "A machine-readable registry of quantitative and qualitative claims published by Wavect, with review dates, localized page appearances and public third-party citations where available.", "inLanguage": "en", "isAccessibleForFree": true, "license": "https://creativecommons.org/licenses/by/4.0/", "name": "Wavect verified publication claims", "url": "https://wavect.io/verified-claims.json" }, "url": "https://wavect.io/" }, { "@id": "https://wavect.io/team/kevin-riedl/#person", "@type": "Person", "jobTitle": "Managing Director", "name": "Kevin Riedl", "sameAs": [ "https://www.wikidata.org/wiki/Q139796365", "https://www.linkedin.com/in/wsdt", "https://github.com/wsdt" ], "url": "https://wavect.io/team/kevin-riedl/", "worksFor": { "@id": "https://wavect.io/#organization", "@type": [ "Organization", "ProfessionalService", "LocalBusiness" ] } }, { "@id": "https://wavect.io/team/christof-jori/#person", "@type": "Person", "jobTitle": "Managing Director", "name": "Christof Jori", "sameAs": [ "https://www.wikidata.org/wiki/Q139796367", "https://www.linkedin.com/in/jocr77/", "https://github.com/jo-chris" ], "url": "https://wavect.io/team/christof-jori/", "worksFor": { "@id": "https://wavect.io/#organization", "@type": [ "Organization", "ProfessionalService", "LocalBusiness" ] } }, { "@id": "https://wavect.io/#website", "@type": "WebSite", "inLanguage": [ "en", "de", "es", "zh" ], "name": "Wavect", "potentialAction": { "@type": "SearchAction", "query-input": "required name=search_term_string", "target": { "@type": "EntryPoint", "urlTemplate": "https://wavect.io/search/?q={search_term_string}" } }, "publisher": { "@id": "https://wavect.io/#organization", "@type": [ "Organization", "ProfessionalService", "LocalBusiness" ] }, "url": "https://wavect.io/" }, { "@id": "https://wavect.io/es/blog/swarmllm-browser-p2p-inference-review-2026/#webpage", "@type": "WebPage", "dateModified": "2026-09-09", "inLanguage": "es", "isPartOf": { "@id": "https://wavect.io/#website", "@type": "WebSite" }, "lastReviewed": "2026-09-09", "url": "https://wavect.io/es/blog/swarmllm-browser-p2p-inference-review-2026/" } ] } ``` ```json { "@context": "https://schema.org", "@type": "BlogPosting", "abstract": "SwarmLLM divide un gran modelo compatible en rangos contiguos de capas y ejecuta esos tramos en varios navegadores mediante WebGPU, mientras WebRTC transporta las activaciones intermedias entre peers. La demo actual de Qwen 3.8 27B muestra que un MacBook y un iPhone pueden cooperar con casi cero instalación para el usuario. El proyecto también publica evidencia de ingeniería poco común: benchmarks de kernels, medidas de transporte, pruebas de speculative decoding bit-exact y un threat model explícito. Los límites son igual de importantes: WebGPU no es universal, cada dispositivo añade hops, las activaciones no son confidenciales frente a peers determinados, el cómputo remoto aún no se verifica y el contexto multi-turn junto con recovery siguen en roadmap. Merece un piloto para salas de dispositivos de confianza o cuando sumar memoria resuelve un problema real de capacidad. No asumas que más dispositivos significan más velocidad ni que una ruta sin servidor central sea automáticamente suficientemente privada para producción.", "articleBody": " Resumen del blog/IA y agentes/Modelos e infraestructura SwarmLLM Review 2026: ¿Puede un navegador ejecutar un LLM 27B entre móvil y portátil? Resumen SwarmLLM divide un gran modelo compatible en rangos contiguos de capas y ejecuta esos tramos en varios navegadores mediante WebGPU, mientras WebRTC transporta las activaciones intermedias entre peers. La demo actual de Qwen 3.8 27B muestra que un MacBook y un iPhone pueden cooperar con casi cero instalación para el usuario. El proyecto también publica evidencia de ingeniería poco común: benchmarks de kernels, medidas de transporte, pruebas de speculative decoding bit-exact y un threat model explícito. Los límites son igual de importantes: WebGPU no es universal, cada dispositivo añade hops, las activaciones no son confidenciales frente a peers determinados, el cómputo remoto aún no se verifica y el contexto multi-turn junto con recovery siguen en roadmap. Merece un piloto para salas de dispositivos de confianza o cuando sumar memoria resuelve un problema real de capacidad. No asumas que más dispositivos significan más velocidad ni que una ruta sin servidor central sea automáticamente suficientemente privada para producción. SwarmLLM demuestra de forma técnicamente creíble que varias pestañas del navegador pueden cooperar para ejecutar un único modelo grande sobre dispositivos muy distintos. Un MacBook puede alojar la mayoría de las capas, un iPhone aportar un tramo pequeño, WebGPU ejecuta cada slice localmente y WebRTC mueve el hidden state entre dispositivos. El usuario no necesita instalar Python ni un daemon nativo de inferencia para entrar en la sala. La pregunta para un comprador no es si la demo funciona. Funciona. La pregunta útil es si esta arquitectura sigue ganando cuando importan latencia, soporte de navegador, confianza entre peers, recovery y coste operativo. Nuestra conclusión actual es deliberadamente estrecha: pilotar para experimentos de Browser AI con dispositivos de confianza y para problemas reales de memoria agregada, pero todavía no tratarlo como infraestructura de inferencia de producción. El repositorio público de SwarmLLM usa licencia MIT y documenta un motor WebGPU propio junto con un runtime de salas WebRTC. Su demo principal de septiembre de 2026 ejecuta Qwen 3.8 27B entre un MacBook y un iPhone. SwarmLLM es trabajo open source independiente de Nehanth Narendrula, no un producto de Wavect. Independencia y marcas Wavect publica esta página y es también un proveedor, así que tenemos un interés comercial en ella. No estamos afiliados a las demás empresas nombradas aquí, no contamos con su respaldo y no somos socios suyos, y todos los nombres de empresa, marcas y marcas registradas de terceros pertenecen a sus respectivos titulares. Las afirmaciones sobre otros proveedores proceden de fuentes públicamente accesibles, sobre todo de sus propias páginas publicadas, en la fecha de revisión indicada en esta página, y pueden haber cambiado desde entonces. Verifícalas directamente antes de decidir. Esta página se ha redactado según nuestro leal saber y entender, con la intención de mantenernos objetivos. Si crees que algo aquí es inexacto o injusto, escríbenos y lo corregimos: office@wavect.io ¿Qué hace exactamente SwarmLLM? SwarmLLM usa pipeline model parallelism entre navegadores. En lugar de cargar el modelo completo en cada dispositivo, asigna rangos contiguos de capas transformer a los participantes. El host conserva tokenizer, embeddings, normalización final, LM head y sampler. Durante la generación, una activación intermedia recorre los dispositivos en el orden del modelo y vuelve al host para elegir el siguiente token. La promesa principal es sumar capacidad. Qwen 3.8 27B ocupa aproximadamente 15 GB de pesos Q4_0 en el setup publicado. Un móvil no puede ejecutar el modelo completo, pero sí contribuir unas pocas capas mientras un portátil más potente aloja la mayor parte. ¿Cómo viaja un token por los dispositivos? La arquitectura publicada de SwarmLLM describe para Qwen 3.8 un hidden state de 5.120 elementos. Empaquetado en f16 son unos 10 KB. Cada peer ejecuta sus capas, reenvía el estado actualizado y el último tramo vuelve al host para LM head y sampling. prompt -> host embed -> capas del portátil -> capas del móvil -> LM head del host -> siguiente token El prefill del prompt puede agrupar trabajo. El decode autoregresivo necesita vueltas repetidas. SwarmLLM combina prefill por lotes con multi-token prediction de Qwen para verificar varios candidatos por vuelta. En este diseño, la red forma parte del motor de inferencia. SwarmLLM vs Mesh LLM, Browser AI y self-hosting clásico Wavect ya tiene una review de Mesh LLM que cubre la intención más amplia de distribuir un LLM entre varios ordenadores. Este artículo posee una intención distinta y más estrecha: inferencia LLM P2P directamente en navegador entre móviles, portátiles y PCs heterogéneos con casi cero fricción de instalación. EnfoqueDistribución del modeloTrade-off SwarmLLMSlices", "articleSection": "Engineering", "author": { "@id": "https://wavect.io/team/kevin-riedl/#person", "@type": "Person", "name": "Kevin Riedl", "sameAs": [ "https://www.wikidata.org/wiki/Q139796365", "https://www.linkedin.com/in/wsdt", "https://github.com/wsdt" ], "url": "https://wavect.io/team/kevin-riedl/" }, "citation": [ { "@type": "WebPage", "name": "repositorio público de SwarmLLM", "url": "https://github.com/Nehanth/swarmllm" }, { "@type": "WebPage", "name": "arquitectura publicada de SwarmLLM", "url": "https://github.com/Nehanth/swarmllm/blob/main/docs/architecture.md" }, { "@type": "WebPage", "name": "registro de benchmarks", "url": "https://github.com/Nehanth/swarmllm/blob/main/docs/bench-log.md" }, { "@type": "WebPage", "name": "documentación de seguridad", "url": "https://github.com/Nehanth/swarmllm/blob/main/SECURITY.md" }, { "@type": "WebPage", "name": "soporte de WebGPU", "url": "https://developer.mozilla.org/en-US/docs/Web/API/WebGPU_API" }, { "@type": "WebPage", "name": "WebRTC data channels", "url": "https://developer.mozilla.org/en-US/docs/Web/API/WebRTC_API/Using_data_channels" }, { "@type": "WebPage", "name": "roadmap de contexto multi-turn", "url": "https://github.com/Nehanth/swarmllm/blob/main/roadmap/13-multi-turn-context.md" } ], "dateModified": "2026-09-09", "datePublished": "2026-09-09", "description": "SwarmLLM divide un gran modelo compatible en rangos contiguos de capas y ejecuta esos tramos en varios navegadores mediante WebGPU, mientras WebRTC transporta las activaciones intermedias entre peers. La demo actual de Qwen 3.8 27B muestra que un MacBook y un iPhone pueden cooperar con casi cero instalación para el usuario. El proyecto también publica evidencia de ingeniería poco común: benchmarks de kernels, medidas de transporte, pruebas de speculative decoding bit-exact y un threat model explícito. Los límites son igual de importantes: WebGPU no es universal, cada dispositivo añade hops, las activaciones no son confidenciales frente a peers determinados, el cómputo remoto aún no se verifica y el contexto multi-turn junto con recovery siguen en roadmap. Merece un piloto para salas de dispositivos de confianza o cuando sumar memoria resuelve un problema real de capacidad. No asumas que más dispositivos significan más velocidad ni que una ruta sin servidor central sea automáticamente suficientemente privada para producción.", "headline": "SwarmLLM Review 2026: Inferencia LLM P2P entre móvil y portátil", "image": "https://wavect.io/img/blog/headers/header_swarmllm-browser-p2p-inference-review-2026.svg", "inLanguage": "es", "keywords": "SwarmLLM, Distributed Inference, Browser AI", "mainEntityOfPage": { "@id": "https://wavect.io/es/blog/swarmllm-browser-p2p-inference-review-2026/", "@type": "WebPage" }, "publisher": { "@id": "https://wavect.io/#organization", "@type": [ "Organization", "ProfessionalService", "LocalBusiness" ] }, "url": "https://wavect.io/es/blog/swarmllm-browser-p2p-inference-review-2026/", "wordCount": 2323 } ``` ```json { "@context": "https://schema.org", "@type": "BreadcrumbList", "itemListElement": [ { "@type": "ListItem", "item": "https://wavect.io/es/", "name": "Inicio", "position": 1 }, { "@type": "ListItem", "item": "https://wavect.io/es/blog/overview/", "name": "Resumen del blog", "position": 2 }, { "@type": "ListItem", "item": "https://wavect.io/es/blog/topics/ai-agents/", "name": "IA y agentes", "position": 3 }, { "@type": "ListItem", "item": "https://wavect.io/es/blog/clusters/models-infrastructure/", "name": "Modelos e infraestructura", "position": 4 }, { "@type": "ListItem", "item": "https://wavect.io/es/blog/swarmllm-browser-p2p-inference-review-2026/", "name": "SwarmLLM Review 2026: Inferencia LLM P2P en navegador", "position": 5 } ] } ``` ```json { "@context": "https://schema.org", "@type": "FAQPage", "mainEntity": [ { "@type": "Question", "acceptedAnswer": { "@type": "Answer", "text": "SwarmLLM es un proyecto MIT de inferencia distribuida en navegador. Divide un modelo compatible en rangos de capas, los ejecuta con WebGPU en varios dispositivos y mueve activaciones intermedias por WebRTC." }, "name": "¿Qué es SwarmLLM?" }, { "@type": "Question", "acceptedAnswer": { "@type": "Answer", "text": "La demo de septiembre de 2026 muestra Qwen 3.8 27B repartido entre un MacBook y un iPhone. El móvil no ejecuta el modelo completo, aporta un tramo pequeño de capas." }, "name": "¿Puede ejecutar Qwen 3.8 27B entre móvil y portátil?" }, { "@type": "Question", "acceptedAnswer": { "@type": "Answer", "text": "El transporte WebRTC está cifrado, pero el proyecto advierte que las activaciones no son cifrado. Trata a cada participante como potencialmente capaz de recuperar información del prompt." }, "name": "¿Es privado SwarmLLM?" }, { "@type": "Question", "acceptedAnswer": { "@type": "Answer", "text": "Es el dato de la demo del 7 de septiembre. La tabla estructurada todavía muestra 7,7 tok/s para MacBook más iPhone, así que conviene reproducirlo en hardware propio." }, "name": "¿10,7 tokens por segundo es un baseline?" }, { "@type": "Question", "acceptedAnswer": { "@type": "Answer", "text": "Ambos dividen un modelo por capas. SwarmLLM prioriza participación sin instalación en navegadores heterogéneos con WebGPU y WebRTC. Mesh LLM encaja mejor como malla privada nativa entre ordenadores." }, "name": "¿En qué se diferencia de Mesh LLM?" }, { "@type": "Question", "acceptedAnswer": { "@type": "Answer", "text": "Todavía no como dependencia central. Sí es adecuado para pilotos controlados y dispositivos de confianza mientras multi-turn, recovery y verificación de cómputo siguen incompletos." }, "name": "¿Debería una empresa usarlo hoy en producción?" } ] } ```