--- title: "Darkbloom AI Test: Private Inferenz auf Macs" canonical: https://wavect.io/de/blog/darkbloom-ai-private-inference-mac/ language: de description: "Darkbloom AI im Test: Privacy-Grenzen, API-Preise, Mac-Erlöse, Risiken, Alternativen und ein sicherer Pilotplan für Unternehmen." image: "https://wavect.io/img/blog/headers/header_darkbloom-ai-private-inference-mac.png" --- [**Zurück**](/de/blog/overview/) [![Kevin Riedl](/img/team/kevin.webp)](/de/team/kevin-riedl/) [Kevin Riedl](/de/team/kevin-riedl/) https://linkedin.com/in/wsdt 11 Min Lesezeit · 25. August 2026 Zuletzt geprüft 25. August 2026 [**Weiter**](/de/blog/local-models-vs-apis-break-even-eu-2026/) # Darkbloom AI im Test: Ist private Inferenz auf freien Macs bereit? TL;DR Darkbloom ist ein Public-Alpha-Netzwerk von Eigen Labs für KI-Inferenz. OpenAI-kompatible Requests laufen über einen vertraulichen Koordinator zu verifizierten Apple-Silicon-Providern. Das senkt die Integrationshürde und nutzt freie Macs, ist aber weder lokale Inferenz noch Zero-Knowledge-Computing. Laut eigener technischer Dokumentation entschlüsselt der Koordinator Prompt-Inhalte kurzzeitig im Speicher einer Confidential VM für Routing und Billing, danach verschlüsselt er sie für einen Provider neu. Dessen gehärteter Prozess entschlüsselt final. Das Repository dokumentiert aktuell Fallback-Preise von 0,05 US-Dollar pro Million Input-Token, 0,20 US-Dollar pro Million Output-Token, eine Mindestgebühr von 0,0001 US-Dollar und 0 Prozent Plattformgebühr während der Public Alpha. Live-Preise können abweichen. Provider-Erlöse sind variable Nachfrageerlöse, kein sicheres passives Einkommen. Für Unternehmen empfiehlt sich nur ein Evaluation-Pilot mit nicht sensiblen Daten, Workload-Evals, Latenz- und Ausfalltests, Kosten pro akzeptiertem Ergebnis sowie schriftlichem Security-, Rechts- und Betriebsreview vor der Produktion. **Darkbloom ist ein Public-Alpha-Netzwerk für KI-Inferenz, das OpenAI-kompatible Requests an verifizierte Apple-Silicon-Macs routet.** Es liegt zwischen einer normalen Hosted API und einem Modell, das nur auf eigener Hardware läuft. Entwickler ändern die Base URL, Mac-Eigentümer stellen freie Kapazität bereit, und das Netzwerk koordiniert Verschlüsselung, Placement, Attestierung und Zahlung. Die Kaufentscheidung ist anspruchsvoller als der Claim. Darkbloom kann Integration vereinfachen und Tokenpreise senken. Ein fremder Mac wird dadurch aber nicht automatisch zu einer Confidential-Computing-Enklave. Koordinator und ausgewählter Provider benötigen innerhalb geschützter Laufzeitgrenzen Zugriff auf Klartext. Auch Provider-Erlöse hängen von Nachfrage, Modell-Fit und Uptime ab. Unser Urteil am **25. August 2026**: ein sinnvoller, klar begrenzter Test mit nicht sensiblen Workloads, aber noch kein Vertrauensvorschuss für die Produktion. | Frage | Aktuelle Antwort | Bedeutung | | --- | --- | --- | | Was ist es? | Verteiltes Inferenznetzwerk mit Apple-Silicon-Providern | Freie Consumer-Hardware über eine Hosted API nutzen. | | Client Interface | OpenAI-kompatible Endpoints plus Anthropic Messages | Viele Anwendungen testen per Credentials und Base URL. | | Privacy-Modell | Confidential Coordinator, verschlüsselte Hops, gehärteter Provider-Prozess und Attestierung | Stärker als ein unverwalteter Peer, aber nicht lokal oder Zero Knowledge. | | Reifegrad | Public Alpha, nur für Evaluation beschrieben | Contracts, Verfügbarkeit und Betrieb können sich ändern. | | Preis | Pro Token, dokumentierte Fallback-Rates und Live-Preise | Kosten pro akzeptierter Aufgabe statt billigstem Token vergleichen. | | Provider-Erlös | Nachfrageabhängig, 0% Plattformgebühr in der Public Alpha | Keine Hardware aus einer Umsatzprojektion kaufen. | | Produktion | Interessanter Pilot, keine automatische Freigabe | Security-, Rechts-, Reliability- und Workload-Evidenz verlangen. | ## Was ist Darkbloom AI? [Eigen Labs stellte Project Darkbloom als Forschungsinitiative für verteilte Inferenz auf ungenutzten Macs vor](https://www.eigenlabs.org/blog/project-darkbloom-unlocking-idle-compute-for-ai/). Ein Koordinator ordnet Requests passenden Provider-Nodes zu. Der Provider nutzt einen gehärteten Prozess auf Apple Silicon und führt das Modell mit MLX im selben Prozess aus. Das [Open-Source-Repository von Darkbloom](https://github.com/Layr-Labs/d-inference) dokumentiert das System als Public Alpha. Die Control Plane läuft in einer Confidential VM, Provider verbinden sich ausgehend per WebSocket, und Responses streamen über den Koordinator zurück. Öffentliche Endpoints liefern Live-Modellkatalog, Preise und Provider-Attestierung. Das ist nicht dieselbe Architektur wie in unserem [Mesh-LLM-Test](/de/blog/mesh-llm-distributed-inference-multiple-computers/). Mesh LLM verteilt ein Modell in Layer-Stages auf Rechner unter eigener Kontrolle. Darkbloom routet normalerweise den gesamten Request zu einem passenden Provider. Klassisches Self-Hosting ist es ebenfalls nicht, denn Koordinator und Remote Provider bleiben Teil der Service Boundary. ## Wie funktioniert Darkbloom Privacy wirklich? 1. **Anwendung zum Koordinator:** TLS schützt den Transport. Optional versiegelt der Client den Body zusätzlich für den X25519-Key des Koordinators. 2. **Im Koordinator:** Die Confidential VM entschlüsselt für Routing und Billing. 3. **Koordinator zum Provider:** Ein frischer ephemerer Key verschlüsselt den Body für den attestierten Provider-Key neu. 4. **Im Provider:** Der gehärtete Prozess entschlüsselt und führt MLX-Inferenz im selben Prozess aus. 5. **Response:** Verschlüsselte Stream-Chunks laufen zum Koordinator und von dort zum Client. Das [kanonische Verschlüsselungsdokument](https://github.com/Layr-Labs/d-inference/blob/master/docs/architecture/security/encryption.md) ist klar: Der Koordinator sieht Prompt-Inhalte kurzzeitig für Routing und Billing, der Provider ist der finale Entschlüsselungspunkt. Damit unterscheidet sich Darkbloom relevant von einem offen beobachtbaren Subprozess. „Verschlüsselt“ bedeutet trotzdem nicht, dass außerhalb des eigenen Unternehmens nie Klartext verarbeitet wird. Die [Privacy Expectations für Nutzer](https://github.com/Layr-Labs/d-inference/blob/master/docs/consumer/privacy-expectations.md) ergänzen: Der Koordinator soll Prompt-Inhalte weder loggen noch speichern und vor dem Verlassen der Confidential VM neu verschlüsseln. Ein Käufer braucht trotzdem Nachweise zur deployten Version, Zugriffssteuerung, Telemetrie, Regionen, Subprozessoren, Incidents und vertraglicher Verantwortung. ## Ist Darkbloom Ende-zu-Ende verschlüsselt? **Beide Netzwerkstrecken sind authentifiziert verschlüsselt, aber Koordinator und Provider entschlüsseln innerhalb ihrer geschützten Runtime.** Wenn Ende-zu-Ende bedeutet, dass nur ursprünglicher Client und Endnutzer Klartext besitzen, trifft der Begriff nicht zu. Präziser ist: Hop-by-Hop-verschlüsselte private Inferenz mit Confidential Coordinator und attestiertem Provider-Prozess. Für regulierte Daten ist dieser Unterschied entscheidend. Wenn ein externer Dienst unter keiner Ausführungsbedingung Klartext sehen darf, wähle lokale Inferenz, eine geeignete Kryptografietechnik oder eine geprüfte Confidential-Computing-Plattform. Unser [Vergleich von ZK, FHE, MPC und TEE](/de/blog/zk-vs-fhe-vs-mpc-vs-tee/) trennt diese Garantien. ## Wie kompatibel ist die Darkbloom API? Der [Consumer Quickstart](https://github.com/Layr-Labs/d-inference/blob/master/docs/consumer/quickstart.md) dokumentiert eine OpenAI Base URL, Bearer Auth, Streaming Chat Completions und Anthropic Messages. Das Repository nennt auch Responses API, Tool Calling, Vision und Reasoning Models. Embeddings gelten derzeit als nicht implementiert, und Aliasse können im Zeitverlauf auf andere Builds zeigen. Kompatibel heißt hier: gute Migrationsfläche, nicht vollständige Verhaltensgleichheit. Teste Endpoint, Streaming, Tool-Call-Schema, Timeouts, Fehlerformate, Rate Limits, Alias-Wechsel und deine SDK-Version. Für Policy, Observability und Fallback kann ein internes Gateway sinnvoll sein. Unser [Vergleich von LLM Gateways und Routern](/de/blog/llm-gateway-router-comparison-2026/) deckt diese Control Layer ab. ## Was kostet Darkbloom? Das Repository dokumentiert aktuell Fallback-Rates von **0,05 US-Dollar pro Million Input-Token**, **0,20 US-Dollar pro Million Output-Token** und **0,0001 US-Dollar Mindestgebühr pro Request**. Die Plattformgebühr liegt während der Public Alpha bei 0%. Modellabhängige Live-Rates liefert `GET /v1/pricing`. Archiviere die Live-Preise am Anfang und Ende jedes Tests. Vergleiche nicht nur Tokenpreis, sondern Qualität, Kosten pro akzeptierter Aufgabe, Time to First Token, Tail Latency, Retries, Fallback, Engineering, Security Review und Ausfallkosten. Unser [Break-even-Modell für lokale LLMs gegen APIs](/de/blog/local-models-vs-apis-break-even-eu-2026/) berechnet diese Vollkosten. Darkbloom kombiniert API-Komfort mit verteilter Consumer-Hardware als Supply. ## Kann man mit Darkbloom auf einem Mac Geld verdienen? **Möglich, aber nur bei gematchter Nachfrage.** Das [Provider Setup](https://console.darkbloom.dev/providers/setup) verlangt Apple Silicon, macOS 14 oder neuer, stabiles Internet und genug Unified Memory für ein unterstütztes Modell. Das Repository empfiehlt 32 GB oder mehr für größere oder mehrere Modelle und mindestens 100 GB freien Speicher. Aus einem Earnings Calculator darf kein Hardware-Business-Case werden. Ein [öffentliches Provider-Issue meldete mehr als einen Tag ohne Inferenzjobs trotz verbundenem Mac](https://github.com/Layr-Labs/d-inference/issues/264). Das ist ein einzelner Bericht, keine Messung der gesamten Flotte. Er zeigt aber das zentrale Risiko: Eligibility und Uptime erzeugen keine Kundennachfrage. Starte mit vorhandener Hardware. Miss Jobs, verrechenbare Token, Auszahlung, zusätzliche Leistungsaufnahme, Memory Pressure, Disk, Netzwerk, Unterbrechung und Supportzeit. Berechne Nettoerlös pro verfügbarer und pro aktiver Stunde. Hochrechnungen aus Launch-Incentives oder kurzen Traffic-Spitzen sind nicht belastbar. ## Welche Produktionsrisiken sind entscheidend? | Risiko | Prüfung | Go-live-Gate | | --- | --- | --- | | Trust Boundary | Klartext im Koordinator, Attestierungslevel, Code Identity, Logging | Security akzeptiert deployten Pfad und Restrisiko. | | Datenschutz | Rollen, Subprozessoren, Regionen, Transfers, Retention | Vertrag und Datenfluss passen zum Workload. | | Verfügbarkeit | Provider Churn, Cold Starts, Queue, Failover | Tail Latency und Error Budget bestehen Fault Injection. | | Modelländerung | Alias, Quantisierung, Lizenz und Eval Drift | Versionsevidenz und Regression Evals blockieren Qualitätsverlust. | | Kosten | Live-Preis, Minimum, Retries, Fee und Fallback | Kosten pro akzeptiertem Ergebnis bleiben unter dem Limit. | | Host-Auswirkung | Memory, Metal, Thermik, Disk und Stop-Verhalten | Der Eigentümer-Mac bleibt nutzbar und erholt sich sicher. | Der letzte Punkt ist real. Ein [öffentliches Issue dokumentiert extremen Metal Memory Pressure auf einem M3 Ultra mit 256 GB unter anhaltendem Provider-Traffic](https://github.com/Layr-Labs/d-inference/issues/550). Es betrifft eine bestimmte Version und Konfiguration und beweist keinen generellen Fehler. Dennoch sollten Physical Footprint, Memory Compression, Terminierung und Recovery statt nur RSS gemessen werden. ## Darkbloom vs. lokale KI vs. Hosted API | Option | Stärkster Fit | Hauptnachteil | | --- | --- | --- | | Darkbloom | API-Komfort, Open Models und Pilot für verteiltes Apple Silicon | Früher Reifegrad und breitere Trust Boundary als lokal | | Lokales Modell | Daten müssen auf kontrollierter Hardware bleiben und der Workload passt | Eigener Betrieb, Kapazität und Verfügbarkeit | | Privates Multi-Machine-Mesh | Ein Modell ist zu groß für einen Host, kontrollierte Rechner sind vorhanden | Netzwerklatenz und Multi-Node-Ausfälle | | Normale Hosted API | Reife Skalierung, Modellbreite und Support | Preis-, Policy-, Retention- und Residency-Abhängigkeit | | Confidential Cloud | Hardware-isolierte Verarbeitung mit formaler Attestierung | Plattformgrenzen, Preis und spezifische Trust-Annahmen | ## Darkbloom in sieben Schritten testen 1. **Low-Risk-Workload wählen:** keine personenbezogenen Daten, Secrets, Kundencode oder regulierten Records. 2. **Entscheidungsfläche einfrieren:** Endpoint, Alias, Build, Preis, Repository-Revision, Trust Header und Policies dokumentieren. 3. **Qualitätsbaseline erstellen:** 50 bis 200 repräsentative Aufgaben mit Akzeptanzrubrik vergleichen. 4. **Service messen:** First Token, Gesamtlatenz, Durchsatz, Fehler, Retries, Tool Calls und Kosten pro akzeptiertem Ergebnis. 5. **Boundary prüfen:** Verschlüsselung, Attestierung, Logs, Telemetrie, Rollen, Regionen und Incident Response. 6. **Route brechen:** Provider-Ausfall, Koordinatorfehler, fehlendes Modell, langsame Streams und Fallback testen. 7. **Mit Scorecard entscheiden:** Nur bei bestandenen Gates für Qualität, Privacy, Latenz, Reliability und Kosten erweitern. ## Häufige Fragen zu Darkbloom AI ### Was ist Darkbloom AI? Darkbloom ist ein verteiltes Public-Alpha-Netzwerk von Eigen Labs. Es routet OpenAI-kompatible Requests über einen vertraulichen Koordinator zu verifizierten Apple-Silicon-Providern mit MLX. ### Ist Darkbloom lokale LLM-Inferenz? Nein. Lokale Inferenz bleibt auf eigener Hardware. Darkbloom nutzt einen externen Koordinator und einen gematchten Provider-Mac innerhalb der Service Boundary. ### Kann der Darkbloom-Koordinator Prompts lesen? Laut Dokumentation entschlüsselt er Prompt-Inhalte kurzzeitig in Confidential-VM-Memory für Routing und Billing, loggt oder speichert sie nicht und verschlüsselt sie für den Provider neu. ### Unterstützt Darkbloom die OpenAI API? Darkbloom unterstützt wichtige OpenAI-kompatible Interfaces sowie Anthropic Messages. Teste dein exaktes SDK, denn nicht jeder Endpoint verhält sich identisch. ### Was kostet Darkbloom? Dokumentierte Fallback-Rates sind aktuell 0,05 US-Dollar pro Million Input-Token, 0,20 US-Dollar pro Million Output-Token und 0,0001 US-Dollar Minimum. Live-Modellpreise können abweichen. ### Wie viel verdient ein Mac mit Darkbloom? Es gibt keinen verlässlichen Pauschalbetrag. Nachfrage, Modell, Speicher, Uptime, Reputation und Incentives bestimmen den Erlös. Miss zuerst auf vorhandener Hardware. ### Ist Darkbloom produktionsbereit? Der Dienst nennt sich Public Alpha und Evaluation Use Only. Unternehmen sollten Qualität, Privacy, Recht, Verfügbarkeit, Recovery und Vollkosten zuerst mit nicht sensiblen Daten testen. ## Fazit Darkbloom verbindet OpenAI-kompatible API, freie Apple-Silicon-Kapazität und ein prüfbares Privacy-Design. Das ist kommerziell interessant. Die präzise Boundary begrenzt den Claim: Der Koordinator verarbeitet Klartext in einer Confidential VM, der Provider entschlüsselt im gehärteten Prozess, und Alpha-Erlöse brauchen echte Nachfrage. Teste Darkbloom, wenn es ein reales Kosten- oder Supply-Problem löst. Halte den ersten Workload nicht sensibel, sichere Preise und Modellversionen, teste Fehlerpfade und vergleiche Kosten pro akzeptiertem Ergebnis. Produktion folgt erst nach Freigabe durch Security, Recht und Operations. ## Das könnte dich auch interessieren.. [**Wann lokale Modelle APIs schlagen** Berechne Hardware, Engineering, Auslastung, Privacy und Kosten pro erfolgreicher Aufgabe.](/de/blog/local-models-vs-apis-break-even-eu-2026/) [**AI Enablement vs. generische KI-Beratung** Vergleiche messbare Umsetzung mit Beratung ohne Produktionsevidenz.](/de/compare/ai-enablement-vs-generic-ai-consultancy/) Modelle und Infrastruktur ## In diesem Cluster weiterlesen Modellauswahl, Inferenzkosten, lokaler Betrieb, Kompression und Serving-Architektur. [Mit dem Grundlagenartikel starten**LLMs in der EU selbst hosten: Wann sich Open Weights wirklich rechnen**](/de/blog/self-hosting-llms-eu-cost/) - [FreeToken AI im Test: Frontier-MoE auf Consumer-GPUs?](/de/blog/freetoken-ai-inference-engine-review/) - [Ox Alpha Free: Setup, Datenschutz und Kaufleitfaden](/de/blog/ox-alpha-free-ai-model-guide-2026/) - [Pika Audio API Preise: Sind Soundeffekte wirklich 20x günstiger?](/de/blog/pika-audio-models-api-pricing-2026/) - [Thunder Computes 13-Mio.-Dollar-Wette auf GPU-Virtualisierung: Einkaufsleitfaden](/de/blog/thunder-compute-gpu-virtualization-series-a/) - [AirLLM mit 4 GB VRAM: So funktioniert Layer-wise Inference](/de/blog/airllm-layer-wise-inference-low-vram/) Postfach, ohne Lärm ## Folge der Arbeit, die für dich zählt Du bekommst eine kurze E-Mail, wenn wir etwas Neues veröffentlichen. Folge dem ganzen Blog oder nur den Themen, die dich interessieren. [**Zurück**](/de/blog/overview/) [![Kevin Riedl](/img/team/kevin.webp)](/de/team/kevin-riedl/) [Kevin Riedl](/de/team/kevin-riedl/) https://linkedin.com/in/wsdt 11 Min Lesezeit · 25. August 2026 Zuletzt geprüft 25. August 2026 [**Weiter**](/de/blog/local-models-vs-apis-break-even-eu-2026/) Neue Beiträge per E-Mail × × Neue Beiträge per E-Mail Eine kurze E-Mail, wenn wir etwas veröffentlichen. Kostenlos, ohne Tracking. ## Structured Data ```json { "@context": "https://schema.org", "@graph": [ { "@id": "https://wavect.io/#organization", "@type": [ "Organization", "ProfessionalService", "LocalBusiness" ], "employee": [ { "@id": "https://wavect.io/team/kevin-riedl/#person", "@type": "Person", "jobTitle": "Managing Director", "name": "Kevin Riedl", "url": "https://wavect.io/team/kevin-riedl/", "worksFor": { "@id": "https://wavect.io/#organization", "@type": [ "Organization", "ProfessionalService", "LocalBusiness" ] } }, { "@id": "https://wavect.io/team/christof-jori/#person", "@type": "Person", "jobTitle": "Managing Director", "name": "Christof Jori", "url": "https://wavect.io/team/christof-jori/", "worksFor": { "@id": "https://wavect.io/#organization", "@type": [ "Organization", "ProfessionalService", "LocalBusiness" ] } } ], "founder": [ { "@id": "https://wavect.io/team/kevin-riedl/#person", "@type": "Person", "jobTitle": "Managing Director", "name": "Kevin Riedl", "url": "https://wavect.io/team/kevin-riedl/", "worksFor": { "@id": "https://wavect.io/#organization", "@type": [ "Organization", "ProfessionalService", "LocalBusiness" ] } }, { "@id": "https://wavect.io/team/christof-jori/#person", "@type": "Person", "jobTitle": "Managing Director", "name": "Christof Jori", "url": "https://wavect.io/team/christof-jori/", "worksFor": { "@id": "https://wavect.io/#organization", "@type": [ "Organization", "ProfessionalService", "LocalBusiness" ] } } ], "legalRepresentative": [ { "@id": "https://wavect.io/team/kevin-riedl/#person", "@type": "Person", "jobTitle": "Managing Director", "name": "Kevin Riedl", "url": "https://wavect.io/team/kevin-riedl/", "worksFor": { "@id": "https://wavect.io/#organization", "@type": [ "Organization", "ProfessionalService", "LocalBusiness" ] } }, { "@id": "https://wavect.io/team/christof-jori/#person", "@type": "Person", "jobTitle": "Managing Director", "name": "Christof Jori", "url": "https://wavect.io/team/christof-jori/", "worksFor": { "@id": "https://wavect.io/#organization", "@type": [ "Organization", "ProfessionalService", "LocalBusiness" ] } } ], "name": "Wavect GmbH", "subjectOf": { "@id": "https://wavect.io/verified-claims.json#dataset", "@type": "Dataset", "creator": { "@id": "https://wavect.io/#organization", "@type": [ "Organization", "ProfessionalService", "LocalBusiness" ] }, "description": "A machine-readable registry of quantitative and qualitative claims published by Wavect, with review dates, localized page appearances and public third-party citations where available.", "inLanguage": "en", "isAccessibleForFree": true, "license": "https://creativecommons.org/licenses/by/4.0/", "name": "Wavect verified publication claims", "url": "https://wavect.io/verified-claims.json" }, "url": "https://wavect.io/" }, { "@id": "https://wavect.io/team/kevin-riedl/#person", "@type": "Person", "jobTitle": "Managing Director", "name": "Kevin Riedl", "sameAs": [ "https://www.wikidata.org/wiki/Q139796365", "https://www.linkedin.com/in/wsdt", "https://github.com/wsdt" ], "url": "https://wavect.io/team/kevin-riedl/", "worksFor": { "@id": "https://wavect.io/#organization", "@type": [ "Organization", "ProfessionalService", "LocalBusiness" ] } }, { "@id": "https://wavect.io/team/christof-jori/#person", "@type": "Person", "jobTitle": "Managing Director", "name": "Christof Jori", "sameAs": [ "https://www.wikidata.org/wiki/Q139796367", "https://www.linkedin.com/in/jocr77/", "https://github.com/jo-chris" ], "url": "https://wavect.io/team/christof-jori/", "worksFor": { "@id": "https://wavect.io/#organization", "@type": [ "Organization", "ProfessionalService", "LocalBusiness" ] } }, { "@id": "https://wavect.io/#website", "@type": "WebSite", "inLanguage": [ "en", "de", "es", "zh" ], "name": "Wavect", "potentialAction": { "@type": "SearchAction", "query-input": "required name=search_term_string", "target": { "@type": "EntryPoint", "urlTemplate": "https://wavect.io/search/?q={search_term_string}" } }, "publisher": { "@id": "https://wavect.io/#organization", "@type": [ "Organization", "ProfessionalService", "LocalBusiness" ] }, "url": "https://wavect.io/" }, { "@id": "https://wavect.io/de/blog/darkbloom-ai-private-inference-mac/#webpage", "@type": "WebPage", "dateModified": "2026-08-25", "inLanguage": "de", "isPartOf": { "@id": "https://wavect.io/#website", "@type": "WebSite" }, "lastReviewed": "2026-08-25", "url": "https://wavect.io/de/blog/darkbloom-ai-private-inference-mac/" } ] } ``` ```json { "@context": "https://schema.org", "@type": "BlogPosting", "abstract": "Darkbloom ist ein Public-Alpha-Netzwerk von Eigen Labs für KI-Inferenz. OpenAI-kompatible Requests laufen über einen vertraulichen Koordinator zu verifizierten Apple-Silicon-Providern. Das senkt die Integrationshürde und nutzt freie Macs, ist aber weder lokale Inferenz noch Zero-Knowledge-Computing. Laut eigener technischer Dokumentation entschlüsselt der Koordinator Prompt-Inhalte kurzzeitig im Speicher einer Confidential VM für Routing und Billing, danach verschlüsselt er sie für einen Provider neu. Dessen gehärteter Prozess entschlüsselt final. Das Repository dokumentiert aktuell Fallback-Preise von 0,05 US-Dollar pro Million Input-Token, 0,20 US-Dollar pro Million Output-Token, eine Mindestgebühr von 0,0001 US-Dollar und 0 Prozent Plattformgebühr während der Public Alpha. Live-Preise können abweichen. Provider-Erlöse sind variable Nachfrageerlöse, kein sicheres passives Einkommen. Für Unternehmen empfiehlt sich nur ein Evaluation-Pilot mit nicht sensiblen Daten, Workload-Evals, Latenz- und Ausfalltests, Kosten pro akzeptiertem Ergebnis sowie schriftlichem Security-, Rechts- und Betriebsreview vor der Produktion.", "articleBody": " Blog-Übersicht/AI und Agents/Modelle und Infrastruktur Darkbloom AI im Test: Ist private Inferenz auf freien Macs bereit? TL;DR Darkbloom ist ein Public-Alpha-Netzwerk von Eigen Labs für KI-Inferenz. OpenAI-kompatible Requests laufen über einen vertraulichen Koordinator zu verifizierten Apple-Silicon-Providern. Das senkt die Integrationshürde und nutzt freie Macs, ist aber weder lokale Inferenz noch Zero-Knowledge-Computing. Laut eigener technischer Dokumentation entschlüsselt der Koordinator Prompt-Inhalte kurzzeitig im Speicher einer Confidential VM für Routing und Billing, danach verschlüsselt er sie für einen Provider neu. Dessen gehärteter Prozess entschlüsselt final. Das Repository dokumentiert aktuell Fallback-Preise von 0,05 US-Dollar pro Million Input-Token, 0,20 US-Dollar pro Million Output-Token, eine Mindestgebühr von 0,0001 US-Dollar und 0 Prozent Plattformgebühr während der Public Alpha. Live-Preise können abweichen. Provider-Erlöse sind variable Nachfrageerlöse, kein sicheres passives Einkommen. Für Unternehmen empfiehlt sich nur ein Evaluation-Pilot mit nicht sensiblen Daten, Workload-Evals, Latenz- und Ausfalltests, Kosten pro akzeptiertem Ergebnis sowie schriftlichem Security-, Rechts- und Betriebsreview vor der Produktion. Darkbloom ist ein Public-Alpha-Netzwerk für KI-Inferenz, das OpenAI-kompatible Requests an verifizierte Apple-Silicon-Macs routet. Es liegt zwischen einer normalen Hosted API und einem Modell, das nur auf eigener Hardware läuft. Entwickler ändern die Base URL, Mac-Eigentümer stellen freie Kapazität bereit, und das Netzwerk koordiniert Verschlüsselung, Placement, Attestierung und Zahlung. Die Kaufentscheidung ist anspruchsvoller als der Claim. Darkbloom kann Integration vereinfachen und Tokenpreise senken. Ein fremder Mac wird dadurch aber nicht automatisch zu einer Confidential-Computing-Enklave. Koordinator und ausgewählter Provider benötigen innerhalb geschützter Laufzeitgrenzen Zugriff auf Klartext. Auch Provider-Erlöse hängen von Nachfrage, Modell-Fit und Uptime ab. Unser Urteil am 25. August 2026: ein sinnvoller, klar begrenzter Test mit nicht sensiblen Workloads, aber noch kein Vertrauensvorschuss für die Produktion. Darkbloom AI: Entscheidungsübersicht FrageAktuelle AntwortBedeutung Was ist es?Verteiltes Inferenznetzwerk mit Apple-Silicon-ProvidernFreie Consumer-Hardware über eine Hosted API nutzen. Client InterfaceOpenAI-kompatible Endpoints plus Anthropic MessagesViele Anwendungen testen per Credentials und Base URL. Privacy-ModellConfidential Coordinator, verschlüsselte Hops, gehärteter Provider-Prozess und AttestierungStärker als ein unverwalteter Peer, aber nicht lokal oder Zero Knowledge. ReifegradPublic Alpha, nur für Evaluation beschriebenContracts, Verfügbarkeit und Betrieb können sich ändern. PreisPro Token, dokumentierte Fallback-Rates und Live-PreiseKosten pro akzeptierter Aufgabe statt billigstem Token vergleichen. Provider-ErlösNachfrageabhängig, 0% Plattformgebühr in der Public AlphaKeine Hardware aus einer Umsatzprojektion kaufen. ProduktionInteressanter Pilot, keine automatische FreigabeSecurity-, Rechts-, Reliability- und Workload-Evidenz verlangen. Was ist Darkbloom AI? Eigen Labs stellte Project Darkbloom als Forschungsinitiative für verteilte Inferenz auf ungenutzten Macs vor. Ein Koordinator ordnet Requests passenden Provider-Nodes zu. Der Provider nutzt einen gehärteten Prozess auf Apple Silicon und führt das Modell mit MLX im selben Prozess aus. Das Open-Source-Repository von Darkbloom dokumentiert das System als Public Alpha. Die Control Plane läuft in einer Confidential VM, Provider verbinden sich ausgehend per WebSocket, und Responses streamen über den Koordinator zurück. Öffentliche Endpoints liefern Live-Modellkatalog, Preise und Provider-Attestierung. Das ist nicht dieselbe Architektur wie in unserem Mesh-LLM-Test. Mesh LLM verteilt ein Modell in Layer-Stages auf Rechner unter eigener Kontrolle. Darkbloom routet normalerweise den gesamten Request zu einem passenden Provider. Klassisches Self-Hosting ist es ebenfalls nicht, denn Koordinator und Remote Provider bleiben Teil der Service Boundary. Wie funktioniert Darkbloom Privacy wirklich? Anwendung zum Koordinator: TLS schützt den Transport. Optional versiegelt der Client den Body zusätzlich für den X25519-Key des Koordinators. Im Koordinator: Die Confidential VM entschlüsselt für Routing und Billing. Koordinator zum Provider: Ein frischer ephemerer Key verschlüsselt den Body für den attestierten Provider-Key neu. Im Provider: Der gehärtete Prozess entschlüsselt und führt MLX-Inferenz im selben Prozess aus. Response: Verschlüsselte Stream-Chunks laufen zum Koordinator und von dort zum Client. Das kanonische Verschlüsselungsdokument ist klar: Der Koordinator sieht Prompt-Inhalte kurzzeitig für Routing und Billing, der Provider ist der finale Entschlüsselungspunkt. Damit unterscheidet sich Darkbloom relevant von einem offen beobachtbaren Subprozess. „Verschlüsselt“ bedeutet trotzdem", "articleSection": "AI", "author": { "@id": "https://wavect.io/team/kevin-riedl/#person", "@type": "Person", "name": "Kevin Riedl", "sameAs": [ "https://www.wikidata.org/wiki/Q139796365", "https://www.linkedin.com/in/wsdt", "https://github.com/wsdt" ], "url": "https://wavect.io/team/kevin-riedl/" }, "citation": [ { "@type": "WebPage", "name": "Eigen Labs stellte Project Darkbloom als Forschungsinitiative für verteilte Inferenz auf ungenutzten Macs vor", "url": "https://www.eigenlabs.org/blog/project-darkbloom-unlocking-idle-compute-for-ai/" }, { "@type": "WebPage", "name": "Open-Source-Repository von Darkbloom", "url": "https://github.com/Layr-Labs/d-inference" }, { "@type": "WebPage", "name": "kanonische Verschlüsselungsdokument", "url": "https://github.com/Layr-Labs/d-inference/blob/master/docs/architecture/security/encryption.md" }, { "@type": "WebPage", "name": "Privacy Expectations für Nutzer", "url": "https://github.com/Layr-Labs/d-inference/blob/master/docs/consumer/privacy-expectations.md" }, { "@type": "WebPage", "name": "Consumer Quickstart", "url": "https://github.com/Layr-Labs/d-inference/blob/master/docs/consumer/quickstart.md" }, { "@type": "WebPage", "name": "Provider Setup", "url": "https://console.darkbloom.dev/providers/setup" }, { "@type": "WebPage", "name": "öffentliches Provider-Issue meldete mehr als einen Tag ohne Inferenzjobs trotz verbundenem Mac", "url": "https://github.com/Layr-Labs/d-inference/issues/264" }, { "@type": "WebPage", "name": "öffentliches Issue dokumentiert extremen Metal Memory Pressure auf einem M3 Ultra mit 256 GB unter anhaltendem Provider-Traffic", "url": "https://github.com/Layr-Labs/d-inference/issues/550" } ], "dateModified": "2026-08-25", "datePublished": "2026-08-25", "description": "Darkbloom ist ein Public-Alpha-Netzwerk von Eigen Labs für KI-Inferenz. OpenAI-kompatible Requests laufen über einen vertraulichen Koordinator zu verifizierten Apple-Silicon-Providern. Das senkt die Integrationshürde und nutzt freie Macs, ist aber weder lokale Inferenz noch Zero-Knowledge-Computing. Laut eigener technischer Dokumentation entschlüsselt der Koordinator Prompt-Inhalte kurzzeitig im Speicher einer Confidential VM für Routing und Billing, danach verschlüsselt er sie für einen Provider neu. Dessen gehärteter Prozess entschlüsselt final. Das Repository dokumentiert aktuell Fallback-Preise von 0,05 US-Dollar pro Million Input-Token, 0,20 US-Dollar pro Million Output-Token, eine Mindestgebühr von 0,0001 US-Dollar und 0 Prozent Plattformgebühr während der Public Alpha. Live-Preise können abweichen. Provider-Erlöse sind variable Nachfrageerlöse, kein sicheres passives Einkommen. Für Unternehmen empfiehlt sich nur ein Evaluation-Pilot mit nicht sensiblen Daten, Workload-Evals, Latenz- und Ausfalltests, Kosten pro akzeptiertem Ergebnis sowie schriftlichem Security-, Rechts- und Betriebsreview vor der Produktion.", "headline": "Darkbloom AI Test: Private Inferenz auf freien Macs", "image": "https://wavect.io/img/blog/headers/header_darkbloom-ai-private-inference-mac.svg", "inLanguage": "de", "keywords": "Private KI, KI-Infrastruktur", "mainEntityOfPage": { "@id": "https://wavect.io/de/blog/darkbloom-ai-private-inference-mac/", "@type": "WebPage" }, "publisher": { "@id": "https://wavect.io/#organization", "@type": [ "Organization", "ProfessionalService", "LocalBusiness" ] }, "url": "https://wavect.io/de/blog/darkbloom-ai-private-inference-mac/", "wordCount": 1847 } ``` ```json { "@context": "https://schema.org", "@type": "BreadcrumbList", "itemListElement": [ { "@type": "ListItem", "item": "https://wavect.io/de/", "name": "Startseite", "position": 1 }, { "@type": "ListItem", "item": "https://wavect.io/de/blog/overview/", "name": "Blog-Übersicht", "position": 2 }, { "@type": "ListItem", "item": "https://wavect.io/de/blog/topics/ai-agents/", "name": "AI und Agents", "position": 3 }, { "@type": "ListItem", "item": "https://wavect.io/de/blog/clusters/models-infrastructure/", "name": "Modelle und Infrastruktur", "position": 4 }, { "@type": "ListItem", "item": "https://wavect.io/de/blog/darkbloom-ai-private-inference-mac/", "name": "Darkbloom AI Test: Private Inferenz auf Macs | ", "position": 5 } ] } ``` ```json { "@context": "https://schema.org", "@type": "FAQPage", "mainEntity": [ { "@type": "Question", "acceptedAnswer": { "@type": "Answer", "text": "Darkbloom ist ein verteiltes Public-Alpha-Netzwerk von Eigen Labs. Es routet OpenAI-kompatible Requests über einen vertraulichen Koordinator zu verifizierten Apple-Silicon-Providern mit MLX." }, "name": "Was ist Darkbloom AI?" }, { "@type": "Question", "acceptedAnswer": { "@type": "Answer", "text": "Nein. Lokale Inferenz bleibt auf eigener Hardware. Darkbloom nutzt einen externen Koordinator und einen gematchten Provider-Mac innerhalb der Service Boundary." }, "name": "Ist Darkbloom lokale LLM-Inferenz?" }, { "@type": "Question", "acceptedAnswer": { "@type": "Answer", "text": "Laut Dokumentation entschlüsselt er Prompt-Inhalte kurzzeitig in Confidential-VM-Memory für Routing und Billing, loggt oder speichert sie nicht und verschlüsselt sie für den Provider neu." }, "name": "Kann der Darkbloom-Koordinator Prompts lesen?" }, { "@type": "Question", "acceptedAnswer": { "@type": "Answer", "text": "Darkbloom unterstützt wichtige OpenAI-kompatible Interfaces sowie Anthropic Messages. Teste dein exaktes SDK, denn nicht jeder Endpoint verhält sich identisch." }, "name": "Unterstützt Darkbloom die OpenAI API?" }, { "@type": "Question", "acceptedAnswer": { "@type": "Answer", "text": "Dokumentierte Fallback-Rates sind aktuell 0,05 US-Dollar pro Million Input-Token, 0,20 US-Dollar pro Million Output-Token und 0,0001 US-Dollar Minimum. Live-Modellpreise können abweichen." }, "name": "Was kostet Darkbloom?" }, { "@type": "Question", "acceptedAnswer": { "@type": "Answer", "text": "Es gibt keinen verlässlichen Pauschalbetrag. Nachfrage, Modell, Speicher, Uptime, Reputation und Incentives bestimmen den Erlös. Miss zuerst auf vorhandener Hardware." }, "name": "Wie viel verdient ein Mac mit Darkbloom?" }, { "@type": "Question", "acceptedAnswer": { "@type": "Answer", "text": "Der Dienst nennt sich Public Alpha und Evaluation Use Only. Unternehmen sollten Qualität, Privacy, Recht, Verfügbarkeit, Recovery und Vollkosten zuerst mit nicht sensiblen Daten testen." }, "name": "Ist Darkbloom produktionsbereit?" } ] } ```