Soofi S: Ist Deutschlands souveränes LLM bereit für Unternehmen?

Soofi S ist ein neues deutsch-englisches Foundation Model eines deutschen Forschungskonsortiums, von Grund auf trainiert in der Industrial AI Cloud der Deutschen Telekom in München. Das Modell hat 30 Milliarden Parameter, aktiviert pro Token aber nur rund 3 bis 3,5 Milliarden. Das Training umfasste laut Projektbericht etwa 27 Billionen Token. Im eigenen Benchmark des Konsortiums liegt Soofi S bei den vollständig offenen Modellen vor OLMo 3 32B und Apertus 70B.

Technisch ist das relevant. Für einen produktiven Einkauf reicht die Schlagzeile trotzdem nicht. Am 16. Juli 2026 sind die öffentlichen Hugging-Face-Artefakte als Preview gekennzeichnet, der Download verlangt Kontaktdaten, der vollständige Text der Custom License fehlt noch und mehrere Felder zu Safety, Privacy, Evaluation und Trainingsdaten stehen auf TODO.

Die kommerzielle Einordnung lautet deshalb: Soofi S gehört auf die Pilot-Shortlist für deutschsprachige industrielle KI, aber noch nicht ungeprüft in Produktion.

Was ist Soofi S?

Soofi steht für Sovereign Open Source Foundation Models. Koordiniert wird das Projekt vom KI Bundesverband. Beteiligt sind unter anderem Fraunhofer IAIS und IIS, DFKI, TU Darmstadt, Universität Würzburg, Leibniz Universität Hannover, Berliner Hochschule für Technik, ellamind und Merantix Momentum. Gefördert wird das Vorhaben vom Bundesministerium für Wirtschaft und Energie.

Soofi S 30B-A3B ist ein sparsames Mixture-of-Experts-Modell. Es kombiniert Mamba-2-State-Space-Layer mit Attention und nutzt für jeden Token nur einen Teil seiner 30 Milliarden Parameter. Die aktiven Parameter bestimmen einen großen Teil des Rechenaufwands. Für Speicher und Ablage zählen trotzdem alle Gewichte.

Die Architektur zielt auf lange Dokumente und viele parallele Anfragen. Nur wenige Layer führen einen klassischen Attention Cache. Im Pretraining Report misst das Team bei 40.000 Input-Token, Batch 32 und einer NVIDIA B200 einen bis zu 9,2-mal höheren aggregierten Decode-Durchsatz als dichte Modelle mit 14B bis 24B Parametern. Das ist ein klar definierter Labortest, kein pauschales Neunmal-schneller-Versprechen.

Trainiert wurde auf bis zu 512 B200-GPUs in München. Die Deutsche Telekom positioniert die Industrial AI Cloud für Industrie, Forschung, Start-ups und Verwaltung. Das belegt den Trainingsort. Es sagt noch nicht, wo deine Prompts, RAG-Daten, Logs oder Backups später verarbeitet werden.

Ist Soofi S wirklich Europas erstes vollständig europäisches LLM?

Nein. "Europas erstes LLM" ist sachlich nicht haltbar. OpenGPT-X veröffentlichte 2024 Teuken-7B für alle 24 EU-Amtssprachen. EuroLLM-22B wurde von Grund auf für 24 EU-Sprachen plus elf weitere Sprachen trainiert. Die Schweiz veröffentlichte mit Apertus 70B Gewichte, Daten-Rekonstruktionscode, Zwischen-Checkpoints und Trainingsrezepte unter Apache 2.0.

Die belastbare Formulierung ist enger: Soofi S ist das erste Modell der Soofi-Familie, in Deutschland entwickelt und trainiert, mit ambitionierter Offenheit und starker deutsch-englischer Leistung. Das ist wichtig genug, ohne eine falsche historische Premiere daraus zu machen.

"Vollständig europäisch" darf außerdem nicht bedeuten, dass jede Abhängigkeit aus Europa stammt. Training und Governance liegen in Deutschland, Hardware und Teile des Stacks kommen von NVIDIA. Souveränität heißt hier nicht Autarkie. Sie heißt Kontrolle über Modellartefakte, Infrastruktur, Datenflüsse und das Recht, den Betrieb ohne die Zustimmung eines einzelnen US- oder China-Anbieters fortzuführen.

Ist Soofi S vollständig Open Source oder nur Open Weight?

Der Anspruch geht deutlich über offene Gewichte hinaus. Laut Report soll der finale Release Gewichte, ausgewählte Zwischen-Checkpoints, Datenmischungs-Accounting pro Quelle, Hyperparameter sowie Trainings- und Evaluationscode enthalten. Wo Lizenzen es erlauben, sollen auch Artefakte zur Datenaufbereitung erscheinen. Kommerziell lizenzierte Quellen werden über genaue Mischungsstatistiken dokumentiert, nicht als Rohtext verteilt.

Das liegt näher an der Open Source AI Definition als ein typischer Open-Weight-Release. Sie verlangt Parameter, Trainings- und Inferenzcode sowie genügend Dateninformation, um ein vergleichbares System reproduzieren zu können.

Beschafft wird aber, was verfügbar ist. Die aktuelle Soofi-S-Instruct-Preview nennt noch diese Einschränkungen:

• Preview-Checkpoint, dessen Gewichte und Metadaten sich ändern können;
• Research-and-Development-Nutzung statt finaler Produktionsfreigabe;
• Custom License mit noch fehlendem vollständigem Lizenztext;
• gated Download gegen Kontaktdaten;
• offene TODOs bei Release-Datum, Compute, Kontextlimit, Benchmarks, Privacy und Safety.

Die präzise Antwort lautet: Soofi S soll vollständig offen werden, die aktuelle öffentliche Preview ist aber noch nicht vollständig genug für eine kommerzielle Freigabe allein aufgrund des Open-Source-Labels.

Wie stark ist Soofi S auf Deutsch, Englisch, Coding und Reasoning?

Innerhalb einer klar definierten Kategorie ist der Benchmark-Erfolg real. Unter 17 offenen Base Models erreicht Soofi S im Report die höchsten englischen und deutschen Aggregatwerte der als vollständig offen eingestuften Modelle. OLMo 3 32B und Apertus 70B liegen dahinter. Bei den Code-Aggregaten führt Soofi S diese Teilgruppe ebenfalls an.

Die LinkedIn-Behauptung braucht also eine Korrektur: Soofi S führt keine universelle Rangliste aller offenen Modelle. Es führt die vollständig offene Teilgruppe im Aggregat des Soofi-Teams. Im breiteren Open-Weight-Vergleich liegt Qwen3.5 35B-A3B auf Englisch und Deutsch vorne. Soofi S glänzt dafür bei mehreren Coding-Aufgaben und deutschem Regionalwissen.

Auch Long Context ist differenziert zu lesen. Die Architektur hält den Durchsatz bei langen Inputs hoch. In einer RULER-Extraktionsaufgabe bricht die Trefferrate jenseits von 32.000 Token aber deutlich ein. Schnelle Generierung mit langem Kontext und zuverlässiges Finden im langen Kontext sind zwei verschiedene Fähigkeiten.

Wo kann Soofi S kommerziellen Wert schaffen?

• Technische und regulatorische Dokumente: Handbücher, Normen, Richtlinien, Ausschreibungen und internes Wissen auf Deutsch.
• Industrial Coding Assistants: Code-Erklärung, Testgenerierung, Migrationen und interne Developer Tools, abgesichert durch Repository-Evals.
• Agentische Backoffice-Prozesse: lange Dokumente und parallele Workflows, wenn Tool Accuracy, Berechtigungen und Fehlerpfade geprüft sind.
• Domain Adaptation: Continued Pretraining oder Fine-Tuning für Fachsprache ohne Abhängigkeit von der Roadmap eines proprietären Anbieters.
• Verwaltung und regulierte Piloten: europäische Trainingsprovenienz und kontrollierbare Infrastruktur als Teil, nicht als Ersatz, der Governance.

Das Modell ist dabei nur eine Schicht. Unser AI Enablement umfasst Use-Case-Auswahl, Datenzugriffe, RAG, Evals, Routing, Deployment und Wissenstransfer. Die Twinsoft AI Case Study zeigt das Muster: Den Geschäftswert liefert das Produktionssystem rund um das Modell, nicht der Leaderboard-Platz.

Wann solltest du Soofi S noch nicht wählen?

• Du brauchst heute eine geklärte kommerzielle Lizenz. Die Preview bietet sie noch nicht.
• Du brauchst SLA und Managed Support. Der aktuelle Release ist ein Forschungs-Preview.
• Dein Produkt ist multimodal oder stark multilingual. Soofi S fokussiert Deutsch und Englisch.
• Du brauchst die stärkste abstrakte Reasoning-Leistung. Die beste Evidenz liegt bei Deutsch, Code und Serving-Effizienz.
• Dein Volumen ist niedrig und eine Managed API ist zulässig. Nutze den Break-even-Rechner für lokale Modelle und APIs, bevor du GPU und Betrieb einkaufst.
• Du kannst kein Eval-Harness pflegen. Ein souveränes Modell ohne gemessene Aufgabenqualität bleibt ein Produktionsrisiko.

Was muss ein Soofi-S-Pilot vor dem Start klären?

1. Artefakt einfrieren: Repository, Revision, Hashes, Modellkarte, Custom Code, Tokenizer und Quantisierung dokumentieren.
2. Finale Lizenz prüfen: kommerzielle Nutzung, Modifikation, Redistribution, Outputs und Pflichten für Derivate.
3. Variante passend wählen: Das Base Model ist kein Chatbot. Instruct und Reasoning-Varianten separat evaluieren.
4. Eigenes Eval bauen: mindestens 50 bis 100 reale deutsche und englische Aufgaben, Hard Negatives, unzulässige Outputs, Quellenprüfung und Tool Calls.
5. Ziel-Stack benchmarken: Prefill, Time to First Token, Decode, Concurrency, GPU-Speicher, Recovery und Quantisierungsverlust messen.
6. Kompletten Datenpfad abbilden: Embeddings, Vektorspeicher, Logs, Observability, Backups, Support-Zugriff und Fallback APIs.
7. Kosten pro erfolgreiche Aufgabe vergleichen: gegen Apertus, Qwen3.5 und eine Managed Frontier API, inklusive Betrieb und Eval-Pflege.

Unser Leitfaden zur Tech-Stack-Auswahl für ein MVP erklärt das Prinzip: Entscheide zuerst nach dem Constraint, das später am teuersten umkehrbar ist. Bei Soofi S sind das heute Lizenz und Betriebsreife, dann Aufgabenqualität, danach Durchsatz und Kosten.

Soofi S vs Apertus, OLMo 3 und Qwen3.5

Diese Tabelle ersetzt nicht unseren breiten Open-Weight-LLM-Vergleich. Dort geht es um die Marktentscheidung zwischen DeepSeek, Qwen, Kimi, GLM und Llama. Hier geht es nur um die Frage, ob Soofi S für Pilot und Beschaffung eines europäischen Unternehmens bereit ist.