Soofi S ist ein offenes KI Sprachmodell aus Deutschland mit 31,6 Milliarden Parametern, von denen pro Token nur 3,2 Milliarden aktiv sind. Es wurde vom Soofi Konsortium unter Koordination des KI Bundesverbands entwickelt und komplett auf der Industrial AI Cloud der Deutschen Telekom in München trainiert.

Soofi steht für Sovereign Open Source Foundation Models. Das Projekt wird vom Bundesministerium für Wirtschaft und Energie im Rahmen der europäischen IPCEI-CIS Initiative gefördert. Beteiligt sind unter anderem Fraunhofer IAIS und IIS, das DFKI, die TU Darmstadt, die Universität Würzburg, die Berliner Hochschule für Technik, das L3S Research Center, Lamarr und hessian.AI sowie die KI Unternehmen ellamind und Merantix Momentum.

Soofi S ist der erste Baustein einer geplanten Modellfamilie. Das größere Modell Soofi L ist bereits im Training. Wichtig für die Praxis: Die Checkpoints sind gated und laufen als Closed Beta mit ausgewählten Industriepartnern, die finale Lizenz fehlt noch. Wer heute produktiv lokal arbeitet, bleibt bei bewährten Modellen wie Qwen3 Coder über Ollama.

Never Code Alone arbeitet täglich mit lokalen KI Modellen. Unser Stack läuft mit Ollama, Qwen3 Coder und Llama auf eigenen Servern in Deutschland. Wir kennen die Fragen, die bei souveräner KI wirklich zählen: Wie viel VRAM braucht das Modell, wie stabil ist das Tool Calling, wie sauber sind die Lizenzbedingungen und was passiert, wenn ein Benchmark schöner aussieht als der Alltag. Roland Golla ist der Gründer von Never Code Alone in Duisburg. Sein Thema: Die KI schreibt den Code, er sorgt für die Qualität.

Passend dazu unterstützen wir mit Vibe Coding Consulting, richten mit dir KI Assistenten zum Selbst Hosten ein und bauen Self Hosted KI für Unternehmen auf. Wir prüfen KI generierten Code im Codebase Audit, sichern Projekte im Vibe Coding Security Audit und klären Datenschutzfragen in der DSGVO Beratung für Vibe Coding. Für den Einstieg ins Team gibt es unser Vibe Coding Onboarding.

Der Trainingslauf fand zwischen März und Mai 2026 statt. Genutzt wurden bis zu 512 NVIDIA B200 GPUs in der Industrial AI Cloud der Deutschen Telekom in München. Insgesamt flossen rund 253.000 GPU Stunden in das Modell. Laut Report läuft die Anlage vollständig mit erneuerbarer Energie, wird mit Wasser aus dem Eisbach Kanal gekühlt und speist ihre Abwärme in das umliegende Tucherpark Viertel ein.

Das ist der eigentliche Punkt an Soofi S. Ein deutsches Modell in dieser Größenordnung wurde bisher meist auf US Infrastruktur gerechnet. Hier bleibt die komplette Kette im Land. Wer bei der Modellwahl auf europäische Souveränität achtet, findet in unserem Guide welches KI Modell ohne US Anbieter die passende Entscheidungshilfe.

Die Architektur selbst kommt allerdings nicht aus Deutschland. Das Konsortium übernimmt unverändert das Referenzdesign von NVIDIA Nemotron, konkret die Nemotron 3 Nano Variante. Neu sind die Gewichte, der Datenmix und das Trainingsrezept. Diese ehrliche Trennung steht so auch im Tech Report.

Soofi ist ein Akronym und steht für Sovereign Open Source Foundation Models. Auf Deutsch: souveräne quelloffene Basismodelle. Der Name ist damit das Programm des Konsortiums in vier Wörtern. Souverän meint die Kontrolle über Gewichte, Daten und Infrastruktur. Open Source meint Nachvollziehbarkeit statt Blackbox. Foundation Model meint ausdrücklich eine Grundlage zum Weiterbauen, kein fertiges Produkt für Endkunden.

Der Buchstabe hinter dem Namen bezeichnet die Größe. Soofi S ist das kleinere Modell und der erste Baustein der Familie, Soofi L das größere, das bereits im Training läuft. Innerhalb einer Größe beschreibt der Zusatz den Ausbaustand: Base ist das reine Basismodell ohne Nachtraining, Instruct die auf Anweisungen abgestimmte Variante.

Interessant sind die Reasoning Varianten. Sie tragen keine technischen Kürzel, sondern Flussnamen: Isar und Rhine, letzterer in englischer Schreibweise. Eine offizielle Begründung nennt das Projekt nicht. Auffällig ist nur, dass die Isar durch München fließt, wo das Modell gerechnet wurde. Wer die Namenslogik anderer Anbieter kennt, findet in unserer Übersicht der Vibe Coding Modelle reichlich Vergleichsmaterial.

Soofi S ist ein Mixture of Experts Modell. Von 31,6 Milliarden Parametern arbeiten pro erzeugtem Token nur rund 3,2 Milliarden. Ein Router wählt aus 128 Experten sechs aus, dazu kommen zwei permanent aktive Shared Experts. Die Rechenkosten liegen damit näher an einem 3B Modell als an einem klassischen 30B Modell. Das Kürzel 30B-A3B steht genau dafür.

Spannender ist das Speicherverhalten. In klassischen Transformern wächst der KV Cache linear mit der Kontextlänge. Bei langen Eingaben und vielen parallelen Anfragen wird das zum Flaschenhals. Soofi S hat 52 Layer, aber nur 6 davon unterhalten überhaupt einen solchen Cache.

• 31,6 Milliarden Parameter gesamt, 3,2 Milliarden aktiv pro Token
• 128 Experten, 6 aktiv plus 2 Shared Experts
• 52 Layer: 23 Mamba 2 Blöcke, 23 MoE Blöcke, 6 GQA Attention Blöcke
• Referenzdesign NVIDIA Nemotron 3 Nano, unverändert übernommen
• Kontextfenster bis 1 Million Token im dritten Trainingsabschnitt erweitert

Der gemessene Effekt: Bei 40.000 Token Kontext und 32 parallelen Anfragen erzeugt Soofi S pro GPU rund achtmal mehr Token pro Sekunde als dichte Modelle im Bereich 14 bis 24 Milliarden Parameter. Von 4.000 bis 256.000 Token bleibt der Durchsatz nahezu konstant. Ähnlich verhält sich nur Qwen3.6 35B A3B, das ebenfalls hybrid gebaut ist.

Insgesamt hat das Konsortium rund 27 Billionen Token verarbeitet, aufgeteilt in drei Phasen. Erst rund 20 Billionen Token aus einer breiten Mischung von Web, Code, Mathematik und Fachtexten. Dann rund 6 Billionen Token aus besonders hochwertigen Quellen. Zum Schluss eine kürzere Phase mit sehr langen Dokumenten für das Kontextfenster.

Der deutsche Anteil steigt dabei von 7,2 Prozent in Phase eins auf 15,3 Prozent in Phase zwei. Zum Vergleich: Im Nemotron Referenzrezept entfallen auf alle nicht englischen Sprachen zusammen nur rund 5 Prozent. Das ist der Unterschied, der Soofi S auf deutschen Benchmarks nach vorne bringt.

Als Quellen kombiniert das Team deutsche Webtexte aus HPLT, das offen lizenzierte Korpus German Commons, deutsche Anteile aus FinePDFs und FineWiki sowie den kommerziell lizenzierten Genios Korpus mit 193 Millionen Zeitungsartikeln aus 916 deutschen Publikationen. Dazu kommen maschinell übersetzte und synthetisch erzeugte deutsche Texte.

In der Evaluation gegen 16 andere offene Modelle liegt Soofi S laut Report bei den Aggregatwerten für Deutsch und Englisch vor allen vollständig offenen Modellen. Dazu zählen Olmo 3 32B vom Allen Institute for AI und Apertus 70B von ETH und EPFL. Auf den deutschen Benchmarks der Suite setzt sich Soofi S durchgehend durch, teils mit zweistelligen Punktabständen.

Für Entwicklerteams zählen vor allem die Code Werte:

• HumanEval: 73,8 Prozent
• MBPP: 70,2 Prozent
• MBPP-DE: 84,2 Prozent, bester Wert im Open Source Vergleich
• INCLUDE-DE für deutsches Regionalwissen: 61,2 Punkte, geteilter erster Platz mit Qwen3.5 35B-A3B

Ehrlich bleiben gehört dazu. Bei deutscher Wettbewerbsmathematik fällt Soofi S mit 56 Punkten auf Minerva MATH-DE deutlich hinter Qwen3.5 35B-A3B mit 76,5 und Gemma 3 27B mit 65,6 zurück. Auch bei offener Faktenabfrage schwächelt das Modell. Das liegt an den nur 3 Milliarden aktiven Parametern, in denen sich weniger Weltwissen speichern lässt.

Eine dritte Schwäche zeigt der Long Context Test RULER. Bei einer Aufgabe, in der häufige Wörter aus einem langen Text extrahiert werden sollen, bricht die Trefferrate jenseits von 32.000 Token auf rund 3 Prozent ein. Das vergleichbare Nemotron Modell liegt dort bei 60 bis 64 Prozent. Bei den übrigen zwölf RULER Aufgaben sind beide gleichauf. Wer viel mit langen Kontexten arbeitet, sollte das im Blick behalten und den Vergleich mit MiniMax M3 und GLM 5.2 ziehen.

Das Konsortium veröffentlicht neben den Gewichten auch ausgewählte Zwischencheckpoints, den vollständigen Trainings und Evaluationscode sowie eine detaillierte Datenauflistung. Pro Quelle stehen Rohtokenzahl, Epochenanzahl und effektiver Beitrag drin. Auch Quellen, die geprüft und dann verworfen wurden, sind dokumentiert. Damit erfüllt Soofi S nach eigener Angabe die Open Source AI Definition 1.0 der Open Source Initiative.

Genau diese Offenheit hat einen Fehler sichtbar gemacht. Die Community fand in den offengelegten Trainingsdaten Prüfungsfragen des Wissenschafts Benchmarks GPQA. Ursache war eine Eigenheit von GPQA auf Hugging Face: Der Benchmark hat kein separates Trainings Set, sein gesamtes Prüfungsmaterial liegt unter der Bezeichnung train. Die Datenpipeline wählte nach Split Namen aus und zog das Prüfungsset in die Übungsaufgaben.

Die Reaktion war sauber. Das Konsortium hat GPQA komplett aus der Wertung gestrichen und die Gesamtergebnisse für alle 16 verglichenen Modelle neu berechnet. An der Rangfolge ändert sich laut Autoren nichts. Rund 152.000 Einzelergebnisse stehen zur Überprüfung bereit. Der Konsortialpartner ellamind hat mit bewusst zurückgehaltenen Testdaten nachgeprüft und die Resultate bestätigt. Künftig gleicht das Team seine Trainingsdaten automatisch mit allen Testfragen ab.

Für uns ist das der eigentliche Wert offener Modelle. Bei geschlossenen Modellen wäre dieser Fehler nie aufgefallen. Wer Benchmarks kritisch lesen will, findet in unserem Kostenvergleich der KI Anbieter weitere Einordnung.

Hier lohnt der genaue Blick, weil die Lage widersprüchlich wirkt. Die Modelle liegen sichtbar auf Hugging Face unter der Organisation Soofi-Project, inklusive fertiger GGUF Quantisierungen für llama.cpp und Ollama mit passendem Modelfile, Template und Systemprompt. Der Zugriff auf die Repositories ist aber gated. Das Konsortium beschreibt die Phase selbst als Closed Beta mit bereits ausgewählten Industriepartnern.

Verfügbar sind mehrere Varianten: das Basismodell Soofi-S-Base ohne Instruction Tuning, dazu Instruct-Preview für den Chatbetrieb sowie die Reasoning Varianten Isar-Preview und Rhine-Preview. Alle sind als Zwischencheckpoints markiert, Gewichte und Verhalten können sich zwischen Ständen ändern.

• Zugang: gated auf Hugging Face, Closed Beta mit ausgewählten Partnern
• Erprobung anfragen: per Mail an das Projekt mit Firmenbeschreibung, Branche und Use Case Idee
• Lizenz: noch nicht final, permissive Lizenz für das finale Modell angekündigt
• Formate: Safetensors und offizielle GGUF Quantisierungen vom Projekt selbst
• Ollama: kein Eintrag in der Ollama Library, aber Modelfile Anleitungen auf den GGUF Modellkarten
• API: keine öffentliche API

Das Konsortium kündigt an, Soofi S nach Abschluss der Testphase allen Interessierten frei und ohne Gate zur Verfügung zu stellen. Bis dahin ist Feedback aus der Open Source Community bewusst zurückgestellt. Ein Detail für die Lizenzprüfung: Der kommerziell lizenzierte Genios Anteil macht 1,3 Prozent des Trainingsmixes aus. Rund 99 Prozent lassen sich laut Report unabhängig rekonstruieren. Eine strengere europäische Open Data Definition, die freie Weitergabe jedes einzelnen Trainingstokens verlangt, erreicht Soofi S damit nicht.

Unsere Empfehlung bleibt: Zugang anfragen und testen, produktiv aber weiter auf Modelle mit geklärter Lizenz setzen. Welche das sind, zeigt unsere Übersicht der besten Coder Modelle für lokale Nutzung.

Souveränität ist kein Schalter, sondern eine Leiter. Die meisten Teams stehen auf Stufe eins oder zwei und wissen das gar nicht. Die folgende Übersicht hilft bei der ehrlichen Selbsteinschätzung. Sie zeigt auch, warum Soofi S so viel Aufmerksamkeit bekommt: Das Projekt zielt auf die oberste Stufe.

Soofi S positioniert sich zwischen zwei Lagern. Auf der einen Seite stehen breit multilinguale europäische Souveränitätsprojekte wie EuroLLM oder Teuken, die viele Sprachen abdecken und dafür Tiefe opfern. Auf der anderen Seite die leistungsstärksten internationalen Open Weight Modelle. Soofi S geht bewusst in die Tiefe statt in die Breite: zwei Sprachen, dafür richtig.

Gegen Qwen: Qwen3 Coder Next ist heute verfügbar, läuft über Ollama, hat eine klare Lizenz und ein erprobtes Tool Calling. Soofi S schlägt Qwen bei deutschem Regionalwissen, verliert bei Mathematik. In der Praxis gewinnt das Modell, das du heute starten kannst.

Gegen Mistral: Mistral ist die europäische Option mit fertigem Produkt, API und Terminal Agent. Soofi S ist Forschungsprojekt mit Industrieanspruch. Andere Reifegrade, andere Fragen.

Gegen China: Chinesische Modelle wie Kimi K3, GLM 5 oder DeepSeek liefern mehr Rohleistung pro Euro. Wir dokumentieren sie, empfehlen sie aber nicht für Production, sobald sensible Daten im Spiel sind. Soofi S beantwortet genau diese Compliance Frage.

Zwei Signale entscheiden, ob sich das Warten lohnt. Erstens die Lizenz. Solange der finale Text fehlt, ist jede Produktionsplanung Spekulation. Zweitens die Freigabe ohne Gate. Aus einer Closed Beta wird kein Produktivbetrieb, aber genau die soll in wenigen Wochen enden.

Wer nicht warten will, kann sich für die Erprobung bewerben. Das Konsortium bittet um eine kurze Firmenbeschreibung, die Branche oder das Anwendungsfeld und eine konkrete Use Case Idee. Anfragen laufen über die Adresse contact@soofi.info. Wer testen will, sollte also nicht nur Interesse melden, sondern einen echten Anwendungsfall mitbringen.

Für wen sich das lohnt: Teams, die viele deutsche Fachdokumente verarbeiten. Behörden und Mittelstand mit klaren Souveränitätsvorgaben. Industrieunternehmen, die technische Dokumentation, Code Generierung und agentische Systeme auf eigener Hardware betreiben wollen. Genau diese Einsatzfelder nennt das Projekt selbst.

Bis dahin gilt: Der Weg zu souveräner KI führt über den eigenen Stack, nicht über ein einzelnes Modell. Wer heute KI Assistenten selbst hostet, kann Soofi S später einfach einhängen. Wichtig ist dabei die Frage, welche lokalen Modelle Tool Calling und MCP sauber beherrschen. Bei den Instruct GGUFs ist Tool Calling im Ollama Template bewusst nicht enthalten.

Wir betreiben unsere KI Inferenz auf eigenen Servern in Deutschland. Ollama mit Qwen3 Coder und Llama, dazu Ollama Cloud für Lastspitzen. Das ist keine Theorie, sondern der Stack, mit dem wir täglich Code schreiben, testen und ausliefern. Für Enterprise Anforderungen mit gehosteter DSGVO konformer Inferenz arbeiten wir mit unserem Infrastrukturpartner Conversis aus Duisburg zusammen.

Was Teams bei uns typischerweise brauchen: eine ehrliche Bewertung, ob ein Modell die eigene Aufgabe wirklich löst, ein sauberes Setup für lokale Inferenz und Guardrails, damit KI generierter Code nicht zum Risiko wird. Genau dafür gibt es unser NCA Vibe Coding Consulting, das 1:1 Mentoring für Vibe Coder und den Weg vom KI Prototyp zur produktionsreifen Software.

Für den Überblick über die Werkzeugkiste lohnt der Blick auf unsere Top 10 Vibe Coding Tools, auf Claude Code und OpenCode als Agenten sowie auf die komplette Übersicht der Vibe Coding Modelle. Wenn Rechenleistung der Engpass ist, ist Cerebras eine Option, die wir einordnen können.

Die wichtigsten Fragen zum souveränen KI Modell aus Deutschland, kompakt beantwortet.