Was ist Qwen?

Qwen ist eine Familie von Large Language Models (LLMs), die von Alibaba Cloud entwickelt wird. Seit dem Betastart im April 2023 hat sich Qwen zu einer der umfangreichsten Open-Source-KI-Modellserien weltweit entwickelt – mit Modellen für Text, Code, Bilder, Audio und Video.

Das Besondere an Qwen ist die Kombination aus Leistung und Zugänglichkeit: Die meisten Modelle werden unter der Apache-2.0-Lizenz veröffentlicht, sind kostenlos nutzbar und lassen sich lokal auf Consumer-Hardware betreiben. Damit bietet Qwen eine ernstzunehmende Alternative zu teuren proprietären Modellen wie GPT-5.3 oder Claude Opus 4.6 – ohne Vendor-Lock-in und ohne monatliche API-Kosten.

Für deutsche Unternehmen ist Qwen besonders interessant, weil die Modelle vollständig lokal und damit DSGVO-konform betrieben werden können: Kein Code, keine Geschäftsdaten und keine personenbezogenen Informationen verlassen den eigenen Server. Die aktuelle Generation Qwen3 unterstützt dabei über 119 Sprachen und Dialekte – darunter Deutsch.

Qwen3 ist die aktuelle Hauptgeneration und umfasst sowohl Dense-Modelle (klassische Transformer-Architektur) als auch Mixture-of-Experts-Modelle (MoE), bei denen nur ein Bruchteil der Parameter pro Token aktiviert wird. Das Flaggschiff Qwen3-235B-A22B hat 235 Milliarden Parameter gesamt, aktiviert davon aber nur 22 Milliarden pro Inferenzschritt – was es deutlich effizienter macht als vergleichbar große Dense-Modelle.

Ein zentrales Feature von Qwen3 ist der Thinking Mode: Nutzer können zwischen einem ausführlichen Reasoning-Modus für komplexe Aufgaben und einem schnellen Non-Thinking-Modus für einfache Anfragen wechseln – vergleichbar mit dem Ansatz von OpenAIs o1-Serie, aber flexibler schaltbar. Alle Qwen3-Modelle sind via Ollama und LM Studio lokal installierbar.

• Qwen3-0.6B bis Qwen3-32B: Dense-Modelle für lokales Deployment auf Consumer-Hardware
• Qwen3-30B-A3B: Kompaktes MoE-Modell, beeindruckende Leistung bei niedrigem RAM-Verbrauch
• Qwen3-235B-A22B: Flaggschiff-MoE, konkurriert mit GPT-5 und Claude Opus 4.6 auf Benchmarks
• Qwen3.5-Serie: Aktuelle Small-Model-Serie (0.8B bis 9B), nativ multimodal, läuft auf Laptops und Smartphones

Für Entwickler ist Qwen3-Coder die relevanteste Variante: ein speziell auf Code-Generierung und agentische Coding-Workflows trainiertes Modell. Der Qwen3-Coder-Next erreicht 70,6% auf SWE-bench Verified – dem wichtigsten Benchmark für reale Coding-Aufgaben – mit nur 3 Milliarden aktiven Parametern bei 80 Milliarden Gesamtparametern.

Qwen3-Coder integriert sich nahtlos in Tools wie OpenCode, Claude Code und Cline als Drop-in lokales Modell via Ollama. Damit entfällt der API-Key, und Codeprojekte verlassen niemals den eigenen Rechner. Detaillierte Installationsanleitungen und Konfigurationsbeispiele finden sich im Artikel zu Qwen3-Coder im Vibe Coding Bereich.

Qwen3-Omni ist Alibabas multimodales Flaggschiff: ein End-to-End-Modell, das Text, Bilder, Audio und Video gleichzeitig verarbeiten und in Echtzeit Sprachausgabe generieren kann. Damit eignet es sich für Anwendungsszenarien wie automatische Videoanalyse, UI-zu-Code-Generierung oder barrierefreie Inhaltserstellung.

Ergänzend dazu bietet Alibaba spezialisierte Modelle für einzelne Modalitäten an:

• Qwen3-VL: Visual-Language-Modelle für Bild- und Dokumentenverständnis
• Qwen3-TTS: Text-to-Speech mit natürlicher Prosodie und Voice Cloning
• Qwen3-ASR: Automatische Spracherkennung, mehrsprachig und streaming-fähig
• Qwen-Image-2.0: Bildgenerierung mit professionellem Typografie-Rendering

Qwen-Modelle lassen sich auf drei Wegen lokal betreiben:

• Ollama: Einfachste Methode für Entwickler – ein Befehl genügt, und das Modell läuft als lokaler API-Endpunkt
• LM Studio: GUI-basierte Lösung für Nutzer ohne Terminal-Kenntnisse, inkl. Modell-Downloader und Chat-Interface
• Qwen Chat: Alibabas eigene Web-App unter chat.qwen.ai – kostenlos, keine lokale Installation nötig, aber Daten gehen zu Alibaba-Servern

Für den DSGVO-konformen Produktiveinsatz empfiehlt sich Ollama auf einem eigenen Linux-Server. Die Hardware-Anforderungen sind moderat: Das Qwen3-8B-Modell läuft bereits auf 8 GB VRAM, das Qwen3-30B-A3B benötigt ca. 20 GB RAM dank MoE-Architektur.

Alibaba hat Qwen3.8-27B am 14. August 2026 unter Apache 2.0 veröffentlicht, kurz darauf kam der Ollama Tag. Der Befehl lautet ollama run qwen3.8:27b. Das Modell ist dense mit 27 Milliarden Parametern, versteht Text, Bild und Video und bringt ein Kontextfenster von 256K mit. Der Thinking Mode ist ab Werk aktiv und lässt sich pro Request abschalten. Die Tiefe steuert der Parameter reasoning_effort, preserve_thinking hält Reasoning aus früheren Nachrichten fest.

Wichtig zur Schreibweise: Die 3.8 ist die Versionsnummer der Modellgeneration, nicht die Parameterzahl. Die Größe steht immer hinter dem Doppelpunkt. Der vollständige Tag heißt qwen3.8:27b, ohne Suffix greift Ollama zu qwen3.8:latest. Daraus entsteht eine Verwechslung, die im Alltag teuer wird: qwen3:8b und qwen3.8 unterscheiden sich um ein einziges Zeichen und sind völlig verschiedene Modelle. Einmal Version 3 mit 8 Milliarden Parametern und rund 5 GB Bedarf, einmal Version 3.8 mit 27 Milliarden Parametern und 18 GB.

Der spannende Teil steckt in der Agent Ausführung. Qwen nennt stärkere autonome Planung und besseren Umgang mit Feedback aus der Umgebung als Kernverbesserung. Genau daran scheitern lokale Modelle sonst nach wenigen Turns. Ollama liefert Startbefehle für gängige Harnesses gleich mit, darunter OpenCode, Hermes Agent und OpenClaw. Gib den Tag dabei immer mit Suffix an, sonst startet ein zweiter Download.

Wer Qwen3.8 kurz nach dem Release zieht, läuft häufig in diese Meldung: pull model manifest: 412, das Modell verlange eine neuere Version von Ollama. Der Grund ist simpel. Neue Modelle bringen neue Architekturen mit, und die Runtime muss sie kennen. Eine ältere Installation lehnt das Manifest deshalb schon vor dem Download ab. Ein Update löst das.

Das Skript erkennt die bestehende Installation und tauscht nur die Binary aus. Heruntergeladene Modelle unter ~/.ollama bleiben liegen. Zwei Stolpersteine gibt es trotzdem. Meldet ollama --version eine abweichende Client Version, läuft der systemd Service noch mit der alten Binary, dann hilft der Restart. Und wer Ollama ursprünglich über Snap oder ein Fremd Repository installiert hat, entfernt das Paket zuerst, sonst greift das Skript daneben.

Der zweite Fehler fällt erst beim Start des Agenten auf. Das Modell liegt als qwen3.8:27b lokal bereit, trotzdem beginnt Ollama beim Launch einen neuen Download. Ursache ist die Tag Auflösung: Ein Modellname ohne Suffix meint immer den Tag latest, und der ist ein eigener Manifest Eintrag. Deshalb gehört der Suffix in jeden Befehl und in jede Modellauswahl im Agenten. Welche Tags lokal wirklich liegen, zeigt ollama list.

Der Ollama Build von Qwen3.8 wiegt 18 GB. Damit ist eine Karte mit 24 GB VRAM die realistische Untergrenze, wenn alles auf der GPU liegen soll. Eine RTX 4090 passt, eine RTX 4070 nicht. Auf dem Mac übernimmt die MLX Variante, dort zählt das Unified Memory. Wer 256K Kontext wirklich nutzt, braucht zusätzlich Luft für den KV Cache.

Die häufigste Falle beim Einstieg: Passen nicht alle Layer in die VRAM, verteilt Ollama den Rest kommentarlos in den Arbeitsspeicher. Das Modell antwortet weiter, nur eben zäh. Der Flaschenhals ist die PCIe Bandbreite. Ein Blick nach dem Start klärt das in zwei Sekunden.

Steht dort nicht 100 Prozent GPU, hilft ein kürzerer Kontext. 64K oder 128K statt 256K senken den KV Cache deutlich. Wer nur 8 bis 12 GB VRAM zur Verfügung hat, bleibt besser bei qwen3:8b oder qwen3:14b. Für große agentische Läufe führt der Weg ohnehin über gehostete Inferenz, wie wir es bei Qwen3 Coder Next im Planungsmodus beschreiben.

Der direkte Vergleich zeigt: Qwen3-Coder schließt die Lücke zu proprietären Modellen erheblich – bei einem Bruchteil der Kosten. Während Claude Opus 4.6 mit 80,8% SWE-bench Verified die höchste Coding-Qualität bietet und GPT-5.3 Codex bei Terminal-Aufgaben führt, ist Qwen3-Coder der einzige kompetitive Coding-Agent ohne laufende API-Kosten:

• Claude Opus 4.6: 80,8% SWE-bench | 1M Token | $5/$25 pro MTok | nicht lokal
• Claude Sonnet 4.6: 79,6% SWE-bench | 1M Token | $3/$15 pro MTok | nicht lokal
• GPT-5.3 Codex: führt Terminal-Bench 2.0 | 128K | $6/$30 pro MTok | nicht lokal
• Gemini 3 Pro: 63,8% SWE-bench | 1M Token | $2/$12 pro MTok | nicht lokal
• Qwen3-Coder-480B: 70,6% SWE-bench | 1M Token | kostenlos (Open Source) | lokal möglich
• DeepSeek V3.1: 66% SWE-bench | 128K | kostenlos/API | lokal möglich

Wichtig: Benchmark-Zahlen sind laborbasiert. In der Praxis hängt die tatsächliche Leistung stark vom eingesetzten Agent-Framework (Claude Code, OpenCode, Cursor) und der Qualität der Prompts ab. Für budgetbewusste Teams oder Projekte mit strikten Datenschutzanforderungen ist Qwen3-Coder die überzeugendste Option auf dem Markt.

Für deutsche Unternehmen ist die Datensouveränität ein zentrales Argument für Qwen: Da die Modelle lokal betrieben werden können, verlassen sensible Daten – ob Kundendaten, interne Dokumente oder proprietary Code – niemals das eigene Netzwerk. Keine Anfragen gehen zu Anthropic-, Google- oder OpenAI-Servern.

Konkret bedeutet das für den Projektalltag:

• Kein Drittanbieter verarbeitet Ihre Geschäftsdaten
• Keine Einbeziehung in Trainings-Datensätze möglich
• Volle Kontrolle über Modell-Version und Updates
• Kein Risiko durch API-Preisänderungen oder Verfügbarkeitsausfälle
• Nachweisbare DSGVO-Konformität gegenüber Auftraggebern und Behörden

Bei der Implementierung von Qwen in bestehende Entwicklungsprozesse – sei es als Coding-Assistent, Content-Tool oder Agenten-Backend – unterstützt NCA mit konkreter technischer Beratung. Von der Server-Einrichtung über die Modell-Auswahl bis zur Integration in CI/CD-Pipelines.

Die wichtigsten Fragen zu Qwen, der Open-Source-KI-Modellfamilie von Alibaba Cloud - von Installation bis DSGVO-Konformitaet.