Qwen 3.8 27B zeigt, wie leistungsfähig ein offenes Modell auf gut ausgestatteten Laptops inzwischen sein kann. Für dich ist das relevant, wenn du Programmieraufgaben, Dokumente oder eigene Werkzeuge nicht ausschliesslich über einen gehosteten KI-Dienst bearbeiten möchtest. Die jüngsten Veröffentlichungen zeigen allerdings auch: Offen bedeutet weder automatisch klein noch schnell oder für jeden Zweck geeignet.
Was offene Modelle zur lokalen Alternative macht
Ein grosses Sprachmodell, auf Englisch Large Language Model (LLM), verarbeitet und erzeugt Texte sowie teilweise weitere Medien. Bei einem Modell mit offenen Gewichten lassen sich die trainierten Zahlenwerte herunterladen und auf eigener oder selbst gewählter Infrastruktur betreiben. Das ist nicht in jedem Fall gleichbedeutend mit vollständig quelloffener Software, weil Trainingsdaten, Trainingsverfahren und Nutzungsrechte unterschiedlich dokumentiert sein können.
Der aktuelle Aufhänger ist Simon Willisons Praxistest von Qwen 3.8 27B. Das multimodale Modell, das neben Text auch Bilder und Videos verarbeiten kann, umfasst 27 Milliarden Parameter. Parameter sind die beim Training erlernten Werte eines Modells; ihre Zahl ist ein grober Hinweis auf Grösse und Ressourcenbedarf, aber kein zuverlässiges Qualitätsurteil.
Willison betrieb eine quantisierte Version mit 17 Gigabyte in LM Studio auf einem MacBook Pro mit 128 Gigabyte Arbeitsspeicher und auf einem NVIDIA DGX Spark. Quantisierung bedeutet, dass Modellwerte mit geringerer Genauigkeit gespeichert werden, um Speicherbedarf und Rechenaufwand zu reduzieren. Seine Erfahrung spricht dafür, dass 27 Milliarden Parameter für einen leistungsfähigen Laptop eine interessante Grössenordnung sind, nicht aber dafür, dass das Modell auf jedem gewöhnlichen Notebook angenehm läuft.
Qwen hat die Gewichte laut dem Bericht zur Veröffentlichung unter der Apache-2.0-Lizenz bereitgestellt. Das Modell ist auf Hugging Face und ModelScope erhältlich, verarbeitet nativ bis zu 262’000 Token und kann laut Anbieter mit der YaRN-Methode auf eine Million Token erweitert werden. Ein Token ist ein kurzer Textbaustein; das Kontextfenster bestimmt, wie viel Material das Modell innerhalb einer Aufgabe berücksichtigen kann.
Welche Modelle zu welchem Einsatz passen
Qwen 3.8 27B richtet sich nicht nur an Coding-Aufgaben. Laut Qwen soll es auch bei Büroarbeiten stärker sein als frühere Modelle und Diagramme, Dokumente sowie lange Videos verarbeiten. Die vom Anbieter gemeldeten Vergleichswerte sehen überzeugend aus, waren in Willisons Bericht aber noch nicht durch unabhängige Tests bestätigt.
Ein konkretes Alltagsbeispiel wäre die Auswertung eines Dokuments mit eingebetteten Diagrammen: Das Modell kann Text und Abbildungen gemeinsam berücksichtigen, statt dass du beides getrennt eingeben musst. Im Beruf kann es Programmcode entwerfen oder überarbeiten. Willisons Versuch, eine SVG-Grafik mit einem Pelikan auf einem Fahrrad erzeugen zu lassen, zeigte jedoch die Kehrseite: Mit der standardmässig besonders hohen Denktiefe dauerte die Aufgabe 21 Minuten.
Für stärker automatisiertes Coding steht GLM-5.3 als weiterer Kandidat im Raum. Zhipu AI bezeichnet es als leistungsfähigstes Modell mit offenen Gewichten für Programmierung und hebt Verbesserungen beim agentischen Coding hervor, also bei Aufgaben, die ein Modell in mehreren Schritten selbstständig plant und bearbeitet. Der Bericht zu GLM-5.3 hält allerdings fest, dass die Gewichte zum Veröffentlichungszeitpunkt noch nicht verfügbar waren: Sie sollten erst nach Sicherheitsprüfungen zwei Wochen später erscheinen.
Die Sicherheitsangaben zu GLM-5.3 stammen ebenfalls vom Anbieter. In Zusammenarbeit mit chinesischen Sicherheitsteams sollen 2436 Schwachstellen in 269 Projekten gefunden worden sein, darunter bis zu 40 Jahre alte Fehler. Das ist ein interessantes Berufsbeispiel für die Prüfung bestehender Software, aber noch kein unabhängiger Nachweis, dass das Modell bei deinem Code zuverlässiger arbeitet als Alternativen.
Am anderen Ende der Grössenskala steht Needle 2. Laut der Kurzmeldung von MarkTechPost hat das offene Modell 45 Millionen Parameter, wird als 14 Megabyte grosse Binärdatei ausgeliefert und benötigt für eine Sitzung ungefähr 28 Megabyte Arbeitsspeicher. Es ist für Werkzeugaufrufe, Gerätebedienung und strukturierte Extraktion ausgelegt, etwa um Angaben aus Eingaben in festgelegte Felder zu übertragen. Die gemeldete Spitzenposition in zwei Seal-Tools-Tests stammt aus einer kurzen Produktdarstellung und sollte deshalb vorsichtig eingeordnet werden.
Diese Spannweite ist typisch für den Markt. Die Sommeranalyse von Hugging Face zählte zwischen Januar und August 2026 einen Anstieg öffentlicher Modellverzeichnisse von 2,43 auf 2,96 Millionen. Gleichzeitig erzielten rund 85,6 Prozent der Modelle weniger als 200 Downloads, während 1,5 Prozent der Verzeichnisse für 99,2 Prozent aller Downloads standen. Eine grosse Auswahl ist somit vorhanden, doch der überwiegende Teil wird kaum praktisch erprobt.
Wie du Modelle sinnvoll vergleichst
Schritt 1: Deinen tatsächlichen Einsatz festlegen
- Notiere eine kleine Zahl wiederkehrender Aufgaben, beispielsweise das Überarbeiten einer Code-Datei, das Auslesen bestimmter Dokumentfelder oder das Erklären eines Diagramms.
- Lege fest, woran du eine brauchbare Antwort erkennst: korrekter Code, vollständige Felder, nachvollziehbare Erklärung oder kurze Bearbeitungszeit.
Ein allgemeiner Spitzenplatz sagt wenig darüber aus, wie gut ein Modell deinen eigenen Ablauf bewältigt. Qwen kann wegen seiner Bildverarbeitung bei Dokumenten interessant sein, während Needle 2 gezielt für strukturierte Ausgaben und Werkzeugaufrufe konzipiert ist. GLM-5.3 wiederum beansprucht besondere Stärken bei mehrstufigen Programmieraufgaben.
Schritt 2: Mit denselben Beispielen testen
- Gib jedem Modell dieselben repräsentativen Eingaben und verwende möglichst vergleichbare Einstellungen.
- Halte Qualität, benötigte Zeit, Fehler und Abbrüche fest, statt nur den überzeugendsten Einzelversuch zu bewerten.
Artificial Analysis verfolgt mit Optima genau diesen Ansatz. Die Plattform erstellt laut dem Bericht über anwendungsspezifische Benchmarks Tests aus eigenen Dateien, Arbeitsabläufen oder Beschreibungen gewünschter Ein- und Ausgaben. Anschliessend lassen sich Modelle nach Qualität, Kosten und Bearbeitungszeit pro Aufgabe vergleichen.
Schritt 3: Einstellungen und Bedienung prüfen
- Teste bei einem Modell mit einstellbarer Denktiefe zuerst eine mittlere oder niedrige Stufe und erhöhe sie nur für komplexe Aufgaben.
- Prüfe, ob die verwendete Oberfläche Gespräche, Modelle und Einstellungen verständlich verwaltet und Ergebnisse exportieren kann.
Bei Qwen 3.8 27B ist dieser Schritt besonders relevant. Das Modell verwendet standardmässig die Stufe xhigh, wodurch es laut Willison selbst einfache Aufgaben übermässig lange durchdenken kann. In LM Studio war zunächst auch das Kontextfenster auf 8192 Token begrenzt, die das Modell bei banalen Aufgaben vollständig verbrauchte.
Für seine Tests entwickelte Willison die Browseroberfläche CORS Chat. Sie kann mit kompatiblen Programmierschnittstellen kommunizieren, also standardisierten Zugängen zu einem Modell, und Gespräche lokal im Browser speichern. Mehrere Sitzungen, Modelle und Denkstufen lassen sich getrennt verwalten; erzeugte SVG-Grafiken werden bereits während der Ausgabe dargestellt.
Pro und Kontra offener Modelle
Pro:
- Lokaler Betrieb – Geeignete Modelle können auf eigener Hardware laufen, ohne dass jede Aufgabe an einen gehosteten Modelldienst gesendet werden muss.
- Breite Auswahl – Das Spektrum reicht von Needle 2 mit 45 Millionen Parametern bis zu Modellen mit Milliarden oder Billionen Parametern.
- Anpassbare Nutzung – Bei Qwen lassen sich unter anderem Denktiefe und Kontext an Aufgabe und verfügbare Leistung anpassen.
- Eigene Vergleiche – Werkzeuge wie Optima ermöglichen Bewertungen anhand der tatsächlich benötigten Arbeitsabläufe statt nur öffentlicher Ranglisten.
Kontra:
- Hoher Hardwarebedarf – Ein 17 Gigabyte grosses quantisiertes Modell bleibt für viele Laptops anspruchsvoll, auch wenn es grundsätzlich lokal betrieben werden kann.
- Schwankendes Tempo – Eine übertriebene Denktiefe kann selbst kleine Aufgaben unnötig verlängern und grosse Kontextfenster füllen.
- Ungeprüfte Anbieterangaben – Leistungs- und Sicherheitswerte von Qwen, GLM-5.3 und Needle 2 sind teilweise noch nicht unabhängig bestätigt.
- Unübersichtlicher Markt – Millionen veröffentlichte Modelle bedeuten nicht Millionen brauchbare Optionen; Downloads und Aufmerksamkeit konzentrieren sich stark auf wenige Angebote.
Was das für dich in der Praxis heisst
Als Einsteigerin oder Einsteiger solltest du nicht mit dem grössten verfügbaren Modell beginnen. Ein sinnvoller erster Schritt ist ein einzelner, klar begrenzter Test in einer Oberfläche wie LM Studio: Lass ein Modell einen kurzen Codeabschnitt erklären oder Informationen aus einem Beispieldokument strukturieren. Miss dabei nicht nur die Antwortqualität, sondern auch Wartezeit, Speicherbedarf und die Häufigkeit unbrauchbarer Ausgaben.
Wenn du bereits Erfahrung hast, holst du mehr heraus, indem du mehrere Modelle mit einem kleinen eigenen Prüfsatz vergleichst. Variiere bei Qwen die Denktiefe, teste unterschiedliche Kontextlängen und speichere identische Eingaben sowie Ergebnisse. Eine Oberfläche wie CORS Chat kann verschiedene Sitzungen und Einstellungen organisieren; Optima erweitert den Vergleich um Kosten und Bearbeitungszeit pro Aufgabe.
Für die Schweiz nennen die Quellen keine besonderen Einschränkungen bei Verfügbarkeit oder Sprache. Qwen wird über internationale Modellplattformen angeboten und kann grundsätzlich lokal eingesetzt werden. Ob lokale Verarbeitung deine Datenschutzanforderungen erfüllt, hängt dennoch vom gesamten Arbeitsablauf ab, einschliesslich Oberfläche, Erweiterungen und angebundener Dienste; eine spezifische rechtliche Bewertung für die Schweiz liefern die Quellen nicht.
Offene Modelle sind damit eine glaubwürdige Alternative für begrenzte lokale Aufgaben, Coding und selbst zusammengestellte Werkzeuge. Qwen 3.8 27B verbindet eine laptopfreundliche Grössenordnung mit breiten Fähigkeiten, verlangt aber passende Hardware und vernünftige Einstellungen. Das offene Risiko bleibt die Vergleichbarkeit: Viele starke Aussagen stammen von den Anbietern, während unabhängige Tests und langfristige Praxiserfahrungen noch fehlen.
Quellen
- Qwen 3.8 27B is excellent, but it defaults to wildly overthinking things – Simon Willison’s Weblog, 2026-08-16
- Alibabas Qwen-Team veröffentlicht Qwen3.8-Modelle mit offenen Gewichten unter Apache-2.0-Lizenz – THE DECODER, 2026-08-14
- CORS Chat – Simon Willison’s Weblog, 2026-08-15
- Zhipu AI veröffentlicht GLM-5.3: Chinas neues Open-Weights-Modell soll das stärkste für Code sein – THE DECODER, 2026-08-14
- Meet Needle 2: An Open 45M-Parameter Tool-Calling Model That Ships as a 14MB Binary and Runs a Full Session in 28MB of RAM – MarkTechPost, 2026-08-14
- State of Open Models: Summer 2026 Observations – Hugging Face, 2026-08-14
- Artificial Analysis stellt Optima vor: Massgeschneiderte KI-Benchmarks für eigene Anwendungsfälle – THE DECODER, 2026-08-16
