• Deutsch
  • English
  • GLM-5.3-Flash und Qwen3.8-Flash-Next zeigen, wie leistungsfähige Künstliche Intelligenz (KI) günstiger und teilweise auf eigener Hardware nutzbar wird. Das betrifft dich, wenn du laufende Gebühren reduzieren, sensible Daten lokal verarbeiten oder weniger von einzelnen Cloud-Anbietern abhängig sein möchtest. Die veröffentlichten Eckdaten klingen attraktiv, doch zwischen einem günstigen Programmierschnittstellen-Zugang und einem wirklich praktischen Heimmodell liegt noch einiges an Hardware.

    Offene Gewichte als lokale Alternative

    Bei einem Open-Weight-Modell sind die trainierten Modellgewichte verfügbar, also die gespeicherten Zahlenwerte, mit denen das Modell Eingaben verarbeitet. Du kannst diese Gewichte herunterladen und grundsätzlich auf eigener oder gemieteter Hardware betreiben. Das unterscheidet solche Modelle von geschlossenen Angeboten, bei denen du ausschliesslich über eine Website oder eine Programmierschnittstelle, kurz API, auf das Modell zugreifst.

    Z.ai veröffentlicht GLM-5.3-Flash mit 320 Milliarden Parametern unter der MIT-Lizenz und stellt die Gewichte auf Hugging Face bereit. Parameter sind die während des Trainings angepassten Werte eines Modells. Das Modell verwendet eine Mixture-of-Experts-Architektur (MoE), bei der pro Eingabe nur ein Teil des gesamten Modells arbeitet: Von 320 Milliarden Parametern sind jeweils 18 Milliarden aktiv.

    GLM-5.3-Flash ist laut Anbieter nativ multimodal, kann also unterschiedliche Datentypen innerhalb eines Modells verarbeiten. Sein Kontextfenster umfasst 1’048’576 Token; Token sind kleine Text- oder Dateneinheiten, die ein Modell verarbeitet. Die technische Zusammenfassung zu GLM-5.3-Flash nennt ausserdem 84,3 Punkte in Terminal-Bench 2.1 und 63,4 Punkte in DeepSWE v1.1. Solche Tests liefern Anhaltspunkte für technische Aufgaben, sagen aber wenig darüber aus, wie zuverlässig das Modell deinen Geschäftsbrief oder eine Zusammenfassung formuliert.

    Qwen3.8-Flash-Next verfolgt einen ähnlichen Ansatz. Auch dieses Modell ist multimodal und aktiviert pro Token nur sechs Milliarden Parameter. Die Quellen beschreiben seine Grösse allerdings unterschiedlich: Simon Willisons Praxistest bezeichnet es als Modell mit 125 Milliarden, während die ausführlichere Qwen-Zusammenfassung 180 Milliarden Parameter aufschlüsselt: 125 Milliarden im Grundmodell, 51 Milliarden in einer N-Gramm-Einbettungstabelle und vier Milliarden in einem Modul zur Vorhersage mehrerer Token. Beide stimmen darin überein, dass sechs Milliarden Parameter gleichzeitig aktiv sind.

    Preis und Leistung im Verhältnis

    Der auffälligste Wert bei GLM-5.3-Flash ist der API-Preis. Z.ai verlangt laut den Quellen 0,15 US-Dollar pro Million Eingabe-Token und 0,50 US-Dollar pro Million Ausgabe-Token. Das entspricht laut Anbieter gut zehn Prozent des Preises des grösseren GLM-5.3. Für die lokale Nutzung fallen diese Token-Gebühren nicht an, dafür musst du geeignete Hardware besitzen oder anschaffen.

    Im Intelligence Index von Artificial Analysis erreicht GLM-5.3-Flash mit maximalem Schlussfolgerungsaufwand 57 Punkte. Das grössere GLM-5.3 kommt auf 60 Punkte. Eine Aufgabe des Tests kostet mit dem Flash-Modell im Mittel 0,09 US-Dollar statt 0,68 US-Dollar, womit es laut Bericht über Leistung und Infrastruktur etwa 7,5-mal günstiger ist.

    Bei agentenbasierten Aufgaben, bei denen ein Modell mehrere Arbeitsschritte selbstständig plant oder ausführt, erreicht GLM-5.3-Flash im Test GDPval-AA v2 einen Elo-Wert von rund 1770. Es liegt damit laut Quelle etwa gleichauf mit GLM-5.3 und Grok 4.6 sowie hinter Claude Opus 5. Die Effizienz hat dennoch eine Schwäche: Rund 90 Prozent der ausgegebenen Token entfielen auf interne Schlussfolgerungen. Ein niedriger Preis pro Token bedeutet daher nicht automatisch einen ebenso niedrigen Preis für jede reale Aufgabe.

    Beim Qwen-Modell nennt die Quelle gemeldete Trainingskosten von einem Neuntel der Kosten von Qwen3.7-Plus. Das ist für die Entwicklung des Modells relevant, aber kein Preis für deine Nutzung und deshalb nicht direkt mit den GLM-API-Tarifen vergleichbar. Für Qwen3.8-Flash-Next wird in den vorliegenden Quellen kein Nutzungspreis genannt.

    Hardware bleibt der entscheidende Engpass

    Die geringe Zahl aktiver Parameter reduziert den Rechenaufwand während einer Eingabe, macht die übrigen Gewichte aber nicht unsichtbar. Sie müssen weiterhin gespeichert und für den Betrieb verfügbar sein. Bei Qwen3.8-Flash-Next umfasst eine Version im Zahlenformat FP8, das Werte mit acht Bit speichert, laut Quelle 172,78 GiB. Die reine Modellgrösse ist dabei nicht automatisch identisch mit dem gesamten Speicherbedarf während des Betriebs.

    Willison testete komprimierte, sogenannte quantisierte Varianten des Qwen-Modells auf einem Nvidia DGX Spark. Seine getesteten Dateien waren 72,5 GB beziehungsweise 78,9 GB gross. Quantisierung reduziert den Speicherbedarf, indem Modellwerte mit geringerer Genauigkeit abgelegt werden. Der Test zeigt, dass solche Fassungen auf einer kompakten KI-Workstation laufen können; er belegt nicht, dass sie auf einem gewöhnlichen Laptop flüssig funktionieren.

    GLM-5.3-Flash wurde vor der Veröffentlichung unter dem Namen «ox-alpha» über OpenCode und OpenRouter angeboten. Z.ai gibt an, den gesamten Datenverkehr dabei auf chinesischen KI-Chips statt Nvidia-Hardware verarbeitet zu haben. SemiAnalysis nennt eine ausgelieferte Kapazität von 100 Billionen Token pro Tag, und Z.ai bezeichnet Effizienz und Kosten pro Token als mit verbreiteten Nvidia-Grafikprozessoren vergleichbar. Diese Anbieterangaben wurden in den vorliegenden Quellen nicht unabhängig geprüft und beschreiben eine Rechenzentrumsinfrastruktur, keine Anleitung für deinen lokalen Computer.

    Für die eigene Auswahl ist deshalb nicht allein die Zahl der aktiven Parameter entscheidend. Du musst Modellgrösse, verfügbare Rechenhardware und dein Budget gemeinsam betrachten. Der Ratgeber zu lokalen Modellen und Hardware betont, dass nicht jedes Modell auf jedem Endgerät läuft und ein geplanter Hardwarekauf schnell zum eigentlichen Kostenpunkt werden kann.

    Pro und Kontra offener lokaler Modelle

    Pro:

    • Datenhoheit – Bei vollständig lokalem Betrieb bleiben deine Eingaben auf dem eigenen Gerät und werden nicht an die Cloud eines US-Anbieters übertragen.
    • Keine Token-Gebühren – Nach dem Herunterladen entstehen für lokale Anfragen keine nutzungsabhängigen API-Kosten und für den vollen Zugriff ist kein Abonnement nötig.
    • Offline-Nutzung – Ein eingerichtetes lokales Modell kann ohne Internetzugang Texte formulieren, Bilder erzeugen oder andere unterstützte Aufgaben bearbeiten.
    • Anbieterauswahl – Offene Gewichte und der Betrieb auf unterschiedlichen Chips verringern zumindest technisch die Bindung an einen einzigen Cloud- oder Hardwareanbieter.

    Kontra:

    • Hoher Speicherbedarf – Selbst komprimierte Varianten von Qwen3.8-Flash-Next belegen in den beschriebenen Tests mehr als 70 GB.
    • Hardwarekosten – Gesparte Abonnement- und Token-Gebühren können durch die Anschaffung einer geeigneten Workstation relativiert werden.
    • Begrenzte Vergleichbarkeit – Herstellerwerte und technische Benchmarks bilden deine konkreten Aufgaben nur teilweise ab.
    • Unklare Alltagseffizienz – Ein Modell mit günstigen Token-Preisen kann durch lange interne Schlussfolgerungen mehr Token verbrauchen als erwartet.

    Der sinnvolle Einstieg in die Praxis

    Als Einsteigerin oder Einsteiger solltest du zuerst eine klar begrenzte Aufgabe und die vorhandene Hardware betrachten, statt direkt das grösste Modell herunterzuladen. Ein lokales Modell kann beispielsweise einen vertraulichen Textentwurf formulieren oder ohne Internetzugang bei der Bilderstellung helfen. Prüfe anhand der Dateigrösse einer quantisierten Fassung, ob dein Gerät genügend Speicher bietet; die genannten Qwen-Dateien von 72,5 und 78,9 GB setzen bereits eine entsprechend ausgestattete Maschine voraus.

    Für Fortgeschrittene lohnt sich der Vergleich zwischen lokaler Ausführung und günstiger API-Nutzung. Wiederkehrende Aufgaben mit sensiblen Daten sprechen für den lokalen Betrieb, während ein API-Preis von 0,15 US-Dollar pro Million Eingabe-Token einen Test ohne neue Hardware ermöglichen kann. Dabei solltest du für dieselbe typische Aufgabe Qualität, tatsächlichen Token-Verbrauch und Bearbeitungszeit vergleichen, statt nur auf eine Rangliste zu schauen.

    Eine weitere praktische Anwendung aus den Quellen ist die Verbindung eines lokalen Modells mit agentenbasierter Software wie Hermes. Damit kann das Modell Aufgaben auf dem Computer erledigen, etwa den Download-Ordner aufräumen. Das geht über einen gewöhnlichen Chat hinaus, weil die Software konkrete Aktionen ausführt; entsprechend sollte der Einsatz zunächst auf eine überschaubare Aufgabe begrenzt bleiben.

    Für Anwenderinnen und Anwender in der Schweiz ist vor allem die lokale Datenverarbeitung relevant: Texte und Dateien müssen bei einem vollständig lokalen Aufbau nicht an einen ausländischen Cloud-Dienst übermittelt werden. Gleichzeitig nennen die Quellen weder eine besondere Schweizer Verfügbarkeit noch geprüfte Angaben zur Qualität in Schweizer Standardsprache oder Dialekten. Der Datenschutzvorteil ergibt sich daher aus dem Betriebsmodell, nicht aus einer speziell auf die Schweiz zugeschnittenen Version.

    GLM-5.3-Flash bietet ein bemerkenswert niedriges API-Preisniveau und nahezu die gemeldete Leistung seines grösseren Schwestermodells, während Qwen3.8-Flash-Next zeigt, wie Quantisierung grosse offene Modelle auf kompaktere KI-Systeme bringt. Für gewöhnliche Laptops bleiben beide Modelle aufgrund ihrer Grösse anspruchsvoll, und Herstellerangaben sowie Benchmarks ersetzen keinen Test mit der eigenen Aufgabe. Das offene Risiko ist, dass Hardwarebedarf, realer Token-Verbrauch und Alltagsqualität den vermeintlichen Preisvorteil verkleinern.

    Quellen

    AI-FunghiAI-Funghi

    © 2024 - 2026 ai-funghi.com | All Rights Reserved | Impressum | Datenschutz