Flint ist ein kostenloses Modell für Künstliche Intelligenz (KI), das Programmcode auf einem Laptop analysieren, verändern und testen soll. Gleichzeitig erscheinen offene Werkzeuge, die Coding-Agenten nach Abstürzen fortsetzen oder die laufenden Rechenkosten selbst betriebener Modelle senken sollen. Das betrifft vor allem Entwicklerinnen und Entwickler, aber auch kleinere Unternehmen, die ihren Quellcode nicht ständig an einen Cloud-Dienst übertragen möchten.
Lokale Modelle als Ausgangspunkt
Ein Coding-Agent ist ein KI-System, das nicht nur Code vorschlägt, sondern mehrere Arbeitsschritte mit Dateien und Werkzeugen ausführen kann. Laut der Vorstellung von Flint durch Recursive kann das Modell auf dem eigenen Computer laufen, offline verwendet werden und Code lokal verarbeiten. Nutzungsgebühren, die bei Cloud-Diensten nach der verarbeiteten Textmenge anfallen, entfallen damit.
Flint ist als Mixture-of-Experts-Modell (MoE) aufgebaut, also als Modell, das für eine Aufgabe jeweils nur einen Teil seiner spezialisierten Komponenten aktiviert. Insgesamt umfasst es knapp 40 Milliarden Parameter, die als gelernte Einstellungen das Verhalten des Modells bestimmen; pro verarbeitetem Textbaustein sind rund 2,5 Milliarden davon aktiv. Diese Aufteilung soll ein relativ grosses Modell auf Hardware nutzbar machen, die nicht in einem Rechenzentrum steht.
Ganz anspruchslos ist der lokale Betrieb dennoch nicht. Die technische Zusammenfassung zu Flint nennt Macs mit Apple-Chips und 48 Gigabyte Arbeitsspeicher oder Nvidia-Grafikhardware mit ebenfalls 48 Gigabyte Speicher. Die auf vier Bit komprimierten Gewichte, also die gespeicherten Zahlenwerte des Modells in platzsparender Form, benötigen demnach ungefähr 23 Gigabyte.
Recursive gibt für einen MacBook Pro mit M4-Pro-Chip ungefähr 131 Tokens pro Sekunde an. Tokens sind kurze Textbestandteile, aus denen ein Modell seine Ein- und Ausgaben zusammensetzt. Auf SWE-bench Verified, einem Test mit realen Softwarefehlern, erreichte Flint laut der ergänzenden Quelle 74,2 Prozent und lag in Recursives Vergleich bei agentischen Coding-Aufgaben vor anderen MoE-Modellen unter 50 Milliarden Parametern. Diese Werte stammen vom Anbieter beziehungsweise aus dessen Testdarstellung und sind in den gelieferten Quellen nicht unabhängig bestätigt.
Auch die Bezeichnung als offen verdient eine kleine Differenzierung. TechCrunch beschreibt Flint als Open Source, während die technische Meldung präziser von offenen Modellgewichten spricht. Fest steht laut beiden Berichten, dass die Gewichte unter der Apache-Lizenz 2.0 bereitstehen und kostenlos genutzt sowie verändert werden können; ob sämtliche Trainingsdaten und Entwicklungsschritte vollständig offengelegt sind, geht aus den Quellen nicht hervor.
KI entwickelt KI unter menschlicher Aufsicht
Recursive sagt, Flint sei in weniger als vier Monaten mit umfangreicher Unterstützung eines automatisierten Forschungssystems namens Eureka Machine entstanden. Dieses System schlug Ideen vor, setzte sie um, testete Ergebnisse und wählte weitere Versuche aus. Es half laut Unternehmen bei fast jedem Entwicklungsschritt, während ein kleines menschliches Team die Arbeit beaufsichtigte.
Das ist ein begrenztes Beispiel für rekursive Selbstverbesserung, also für die Idee, dass KI beim Bau besserer KI hilft. Es handelt sich hier nicht um ein System, das sich unkontrolliert selbst neu schreibt, sondern um einen Forschungsassistenten innerhalb eines von Menschen geführten Prozesses. Dennoch bleibt relevant, wie zuverlässig Menschen die automatisch erzeugten Entwürfe, Tests und Auswahlentscheidungen prüfen können.
Bei konkreten Aufgaben soll Flint Codebestände untersuchen, Fehler beheben, Funktionen ergänzen und Tests schreiben. Ein praktisches Beispiel wäre ein lokales Projekt, in dem der Agent die Ursache eines gemeldeten Fehlers sucht, betroffene Dateien ändert und passende Tests ergänzt. Ein zweites Beispiel ist die Umsetzung einer neuen Funktion über mehrere Dateien hinweg, ohne dass der gesamte Quellcode für jeden Arbeitsschritt an einen externen Modellanbieter gesendet wird.
Die Stärken sind dabei nicht gleichmässig verteilt. Flint erreichte laut MarkTechPost beim Befolgen von Anweisungen einen hohen Wert von 95,1 Prozent, blieb im Terminal-Bench 2.1 mit 54,9 Prozent aber deutlich hinter dem dort genannten dichten Qwen-Modell mit 73,0 Prozent zurück. Ein dichtes Modell aktiviert im Gegensatz zum MoE-Ansatz seine gesamten Modellbereiche; die höhere lokale Geschwindigkeit von Flint bedeutet daher nicht automatisch die beste Leistung bei jeder Aufgabe.
Crash-Sicherheit für längere Aufgaben
Ein schnelles lokales Modell löst noch nicht das Problem abgebrochener Agentensitzungen. Coding-Agenten führen häufig eine Folge von Modellanfragen und Werkzeugaufrufen aus, wobei ein Werkzeugaufruf etwa das Lesen einer Datei oder das Starten eines Tests sein kann. Stürzt der Prozess ab oder läuft eine Sitzung in ein Zeitlimit, kann der bisherige Zustand verloren gehen.
Vercel hat dafür durable-harness als offenes Paket veröffentlicht. Es protokolliert laut Kurzfassung jeden Modell- und Werkzeugaufruf, damit Sitzungen von Pi, OpenCode, Claude Code und Codex nach Abstürzen, Zeitüberschreitungen oder einer erneuten Bereitstellung fortgesetzt werden können. Der Zustand kann demnach bei Vercel, in einer PostgreSQL-Datenbank oder auf einem Laptop gespeichert werden.
Für den Alltag ist das weniger spektakulär als ein neues Modell, aber oft unmittelbar nützlicher. Wenn ein Agent beispielsweise über längere Zeit einen Fehler untersucht und der Laptop neu startet, soll die Sitzung nicht zwingend wieder bei null beginnen. „Crash-sicher“ sollte trotzdem nicht mit fehlerfrei verwechselt werden: Das Protokoll bewahrt den Arbeitsstand, garantiert aber nicht, dass die bisherigen Änderungen korrekt waren.
Flint und durable-harness lösen damit unterschiedliche Teile derselben Aufgabe. Flint stellt das Modell für lokale Codearbeit bereit, während durable-harness den Ablauf um das Modell widerstandsfähiger macht. Die Quellen belegen allerdings keine fertig geprüfte Komplettlösung, in der beide Werkzeuge bereits gemeinsam eingerichtet sind.
Günstige Inferenz jenseits des Laptops
Inference bezeichnet den laufenden Betrieb eines fertig trainierten Modells, bei dem es Anfragen verarbeitet und Antworten erzeugt. Auf einem einzelnen Laptop besteht die Kostenfrage vor allem aus vorhandener Hardware und Energieverbrauch; konkrete Beträge nennen die Quellen nicht. Sobald viele Personen gleichzeitig ein Modell nutzen, werden Auslastung, Verteilung und effiziente Texterzeugung wichtiger.
Deepseek hat mit DeepInfer seine interne Betriebssoftware unter der Apache-Lizenz 2.0 geöffnet. Das Werkzeug basiert laut dem Bericht über die Freigabe von DeepInfer auf vLLM, einer Software für die effiziente Ausführung grosser Sprachmodelle. Es enthält optimierte Rechenbausteine, verteilt Arbeit über mehrere Chips und soll die Texterzeugung beschleunigen.
DeepInfer richtet sich nicht an Menschen, die lediglich Deepseeks Webseite oder App verwenden. Es ist für Organisationen gedacht, die Modelle selbst betreiben und dadurch ihre Rechen- und Energiekosten senken möchten. T3N ordnet das Werkzeug entsprechend als Infrastruktur für Selbstbetreiber ein; wie gross die Einsparung in einer konkreten Installation ausfällt, ist aus den Quellen nicht ersichtlich.
Zusätzlich veröffentlicht Deepseek eine Komponente namens deepseek-recipe. Sie soll die Token-Verarbeitung der offiziellen Programmierschnittstelle nachbilden, damit eigene Installationen einheitlicher reagieren. Deepseek kündigt ausserdem an, künftigen Code für neue Modelle offenzulegen, doch auch das ist zunächst eine Aussage des Anbieters.
Für grössere Installationen haben Google, Red Hat und IBM parallel llm-d 1.0 veröffentlicht. Der offene, verteilte Inference-Stack llm-d ist auf Kubernetes ausgerichtet, eine Plattform zur Verwaltung vieler Software-Dienste über mehrere Rechner. Genannt werden unter anderem Flusskontrolle für mehrere Nutzergruppen, Aktualisierungen ohne Ausfall und eine an Agenten angepasste Weiterleitung von Anfragen über vLLM, SGLang sowie Flotten aus Grafikprozessoren und Tensor Processing Units (TPUs), also Googles spezialisierten KI-Chips.
Damit decken die Meldungen drei Grössenordnungen ab: Flint zielt auf einen leistungsfähigen Laptop, DeepInfer auf effizienteren Eigenbetrieb und llm-d auf verteilte Infrastruktur. Die Werkzeuge sind keine direkten Alternativen. Wer nur lokal an einem einzelnen Projekt arbeitet, braucht keinen Kubernetes-Verbund; wer ein Modell für viele Teams bereitstellt, kommt mit einem Laptop hingegen kaum weit.
Pro und Kontra lokaler Coding-Agenten
Pro:
- Datennähe – Flint kann Code auf dem eigenen Rechner verarbeiten, sodass er laut Anbieter nicht für jede Anfrage an einen Cloud-Modellserver übertragen werden muss.
- Planbarere Nutzung – Bei lokalem Betrieb fallen keine textmengenabhängigen Modellgebühren an, auch wenn Hardware und Energie weiterhin Kosten verursachen.
- Unterbrechbare Arbeit – durable-harness soll längere Sitzungen nach Abstürzen, Zeitlimits oder erneuten Bereitstellungen fortsetzen.
- Offene Anpassung – Flint und DeepInfer stehen unter Apache 2.0, wodurch Nutzung und Änderungen grundsätzlich möglich sind.
Kontra:
- Hohe Hardwarehürde – Die genannte Flint-Konfiguration verlangt 48 Gigabyte Speicher und liegt damit nicht im Bereich jedes gewöhnlichen Notebooks.
- Uneinheitliche Leistung – Gute Ergebnisse in einzelnen Tests verhindern nicht, dass Flint bei anspruchsvollen Terminal-Aufgaben hinter stärkeren Modellen liegt.
- Mehr Eigenverantwortung – Lokaler oder selbst verwalteter Betrieb verlagert Einrichtung, Aktualisierung und Kontrolle zur betreibenden Person oder Organisation.
- Ungeprüfte Einsparungen – DeepInfer soll Rechen- und Energiekosten reduzieren, doch die Quellen nennen keine unabhängigen Messungen oder konkreten Beträge.
Was das für dich heisst
Als Einsteigerin oder Einsteiger solltest du zuerst klären, welche Aufgabe du lösen möchtest und ob deine Hardware die genannten Anforderungen erfüllt. Ein sinnvoller erster Test ist ein kopiertes oder anderweitig abgesichertes Projekt mit einer begrenzten Aufgabe, etwa einen bekannten Fehler untersuchen und Tests vorschlagen zu lassen. So kannst du Ausgabequalität und Geschwindigkeit beurteilen, ohne einem Agenten sofort freie Hand über ein wichtiges Arbeitsprojekt zu geben.
Als fortgeschrittene Nutzerin oder fortgeschrittener Nutzer kannst du Modell, Agentenablauf und Wiederaufnahme getrennt bewerten. Dabei lässt sich prüfen, ob Flint für deine typischen Codebestände genügt, ob durable-harness lange Sitzungen zuverlässig fortsetzt und ob für eine gemeinsame Bereitstellung eher DeepInfer oder eine verteilte Lösung wie llm-d passt. Besonders aussagekräftig sind eigene wiederholbare Aufgaben, weil die veröffentlichten Vergleichswerte nicht jede Programmiersprache und jedes Projekt abdecken.
Für die Schweiz ist vor allem der lokale Betrieb interessant: Quellcode kann nach Anbieterangaben auf dem eigenen Rechner bleiben, und die Werkzeuge sind grundsätzlich ohne geografisch genannte Beschränkung verfügbar. Die Quellen machen jedoch keine Angaben zu deutschsprachiger Bedienung, schweizerischen Datenschutzanforderungen oder Unterstützung durch lokale Anbieter. Wer sensible Unternehmens- oder Bildungsdaten verarbeitet, erhält durch lokale Ausführung daher mehr technische Kontrolle, aber noch keine automatische Garantie für einen regelkonformen Betrieb.
Die neuen Werkzeuge verschieben Coding-Agenten von einzelnen Cloud-Angeboten hin zu einer offeneren Werkzeugkette aus lokalem Modell, dauerhaftem Sitzungszustand und effizienter Inference. Flint wirkt dabei als greifbarster Einstieg, während DeepInfer und llm-d eher Infrastruktur für grössere Installationen liefern. Offen bleiben vor allem die unabhängige Bestätigung von Leistung und Einsparungen sowie die Frage, wie zuverlässig automatisch erzeugte Codeänderungen in realen Projekten sind.
Quellen
- Recursive launches Flint, a laptop coding model it says was largely built by AI – Unbekannt, 2026-10-21
- Recursive Releases Flint, an Open-Weight 40B MoE Local Coding Model for Agents with 2.5B Active Params – Unbekannt, 2026-10-21
- Vercel Open-Sources durable-harness for Crash-Proof Coding Agents – Unbekannt, 2026-10-21
- Deepseek: Dieses quelloffene Tool soll KI-Kosten reduzieren – für wen es gedacht ist – Unbekannt, 2026-10-21
- DeepInfer: Deepseek gibt die Betriebssoftware hinter seinem schnellen KI-Modell frei – Unbekannt, 2026-10-20
- Google Cloud Ships llm-d 1.0 With Cache-Aware Routing for TPU and GPU Fleets – Unbekannt, 2026-10-21
Bild: Daniil Komov via Pexels