Lokale Künstliche Intelligenz (KI) wird auf Windows-Rechnern und Macs leichter zugänglich. Microsoft integriert ein lokales Modell in die Powertoys, Apple richtet neue Desktop-Hardware deutlicher auf lokale KI aus, und neue Messverfahren sollen zeigen, wie gut kompakte Modelle auf realen Geräten tatsächlich laufen. Das betrifft dich, wenn du Texte oder andere Daten möglichst ohne ständigen Cloud-Zugriff verarbeiten möchtest und dabei Leistung, Kosten und Datenschutz abwägen musst.
Warum lokale KI relevant ist
Bei lokaler KI läuft das Modell auf deinem eigenen Gerät statt vollständig auf einem entfernten Server. Dadurch können einzelne Arbeitsschritte ohne laufende Verbindung zu einem Cloud-Dienst erfolgen. Ob Daten wirklich auf dem Gerät bleiben, hängt allerdings vom gesamten Ablauf ab: Verwendet ein Programm zusätzliche Online-Dienste oder Schnittstellen, kann weiterhin eine Übertragung stattfinden.
Der offensichtlichste Vorteil ist die direkte Verfügbarkeit. Lokale Verarbeitung verursacht ausserdem keine nutzungsabhängigen Kosten pro verarbeitetem Textabschnitt, sofern der betreffende Schritt tatsächlich nur auf dem eigenen Rechner läuft. Dafür bezahlst du indirekt über die Hardware, den Stromverbrauch und den Speicherbedarf – und stärkere Modelle stellen entsprechend höhere Anforderungen.
Ein Beispiel aus dem Alltag ist das Übernehmen von Text aus einem Bildschirmfoto. Das aktualisierte erweiterte Einfügen der Windows-Powertoys kann Text aus einem Bild extrahieren und direkt einfügen. Ein berufliches Beispiel liefern Mac-Nutzerinnen und Mac-Nutzer, die mehrere Rechner verbinden, um grössere Sprachmodelle lokal auszuführen, als auf einem einzelnen gewöhnlichen Gerät Platz hätten.
Lokale KI bedeutet dennoch nicht automatisch bessere KI. Kleine oder stark komprimierte Modelle können bei logischem Denken, Mathematik und der Erzeugung von Programmcode an Qualität verlieren. Zudem ist eine schnelle Antwort allein kein Qualitätsnachweis: Ein Modell kann zügig reagieren und trotzdem sachlich falsch liegen.
Was Windows jetzt einfacher macht
Powertoys ist eine von Microsoft angebotene Sammlung zusätzlicher Werkzeuge für Windows 11. Das Programm ergänzt Funktionen, mit denen du das Betriebssystem anpassen und wiederkehrende Handgriffe vereinfachen kannst. Mit dem neuen Update erhält die Funktion «Erweitertes Einfügen» eine leichter zugängliche lokale KI-Option.
Bisher konnte die Funktion kopierte Inhalte bereits mithilfe von KI beim Einfügen umwandeln. Für Cloud-KI mussten Nutzerinnen und Nutzer jedoch Programmierschnittstellen-Schlüssel und sogenannte Endpunkte konfigurieren; eine Programmierschnittstelle verbindet verschiedene Softwaredienste, während ein Endpunkt die konkrete Adresse eines solchen Dienstes bezeichnet. Dieser Einrichtungsschritt entfällt für die neue lokale Variante.
Stattdessen lädst du einmalig Phi Silica herunter, ein von Microsoft bereitgestelltes lokales KI-Modell. Danach kann die unterstützte Verarbeitung auf dem Windows-11-Rechner stattfinden. Die Quelle nennt weder einen Preis für das Modell noch genaue Hardwareanforderungen, Sprachunterstützung oder Vergleichswerte zur Qualität, weshalb sich aus der Ankündigung noch nicht ableiten lässt, wie gut die Funktion auf unterschiedlichen Rechnern arbeitet.
Schritt 1: Powertoys und das Modell einrichten
- Installiere oder aktualisiere die von Microsoft angebotenen Powertoys unter Windows 11.
- Öffne die Einstellungen für «Erweitertes Einfügen» und lade das lokale Modell Phi Silica herunter.
- Prüfe in der Anwendung, ob der gewünschte Vorgang als lokale Funktion ausgewiesen wird.
Schritt 2: Mit einem überschaubaren Inhalt testen
- Kopiere zunächst einen kurzen Text oder erstelle ein Bild mit gut lesbarer Schrift.
- Verwende «Erweitertes Einfügen», um den Inhalt umzuwandeln oder den Text aus dem Bild zu übernehmen.
- Vergleiche das Resultat mit der Vorlage, bevor du die Funktion für wichtige Dokumente einsetzt.
Für Einsteiger ist das ein sinnvoller Zugang, weil keine eigenen Schlüssel für einen Cloud-Dienst nötig sind. Die Bezeichnung «lokal» sollte trotzdem nicht zum Blindflug verleiten: Prüfe bei vertraulichen Unterlagen die Einstellungen und das Ergebnis. Angaben dazu, ob alle Funktionen vollständig offline arbeiten, enthält die Meldung nicht.
Was die neuen Macs für lokale KI bieten
Apple positioniert den neuen Mac mini mit M6 und den Mac Studio mit M5 Ultra deutlich für lokale KI-Inferenz. Inferenz bezeichnet die Phase, in der ein bereits vorhandenes Modell Eingaben verarbeitet und daraus eine Antwort erzeugt. Laut Ars Technica zur neuen Mac-Hardware profitieren diese Aufgaben von Apples gemeinsamem Arbeitsspeicher, auf den zentrale und grafische Recheneinheiten zugreifen können.
Der M6 ist Apples erster Mac-Chip in 2-Nanometer-Fertigung und besitzt zwölf zentrale Rechenkerne: zwei von Apple als «Super Cores» bezeichnete Kerne, vier Leistungskerne und sechs Effizienzkerne. Hinzu kommen zwölf Grafikkerne mit jeweils eigenem Beschleuniger für neuronale Netze. Der Architekturvergleich von M6 und M5 Ultra beschreibt zwei unterschiedliche Ansätze: Der M6 zielt auf Effizienz im Mac mini, während der aus vier Chip-Bausteinen aufgebaute M5 Ultra komplexere Aufgaben im Mac Studio bedienen soll.
Apple behauptet, der Mac mini mit M6 biete eine bis zu viermal höhere KI-Leistung als die Vorgängergeneration und könne Speicherdaten doppelt so schnell verarbeiten. Diese Herstellerangaben sind noch nicht unabhängig durch die gelieferten Quellen bestätigt. Zugleich ordnet Ars Technica die Geräte nüchterner als reine technische Aufrüstung ohne grosse neue Gerätefunktionen ein.
Auch der Preis relativiert den Einstieg. Der neue Mac mini mit M6 startet laut t3n bei über 1’000 Euro, nachdem die M4-Variante ursprünglich 699 Euro kostete. Einen Schweizer Preis oder Angaben zur Verfügbarkeit in der Schweiz nennen die Quellen nicht, weshalb der Europreis nicht als hiesiger Verkaufspreis gelesen werden sollte.
Seit macOS 26.2 können entsprechend ausgestattete Macs über Thunderbolt 5, eine schnelle kabelgebundene Verbindung, mit geringer Verzögerung für verteilte KI-Inferenz kommunizieren. MLX, ein offenes Softwaregerüst für maschinelles Lernen auf Apple-Chips, nutzt dabei den gemeinsamen Speicher. In der Praxis verbinden Enthusiasten sowie professionelle Fachleute mehrere Mac minis oder Mac Studios, um grössere lokale Sprachmodelle auszuführen; das ist leistungsfähig, aber kaum die günstige Standardlösung für gelegentliche Textarbeit.
Warum Modelle und Messmethoden zusammengehören
Die Modellgrösse allein sagt wenig darüber aus, wie brauchbar lokale KI auf deinem Gerät ist. Datenblätter messen die Qualität häufig mit leistungsfähiger Server-Hardware und hoher numerischer Genauigkeit. Laut der Ankündigung der offenen Testplattform Pipette lassen sich solche Resultate nur schlecht auf ein Telefon oder anderes Endgerät übertragen.
Pipette soll deshalb Modell, Quantisierung, Ausführungssoftware und Hardware gemeinsam messen. Quantisierung reduziert die Genauigkeit, mit der Modellwerte gespeichert werden, um Speicherbedarf und Rechenaufwand zu senken. Liquid AI entwickelte die offene Plattform zusammen mit Artificial Analysis, das laut Meldung die Methodik unabhängig validiert; konkrete Testergebnisse enthält die bereitgestellte Kurzfassung jedoch nicht.
Ein anderer Ansatz versucht, den üblichen Qualitätsverlust komprimierter Modelle nachträglich zu beheben. Das Team von Multiverse Computing beschreibt ein Verfahren namens Quantization-Aware Healing, also eine gezielte Nachbehandlung unter Berücksichtigung der Quantisierung. Ein auf 60 Milliarden Parameter verkleinertes und auf 4 Bit quantisiertes Modell übertraf laut dem veröffentlichten Bericht zur Modellkompression seine eigene Variante mit höherer Genauigkeit in sieben von neun Tests.
Das Ergebnis widerspricht der verbreiteten Erwartung, dass ein 4-Bit-Modell grundsätzlich schwächer als seine präzisere Ausgangsversion sein muss. Es gilt aber nur für die beschriebene Modell- und Trainingskonfiguration und wurde in den gelieferten Quellen nicht unabhängig bestätigt. Für dich folgt daraus nicht, dass jede Kompression die Qualität steigert, sondern dass Modellname und Dateigrösse für einen fairen Vergleich nicht genügen.
Am anderen Ende des Spektrums bündelt Perplexity beim «Portable Computer» lokale Modelle, eine Steuerungsumgebung, Verbindungen zu weiteren Diensten und eine vom Betriebssystem durchgesetzte isolierte Umgebung auf einem Nvidia DGX Spark. Eine solche isolierte Umgebung, auch Sandbox genannt, begrenzt den Zugriff laufender Software. Die kurze Produktmeldung zum Portable Computer verspricht für lokale Schritte keine Kosten pro verarbeitetem Textteil, nennt aber weder Anschaffungspreis noch unabhängige Leistungsmessungen.
Pro und Kontra lokaler KI
Pro:
- Weniger Cloud-Abhängigkeit – Unterstützte Arbeitsschritte können ohne laufende Anfrage an einen entfernten KI-Dienst erfolgen.
- Keine nutzungsabhängigen Gebühren – Für rein lokale Schritte fallen keine Kosten pro verarbeitetem Textteil an, auch wenn Hardware und Energie bezahlt werden müssen.
- Kurze Wege – Daten müssen bei vollständig lokaler Verarbeitung nicht erst zu einem Server und zurück übertragen werden.
- Mehr Auswahl – Windows-Werkzeuge, kompakte Macs und spezialisierte Systeme decken inzwischen unterschiedliche Ansprüche ab.
Kontra:
- Hohe Einstiegskosten – Leistungsfähige Hardware kann teuer sein, wie der Preissprung beim Mac mini zeigt.
- Schwankende Qualität – Kompression spart Speicher, kann aber logisches Denken, Mathematik und Codeerzeugung beeinträchtigen.
- Schwer vergleichbare Angaben – Herstellerwerte und Servertests bilden die Leistung auf deinem Gerät nicht zuverlässig ab.
- Kein automatischer Datenschutz – Online-Verbindungen, Erweiterungen oder falsch gewählte Einstellungen können trotz lokalem Modell Daten übertragen.
Was das für dich heisst
Wenn du einsteigst, beginne mit einer klar begrenzten Aufgabe auf vorhandener Hardware. Unter Windows bietet sich etwa die Texterkennung aus einem Bild mit Powertoys an. Vergleiche das Ergebnis mit der Vorlage, beobachte Reaktionszeit und Speicherbedarf und verwende zunächst keine vertraulichen Dokumente, solange der Datenfluss nicht klar ist.
Wenn du bereits lokale Modelle nutzt, holst du mehr heraus, indem du nicht nur Modellgrössen vergleichst. Berücksichtige Quantisierung, verwendete Ausführungssoftware, verfügbaren Speicher und die konkrete Hardware. Reproduzierbare Tests wie die von Pipette angestrebten sind dafür aussagekräftiger als eine einzelne Geschwindigkeitszahl unter Serverbedingungen.
Für die Schweiz fehlen in den Quellen konkrete Angaben zu Preisen in Franken, Verfügbarkeit, unterstützten Landessprachen und datenschutzrechtlicher Einordnung. Lokale Verarbeitung kann die Menge übertragener Daten reduzieren, ist aber kein Beleg dafür, dass eine Anwendung schweizerische Datenschutzanforderungen erfüllt. Gerade bei Schulunterlagen, Kundendaten oder internen Dokumenten bleibt entscheidend, ob wirklich der gesamte Vorgang lokal abläuft.
Lokale KI bewegt sich damit vom Bastelprojekt zu einer erreichbaren Rechnerfunktion, allerdings auf sehr unterschiedlichen Leistungs- und Preisstufen. Powertoys senkt die Einstiegshürde, während neue Macs und spezialisierte Systeme grössere Modelle ermöglichen; bessere Messverfahren sollen diese Angebote vergleichbarer machen. Offen bleibt, wie zuverlässig Herstellerangaben den Alltag abbilden und ob lokale Werkzeuge bei Qualität, Sprachen und Datenschutz mit ihren Cloud-Gegenstücken Schritt halten.
Quellen
- Windows 11: Update für Powertoys bringt neue Features und lokale KI – t3n, 2026-08-25
- Liquid AI Open-Sources Pipette: A Reproducible Benchmarking Suite – MarkTechPost, 2026-08-25
- Perplexity Ships Portable Computer on NVIDIA DGX Spark – MarkTechPost, 2026-08-25
- Apple M6 und M5 Ultra: Die neuen Desktop-Chips im Architektur-Vergleich – t3n, 2026-08-25
- Mac Mini mit M6 vorgestellt: Das Gehäuse bleibt klein – der Preis nicht – t3n, 2026-08-25
- Apple’s new desktop computers are designed specifically for local AI development – Ars Technica, 2026-08-25
- Quantization-Aware Healing: a compressed, 4-bit model that outperforms its full-precision original – Hugging Face, 2026-08-25
