Hermes Desktop soll lokale Modelle der Künstlichen Intelligenz (KI) künftig mit einem einzigen Klick auswählen, herunterladen und konfigurieren. Damit wird ein Ansatz zugänglicher, der bisher oft technisches Wissen, passende Hardware und Geduld verlangte. Betroffen sind nicht nur ambitionierte PC-Nutzerinnen und -Nutzer: Auch Macs, Heimnetzwerke und Smarthome-Zentralen werden zunehmend zu Orten, an denen KI ohne dauernde Verbindung zu einem Cloud-Dienst arbeitet.
Lokale KI wird einfacher
Bei lokaler KI läuft ein Modell auf deinem eigenen PC, Mac oder einem Gerät in deinem Heimnetz, statt jede Anfrage an ein externes Rechenzentrum zu senden. Das kann die Kontrolle über persönliche Daten verbessern und laufende Cloud-Gebühren vermeiden. Es bedeutet aber auch, dass dein Gerät genug Leistung, Speicher und eine passende Softwareumgebung bereitstellen muss.
Die Leitmeldung ist die neue Ein-Klick-Einrichtung in Hermes Desktop. Laut der Kurzfassung von MarkTechPost liest die Anwendung die vorhandene Hardware aus, vergleicht sie mit einem Modellkatalog und wählt die qualitativ beste Variante, die auf die verfügbare Grafikhardware passt. Danach lädt sie das Modell herunter und richtet llama.cpp ein, eine Software zum lokalen Ausführen von Sprachmodellen.
Hermes setzt dabei laut Bericht eine Untergrenze von vier Bit und ein Kontextfenster von mindestens 64K voraus. Die Bit-Zahl beschreibt vereinfacht, wie stark die Modellwerte komprimiert werden; ein kleinerer Speicherbedarf kann zulasten der Genauigkeit gehen. Das Kontextfenster bestimmt, wie viel Text ein Modell innerhalb einer Aufgabe berücksichtigen kann. Ob die automatische Auswahl auf unterschiedlichen PCs zuverlässig die beste Balance findet, wurde in der vorliegenden Kurzmeldung nicht unabhängig geprüft.
Auch NVIDIA beschreibt einen einfacheren Start für lokale Agenten. Ein KI-Agent ist eine Anwendung, die ein Ziel in mehrere Schritte zerlegen und dafür selbstständig Werkzeuge oder Modelle einsetzen kann. Hermes Agent, OpenClaw und Perplexity Portable Computer sollen auf Windows eine vereinfachte lokale Modelleinrichtung erhalten. NVIDIA nennt zudem Optimierungen für llama.cpp und vLLM, die lokale Verarbeitung um bis zu den Faktor 1,9 beschleunigen sollen; diese Herstellerangabe ist nicht unabhängig bestätigt.
Das Heimnetz wird zum gemeinsamen KI-Rechner
Ein einzelner Rechner bleibt durch seinen Arbeitsspeicher und seine Grafikhardware begrenzt. Der NVIDIA Personal AI Router (PAIR) verfolgt deshalb einen anderen Ansatz: Mehrere vorhandene Geräte im lokalen Netz teilen sich KI-Anfragen. Ein virtueller Inferenz-Router verteilt dabei die Berechnung eines bereits trainierten Modells auf geeignete Rechner. PAIR ist quelloffen und soll mit lokalen Umgebungen wie Ollama und LM Studio zusammenarbeiten.
Der Router prüft laut der Beschreibung von PAIR, ob ein Gerät bereit ist, das benötigte Modell besitzt und wie stark Prozessor und Grafikeinheit ausgelastet sind. Dadurch können ein Mac, ein PC mit RTX-Grafikkarte und ein DGX-Spark-System gemeinsam Aufgaben übernehmen. Das ist eher eine Lösung für fortgeschrittene Haushalte oder kleine Arbeitsumgebungen als für jemanden mit nur einem Notebook.
In einer NVIDIA-Demonstration arbeiteten fünf Unteragenten parallel. Auf einem einzelnen RTX-Spark-Laptop dauerte der Ablauf durchschnittlich 18 Minuten, auf einem Verbund aus drei Geräten 8 Minuten und 48 Sekunden. Der Vergleich zeigt einen möglichen Vorteil verteilter Arbeit, ist aber keine neutrale Messung: NVIDIA bezeichnet das Ergebnis selbst als inoffiziell und nicht als Benchmark, also nicht als standardisierten Leistungstest.
NVIDIA kündigt ausserdem kompakte RTX-Spark-Windows-PCs von Lenovo und Acer für Oktober an. Preise nennt die Quelle nicht. Auch die Unterstützung vereinfachter lokaler KI konzentriert sich stark auf NVIDIA-Hardware, obwohl PAIR zusätzlich Mac-Knoten einbinden kann. Wer bereits geeignete Geräte besitzt, könnte sie besser auslasten; wer sie erst kaufen muss, sollte den Datenschutzgewinn gegen Anschaffungskosten, Strombedarf und zusätzlichen Verwaltungsaufwand abwägen.
Lokale Agenten ziehen ins Smarthome ein
Im Smarthome wird der Unterschied zwischen einem Chatbot und einem Agenten besonders greifbar. Ein Chatbot beantwortet eine Frage, während ein Agent auch Einstellungen oder Automationen verändern kann. Genau dadurch steigt der Nutzen, aber ebenso das Schadenspotenzial einer falschen Entscheidung.
Ein Experiment mit Opencode und Home Assistant zeigt den praktischen Ausgangspunkt: Home Assistant ist eine Plattform zur lokalen Steuerung vernetzter Geräte, deren Automationen häufig Konfigurationsdateien und Protokolle erfordern. Eine KI kann dabei helfen, eine gewünschte Automation in passende Einstellungen zu übersetzen oder Fehler in einer Konfiguration zu suchen. Für Menschen, die sonst vor einer Datei wie «configuration.yaml» und langen Log-Dateien sitzen, ist das ein konkreter Zugang zu komplexeren Abläufen.
Der bequemere Zugang beseitigt das Risiko nicht. Eine KI, die nur einen Vorschlag formuliert, lässt sich vor der Ausführung kontrollieren. Erhält sie dagegen direkten Zugriff auf Geräte und Automationen, kann ein missverstandener Auftrag reale Folgen haben. Lokale Verarbeitung schützt Daten nicht automatisch vor Fehlbedienung, zu weitreichenden Berechtigungen oder einer schlecht geprüften Änderung.
Ugreen geht mit HomeAgent noch einen Schritt weiter und kombiniert eine Smarthome-Zentrale, einen Netzwerkspeicher und einen Videorekorder für Sicherheitskameras mit einem lokalen Assistenten. Ein Netzwerkspeicher, kurz NAS, speichert Dateien zentral im Heimnetz. Laut dem Bericht über Ugreens HomeAgent sollen Kameravideos lokal analysiert und gespeichert werden. Genannte Beispiele sind die Verfolgung über mehrere Kameras hinweg, Hinweise auf Personen, Fahrzeuge, Haustiere und Pakete sowie Fragen wie der aktuelle Aufenthaltsort eines Haustiers.
Die Plattform soll ausserdem Videoereignisse in Text beschreiben, Aufnahmen per natürlicher Sprache durchsuchen und Smarthome-Geräte steuern. Ugreen verspricht lokale Datenhaltung ohne monatliche Speichergebühren, versieht den «local first»-Ansatz laut Bericht aber selbst mit Einschränkungen. Der HA100 soll zunächst 899 US-Dollar kosten, der HA100 Pro 2’999 Dollar und das NVIDIA-basierte MasterAgent-Modell 9’999 Dollar. Der Start ist für Oktober über Kickstarter vorgesehen; danach könnten sich die Preise nach Angaben des Unternehmens ungefähr verdoppeln.
Pro und Kontra lokaler KI
Pro:
- Mehr Datenkontrolle – Texte, Dateien und Kameraaufnahmen können auf Geräten im eigenen Haushalt bleiben, sofern die jeweilige Anwendung tatsächlich vollständig lokal arbeitet.
- Keine dauernde Cloud-Abhängigkeit – Lokale Modelle und Smarthome-Funktionen sind nicht für jede Verarbeitung auf ein externes Rechenzentrum angewiesen.
- Bessere Nutzung vorhandener Hardware – PAIR kann geeignete Rechner im Heimnetz gemeinsam einsetzen, statt alle Aufgaben an ein einzelnes Gerät zu schicken.
- Weniger laufende Gebühren – Bei lokaler Videospeicherung können monatliche Cloud-Speicherabos entfallen, auch wenn die Anschaffung teuer sein kann.
Kontra:
- Hohe Hardwarekosten – Leistungsfähige Grafikkarten, zusätzliche PCs oder spezialisierte Smarthome-Zentralen können den finanziellen Vorteil gegenüber Cloud-Diensten aufheben.
- Begrenzte Leistung – Modellgrösse, Geschwindigkeit und Kontext hängen vom verfügbaren Speicher und der Grafikhardware ab.
- Mehr Verantwortung – Updates, Berechtigungen, Datensicherung und die Kontrolle von Agenten liegen stärker bei dir.
- Ungeprüfte Herstellerangaben – Geschwindigkeitswerte, Datenschutzversprechen und automatische Modellauswahl stammen überwiegend von den Anbietern oder aus Demonstrationen.
Datenschutz ist deshalb kein Schalter, der mit dem Wort «lokal» automatisch aktiviert wird. Wenn eine Anwendung für Anmeldung, Aktualisierung oder einzelne Funktionen doch externe Dienste nutzt, können weiterhin Datenverbindungen entstehen. Bei einer Smarthome-Zentrale kommt hinzu, dass besonders viele sensible Informationen an einem Ort zusammenlaufen: Kameraaufnahmen, persönliche Dateien und Gerätesteuerung bilden gemeinsam ein attraktives Ziel.
Der Einstieg beginnt mit einer begrenzten Aufgabe
Als Einsteigerin oder Einsteiger solltest du zunächst eine Anwendung wählen, die dein Gerät automatisch prüft und keine direkten Eingriffe in dein Zuhause vornehmen darf. Hermes Desktop steht beispielhaft für diesen vereinfachten Weg, weil die Anwendung ein passendes Modell auswählen und einrichten soll. Für einen ersten Test ist ein lokaler Assistent mit bestätigungspflichtigen Aktionen überschaubarer als ein Agent mit Zugriff auf Kameras, Schlösser oder umfangreiche Automationen.
Schritt 1: Hardware und Zweck abgleichen
- Lege fest, ob du ein einzelnes Modell auf einem PC oder Mac, mehrere Geräte im Heimnetz oder eine Smarthome-Zentrale verwenden willst.
- Prüfe, ob das gewählte Werkzeug deine vorhandene Hardware ausdrücklich unterstützt.
- Vergleiche den Speicherbedarf des Modells mit dem verfügbaren Arbeits- und Grafikspeicher.
Schritt 2: Kontrolle vor Automatisierung setzen
- Beginne mit Aufgaben, bei denen die KI Änderungen nur vorschlägt.
- Erteile nur die Berechtigungen, die für die konkrete Aufgabe nötig sind.
- Prüfe Konfigurationsänderungen, bevor ein Agent sie auf Geräte oder Automationen anwendet.
Fortgeschrittene können mehrere Rechner über PAIR verbinden und Aufgaben auf verfügbare Knoten verteilen. Das lohnt sich vor allem, wenn passende Geräte bereits vorhanden sind und mehrere Agenten parallel arbeiten. Auch im Smarthome kannst du mehr herausholen, indem du die KI zur Erstellung von Automationen oder zur Analyse lokaler Videoereignisse nutzt, aber ausführende Aktionen weiterhin begrenzt und nachvollziehbar hältst.
Für die Schweiz bleibt die konkrete Verfügbarkeit offen. Keine der Quellen bestätigt Schweizer Verkaufsstarts, unterstützte Landessprachen oder regionale Preise für Hermes Desktop, RTX-Spark-PCs oder HomeAgent. Lokale Verarbeitung kann für datenschutzbewusste Haushalte, Schulen und kleinere Betriebe interessant sein, ersetzt jedoch keine Prüfung, welche Daten ein Produkt tatsächlich lokal hält und welche Verbindungen es nach aussen aufbaut.
Lokale KI entwickelt sich von einem Bastelprojekt zu einer realistischeren Option für gewöhnliche PCs, Macs und Smarthomes. Einfachere Einrichtung und verteilte Verarbeitung senken technische Hürden, während hohe Hardwarekosten und mächtige Agenten neue Anforderungen an Kontrolle und Wartung schaffen. Das zentrale offene Risiko bleibt, dass «lokal» als Datenschutzversprechen weiter reicht als die überprüfbare Funktionsweise eines Produkts.
Quellen
- Nous Research Adds One-Click Local Model Setup to Hermes Desktop – Unbekannt, 2026-09-05
- NVIDIA Releases Personal AI Router (PAIR) – Unbekannt, 2026-09-05
- Ich habe eine KI mein Smarthome steuern lassen – das ist passiert – Unbekannt, 2026-09-05
- This NAS company wants to run your local smart home – Unbekannt, 2026-09-04
- Sparks Fly: NVIDIA Accelerates Local AI at IFA 2026 – Unbekannt, 2026-09-03
