ChatGPT, Gemini und Claude können persönliche Angaben aus Gesprächen speichern und in späteren Antworten wiederverwenden. Das betrifft dich, wenn du solche Dienste für Arbeit, Bewerbungen, Recherchen oder private Fragen nutzt. Aktuelle Fälle zeigen zugleich, dass Künstliche Intelligenz (KI) nicht nur zu viel über dich wissen, sondern auch falsche Inhalte überzeugend präsentieren oder unsinnige Angaben widerspruchslos übernehmen kann.
Gespeicherte Daten sichtbar machen
ChatGPT, Google Gemini und Claude verfügen laut einem Vergleich ihrer Erinnerungsfunktionen über eine Memory-Funktion, also einen Speicher für bestimmte Informationen über dich. Die Dienste können solche Details in künftige Antworten einbauen, damit diese persönlicher und genauer wirken. Wer häufig über Arbeit, Familie, Gesundheit oder Finanzen spricht, liefert allerdings auch entsprechend sensible Daten.
Gespeicherte Erinnerungen sind nicht dasselbe wie eine vollständige Gesprächshistorie. Die Memory-Funktion enthält ausgewählte Angaben, die der Dienst für spätere Unterhaltungen als relevant behandelt. Dazu können ausdrücklich genannte Fakten wie dein Beruf oder deine Interessen gehören, aber auch Annahmen über deine Gewohnheiten und die Art, wie du den Chatbot verwendest.
Im beschriebenen Test genügte eine Eingabeaufforderung, auch Prompt genannt, um ChatGPT, Gemini und Claude nach ihren gespeicherten Informationen zu fragen. ChatGPT nannte unter anderem Interessen an Technik, KI und Gaming sowie die Einschätzung, dass der Nutzer den Dienst eher für Recherche und als Sparringspartner als für einfache Wissensfragen verwendet. Solche Einschätzungen sind keine gesicherten Fakten: Eine Vermutung über dein Alter, deinen Beruf oder deine Lebenssituation bleibt eine Vermutung, auch wenn sie in einer ordentlich formatierten Liste erscheint.
Wie unangenehm die Verbindung verschiedener persönlicher Inhalte werden kann, zeigte auch ein Fall rund um Meta AI. Der Assistent fragte eine Nutzerin nach dem Kind in einem Video, verband Informationen aus ihren eigenen Beiträgen mit Beiträgen von Verwandten und schlug weitere Fragen zu Alter und Wohnort ihrer Kinder vor. Die Nutzerin berichtete zudem, der Dienst habe ein Foto angezeigt, das sie nach eigener Aussage Jahre zuvor gelöscht hatte.
Meta erklärte dagegen, sein System könne nur Inhalte anzeigen, auf die die fragende Person ohnehin Zugriff habe. Das löst den Widerspruch zum angeblich gelöschten Foto nicht auf. Das Unternehmen räumte ein, dass die vorgeschlagenen Fragen unangemessen gewesen seien, und kündigte Änderungen an den Vorschlägen an.
Daten prüfen und löschen
Die genauen Bezeichnungen und Menüwege können sich je nach Dienst und Version unterscheiden. Der Ausgangspunkt bleibt jedoch gleich: Du lässt dir zuerst zeigen, was gespeichert ist, prüfst die Liste und entfernst unerwünschte Erinnerungen über die im jeweiligen Konto angebotenen Memory- oder Datenkontrollen. Anschliessend solltest du erneut nachfragen, statt dich allein auf eine Bestätigung des Chatbots zu verlassen.
Schritt 1: Gespeicherte Informationen abfragen
- Öffne einen neuen Chat im Dienst, dessen Erinnerungen du prüfen willst.
- Bitte den Chatbot, alle über dich gespeicherten Details aufzulisten.
- Ergänze, dass auch Annahmen genannt und deutlich von ausdrücklich mitgeteilten Fakten getrennt werden sollen.
Schritt 2: Fakten und Vermutungen trennen
- Markiere Angaben zu Arbeit, Familie, Gesundheit, Finanzen und Wohnort besonders sorgfältig.
- Prüfe, welche Punkte du tatsächlich genannt hast und welche der Chatbot lediglich aus Gesprächsthemen oder Schreibstil ableitet.
- Behandle die Liste als Bestandsaufnahme des Systems, nicht als objektive Beschreibung deiner Person.
Schritt 3: Unerwünschte Erinnerungen entfernen
- Öffne die im Konto verfügbaren Einstellungen für Memory, Personalisierung oder gespeicherte Daten.
- Lösche einzelne sensible Einträge oder den gesamten angebotenen Erinnerungsspeicher, falls du keine Personalisierung wünschst.
- Verlasse dich nicht darauf, dass das Löschen eines einzelnen Chats automatisch jede separat gespeicherte Erinnerung beseitigt; die gelieferten Quellen dokumentieren dafür keinen einheitlichen Mechanismus.
Schritt 4: Ergebnis kontrollieren
- Starte nach dem Löschen einen neuen Chat und wiederhole die Abfrage.
- Prüfe zusätzlich, ob der Dienst weiterhin persönliche Annahmen nennt oder frühere Details in Antworten verwendet.
- Gib besonders vertrauliche Informationen künftig nur ein, wenn sie für die Aufgabe tatsächlich nötig sind.
Eine solche Abfrage kann nur zeigen, was der Dienst als abrufbare Erinnerung ausgibt. Sie ist kein unabhängiger technischer Nachweis dafür, dass sämtliche Daten aus allen Systemen des Anbieters entfernt wurden. Der Meta-Fall unterstreicht zudem, dass sichtbare, verknüpfte und vermeintlich gelöschte Inhalte aus Nutzersicht auseinanderfallen können.
Halluzinationen konsequent kontrollieren
Eine Halluzination ist eine plausibel klingende, aber erfundene oder sachlich falsche KI-Ausgabe. Sprachmodelle können Namen, Quellen, Zitate und Ereignisse in einem sicheren Ton präsentieren, ohne deren Wahrheit zuverlässig geprüft zu haben. Gute Formulierungen sind deshalb kein Ersatz für Belege.
Die Folgen wurden in einem Mordberufungsverfahren in New Mexico besonders deutlich. Ein Anwalt reichte einen mit ChatGPT erstellten Schriftsatz ein, der erfundene Zeugen, falsche Polizeiaussagen und weitere unzutreffende Darstellungen enthielt. Laut Bericht über die Gerichtsentscheidung verhängte das Oberste Gericht von New Mexico eine Busse von 5000 US-Dollar, weil er die Tatsachenbehauptungen und Rechtsgrundlagen nicht überprüft hatte.
Eine zweite Darstellung desselben Falls ergänzt entscheidende Details. Ars Technica berichtet, der Anwalt habe ein Prozessprotokoll in ChatGPT eingegeben, den daraus erzeugten Schriftsatz aber vor der Einreichung nicht verifiziert. Das Gericht stellte ihn wegen Missachtung des Gerichts zur Verantwortung, verwies den Fall an eine Disziplinarstelle und hielt fest, dass er seinen Mandanten weder über die Fehler noch über die fehlende Prüfung informiert hatte.
Für deinen Alltag ist der Massstab weniger dramatisch, aber derselbe. Wenn du etwa eine Zusammenfassung eines Sitzungsprotokolls erstellen lässt, musst du Namen, Beschlüsse und Fristen mit dem Original vergleichen. Bei einer Recherche für eine Präsentation solltest du jedes Zitat, jede Zahl und jede behauptete Quelle im zugrunde liegenden Material suchen; ein erfundener Literaturhinweis wird nicht wahrer, weil er typografisch sauber aussieht.
Manipulierbare Bots im Alltag
Nicht jede problematische Ausgabe ist eine klassische Halluzination. Manche Systeme lassen sich durch absurde oder strategisch formulierte Eingaben dazu bringen, einen falschen Rahmen zu akzeptieren. Das ist besonders heikel, wenn ein Bot Menschen bewertet oder Entscheidungen vorbereitet.
Ein satirisches Video über einen automatisierten Bewerbungsdialog liefert dafür ein anschauliches Beispiel. Der Bewerber antwortete dem KI-Avatar mit einer Folge sinnfreier Begriffe, darunter angebliche Erfahrungen mit «Waschbären-Protokollen» und zwei Mullverbänden. Statt die unlogischen Aussagen zu hinterfragen, übernahm der Bot sie in das weitere Gespräch und reagierte zustimmend, wie der Bericht über den manipulierbaren HR-Chatbot beschreibt.
Das Video ist Satire und kein systematischer Test aller Rekrutierungswerkzeuge. Es zeigt dennoch ein relevantes Fehlermuster: Ein auf flüssige Konversation ausgelegtes System kann den Dialog fortsetzen, obwohl die inhaltliche Grundlage zerfallen ist. Wenn Personalabteilungen solche Bots für erste Bewerbungsgespräche oder eine Vorauswahl einsetzen, darf sprachliche Anschlussfähigkeit nicht mit Urteilsvermögen verwechselt werden.
Manipulation kann auch unbeabsichtigt geschehen. Ein Bewerber formuliert vielleicht übertrieben, eine Kundin setzt eine falsche Annahme voraus oder ein internes Dokument enthält widersprüchliche Angaben. Ein Bot, der alles höflich integriert, produziert dann eine konsistente Erzählung aus inkonsistentem Material. Konsistenz ist angenehm zu lesen, aber kein Qualitätszertifikat.
Pro und Kontra personalisierter KI
Pro:
- Weniger Wiederholungen – Der Chatbot kann bekannte Vorlieben und Arbeitskontexte in späteren Gesprächen berücksichtigen.
- Passendere Antworten – Gespeicherte Angaben können Vorschläge stärker an deine Aufgaben und Interessen anpassen.
- Kontinuität – Bei länger laufenden Projekten musst du nicht in jedem Chat sämtliche Ausgangspunkte neu erklären.
- Sichtbare Bestandsaufnahme – Eine direkte Abfrage gibt dir zumindest einen Einblick in abrufbare Erinnerungen und abgeleitete Annahmen.
Kontra:
- Datenschutzrisiko – Gespräche über Gesundheit, Familie oder Finanzen können einen detaillierten persönlichen Kontext ergeben.
- Fehlerhafte Profile – Abgeleitete Interessen, Gewohnheiten oder Altersangaben können falsch sein und spätere Antworten verzerren.
- Unklare Löschung – Eine angezeigte Erinnerung, ein Chatverlauf und weitere verknüpfte Inhalte müssen aus Nutzersicht nicht dasselbe sein.
- Falsches Vertrauen – Personalisierte Antworten wirken oft besonders passend, können aber weiterhin halluziniert oder manipulierbar sein.
Was das für dich und die Schweiz heisst
Für Einsteigerinnen und Einsteiger: Beginne mit einer Bestandsaufnahme bei dem Chatbot, den du am häufigsten nutzt. Frage nach gespeicherten Fakten und Annahmen, entferne unnötige persönliche Angaben und kontrolliere bei wichtigen Antworten mindestens Namen, Zahlen und Quellen. Für alltägliche Formulierungshilfe mag eine kleine Ungenauigkeit lästig sein; bei Gesundheit, Bewerbungen, Verträgen oder beruflichen Entscheidungen kann sie erheblich schwerer wiegen.
Für Fortgeschrittene: Trenne Aufgaben nach Risiko und arbeite mit einer festen Prüfroutine. Du kannst KI zunächst einen Entwurf erstellen lassen und danach jede überprüfbare Behauptung gegen das Originalmaterial abgleichen. Bei Personalprozessen oder anderen Bewertungen solltest du ausserdem mit widersprüchlichen und offensichtlich unsinnigen Eingaben testen, ob der Bot Fehler erkennt oder sie lediglich elegant weiterverarbeitet.
In der Schweiz betrifft Kontrolle nicht nur Chatfenster. Im Kanton Zürich soll die Regierung laut einer Anfrage zu Smartbrillen in öffentlichen Einrichtungen prüfen, wie heimliche Bild- und Tonaufnahmen etwa in Bädern, Saunas, Fitnesscentern oder Kindertagesstätten verhindert werden könnten. Smartbrillen sind tragbare Brillen mit integrierter Kamera oder Mikrofon; der Fall zeigt, dass Datenerfassung unauffällig erfolgen und später mit digitalen Diensten verbunden werden kann.
Der Kanton Bern verfolgt bei Behörden einen abgestuften Ansatz. Das neue Gesetz über Informations- und Cybersicherheit sieht laut Darstellung der Berner Schutzregeln vier Schutzniveaus für Mittel der Informations- und Kommunikationstechnologie (ICT) vor. Für höhere Stufen sind Sicherheits- und Datenschutzkonzepte vorgesehen; Cyberangriffe sollen innert 24 Stunden, Vorfälle mit Personendaten innert 72 Stunden gemeldet werden.
Diese kantonalen Beispiele regeln nicht direkt, welche Erinnerungen ChatGPT, Gemini oder Claude führen. Sie verdeutlichen aber einen sinnvollen Grundsatz: Schutzmassnahmen sollten sich nach der Empfindlichkeit der Daten und den möglichen Folgen eines Fehlers richten. Ein Entwurf für eine harmlose Einladung braucht weniger Kontrolle als ein Personaldossier, ein Gesundheitsverlauf oder ein rechtlicher Schriftsatz.
Personalisierte KI kann dir Arbeit abnehmen, wenn du weisst, welche Informationen sie verwendet und wo ihre Aussagen überprüft werden müssen. Das grössere Risiko liegt nicht in jedem einzelnen Fehler, sondern in der Kombination aus umfangreichen persönlichen Daten, überzeugender Sprache und fehlender Kontrolle. Offen bleibt, wie vollständig Anbieter gespeicherte oder verknüpfte Informationen tatsächlich transparent machen und entfernen.
Quellen
- Was ChatGPT, Gemini und Claude über dich wissen – und wie du es löschst – t3n, 2026-09-11
- Meta says it’s changing AI suggestions after posing invasive personal questions – The Verge, 2026-09-11
- Zürcher Regierung soll Smartbrillen unter die Lupe nehmen – Netzwoche, 2026-09-11
- Update: Berner Cybersicherheitsgesetz kommt im November – Netzwoche, 2026-09-11
- Lawyer fined $5K over AI-hallucinated witnesses in a murder case – The Verge, 2026-09-11
- ChatGPT-using lawyer punished for citing fake testimony from made-up witnesses – Ars Technica, 2026-09-11
- KI-Bewerbungsgespräche: Wenn der HR-Chatbot auf Waschbären-Protokolle hereinfällt – t3n, 2026-09-11
Bild: Airam Dato-on via Pexels