OpenAI lässt Berichten zufolge echte ChatGPT-Unterhaltungen von Menschen prüfen, während smarte Brillen zusätzlich Daten über unbeteiligte Personen erfassen können. Das betrifft dich sowohl bei privaten Fragen als auch im Beruf, denn viele Eingaben enthalten persönliche Angaben, interne Dokumente oder vertrauliche Überlegungen. Die aktuellen Meldungen zeigen, dass Datenschutz bei Künstlicher Intelligenz (KI) nicht erst bei einem Datenleck beginnt, sondern bereits bei der regulären Verarbeitung.
Wer kann deine Unterhaltungen lesen?
Im sogenannten «Project Lilly» sollen Hunderte Vertragsarbeitende reale ChatGPT-Gespräche lesen und die Antworten des Chatbots beurteilen. Grundlage der Berichte sind geleakte interne Dokumente und weitere Quellen, die ursprünglich von 404 Media ausgewertet wurden. Die Berichterstattung über Project Lilly beschreibt einen dreistufigen Ablauf: Prüfende lesen eine Eingabe, fassen die vermutete Absicht zusammen und bewerten anschliessend die Antwort der KI.
Damit soll ChatGPT laut den Berichten weniger unterwürfig und weniger übertrieben menschlich wirken. Die Prüfenden achten unter anderem auf Schmeichelei und übermässigen Emoji-Einsatz. Eine weitere Darstellung nennt eine Bewertungsskala von eins bis sieben. Die manuelle Kontrolle soll also nicht nur Fehler finden, sondern auch beeinflussen, wie sich der Dienst im Gespräch verhält.
Die Begriffe in den Meldungen unterscheiden sich leicht: Teilweise ist von OpenAI-Mitarbeitenden, teilweise genauer von externen Vertragsarbeitenden die Rede. Gemeinsam ist den Berichten, dass reale Nutzergespräche von Menschen eingesehen werden können. Die Chats werden laut OpenAI anonymisiert und durch einen Datenschutzfilter bearbeitet, doch das Unternehmen räumt ein, dass dieser Filter Fehler machen kann. Eine Anonymisierung entfernt erkennbare Identitätsmerkmale, garantiert aber nicht, dass sich eine Person aus dem verbleibenden Kontext nicht mehr erkennen lässt.
Das ist besonders relevant, weil ChatGPT längst nicht nur für sachliche Aufgaben genutzt wird. Laut einer OpenAI-Studie entfielen im Juni 2025 fast drei Viertel der Unterhaltungen auf nicht berufliche Themen; 28,3 Prozent betrafen praktische Ratschläge, etwa zu Hausaufgaben oder Alltagsfragen. Bei weit über 900 Millionen wöchentlichen Nutzerinnen und Nutzern können selbst seltene Prüfungen sehr viele persönliche Situationen berühren. Die zugrunde liegenden internen Abläufe sind durch die vorliegenden Meldungen allerdings nicht unabhängig vollständig überprüft.
Welche Datenwege solltest du kennen?
OpenAI erklärt laut dem Bericht über die menschliche Chat-Prüfung in einer häufig gestellten Frage, dass autorisiertes Personal und Dienstleister Nutzerdaten unter anderem zur Verbesserung der Modellleistung einsehen dürfen. Der Hinweis soll bereits seit mindestens 2023 bestehen, wird von 404 Media aber als zu versteckt und zu wenig konkret kritisiert. Ein Prüfer berichtete zudem von Unterhaltungen, in denen Menschen ChatGPT ausdrücklich gebeten hatten, die Inhalte geheim zu halten. Eine solche Bitte im Chat ist keine technische Zugriffssperre.
Die standardmässig aktivierte Einstellung «Modell für alle verbessern» lässt sich deaktivieren. Damit sollen neue Unterhaltungen nicht mehr zur Modellverbesserung verwendet und folglich auch nicht für diesen Zweck menschlich geprüft werden. Die Änderung gilt laut Bericht nur für neue Chats. Zusätzlich bietet OpenAI temporäre Chats an, deren Inhalte nach Angaben des Unternehmens nicht zur Modellverbesserung genutzt werden.
Auch Geschäftskonten lösen die Vertrauensfrage nicht automatisch. Anthropic kündigte laut einem weiteren Bericht an, Nutzungsprotokolle seines Modells Fable 30 Tage aufzubewahren, um komplexe und neue Angriffe abzuwehren. Nvidia beschränkte das Modell daraufhin dem Bericht zufolge auf weniger sensible Aufgaben wie Open-Source-Projekte. Für eine interne, KI-gestützte Überwachung von Lieferketten setzte das Unternehmen dagegen eigene Modelle ein.
Booz Allen Hamilton soll Fable nicht mehr für Arbeiten an firmeneigener Cybersicherheitssoftware zulassen, während Palantir die Bereitstellung blockierte, bis unwiderrufliche Garantien für eine Speicherung von null Nutzerdaten vorliegen. Diese Beispiele aus der Debatte über KI-Labore und Nutzerdaten zeigen, wie Unternehmen Aufgaben nach Sensibilität trennen. Palantirs Kritik ist allerdings nicht neutral: Das Unternehmen möchte zugleich, dass Kundinnen und Kunden KI-Modelle über seine eigene Plattform verwenden.
Wie weit reicht das Problem über Chats hinaus?
Smarte Brillen, also Brillen mit Kamera, Mikrofon und vernetzten Funktionen, verschieben das Datenschutzproblem vom Eingabefeld in den öffentlichen Raum. Meta bewirbt seine Smart Glasses für freihändige Informationen, Kommunikation und Aufnahmen aus der Perspektive der tragenden Person. Laut Berichten aus Schweden können Videoaufnahmen jedoch auf den Bildschirmen externer Datenarbeitender landen. Darunter sollen private Situationen und sensible Angaben wie Kreditkartennummern gewesen sein.
Der Hamburger Beauftragte für Datenschutz und Informationsfreiheit kommt laut der Analyse zu Metas Smart Glasses zum Schluss, dass eine rechtssichere Nutzung in Deutschland kaum möglich sei. Die Meldung bezieht sich ausdrücklich auf Deutschland und erlaubt keine identische rechtliche Bewertung für die Schweiz. Praktisch bleibt das Grundproblem jedoch sichtbar: Anders als bei einem Chat entscheiden aufgenommene Passantinnen, Kollegen oder Familienmitglieder nicht selbst, ob ihre Daten in ein KI-System gelangen.
Ein konkretes Alltagsbeispiel liefert eine Reise-Creatorin, die die Brille ursprünglich für Aufnahmen unterwegs verwendete. Nach Berichten über heimliche Filmaufnahmen fühlte sie sich damit in der Öffentlichkeit nicht mehr wohl und legte das Gerät beiseite. Zwei im Sommer vorgestellte Modelle begannen bei 309 Euro. Der Kaufpreis sagt allerdings wenig über die zusätzlichen sozialen und datenschutzbezogenen Kosten aus.
Ein weiterer Datenweg entsteht durch gestohlene Kontozugänge. Eine Okta-Studie beschreibt einen Schwarzmarkt, auf dem kriminelle Anbieter gestohlene Sitzungstoken, also digitale Nachweise einer bereits erfolgten Anmeldung, sowie Zugangsschlüssel und missbrauchte Testkonten verkaufen. Die angebotenen Zugänge sollen teilweise 70 bis 90 Prozent unter dem regulären Preis liegen. Diese Angaben stammen aus der Studie und bilden keinen vollständigen Marktvergleich.
Okta untersuchte einen sieben Gigabyte grossen Datensatz aus 5871 kompromittierten Rechnern in 162 Ländern. Darin fanden sich Tausende noch gültige Authentifizierungstoken und mehrere Dutzend Schlüssel für Programmierschnittstellen (API), über die Software auf einen Dienst zugreift. Fast 18 Prozent von mehreren Tausend untersuchten JSON-Web-Token, einer Form digitaler Zugangsbelege, enthielten laut Okta personenbezogene Daten wie Namen, Telefonnummern oder E-Mail-Adressen. Der Bericht über gestohlene KI-Zugänge warnt zugleich davor, die genannten Anbieter direkt zu vergleichen, weil manche gezählten Anmeldesysteme nicht ausschliesslich KI-Dienste betreffen.
Was spricht für und gegen menschliche Prüfung?
Pro:
- Bessere Antworten – Menschen können Schmeichelei, unpassenden Ton und übertrieben menschenähnliches Verhalten erkennen, die automatische Prüfungen übersehen.
- Mehr Sicherheit – Reale Gespräche können zeigen, wie ein Modell auf schwierige oder neuartige Situationen reagiert.
- Konkrete Qualitätskontrolle – Eine festgelegte Bewertung zwingt Anbieter dazu, Antworten anhand nachvollziehbarer Kriterien zu prüfen.
- Praktische Rückmeldung – Alltagsfragen und Hausaufgabenbeispiele liefern andere Erkenntnisse als künstlich vorbereitete Testfälle.
Kontra:
- Sensible Inhalte – Private Sorgen, Namen, berufliche Informationen oder vertrauliche Texte können trotz Filtern in geprüften Gesprächen verbleiben.
- Unklare Einwilligung – Ein Hinweis in einer häufig gestellten Frage vermittelt nicht zwangsläufig, wie konkret und umfangreich Menschen Chats lesen.
- Viele Beteiligte – Externe Rekrutierungs-, Trainings- und Dienstleistungsfirmen vergrössern den Kreis möglicher Datenzugriffe.
- Vertrauensverlust – Eine nützliche Sicherheitsmassnahme kann das Vertrauen schwächen, wenn sie erst durch geleakte Unterlagen sichtbar wird.
Die Abwägung ist deshalb nicht «Sicherheit gegen Datenschutz» im einfachen Sinn. Gute Sicherheitsprüfungen benötigen aussagekräftige Beispiele, doch die Auswahl und Aufbereitung dieser Beispiele entscheidet über das Risiko. Transparenz müsste erklären, wer Inhalte sieht, zu welchem Zweck dies geschieht, wie lange Daten gespeichert bleiben und welche Wahl du tatsächlich hast.
Wie nutzt du KI-Tools bewusster?
Für Einsteigerinnen und Einsteiger: Dein erster sinnvoller Schritt ist eine einfache Inhaltsprüfung vor dem Absenden. Entferne Namen, Adressen, Kontaktdaten, Kreditkartennummern und andere eindeutige Merkmale. Füge keine Information ein, die du nicht auch einer unbekannten prüfenden Person zeigen würdest. Bei ChatGPT kannst du zusätzlich die Einstellung zur Modellverbesserung prüfen und für geeignete Gespräche einen temporären Chat verwenden.
Ein Beispiel: Für Hilfe bei Hausaufgaben genügt meist die Aufgabe selbst; Name, Schule und Angaben zur Familie tragen selten zur Lösung bei. Bei einer beruflichen E-Mail kannst du Rollen durch neutrale Bezeichnungen ersetzen und konkrete Kundendaten weglassen. Das Werkzeug erhält damit genug Kontext für einen Entwurf, ohne das vollständige Original zu bekommen.
Für Fortgeschrittene: Teile Aufgaben nach ihrer Sensibilität auf. Öffentliche Texte, allgemeine Ideen und Open-Source-Inhalte können anders behandelt werden als interner Programmcode, Lieferkettendaten oder proprietäre Cybersicherheitsunterlagen. Prüfe ausserdem nicht nur die Datenschutzeinstellung im KI-Dienst, sondern auch die Sicherheit deines Kontos und Browsers. Ein deaktiviertes Training schützt wenig, wenn ein gestohlenes Sitzungstoken den Zugang zu deinem Konto ermöglicht.
Für Teams lohnt sich eine schriftliche Zuordnung: Welche Inhalte dürfen in welches Werkzeug, welche müssen anonymisiert werden und welche bleiben vollständig ausserhalb externer KI-Dienste? Die Quellen nennen keine allgemeingültige Aufbewahrungsdauer oder Einstellung für alle Anbieter. Gerade deshalb sollte die Entscheidung nicht allein davon abhängen, ob ein Dienst im Alltag bequem wirkt.
Für die Schweiz liefert die Universität Zürich einen breiteren Rahmen. Vertrauen richte sich nicht nur auf das KI-System, sondern auch auf das entwickelnde Unternehmen und die Institution, die es einsetzt oder zulässt. Erklärbarkeit und Nachvollziehbarkeit gelten dabei als Kerneigenschaften, während Vertrauen weder erzwungen noch garantiert werden kann. Mit dem für 2027 in Genf vorgesehenen KI-Gipfel bleibt diese Debatte für die Schweiz auch institutionell relevant.
Menschliche Kontrolle kann KI-Antworten nützlicher und sicherer machen, ist aber kein datenschutzfreundlicher Vorgang, nur weil sie der Qualität dient. Chats, Kameraaufnahmen und Kontozugänge haben unterschiedliche Risiken, führen jedoch zur gleichen Vertrauensfrage: Sind die Datenwege sichtbar und kontrollierbar? Offen bleibt vor allem, wie zuverlässig Filter, Anonymisierung und freiwillige Einstellungen unter realen Bedingungen schützen.
Quellen
- «Project Lilly»: Warum OpenAI-Mitarbeiter deine Unterhaltungen mit ChatGPT mitlesen – t3n, 2026-09-15
- OpenAI lässt Hunderte Vertragsarbeiter echte ChatGPT-Gespräche lesen und bewerten – THE DECODER, 2026-09-14
- KI-Labore und Nutzerdaten: Wissenschaft und Wirtschaft stellen die Vertrauensfrage – THE DECODER, 2026-09-15
- Wie sich Vertrauen in KI-Systeme aufbauen und überprüfen lässt – Netzwoche, 2026-09-15
- Datenschutzbeauftragter warnt: Metas Smart Glasses sind kaum rechtssicher nutzbar – t3n, 2026-09-14
- Der Schwarzmarkt für KI-Zugänge floriert – Netzwoche, 2026-09-15
Bild: Mikhail Nilov via Pexels