In den bekanntesten Fällen, in denen vertrauliche Daten über ChatGPT und ähnliche Chatbots nach außen gelangten, geschah das auf einem von drei Wegen: Jemand hat sie eingefügt, eine Kopie lag an einem Ort, den der Nutzer vergessen hatte, oder eine Teilen-Funktion hat sie öffentlich gemacht. Ein Softwarefehler beim Anbieter ist der seltenere vierte Weg. Gegen jeden Weg hilft eine eigene Gewohnheit, und die Fälle unten zeigen, welche.
Menschen haben vertrauliches Material eingefügt
Samsung, 2023. Im März 2023 gaben Ingenieure aus Samsungs Halbleitersparte bei drei Gelegenheiten Unternehmensdaten in ChatGPT ein, so Economist Korea, wie CIO Dive berichtete. Einer fügte fehlerhaften Quellcode aus einem Programm für eine Messdatenbank ein und bat um eine Korrektur. Ein anderer fügte Code zur Erkennung defekter Geräte ein und bat um eine Optimierung. Ein dritter wandelte die Aufnahme einer Besprechung in Text um und bat ChatGPT um ein Protokoll. Samsung begrenzte daraufhin jeden Prompt auf 1.024 Byte, hieß es in dem Bericht.
Am 2. Mai 2023 bestätigte Samsung gegenüber CNBC, dass es generative KI auf Firmencomputern vorübergehend einschränkt. Bloomberg hatte über das interne Memo berichtet, das die Regelung ankündigte.
Niemand ist irgendwo eingedrungen. Die Mitarbeiter haben die Daten an einen Dienst außerhalb des Unternehmens gesendet, und das reichte, damit sie es verließen.
Der amtierende Leiter der CISA, 2025. Am 27. Januar 2026 berichtete Politico unter Berufung auf vier Beamte des Heimatschutzministeriums (DHS), dass Madhu Gottumukkala, amtierender Direktor der US-Behörde für Cybersicherheit und Infrastruktursicherheit (CISA), im Sommer 2025 als „nur für den Dienstgebrauch“ gekennzeichnete Vergabeunterlagen in die öffentliche Version von ChatGPT hochgeladen hatte. Laut dem Bericht war keine der Dateien als Verschlusssache eingestuft. Die Uploads lösten automatische Sicherheitswarnungen aus. Er hatte eine Ausnahmegenehmigung für ChatGPT erhalten, während die App für andere DHS-Mitarbeiter gesperrt war.
Die Lehre ist dieselbe wie bei Samsung. Ein Vermerk auf einem Dokument hindert niemanden daran, es einzufügen. Das tut eine Regel, welches Tool welche Daten erhalten darf, und die Gewohnheit, vor dem Einfügen zu prüfen.
Ein Fehler zeigte einem Nutzer die Daten eines anderen
Am 20. März 2023 nahm OpenAI ChatGPT vom Netz. In seiner Nachbetrachtung erklärte das Unternehmen, ein Fehler in redis-py, einer Open-Source-Bibliothek, habe einige Nutzer die Titel der Chats anderer aktiver Nutzer sehen lassen. Auch die erste Nachricht einer neuen Unterhaltung konnte im Verlauf eines anderen auftauchen.
Derselbe Fehler hat womöglich Zahlungsdaten von 1,2 % der ChatGPT-Plus-Abonnenten offengelegt, die in einem Zeitfenster von neun Stunden aktiv waren: Name, E-Mail-Adresse, Rechnungsadresse, Kartentyp, die letzten vier Ziffern der Kartennummer und das Ablaufdatum. Vollständige Kartennummern seien nie offengelegt worden, so OpenAI.
Zehn Tage später ordnete die italienische Datenschutzbehörde, der Garante, eine vorübergehende Beschränkung der Verarbeitung von Daten italienischer Nutzer durch OpenAI an. Sie verwies auf die Datenpanne, die fehlende Information der Nutzer, die fehlende Rechtsgrundlage für das Training mit personenbezogenen Daten und das Fehlen von Altersprüfungen. Im Dezember 2024 verhängte der Garante ein Bußgeld von 15 Millionen Euro gegen OpenAI und stellte unter anderem fest, dass OpenAI ihm die Datenpanne vom März 2023 nicht gemeldet hatte. Das Gericht in Rom gab der Klage von OpenAI gegen diese Entscheidung in einem am 18. März 2026 veröffentlichten Urteil statt, wie ein Vermerk zeigt, den der Garante derselben Seite hinzugefügt hat.
Das ist der einzige Fall auf der Liste, in dem der Nutzer nichts falsch gemacht hat. Einen solchen Fehler können Sie von Ihrer Seite aus nicht verhindern. Sie können nur entscheiden, was in Ihren Chats steht, wenn er passiert.
Geteilte Chats tauchten bei Google auf
In ChatGPT können Sie einen Link zu einer Unterhaltung erstellen und an jemanden senden. Eine Zeit lang hatte der Teilen-Dialog zudem ein Kontrollkästchen „Make this chat discoverable“, mit dem Suchmaschinen den Chat indexieren durften. Am 30. Juli 2025 berichtete Fast Company, dass Tausende geteilter ChatGPT-Unterhaltungen in den Google-Ergebnissen auftauchten, manche davon mit persönlichen Angaben.
Am nächsten Tag schrieb OpenAIs Chief Information Security Officer Dane Stuckey auf X, OpenAI habe die Option entfernt. Er nannte sie ein kurzlebiges Experiment, das „zu viele Gelegenheiten bot, versehentlich Dinge zu teilen, die man nicht teilen wollte“. OpenAI arbeite außerdem daran, indexierte Inhalte aus Suchmaschinen zu entfernen. Die Funktion war freiwillig, wie TechCrunch anmerkte: Ein Chat wurde erst öffentlich, nachdem der Nutzer einen Link erstellt und das Kästchen angekreuzt hatte.
Jeder betroffene Nutzer hatte das Kästchen angekreuzt. Ein Teilen-Link ist aber eine öffentliche Kopie des Chats, und so sahen die Leute ihn nicht, als sie ihn erstellten.
Gespeicherte Chats wurden zu Beweismitteln
The New York Times v. OpenAI, 2025. Am 13. Mai 2025 ordnete die US-Magistratsrichterin Ona Wang im Urheberrechtsverfahren der New York Times und anderer Nachrichtenorganisationen an, dass OpenAI Ausgabeprotokolle aufbewahren muss, die sonst gelöscht würden. Wie OpenAI erklärte, betraf das gelöschte ChatGPT-Chats von Nutzern von Free, Plus, Pro und Team sowie API-Daten, die normalerweise innerhalb von 30 Tagen aus den Systemen verschwinden. ChatGPT Enterprise, ChatGPT Edu und API-Kunden mit Zero Data Retention waren nicht betroffen.
Die Pflicht endete am 26. September 2025 aufgrund einer Vereinbarung der Parteien, die das Gericht am 9. Oktober billigte. Bereits gesicherte Protokolle blieben gesichert, mit Ausnahme derjenigen aus dem Europäischen Wirtschaftsraum. OpenAI sagt, es speichere auf Verlangen der Kläger weiterhin begrenzte Daten aus dem Zeitraum April bis September 2025. Unabhängig davon ordnete das Gericht an, dass OpenAI den Klägern eine Stichprobe von 20 Millionen de-identifizierten ChatGPT-Protokollen von Verbrauchern übergibt; Richter Sidney Stein bestätigte diese Anordnung am 5. Januar 2026.
Diese Chats wurden nicht veröffentlicht. Trotzdem wurde ein Chat, den der Nutzer gelöscht hatte, monatelang aufbewahrt, wegen eines Prozesses, an dem der Nutzer nicht beteiligt war. „Löschen“ beschreibt die normale Praxis des Anbieters, und ein Gericht kann diese Praxis aussetzen.
United States v. Heppner, 2026. In diesem Fall ging es um Claude, nicht um ChatGPT, aber die Begründung gilt für jeden Verbraucher-Chatbot. Ein Angeklagter in einem US-Bundesstrafverfahren hatte mit der Verbraucherversion von Claude Berichte zu seiner Verteidigung vorbereitet und sie später mit seinen Anwälten geteilt. Am 17. Februar 2026 begründete Richter Jed Rakoff vom Southern District of New York schriftlich, warum diese Dokumente weder durch das Anwaltsgeheimnis (attorney-client privilege) noch durch die Work-Product-Doktrin geschützt waren. Claude ist kein Anwalt. Die Chats waren nicht vertraulich, weil Anthropics Datenschutzerklärung die Weitergabe von Daten an Dritte erlaubte, auch an Behörden. Und seine Anwälte hatten ihn nicht angewiesen, das Tool zu nutzen.
Das Gericht bezeichnete dies als erstmals zu entscheidende Frage. Es ist die Entscheidung eines einzelnen Bezirksgerichts in einem Land, und andere Gerichte können anders argumentieren. Wenn Sie Mandanten beraten oder unter einem Berufsgeheimnis arbeiten, fragen Sie einen Anwalt in Ihrer Rechtsordnung, was das für Ihre Praxis bedeutet.
Alle sechs Fälle in einer Tabelle
| Vorfall | Was nach außen drang | Mechanismus | Lehre |
|---|---|---|---|
| Samsung, März 2023 | Quellcode, ein Besprechungsprotokoll | Menschen haben es gesendet | Einfügen ist Senden |
| Amtierender CISA-Direktor, Sommer 2025 | Als „nur für den Dienstgebrauch“ gekennzeichnete Dokumente | Menschen haben es gesendet | Ein Vermerk verhindert kein Einfügen, eine Tool-Regel schon |
| ChatGPT-Ausfall, März 2023 | Chattitel anderer Nutzer, einige Zahlungsdaten von Plus-Kunden | Fehler beim Anbieter | Was Sie gesendet haben, kann ein Fehler offenlegen |
| Auffindbare geteilte Chats, Juli 2025 | Unterhaltungen, die Nutzer geteilt hatten | Teilen-Funktion | Ein Teilen-Link ist eine öffentliche Kopie |
| NYT v. OpenAI, Mai bis September 2025 | Gelöschte Chats aufbewahrt, eine de-identifizierte Stichprobe übergeben | Speicherung | Gelöscht ist eine Praxis, und ein Gericht kann sie aussetzen |
| US v. Heppner, Februar 2026 | Chats eines Angeklagten, offen für die Staatsanwaltschaft | Speicherung | KI-Chats in Verbrauchertarifen sind womöglich nicht geschützt |
Das Muster und eine Gewohnheit für jeden Teil
Nur ein Fall auf der Liste war ein Fehler. Bei den übrigen ging es darum, was Menschen gesendet haben, wo Kopien lagen und was sie geteilt haben.
Speicherung: Kennen Sie Ihre Einstellungen und Ihren Tarif. Prüfen Sie, ob Ihre Chats zum Training verwendet werden, wie lange der Verlauf gespeichert wird und was Löschen bewirkt. Beachten Sie, dass Business-Tarife und API-Nutzung ohne Datenspeicherung in der NYT-Anordnung anders behandelt wurden als Verbraucherkonten. Unser Beitrag zu den Datenschutzeinstellungen in ChatGPT, Claude und Gemini zeigt, wo jede Einstellung zu finden ist, Stand Oktober 2026.
Teilen: Behandeln Sie einen Teilen-Link wie eine Veröffentlichung. Bevor Sie einen erstellen, lesen Sie den Chat so, als würde ihn ein Fremder lesen. Löschen Sie Links, die Sie nicht mehr brauchen.
Senden: Fügen Sie keine identifizierenden Daten ein. Diese Gewohnheit deckt auch die drei anderen Wege ab. Ein Chat ohne Namen, Adressen oder Kontonummern von Mandanten verrät weit weniger, wenn er gespeichert, geteilt, per Gerichtsbeschluss angefordert oder durch einen Fehler offengelegt wird. Ersetzen Sie identifizierende Angaben vor dem Einfügen durch Platzhalter und setzen Sie sie auf Ihrem eigenen Computer wieder in die Antwort ein. Den vollständigen Ablauf beschreibt ChatGPT, Claude oder Gemini mit Mandantendokumenten nutzen.
Ersetzen Sie auf Ihrem eigenen Rechner. Ein Online-Anonymisierer ist ein weiterer Dienst, der das Original erhält. Wie Sie die beiden unterscheiden, steht in lokale und Online-Schwärzungstools im Vergleich.
ClientSafe erledigt das auf Ihrem PC. Es findet Namen, Firmen, Adressen, Telefonnummern, E-Mail-Adressen, Konto- und Ausweisnummern sowie Geburtsdaten und ersetzt sie durch Platzhalter wie Person_1 und Company_1. Sie prüfen die Liste, entfernen das Häkchen bei allem, was keine personenbezogenen Daten sind, markieren, was übersehen wurde, und kopieren dann die sichere Kopie in den Chat.
Häufige Fragen
Wurde ChatGPT selbst gehackt und wurden Chats gestohlen?
Keiner der Fälle oben war ein Einbruch. Am nächsten kommt der Fehler vom März 2023, der einigen Nutzern die Chattitel anderer Nutzer und einige Zahlungsdaten zeigte. In den übrigen Fällen ging es um Daten, die Menschen gesendet, geteilt oder gespeichert hatten.
Ist ein gelöschter Chat weg?
Stand Oktober 2026 sagt das Hilfecenter von OpenAI, dass ein gelöschter Chat innerhalb von 30 Tagen endgültig gelöscht wird, sofern OpenAI ihn nicht aus Sicherheits- oder Rechtsgründen länger aufbewahren muss. Die NYT-Anordnung hat gezeigt, dass die rechtliche Ausnahme Millionen Nutzer auf einmal treffen kann.
Löst ein Business-Tarif das Problem?
Er ändert die Bedingungen: OpenAI sagt, es trainiere standardmäßig nicht mit Geschäftsdaten, und in Enterprise-Tarifen steuern Administratoren die Aufbewahrung. Was Sie senden, ändert er nicht. Eingefügte Daten liegen trotzdem beim Anbieter, und ein Gericht kann trotzdem ihre Aufbewahrung anordnen.
Können meine Chats mit einer KI in einem Prozess verwendet werden?
Ja. In NYT v. OpenAI wurden gespeicherte Chats als Beweismittel gesichert und stichprobenartig herausgegeben. In Heppner wurden die KI-Chats eines Angeklagten als nicht geschützt eingestuft. Ob das auch für Sie gilt, hängt von Ihrem Land und Ihrem Fall ab.
ClientSafe ersetzt auf Ihrem PC Namen, Adressen, Kontonummern und andere identifizierende Angaben von Mandanten durch Platzhalter und setzt die echten Namen wieder in die Antwort der KI ein. Die Erkennung ist nicht perfekt, prüfen Sie die Liste also, bevor Sie kopieren.