7 Daten, die du niemals in ChatGPT & KI-Tools eingeben solltest

Teil 2 unserer Serie zu KI-Sicherheit. Im ersten Teil ging es darum, wie Angreifer KI-Systeme über manipulierte Eingaben austricksen. Diesmal geht es um eine einfachere, aber genauso wichtige Frage: Was gibst du selbst in ChatGPT & Co. ein – und was solltest du besser lassen?

Die kurze Antwort: Ein KI-Chat ist kein privater Safe. Es ist eher ein Notizzettel, den du einem fremden Unternehmen in die Hand drückst. Die meisten Nutzer wissen das theoretisch – und tippen trotzdem Passwörter, Kontodaten oder Firmengeheimnisse hinein, weil es gerade schneller geht als eine Suchmaschine zu bemühen oder den Kollegen zu fragen.

Warum das überhaupt ein Risiko ist

Drei Dinge passieren mit deinen Eingaben, die vielen nicht bewusst sind:

• Training: Bei den kostenlosen und Plus-Versionen von ChatGPT werden Unterhaltungen standardmäßig auch zur Verbesserung der Modelle verwendet, sofern du das nicht abschaltest. Deine Daten könnten so – in anonymisierter oder umformulierter Form – in Antworten an andere Nutzer wieder auftauchen.
• Speicherung & Lecks: Eingaben landen in Logs, auf Servern, in Backups. Auch seriöse Anbieter hatten bereits technische Pannen, bei denen Nutzerdaten für andere sichtbar wurden (mehr dazu weiter unten).
• Prompt Injection: Wenn eine KI zusätzlich Zugriff auf Dokumente, E-Mails oder das Web hat, können in Teil 1 beschriebene Prompt-Injection-Angriffe genutzt werden, um genau die Daten abzugreifen, die du zuvor eingegeben oder mit dem Tool geteilt hast.

Die Konsequenz ist simpel: Behandle jeden Chat mit einer KI so, als würdest du ihn versehentlich öffentlich posten können. Wenn du bei dem Gedanken zusammenzuckst, gehört die Information nicht hinein.

Die 7 Datenarten, die in keinem KI-Chat etwas verloren haben

1. Passwörter, API-Keys und 2FA-Codes

Der Klassiker – und der gefährlichste Fall, weil er sofort missbrauchbar ist. Wer ein Passwort, einen API-Key oder einen per SMS/App erhaltenen Bestätigungscode in einen Chat tippt, hat ihn faktisch aus der Hand gegeben. Auch wenn nichts „passiert“: Der Key steht in der Chat-Historie, eventuell in Logs, und sollte danach als kompromittiert gelten und ausgetauscht werden.

2. Bank-, Kreditkarten- und Finanzdaten

Kontonummern, Kreditkartendaten, Gehaltsabrechnungen, Steuerunterlagen mit vollständigen Beträgen und Kontodaten – all das gehört nicht in ein Chatfenster, auch nicht „nur zur Berechnung“ oder „damit die KI mir bei der Steuer hilft“. Für solche Aufgaben reicht es, Zahlen zu anonymisieren oder Platzhalter zu verwenden.

3. Ausweis-, Sozialversicherungs- und andere Personendaten

Personalausweisnummern, Sozialversicherungs- oder Steuer-IDs, Geburtsdaten in Kombination mit vollem Namen und Adresse – das sind klassische Zutaten für Identitätsdiebstahl. Auch wenn du „nur“ einen Behördenbrief zusammenfassen lassen willst: Schwärze oder ersetze die Identifikationsnummern vorher.

4. Gesundheitsdaten

Diagnosen, Medikamentenpläne, Laborwerte, psychologische Befunde – ChatGPT und vergleichbare Standard-Tools sind dafür nicht ausgelegt. OpenAI schreibt in seinen Entwickler-Nutzungsbedingungen ausdrücklich, dass Apps auf Basis der Plattform keine Gesundheitsdaten im Sinne des US-Gesundheitsdatenschutzgesetzes HIPAA verarbeiten dürfen – ein Hinweis darauf, dass das Standardprodukt genau dafür nicht gedacht ist. Auch eine Einhaltung der DSGVO ist bei der normalen Nutzung nicht automatisch gegeben. Für Gesundheitsfragen gilt: anonymisieren oder besser gleich weglassen.

5. Firmengeheimnisse, Quellcode und Kundendaten

Das ist kein theoretisches Risiko, sondern bereits passiert – siehe der Samsung-Fall weiter unten. Interner Quellcode, unveröffentlichte Produktpläne, Kundendatenbanken oder Vertragsentwürfe mit Dritten gehören nicht in ein öffentliches KI-Tool, sofern das Unternehmen nicht ausdrücklich eine abgesicherte Business- oder Enterprise-Umgebung mit entsprechenden Datenschutz-Zusagen nutzt.

6. Private Kontaktdaten Dritter

Adressen, Telefonnummern oder E-Mails von Freunden, Kollegen oder Kunden einzugeben, ist ein doppeltes Problem: Du gibst nicht nur deine eigenen Daten preis, sondern die einer anderen Person – ohne dass sie zugestimmt hat. Wenn du zum Beispiel eine Einladung oder einen Kontakteintrag mit KI-Hilfe formulieren willst, ersetze Namen und Kontaktdaten vorher durch Platzhalter.

7. Vertrauliche Dokumente und Verträge

Arbeitsverträge, NDAs, Mietverträge, Scheidungsvereinbarungen, interne Protokolle: Solche Dokumente enthalten oft eine Mischung aus mehreren der oben genannten Datenarten auf einmal. Wer sich eine Zusammenfassung oder Formulierungshilfe wünscht, sollte Namen, Beträge und Kennnummern vorher schwärzen oder durch Platzhalter ersetzen.

Drei Fälle, die zeigen: Das Risiko ist real

Samsung verbietet ChatGPT nach Quellcode-Leck (2023)

Anfang Mai 2023 berichteten Bloomberg und weitere Medien, dass Samsung Electronics seinen Mitarbeitenden die Nutzung von ChatGPT und anderen KI-Chatbots auf Firmengeräten und im internen Netzwerk untersagt hatte. Auslöser war ein Vorfall im April 2023: Ein Ingenieur hatte internen, sensiblen Quellcode in ChatGPT eingegeben, um Hilfe bei einem Bug zu bekommen. Samsung reagierte mit einer internen Anweisung, die generative KI-Tools auf Firmen-Hardware und -Netzwerk komplett untersagte, und bat Mitarbeitende zusätzlich, Firmeninformationen auch über private Geräte nicht mit solchen Diensten zu teilen. Als Begründung nannte das Unternehmen, dass einmal übermittelte Daten auf externen Servern liegen, sich kaum zurückholen oder löschen lassen und potenziell für andere Nutzer sichtbar werden könnten.

Der OpenAI-Bug vom März 2023

Am 20. März 2023 musste OpenAI ChatGPT vorübergehend offline nehmen, nachdem ein Fehler in der Open-Source-Bibliothek redis-py dazu geführt hatte, dass abgebrochene Anfragen fehlerhafte Daten aus dem Zwischenspeicher an andere Nutzer ausliefern konnten. In einem eigenen Blogbeitrag räumte OpenAI ein, dass in einem rund neunstündigen Zeitfenster (1 bis 10 Uhr pazifischer Zeit) einige Nutzer Chat-Titel aus der Historie fremder Konten sehen konnten. Bei etwa 1,2 Prozent der zu dieser Zeit aktiven ChatGPT-Plus-Abonnenten waren zusätzlich Vor- und Nachname, E-Mail-Adresse, Rechnungsadresse sowie die letzten vier Ziffern und das Ablaufdatum der Kreditkarte für andere Nutzer sichtbar. Vollständige Kreditkartennummern waren nach Angaben von OpenAI zu keinem Zeitpunkt betroffen. Der Fall zeigt: Auch ohne Hackerangriff und ohne eigenes Zutun können Daten, die in einem KI-Tool liegen, durch einen simplen Software-Bug offengelegt werden.

Das DeepSeek-Datenleck (2025): Passwörter im Klartext offen im Netz

Der bislang drastischste Fall betrifft ausgerechnet die Datenart aus Punkt 1. Anfang 2025 entdeckten Sicherheitsforscher beim chinesischen KI-Anbieter DeepSeek eine völlig ungeschützte Datenbank, die ohne jedes Passwort aus dem Internet erreichbar war. Darin lagen über eine Million Datensätze — Chat-Verläufe, interne Logs und, besonders brisant, API-Schlüssel und Passwörter im Klartext. Genau die Dinge also, vor denen dieser Artikel warnt, lagen hier für jeden Angreifer offen. Der Fall zeigt zweierlei: Erstens landen deine Eingaben real auf Servern, die schlecht gesichert sein können. Zweitens gilt bei KI-Apps mit Servern außerhalb der EU (hier: China) ein zusätzliches Risiko — mehr dazu in unserem China-KI-Guide mit Datenschutz-Ampel.

So schützt du dich in der Praxis

• Training abschalten oder temporären Chat nutzen: In den ChatGPT-Einstellungen unter „Datenkontrollen“ lässt sich die Nutzung eigener Chats fürs Modelltraining deaktivieren. Alternativ verhindert der „Temporärer Chat“-Modus von vornherein, dass die Unterhaltung fürs Training verwendet wird oder in der Chat-Historie erscheint – aus Sicherheitsgründen speichert OpenAI sie aber noch bis zu 30 Tage, bevor sie automatisch gelöscht wird.
• Consumer-Version ungleich API/Business: Bei ChatGPT Business (früher Team), Enterprise und bei Nutzung über die API werden Eingaben laut OpenAI standardmäßig nicht fürs Training verwendet – anders als bei den kostenlosen und Plus-Konten, bei denen ein aktives Opt-out nötig ist.
• Platzhalter statt echter Daten: Ersetze Namen, Zahlen, Keys und Kontodaten durch Platzhalter wie „Kunde A“ oder „XXXX-1234“, bevor du einen Text zur Bearbeitung eingibst.
• Datensparsamkeit: Gib nur so viel Kontext ein, wie für die Aufgabe wirklich nötig ist. Muss die KI wirklich den ganzen Vertrag sehen, oder reicht ein anonymisierter Ausschnitt?
• Jeder Chat wie ein öffentlicher Raum: Die einfachste Faustregel: Schreib nichts in eine KI, das du nicht auch auf einem Klebezettel am schwarzen Brett im Büro aushängen würdest.

Häufige Fragen

Was sollte man nicht in ChatGPT eingeben?

Grundsätzlich alles, was bei Verlust oder Missbrauch echten Schaden anrichten kann: Passwörter, API-Keys, 2FA-Codes, Bank- und Kreditkartendaten, Ausweis- und Sozialversicherungsnummern, Gesundheitsdaten, Firmengeheimnisse und Quellcode, private Kontaktdaten Dritter sowie vertrauliche Verträge und Dokumente.

Speichert ChatGPT meine Daten?

Ja. Unterhaltungen werden gespeichert, sofern du nicht den temporären Chat-Modus nutzt oder Chats manuell löschst. Auch im temporären Modus behält OpenAI aus Sicherheitsgründen für bis zu 30 Tage eine Kopie, bevor sie automatisch gelöscht wird.

Nutzt OpenAI meine Eingaben zum Training?

Bei den kostenlosen und Plus-Konten von ChatGPT: standardmäßig ja, sofern du das nicht in den Datenkontrollen deaktivierst oder den temporären Chat nutzt. Bei ChatGPT Business (früher Team), Enterprise und bei der API-Nutzung gilt laut OpenAI der umgekehrte Standard: keine Trainingsnutzung, außer man meldet sich aktiv dafür an.

Ist ChatGPT DSGVO- oder HIPAA-konform?

Nein, nicht automatisch. Die Standardversionen von ChatGPT bieten keine Garantien, wie sie HIPAA für Gesundheitsdaten in den USA verlangt – OpenAI schließt in seinen Entwickler-Bedingungen sogar aus, dass Apps auf der Plattform Gesundheitsdaten nach HIPAA-Definition verarbeiten. Für die DSGVO gilt im Kern dasselbe Prinzip: Ohne gesonderte vertragliche Vereinbarungen (etwa im Business-Umfeld) ist die normale Nutzung nicht automatisch rechtskonform für besonders sensible Daten.

Kann ich schon eingegebene Daten wieder löschen?

Einzelne Chats lassen sich löschen; laut OpenAI werden sie dann innerhalb von 30 Tagen aus den Systemen entfernt, sofern keine rechtliche Aufbewahrungspflicht besteht. Eine Garantie, dass bereits verarbeitete oder zwischengespeicherte Daten vollständig und sofort aus allen Systemen entfernt werden, gibt es aber nicht – genau das war auch einer der Kritikpunkte, die Samsung zum Verbot von KI-Tools bewogen haben.

Weiterlesen: Wie Angreifer KI-Systeme über Prompt Injection manipulieren, wie du KI-Halluzinationen erkennst und vermeidest, und wie du im Unternehmen Kundendaten mit einem Ampel-System schützt.

Weiterlesen zur KI-Sicherheit: KI-Stimmen-Betrug erkennen — der neue Enkeltrick mit KI-geklonten Stimmen.

Lies auch

UncategorizedPrompt Injection: Was ist das – und wie du dich vor KI-Manipulation schützt

UncategorizedKI vergisst alles? So baust du ein KI-Gedächtnis auf

UncategorizedKI-Fake-Profile erkennen: So wirst du nicht reingelegt