7 Daten, die du niemals in ChatGPT & KI-Tools eingeben solltest

Teil 2 unserer Serie zu KI-Sicherheit. Im ersten Teil ging es darum, wie Angreifer KI-Systeme über manipulierte Eingaben austricksen. Diesmal geht es um eine einfachere, aber genauso wichtige Frage: Was gibst du selbst in ChatGPT & Co. ein – und was solltest du besser lassen?

Die kurze Antwort: Ein KI-Chat ist kein privater Safe. Es ist eher ein Notizzettel, den du einem fremden Unternehmen in die Hand drückst. Die meisten Nutzer wissen das theoretisch – und tippen trotzdem Passwörter, Kontodaten oder Firmengeheimnisse hinein, weil es gerade schneller geht als eine Suchmaschine zu bemühen oder den Kollegen zu fragen.

Warum das überhaupt ein Risiko ist

Vier Dinge passieren mit deinen Eingaben, die vielen nicht bewusst sind:

• Training: Bei den kostenlosen und Plus-Versionen von ChatGPT werden Unterhaltungen standardmäßig auch zur Verbesserung der Modelle verwendet, sofern du das nicht abschaltest. Bei Claude und Gemini ist das in den Verbraucher-Versionen inzwischen genauso. Deine Daten könnten so – in anonymisierter oder umformulierter Form – in Antworten an andere Nutzer wieder auftauchen.
• Speicherung & Lecks: Eingaben landen in Logs, auf Servern, in Backups. Auch seriöse Anbieter hatten bereits technische Pannen, bei denen Nutzerdaten für andere sichtbar wurden (mehr dazu weiter unten).
• Weitergabe an Tracker: Eine im Herbst 2026 veröffentlichte Studie kam zu dem Ergebnis, dass die meisten großen KI-Chats im Browser Chattitel und Links zu deinen Unterhaltungen an Werbe- und Analysedienste schicken. Schon der Titel „Kündigung wegen Krankheit – was tun?“ verrät viel über dich.
• Prompt Injection: Wenn eine KI zusätzlich Zugriff auf Dokumente, E-Mails oder das Web hat, können in Teil 1 beschriebene Prompt-Injection-Angriffe genutzt werden, um genau die Daten abzugreifen, die du zuvor eingegeben oder mit dem Tool geteilt hast.

Die Konsequenz ist simpel: Behandle jeden Chat mit einer KI so, als würdest du ihn versehentlich öffentlich posten können. Wenn du bei dem Gedanken zusammenzuckst, gehört die Information nicht hinein.

Die 7 Datenarten, die in keinem KI-Chat etwas verloren haben

1. Passwörter, API-Keys und 2FA-Codes

Der Klassiker – und der gefährlichste Fall, weil er sofort missbrauchbar ist. Wer ein Passwort, einen API-Key oder einen per SMS/App erhaltenen Bestätigungscode in einen Chat tippt, hat ihn faktisch aus der Hand gegeben. Auch wenn nichts „passiert“: Der Key steht in der Chat-Historie, eventuell in Logs, und sollte danach als kompromittiert gelten und ausgetauscht werden. Wie real das ist, hat der Sommer 2026 bewiesen: In geteilten Claude-Chats, die plötzlich bei Google auftauchten, fanden Nutzer unter anderem Schlüssel zu Krypto-Wallets.

2. Bank-, Kreditkarten- und Finanzdaten

Kontonummern, Kreditkartendaten, Gehaltsabrechnungen, Steuerunterlagen mit vollständigen Beträgen und Kontodaten – all das gehört nicht in ein Chatfenster, auch nicht „nur zur Berechnung“ oder „damit die KI mir bei der Steuer hilft“. Für solche Aufgaben reicht es, Zahlen zu anonymisieren oder Platzhalter zu verwenden.

3. Ausweis-, Sozialversicherungs- und andere Personendaten

Personalausweisnummern, Sozialversicherungs- oder Steuer-IDs, Geburtsdaten in Kombination mit vollem Namen und Adresse – das sind klassische Zutaten für Identitätsdiebstahl. Auch wenn du „nur“ einen Behördenbrief zusammenfassen lassen willst: Schwärze oder ersetze die Identifikationsnummern vorher.

4. Gesundheitsdaten

Diagnosen, Medikamentenpläne, Laborwerte, psychologische Befunde – die normalen Versionen von ChatGPT, Claude oder Gemini sind dafür nicht gebaut. OpenAI selbst zieht hier eine bemerkenswerte Grenze. In den USA gibt es seit dem 23. Juli 2026 ChatGPT Health, einen eigenen Bereich, in den man Arztbefunde und Daten aus Apple Health hochladen kann. Laut OpenAI liegen diese Chats getrennt und zusätzlich verschlüsselt und fließen nicht ins Training. In Deutschland, der übrigen EU, der Schweiz und Großbritannien ist die Funktion aber gesperrt – wegen der strengeren Regeln für Gesundheitsdaten. Die DSGVO zählt sie zu den besonders geschützten Daten. Wenn selbst der Anbieter mit einem Spezialprodukt hier nicht startet, gehören deine Befunde erst recht nicht in den normalen Chat. Für Gesundheitsfragen gilt: anonymisieren oder besser gleich weglassen.

5. Firmengeheimnisse, Quellcode und Kundendaten

Das ist kein theoretisches Risiko, sondern bereits passiert – siehe der Samsung-Fall weiter unten. Interner Quellcode, unveröffentlichte Produktpläne, Kundendatenbanken oder Vertragsentwürfe mit Dritten gehören nicht in ein öffentliches KI-Tool, sofern das Unternehmen nicht ausdrücklich eine abgesicherte Business- oder Enterprise-Umgebung mit entsprechenden Datenschutz-Zusagen nutzt.

6. Private Kontaktdaten Dritter

Adressen, Telefonnummern oder E-Mails von Freunden, Kollegen oder Kunden einzugeben, ist ein doppeltes Problem: Du gibst nicht nur deine eigenen Daten preis, sondern die einer anderen Person – ohne dass sie zugestimmt hat. Wenn du zum Beispiel eine Einladung oder einen Kontakteintrag mit KI-Hilfe formulieren willst, ersetze Namen und Kontaktdaten vorher durch Platzhalter.

7. Vertrauliche Dokumente und Verträge

Arbeitsverträge, NDAs, Mietverträge, Scheidungsvereinbarungen, interne Protokolle: Solche Dokumente enthalten oft eine Mischung aus mehreren der oben genannten Datenarten auf einmal. Wer sich eine Zusammenfassung oder Formulierungshilfe wünscht, sollte Namen, Beträge und Kennnummern vorher schwärzen oder durch Platzhalter ersetzen.

Fünf Fälle, die zeigen: Das Risiko ist real

Samsung verbietet ChatGPT nach Quellcode-Leck (2023)

Anfang Mai 2023 berichteten Bloomberg und weitere Medien, dass Samsung Electronics seinen Mitarbeitenden die Nutzung von ChatGPT und anderen KI-Chatbots auf Firmengeräten und im internen Netzwerk untersagt hatte. Auslöser war ein Vorfall im April 2023: Ein Ingenieur hatte internen, sensiblen Quellcode in ChatGPT eingegeben, um Hilfe bei einem Bug zu bekommen. Samsung reagierte mit einer internen Anweisung, die generative KI-Tools auf Firmen-Hardware und -Netzwerk komplett untersagte, und bat Mitarbeitende zusätzlich, Firmeninformationen auch über private Geräte nicht mit solchen Diensten zu teilen. Als Begründung nannte das Unternehmen, dass einmal übermittelte Daten auf externen Servern liegen, sich kaum zurückholen oder löschen lassen und potenziell für andere Nutzer sichtbar werden könnten.

Der OpenAI-Bug vom März 2023

Am 20. März 2023 musste OpenAI ChatGPT vorübergehend offline nehmen, nachdem ein Fehler in der Open-Source-Bibliothek redis-py dazu geführt hatte, dass abgebrochene Anfragen fehlerhafte Daten aus dem Zwischenspeicher an andere Nutzer ausliefern konnten. In einem eigenen Blogbeitrag räumte OpenAI ein, dass in einem rund neunstündigen Zeitfenster (1 bis 10 Uhr pazifischer Zeit) einige Nutzer Chat-Titel aus der Historie fremder Konten sehen konnten. Bei etwa 1,2 Prozent der zu dieser Zeit aktiven ChatGPT-Plus-Abonnenten waren zusätzlich Vor- und Nachname, E-Mail-Adresse, Rechnungsadresse sowie die letzten vier Ziffern und das Ablaufdatum der Kreditkarte für andere Nutzer sichtbar. Vollständige Kreditkartennummern waren nach Angaben von OpenAI zu keinem Zeitpunkt betroffen. Der Fall zeigt: Auch ohne Hackerangriff und ohne eigenes Zutun können Daten, die in einem KI-Tool liegen, durch einen simplen Software-Bug offengelegt werden.

Das DeepSeek-Datenleck (2025): Passwörter im Klartext offen im Netz

Ein besonders drastischer Fall betrifft ausgerechnet die Datenart aus Punkt 1. Anfang 2025 entdeckten Sicherheitsforscher beim chinesischen KI-Anbieter DeepSeek eine völlig ungeschützte Datenbank, die ohne jedes Passwort aus dem Internet erreichbar war. Darin lagen über eine Million Datensätze: Chat-Verläufe, interne Logs und, besonders brisant, API-Schlüssel und Passwörter im Klartext. Genau die Dinge also, vor denen dieser Artikel warnt, lagen hier für jeden Angreifer offen. Der Fall zeigt zweierlei: Erstens landen deine Eingaben real auf Servern, die schlecht gesichert sein können. Zweitens gilt bei KI-Apps mit Servern außerhalb der EU (hier: China) ein zusätzliches Risiko – mehr dazu in unserem China-KI-Guide mit Datenschutz-Ampel.

Geteilte Claude-Chats bei Google (Juli 2026)

Ende Juli 2026 fiel Nutzern auf, dass sich über eine einfache Google-Suche fremde Unterhaltungen mit Claude finden ließen. Betroffen waren Chats, die jemand über die Teilen-Funktion als Link verschickt hatte. Weil den geteilten Seiten der Hinweis an Suchmaschinen fehlte, sie nicht aufzunehmen, wurden sie indexiert. Medien berichteten von Tausenden auffindbaren Chats mit Firmenunterlagen, Lebensläufen, medizinischen Berichten und Krypto-Schlüsseln. Anthropic hat die Lücke schnell geschlossen; bei Google verschwanden die Treffer bald, bei anderen Suchmaschinen blieben sie länger sichtbar. Ähnliches war 2025 schon bei ChatGPT und Grok passiert. Die Lehre: Ein geteilter Link ist für jeden lesbar, der ihn hat – und im schlechtesten Fall für jeden, der sucht.

Chatbots plaudern mit Werbefirmen (Studie, Oktober 2026)

Forscher des Madrider Instituts IMDEA Networks haben neun große KI-Chatbots untersucht, darunter ChatGPT, Claude, Gemini, Copilot, Grok, Perplexity, Mistral, Meta AI und DeepSeek. Ergebnis, über das netzpolitik.org am 13. Oktober 2026 berichtete: Sechs der neun Web-Versionen schicken Daten aus Gesprächen an Tracker, etwa von Google, Meta oder TikTok. Weitergegeben wurden Chattitel, Links zu Unterhaltungen, Nutzer-IDs und teilweise sogar E-Mail-Adressen; Grok übermittelte Screenshots. Bei den Android-Apps waren es drei von acht. Besonders ernüchternd: 80,8 Prozent der Tracker blieben aktiv, nachdem alle nicht notwendigen Cookies abgelehnt worden waren. Wer KI im Browser nutzt, sollte auch die Risiken der neuen KI-Browser wie ChatGPT Atlas und Comet kennen.

So schützt du dich in der Praxis

• Training abschalten oder temporären Chat nutzen: In den ChatGPT-Einstellungen unter „Datenkontrollen“ lässt sich die Nutzung eigener Chats fürs Modelltraining deaktivieren („Das Modell für alle verbessern“). Das gilt nur für künftige Chats. Alternativ verhindert der „Temporärer Chat“-Modus von vornherein, dass die Unterhaltung fürs Training verwendet wird oder in der Chat-Historie erscheint – aus Sicherheitsgründen speichert OpenAI sie aber noch bis zu 30 Tage, bevor sie automatisch gelöscht wird.
• Consumer-Version ungleich API/Business: Bei ChatGPT Business (früher Team), Enterprise und bei Nutzung über die API werden Eingaben laut OpenAI standardmäßig nicht fürs Training verwendet – anders als bei den kostenlosen und Plus-Konten, bei denen ein aktives Opt-out nötig ist.
• Teilen-Links sparsam nutzen: Schick Chats nur als Link, wenn nichts Persönliches drinsteht, und lösche alte Freigaben. Bei ChatGPT findest du sie unter „Datenkontrollen“ → „Geteilte Links“, bei Claude über die Teilen-Schaltfläche im jeweiligen Chat.
• Werbung im Blick behalten: Seit dem 24. August 2026 zeigt ChatGPT auch in Deutschland Werbung in den Tarifen Free und Go. Die Anzeigen richten sich vorerst nach dem aktuellen Gespräch sowie nach Standort, Sprache und Gerät. Personalisierte Werbung auf Basis deiner Chats gibt es in der EU nur, wenn du ausdrücklich zustimmst. Diese Zustimmung lässt sich in den Einstellungen jederzeit widerrufen.
• Platzhalter statt echter Daten: Ersetze Namen, Zahlen, Keys und Kontodaten durch Platzhalter wie „Kunde A“ oder „XXXX-1234“, bevor du einen Text zur Bearbeitung eingibst.
• Datensparsamkeit: Gib nur so viel Kontext ein, wie für die Aufgabe wirklich nötig ist. Muss die KI wirklich den ganzen Vertrag sehen, oder reicht ein anonymisierter Ausschnitt?
• Jeder Chat wie ein öffentlicher Raum: Die einfachste Faustregel: Schreib nichts in eine KI, das du nicht auch auf einem Klebezettel am schwarzen Brett im Büro aushängen würdest.

Häufige Fragen

Was sollte man nicht in ChatGPT eingeben?

Grundsätzlich alles, was bei Verlust oder Missbrauch echten Schaden anrichten kann: Passwörter, API-Keys, 2FA-Codes, Bank- und Kreditkartendaten, Ausweis- und Sozialversicherungsnummern, Gesundheitsdaten, Firmengeheimnisse und Quellcode, private Kontaktdaten Dritter sowie vertrauliche Verträge und Dokumente.

Speichert ChatGPT meine Daten?

Ja. Unterhaltungen werden gespeichert, sofern du nicht den temporären Chat-Modus nutzt oder Chats manuell löschst. Auch im temporären Modus behält OpenAI aus Sicherheitsgründen für bis zu 30 Tage eine Kopie, bevor sie automatisch gelöscht wird.

Nutzt OpenAI meine Eingaben zum Training?

Bei den kostenlosen und Plus-Konten von ChatGPT: standardmäßig ja, sofern du das nicht in den Datenkontrollen deaktivierst oder den temporären Chat nutzt. Bei ChatGPT Business (früher Team), Enterprise und bei der API-Nutzung gilt laut OpenAI der umgekehrte Standard: keine Trainingsnutzung, außer man meldet sich aktiv dafür an.

Gilt das auch für Claude und Gemini?

Ja. Auch Claude (Free, Pro, Max) und Gemini nutzen Chats standardmäßig zur Verbesserung ihrer Modelle, solange du das nicht abschaltest. Bei Claude ist es der Schalter zur Modellverbesserung im Bereich Datenschutz, bei Gemini die Einstellung „Aktivitäten behalten“. Wie das geht, steht im Kasten oben.

Ist ChatGPT DSGVO- oder HIPAA-konform?

Nicht automatisch. In den USA bietet OpenAI seit Januar 2026 mit „ChatGPT for Healthcare“ ein eigenes Produkt für Kliniken an, das mit einem gesonderten Vertrag die US-Gesundheitsdatenregeln (HIPAA) erfüllen soll. Die normalen Versionen Free, Plus und das normale Business-Abo sind davon ausdrücklich nicht abgedeckt. Das Gesundheitsangebot „ChatGPT Health“ für Privatnutzer ist in der EU gar nicht verfügbar. Für die DSGVO gilt im Kern dasselbe: Ohne gesonderte vertragliche Vereinbarungen ist die normale Nutzung für besonders sensible Daten nicht rechtskonform abgesichert.

Kann ich schon eingegebene Daten wieder löschen?

Einzelne Chats lassen sich löschen; laut OpenAI werden sie dann innerhalb von 30 Tagen aus den Systemen entfernt, sofern keine rechtliche Aufbewahrungspflicht besteht. Was bereits fürs Training verwendet wurde, holt das Abschalten aber nicht zurück. Eine Garantie, dass bereits verarbeitete oder zwischengespeicherte Daten vollständig und sofort aus allen Systemen entfernt werden, gibt es nicht – genau das war auch einer der Kritikpunkte, die Samsung zum Verbot von KI-Tools bewogen haben.

Weiterlesen: Wie Angreifer KI-Systeme über Prompt Injection manipulieren, wie du KI-Halluzinationen erkennst und vermeidest, und wie du im Unternehmen Kundendaten mit einem Ampel-System schützt.

Weiterlesen zur KI-Sicherheit: KI-Stimmen-Betrug erkennen — der neue Enkeltrick mit KI-geklonten Stimmen.

Lies auch

KI-SicherheitPrompt Injections: Wie Hacker KI-Systeme manipulieren

KI-SicherheitKI-Browser: Wie sicher sind ChatGPT Atlas, Comet & Co. wirklich?

KI-SicherheitWelche KI halluziniert am wenigsten? Der große Modellvergleich 2026

Hinweis zur Entstehung: Dieser Artikel ist mit KI-Unterstützung entstanden. So arbeite ich