Ein KI-Chat ist kein Gespräch unter vier Augen: Was du in ChatGPT oder Claude eintippst, wird gespeichert, landet im Verlauf und kann in den Privat-Tarifen neue Modelle trainieren, bei ChatGPT ab Werk, bei Claude seit August 2025 nach deiner Wahl. Sieben Regeln halten Zugangsdaten, Kundennamen und Gesundheitsdaten draußen, zwei Schalter stellen das Training ab.
Diese Seite zeigt die sieben Punkte offen, mit den Belegen daneben. Der gebrandete Datenschutz-Zettel zum Ausdrucken und Ausfüllen liegt als PDF unten. Was hier steht, ist unsere Praxis und keine Rechtsberatung.
Warum ist das ein Thema, wenn ich nur einen Kundenfall einfüge?
Weil der Fall nicht bei dir bleibt. Der Hamburgische Beauftragte für Datenschutz und Informationsfreiheit nennt in seiner Checkliste zum Einsatz LLM-basierter Chatbots vom 13. November 2023 beide Risiken beim Namen: Die Sprachmodelle laufen in einer Cloud, viele Unternehmen arbeiten mit demselben Modell, Eingaben können für das weitere Training genutzt werden, und so können Geschäftsgeheimnisse und persönliche Daten beim Anbieter landen. Die Checkliste ist eine Hilfestellung, kein Gesetz, aber sie kommt von einer Aufsichtsbehörde.
Mit der Sorge bist du nicht allein. Von den Unternehmen, die KI in Betracht gezogen haben und bisher nicht nutzen, nennen 60 Prozent Bedenken hinsichtlich des Datenschutzes und der Privatsphäre als Grund, bei 10 bis 49 Beschäftigten ebenfalls 60 Prozent (Statistisches Bundesamt, IKT-Erhebung 2025, Stand 24. November 2025). Nur fehlendes Wissen wird häufiger genannt. Die Erhebung zählt Unternehmen ab 10 Beschäftigten, Solo-Selbstständige sind nicht darin. Im selben Jahr nutzten 26 Prozent der Unternehmen KI, bei 10 bis 49 Beschäftigten 23 Prozent (Destatis, KI-Nutzung nach Beschäftigtengrößenklassen 2025).
Die Antwort darauf ist nicht, die Werkzeuge wegzulegen. Sie ist eine kurze Liste, was reingeht und was nicht, und zwei Schalter, die du einmal umlegst.
Was darf ich nicht in ChatGPT oder Claude eingeben?
Keine Zugangsdaten. Passwörter, Zugangscodes, Schlüssel für Schnittstellen und Logins haben in einem Chat nichts zu suchen, auch nicht kurz zum Testen. Ein Chat wird gespeichert, und wer an dein Konto kommt, liest ihn mit. Schreib einen Platzhalter wie [PASSWORT] und trag den echten Wert erst dort ein, wo er hingehört. Die Regel kommt aus unserem eigenen Betrieb: Zugangsdaten benutzen wir, aber wir schreiben sie nirgends hin. Was ein Schlüssel an der falschen Stelle kostet, habe ich einmal bezahlt, die Geschichte steht in Meta Ads automatisieren mit Claude Code.
Den Fall behalten, die Person rausnehmen. Die KI braucht deinen Fall, nicht den Namen deines Kunden. Kunde A statt Name, Branche statt Firmenname, gerundete Zahlen statt exakter Umsätze. Name allein reicht dabei nicht: Die Datenschutzkonferenz der Aufsichtsbehörden von Bund und Ländern schreibt in ihrer Orientierungshilfe „Künstliche Intelligenz und Datenschutz“ vom 6. Mai 2024, es reiche regelmäßig nicht, Namen und Anschriften aus einer Eingabe zu entfernen, weil sich aus dem Zusammenhang gegebenenfalls ein Personenbezug herstellen lasse (Randnummer 49). Deshalb die Frage vor jedem Einfügen: Würde ich das einem Fremden zeigen?
Besondere Daten bleiben draußen. Gesundheitsangaben, Ausweis- und Kontonummern, Gehälter, Bewerbungen mit Foto. Gesundheitsdaten gehören zu den besonderen Kategorien personenbezogener Daten. Ihre Verarbeitung ist nach Artikel 9 Absatz 1 DSGVO grundsätzlich verboten und nur ausnahmsweise unter den Voraussetzungen der Absätze 2 bis 4 erlaubt, etwa mit ausdrücklicher Einwilligung, und das gilt für die Eingabe genauso wie für die Ausgabe, so fasst es die Datenschutzkonferenz in derselben Orientierungshilfe zusammen (Randnummer 62). Konto- und Ausweisnummern öffnen Betrug die Tür. Das Bundesamt für Sicherheit in der Informationstechnik rät auf seiner Verbraucherseite zu generativer KI, sich gut zu überlegen, welche Informationen man mit der Anwendung teilt, „besonders vor der Eingabe sensibler oder gar vertraulicher Daten“, weil der Betreiber auf Ein- und Ausgaben zugreifen kann und auch Unbefugte sich Zugang verschaffen könnten. Brauchst du eine Auswertung, beschreib das Muster mit erfundenen Werten.
Wie schalte ich das KI-Training bei ChatGPT und Claude aus?
ChatGPT. Bei persönlichen Workspaces mit ChatGPT Free, Plus oder Pro ist das Teilen von Daten standardmäßig aktiviert, so steht es in der Hilfeseite zu den Datenkontrollen. Der Weg: Einstellungen, Datenkontrollen, „Das Modell für alle verbessern“ deaktivieren. Die Einstellung gilt für dein Konto auf allen Geräten, und sie löscht keine gespeicherten Chats. Wer Chats loswerden will, löscht sie getrennt.
Claude. Seit dem 28. August 2025 fragt Anthropic Nutzer der Pläne Free, Pro und Max, ob ihre Chats neue Modelle trainieren dürfen. Wer zustimmt, dessen neue und wieder aufgenommene Chats darf Anthropic bis zu fünf Jahre aufbewahren, wer nicht zustimmt, bleibt bei der bisherigen Frist von 30 Tagen (Anthropic, Ankündigung zu den Verbraucherbedingungen, 28. August 2025). Der Schalter liegt laut Anthropics Hilfeseite unter Einstellungen, Datenschutz, „Helfen Sie uns, unsere KI-Modelle zu verbessern“. Wie du Claude Desktop auf dem Mac einrichtest und welche Rechte du der App gibst, steht in Claude Desktop für Mac.
Die Anbieter benennen Menüs gern um. Heißen die Schalter bei dir anders, such in den Einstellungen nach Training oder verbessern. Stand dieser Seite: November 2026.
Dass der Schalter die richtige Richtung ist, sagen auch die Behörden. Die Hamburger Checkliste führt das Opt-out des KI-Trainings als eigenen Punkt, die Datenschutzkonferenz nennt Anwendungen, die Ein- und Ausgaben nicht zu Trainingszwecken verwenden, datenschutzrechtlich vorzugswürdig (Randnummer 24), und das BSI empfiehlt Unternehmen in seinem Management-Blitzlicht „Sichere generative KI in Organisationen und Unternehmen“ (Stand Juli 2024), Firmenaccounts datensparsam zu konfigurieren, die Verwendung der eigenen Daten für Trainings zu verbieten und Löschfristen für Chats zu setzen.
Was bringt der temporäre Chat bei ChatGPT, und was nicht?
Für Fragen, die du nicht im Verlauf haben willst, gibt es bei ChatGPT den temporären Chat. Solange er temporär ist, wird er laut OpenAI-Hilfe nicht im Chatverlauf angezeigt, erstellt und aktualisiert keine Erinnerungen und wird nicht zur Verbesserung der Modelle verwendet. Eine Kopie kann OpenAI aus Sicherheitsgründen bis zu 30 Tage aufbewahren. Zwei Fallen: Ein personalisierter temporärer Chat darf vorhandene Erinnerungen nutzen, also die Personalisierung beim Start ausschalten, wenn das nicht gewollt ist. Und wer ihn später speichert, macht ihn zum normalen Chat mit allen Einstellungen des Kontos. Starte ihn deshalb, bevor du die Frage stellst, nicht danach. Für Kundendaten gelten trotzdem die Regeln oben.
Dazu gehört das Ausmisten der Erinnerungen. Die Erinnerungsfunktion steuert, wie ChatGPT Antworten personalisiert, und ist von der Trainingseinstellung getrennt (dieselbe Hilfeseite). Schau einmal im Monat nach, was gespeichert ist, und lösch, was weg soll. Ein Eintrag mit einem Kundennamen gehört immer dazu. Wird ein Konto von mehreren Leuten genutzt, rät die Hamburger Checkliste außerdem, den Verlauf abzuwählen, weil Inhalte sonst für alle Kollegen einsehbar sind.
Dürfen Kundendaten überhaupt in eine KI?
Über ein privates Konto nicht. Die Hamburger Checkliste sagt es deutlich: Lässt sich der Anbieter in den Geschäftsbedingungen eine Verwendung für eigene Zwecke einräumen, dürfen keine personenbezogenen Daten an die KI übermittelt werden, und eine Rechtsgrundlage dafür werde sich in der Regel nicht finden lassen. Die Datenschutzkonferenz empfiehlt für die berufliche Nutzung betriebliche Accounts statt privater, mit Funktions-Adresse und so eingestellt, dass keine Eingaben zu Trainingszwecken verarbeitet und keine Eingabe-Historie über die Sitzung hinaus gespeichert wird (Randnummern 41 bis 43).
Wenn Kundendaten wirklich in eine KI müssen, dann über ein Geschäftskonto mit Vertrag zur Auftragsverarbeitung. Die Datenschutzkonferenz sieht zwischen dem Anbieter einer KI-Anwendung in der Cloud und dem Unternehmen, das sie zu eigenen Zwecken einsetzt, häufig ein Auftragsverarbeitungsverhältnis nach Artikel 28 DSGVO, mit der Folge, dass eine Vereinbarung nach Artikel 28 Absatz 3 abzuschließen ist (Randnummer 32). OpenAI erklärt auf seiner Seite zu Geschäftsdaten, standardmäßig keine Daten aus ChatGPT Enterprise, Business, Edu und der API-Plattform zum Training zu verwenden, und unterstützt Geschäftskunden beim Abschluss eines Data Processing Addendum. Anthropic darf laut seinen Commercial Terms (Stand 17. Juni 2025) nicht mit Kundeninhalten aus den Diensten trainieren, die diesen Bedingungen unterliegen, also Claude for Work mit Team und Enterprise und die API, und das Data Processing Addendum ist Teil dieser Bedingungen. Für Kunden im Europäischen Wirtschaftsraum ist der Vertragspartner Anthropic Ireland, Limited. Beides sind Aussagen der Anbieter über sich selbst, keine Prüfung durch eine Behörde.
Leg einmal fest, über welches Konto Kundendaten laufen dürfen, und schreib es auf. Alles andere läuft über Kunde A. Dieselbe Frage stellt sich, sobald an einer Website, die du mit KI gebaut hast, echte Kundendaten hängen, dazu Website mit Claude Code erstellen.
Im PDF stehen die sieben Punkte mit Warum und Praxis zum Weitergeben ans Team, dazu der Datenschutz-Zettel zum Ausdrucken: Training ausgeschaltet, je Werkzeug mit Datum, was bei euch nie in einen Chat geht, eure Regel zum Anonymisieren, das Konto, über das Kundendaten laufen dürfen, die letzte Prüfung der Erinnerungen und wer im Team die Regeln kennt. Trag unten deine E-Mail ein, dann kommt es sofort.