ChatGPT und Claude DSGVO-konform nutzen: Leitfaden 2026

Ja, ChatGPT und Claude können im Unternehmen datenschutzkonform eingesetzt werden. Eine pauschal „DSGVO-konforme“ Version des Tools gibt es aber nicht. Entscheidend ist der konkrete Prozess: Welche Daten fließen wohin, auf welcher Rechtsgrundlage, unter welchem Vertrag, wie lange werden sie gespeichert und welche Folgen kann ein fehlerhafter Output haben?

Für eine erste Freigabe müssen sechs Prüfpunkte zusammenpassen:

Datenklasse und Zweck
Rechtsgrundlage, Rollen und Vertrag
Region, Empfänger und Drittlandtransfer
Training, Protokollierung und Löschung
Datenschutz-Folgenabschätzung und Schutzmaßnahmen
menschliche Prüfung bei relevanten Entscheidungen

Fehlt an einem Punkt eine belastbare Antwort, ist der Use Case noch nicht produktionsreif. Dieser Leitfaden hilft bei der Vorbereitung. Er ersetzt keine Rechtsberatung und keine Prüfung durch Datenschutzbeauftragte oder Fachjuristen.

Die kurze Entscheidung: Freigeben, begrenzen oder stoppen?

Prüffrage	Freigabe wird realistischer, wenn …	Stoppsignal
Welche Daten?	nur öffentliche, minimierte oder belastbar anonymisierte Inhalte verarbeitet werden	besondere Kategorien, Beschäftigtendaten oder umfangreiche Kundenakten ungeprüft in das System fließen
Welcher Zweck?	der Zweck eng beschrieben und die Verarbeitung dafür erforderlich ist	„Wir nutzen jetzt KI“ die einzige Zweckbeschreibung bleibt
Welche Vertragsrolle?	Verantwortlichkeit, Auftragsverarbeitung und Unterauftragsverarbeiter dokumentiert sind	Produktbedingungen und tatsächlicher Datenfluss nicht zusammenpassen
Welche Region?	Speicher-, Support- und Transferpfade vollständig bekannt sind	„EU-Rechenzentrum“ als einzige Transferprüfung dient
Welche Aufbewahrung?	Eingaben, Ausgaben, Dateien, Feedback und Logs getrennt betrachtet und löschbar sind	niemand sagen kann, welche Daten wann verschwinden
Welche Folgen?	Menschen kritische Ergebnisse prüfen und korrigieren können	das Modell allein über Bewerbungen, Leistungen, Verträge oder Ansprüche entscheidet

Die Datenschutzkonferenz stellt in ihrer KI-Orientierungshilfe ebenfalls den gesamten Lebenszyklus in den Mittelpunkt. Datenschutz beginnt vor der Auswahl eines Modells und endet nicht mit dem unterschriebenen Vertrag.

Schritt 1: Daten klassifizieren, bevor Sie ein Tool auswählen

Die wichtigste Entscheidung fällt nicht zwischen ChatGPT und Claude. Sie fällt zwischen den Datenklassen.

Datenklasse	Beispiele	Sinnvoller Startpunkt
öffentlich und nicht personenbezogen	veröffentlichte Produkttexte, allgemeine Ideen, öffentliches Fachwissen	Nutzung mit klarer Qualitätsprüfung; Geschäftsgeheimnisse und Urheberrechte separat beachten
interne, nicht personenbezogene Informationen	Prozessbeschreibungen, Vorlagen, interne Dokumentation	Vertraulichkeit, Zugriffsrechte und Anbieterbedingungen prüfen
gewöhnliche personenbezogene Daten	Namen, E-Mails, Kundenvorgänge, Gesprächsnotizen	vollständige DSGVO-Prüfung vor der Verarbeitung
besonders sensible oder folgenreiche Daten	Gesundheitsdaten, biometrische Daten zur eindeutigen Identifizierung, umfangreiche Personalakten, Daten für Personalentscheidungen	ohne dokumentierte Datenschutz-, Sicherheits- und Rechtsprüfung nicht in ein externes System geben

Eine entfernte Namenszeile macht einen Datensatz nicht automatisch anonym. Wenn eine Person mit Zusatzwissen wieder identifiziert werden kann, können die Daten weiterhin personenbezogen sein. Auch ein KI-Modell ist nicht automatisch anonym, nur weil es keine klassische Kundendatenbank ist. Der Europäische Datenschutzausschuss verlangt bei KI-Modellen eine Einzelfallprüfung. Die BfDI-Konsultation zu personenbezogenen Daten in KI-Modellen zeigt ebenfalls, dass Extraktionsrisiken und mögliche Schutzmaßnahmen differenziert bewertet werden müssen.

Praktische Regel: Wenn der Use Case ohne personenbezogene Daten funktioniert, entfernen Sie diese vor der Übermittlung. Pseudonymisierte Daten bleiben in der Regel personenbezogen, reduzieren aber bei sauber getrenntem Zuordnungsschlüssel das Risiko.

Schritt 2: Zweck, Rechtsgrundlage und Rollen festlegen

„Texte mit KI bearbeiten“ ist kein ausreichend genauer Verarbeitungszweck. Besser ist: „eingehende Supportanfragen nach Thema vorsortieren, damit Mitarbeitende sie dem zuständigen Team zuweisen können“.

Aus dem Zweck folgen die nächsten Fragen:

Welche Eingabe ist wirklich erforderlich?
Welche Ausgabe wird gespeichert oder weiterverwendet?
Wer entscheidet über Zweck und Mittel der Verarbeitung?
Handelt der Anbieter für Ihr Unternehmen als Auftragsverarbeiter oder für einzelne Vorgänge eigenständig?
Welche Rechtsgrundlage trägt die Verarbeitung?
Wie werden Informationspflichten und Betroffenenrechte erfüllt?

Wenn ein Anbieter als Auftragsverarbeiter tätig wird, gehört ein Vertrag nach Art. 28 DSGVO in die Prüfung. Der Vertrag muss zur tatsächlich genutzten Produktvariante passen. Ein Vertrag für eine API deckt nicht automatisch ein separates privates Chatbot-Konto ab.

Der AVV ist kein Freifahrtschein. Die Grundsätze aus Art. 5 DSGVO sowie Rechtsgrundlage, Sicherheit und Datenschutz-Folgenabschätzung bleiben Aufgaben des verantwortlichen Unternehmens.

Schritt 3: EU-Region und Drittlandtransfer getrennt prüfen

„Datenresidenz in der EU“ ist eine technische und vertragliche Eigenschaft. „Kein Drittlandtransfer“ ist eine Aussage über den vollständigen Datenfluss. Beides ist nicht automatisch dasselbe.

Prüfen Sie deshalb mindestens:

Wo werden Eingaben, Ausgaben und hochgeladene Dateien verarbeitet und gespeichert?
Wo liegen Konto-, Abrechnungs-, Sicherheits- und Telemetriedaten?
Können Support- oder Sicherheitsteams aus Drittländern zugreifen?
Welche Unterauftragsverarbeiter sind beteiligt?
Welche Transfergrundlage wird genutzt, falls Daten den Europäischen Wirtschaftsraum verlassen?
Ändert eine aktivierte Funktion, etwa Websuche, Connector oder Dateiablage, den Datenfluss?

Erst diese Antworten zeigen, ob Angemessenheitsbeschluss, Standardvertragsklauseln und gegebenenfalls zusätzliche Schutzmaßnahmen zu prüfen sind. Eine Regionsauswahl im Administrationsbereich ersetzt diese Arbeit nicht.

Schritt 4: Training, Logs und Löschung nicht vermischen

Viele Freigaben bleiben bei der Frage stehen: „Trainiert der Anbieter mit unseren Daten?“ Das ist wichtig, aber zu kurz gedacht. Ein System kann Eingaben vom Modelltraining ausschließen und sie trotzdem für Sicherheitsprotokolle, Anwendungszustand, Dateispeicher, Feedback oder administrative Nachweise aufbewahren.

Die offiziellen Anbieterinformationen zeigen, wie stark Produkt und Konfiguration zählen:

In der OpenAI-Dokumentation zur API steht, dass API-Daten standardmäßig nicht zum Training genutzt werden, sofern der Kunde nicht ausdrücklich zustimmt. Standardmäßige Missbrauchsprotokolle können Kundeninhalte enthalten und bis zu 30 Tage gespeichert werden. Einige Funktionen speichern zusätzlich Anwendungszustand; besondere Aufbewahrungskontrollen sind nur für berechtigte und freigeschaltete Kunden verfügbar.
Anthropic erklärt für kommerzielle Produkte, dass Ein- und Ausgaben standardmäßig nicht für das Modelltraining genutzt werden. Ausdrücklich übermitteltes Feedback oder eine bewusste Datenfreigabe bilden einen separaten Verarbeitungspfad.

Diese Aussagen sind keine Datenschutzfreigabe für ChatGPT oder Claude insgesamt. Sie belegen, warum Unternehmen die konkrete Oberfläche, API, Vertragsversion, Region und aktivierten Funktionen dokumentieren müssen.

Für den internen Prüfvermerk sollten Sie fünf Speicherarten getrennt erfassen:

Speicherart	Zu klärende Frage
Prompt und Antwort	Werden Inhalte protokolliert, wie lange und zu welchem Zweck?
Dateien und Wissensspeicher	Werden Dokumente automatisch gelöscht oder bis zur manuellen Löschung gehalten?
Sicherheits- und Missbrauchslogs	Können Inhalte enthalten sein und gibt es verkürzte Aufbewahrungsoptionen?
Feedback	Wird bei einer Bewertung die gesamte Unterhaltung an den Anbieter übertragen?
eigene Systemlogs	Welche personenbezogenen Daten speichert Ihr Unternehmen selbst und wer darf sie sehen?

Ein gutes Löschkonzept beschreibt nicht nur eine Frist. Es legt auch Verantwortliche, Auslöser, technische Löschpfade und einen Test fest. Wenn niemand die Löschung in einer Testumgebung nachweisen kann, ist sie noch kein belastbarer Prozess.

Schritt 5: DSFA und technische Schutzmaßnahmen prüfen

Eine Datenschutz-Folgenabschätzung ist nach Art. 35 DSGVO erforderlich, wenn die geplante Verarbeitung voraussichtlich ein hohes Risiko für Rechte und Freiheiten natürlicher Personen verursacht. Dafür gibt es keine einfache Regel wie „Claude ja, ChatGPT nein“ oder „ab 100 Datensätzen“.

Die Prüfung wird besonders wichtig, wenn mehrere Faktoren zusammenkommen:

sensible oder umfangreiche personenbezogene Daten
systematische Bewertung, Profiling oder Überwachung
Beschäftigte, Bewerbende, Kinder oder andere schutzbedürftige Personen
Entscheidungen mit rechtlicher oder ähnlich erheblicher Wirkung
neue technische Kombinationen mit schwer überschaubaren Folgen
begrenzte Möglichkeiten, Fehler zu erkennen oder zu korrigieren

Die 2025 veröffentlichte DSK-Orientierungshilfe zu technischen und organisatorischen Maßnahmen bei KI-Systemen ist dafür ein sinnvoller Prüfrahmen. In der Praxis gehören mindestens Zugriffskontrollen, Datenminimierung, sichere Konfiguration, Protokollierung, Tests, Löschung, Incident-Prozesse und regelmäßige Neubewertung in das Schutzkonzept.

Schritt 6: Human Review ist ein Prozess, kein Hinweistext

„Ein Mensch prüft das Ergebnis“ hilft nur, wenn diese Prüfung tatsächlich wirksam ist. Eine Person muss ausreichend Zeit, Fachwissen, Informationen und Entscheidungsspielraum haben, um dem Modell zu widersprechen.

Für einen belastbaren Review-Pfad sollten Sie festlegen:

Welche Ergebnisse dürfen nur als Vorschlag erscheinen?
Welche Fälle müssen immer an einen Menschen gehen?
Woran erkennt die prüfende Person Unsicherheit oder fehlende Quellen?
Wie kann sie korrigieren, eskalieren und den Vorgang dokumentieren?
Welche Stichproben zeigen, ob Menschen nur noch automatisch bestätigen?

Bei Entscheidungen über Bewerbungen, Arbeitsleistung, Verträge, Kreditwürdigkeit oder Ansprüche reicht ein allgemeiner Disclaimer nicht. Hier müssen Sie zusätzlich Art. 22 DSGVO, die konkrete Rechtsgrundlage und die Risikoeinordnung nach dem AI Act prüfen.

Welche Betriebsform passt zu welcher Datenklasse?

Keine der folgenden Varianten ist durch ihre Bauform automatisch DSGVO-konform. Sie bieten nur unterschiedliche Kontrollmöglichkeiten.

Betriebsform	Geeignet als Startpunkt	Typische Lücke
privates oder kostenloses Chatbot-Konto	öffentliche Inhalte, Ideen, konsequent anonymisierte Tests	begrenzte Vertrags-, Admin-, Protokollierungs- oder Löschkontrollen
verwalteter Business-Workspace	klar abgegrenzte Assistenzaufgaben mit geprüften Bedingungen	Schattennutzung, falsche Freigaben und aktivierte Zusatzfunktionen
eigene API-Integration	feste Datenflüsse, Rollen, Filter, Löschung und Human Review	eigene Anwendung muss Datenschutz und Sicherheit tatsächlich umsetzen
lokal oder hybrid betriebenes Modell	besonders hohe Vertraulichkeits- oder Kontrollanforderungen	Betrieb, Updates, Modellrisiken und Datenschutz liegen stärker beim eigenen Unternehmen

Für wiederkehrende Prozesse ist eine eigene LLM-Integration in die Unternehmenssoftware oft besser kontrollierbar als manuelle Copy-and-paste-Nutzung. Sie kann Daten vor der Übermittlung reduzieren, Zugriffe begrenzen, Ergebnisse in eine Review-Queue leiten und Löschregeln technisch erzwingen. Sie ist aber kein automatischer Compliance-Nachweis.

Checkliste vor der Freigabe von ChatGPT oder Claude

Ein produktiver Use Case sollte diese Punkte schriftlich beantworten:

Der Geschäftszweck und die zulässigen Nutzergruppen sind beschrieben.
Eingaben, Ausgaben, Metadaten, Dateien und Feedback sind im Datenfluss erfasst.
Personenbezogene Daten werden entfernt oder minimiert, soweit sie nicht erforderlich sind.
Rechtsgrundlage und Informationspflichten sind geprüft.
Verantwortlichkeit, AVV und Unterauftragsverarbeiter sind dokumentiert.
Region, Support-Zugriffe und mögliche Drittlandtransfers sind geklärt.
Training, Missbrauchslogs, Anwendungszustand und Feedback sind separat bewertet.
Speicherfristen und Löschwege sind technisch getestet.
Rollen, Berechtigungen und eine Regel gegen private Schattenkonten sind umgesetzt.
Die Erforderlichkeit einer DSFA ist begründet entschieden.
Human Review und Eskalation sind bei folgenreichen Ergebnissen verbindlich.
Änderungen an Modell, Vertrag, Region und Funktionen lösen eine neue Prüfung aus.

Eine interne Freigabe sollte an den Use Case gebunden sein, nicht nur an den Anbieternamen. „Claude für Support-Triage mit diesen Datenfeldern und diesen Einstellungen“ ist prüfbar. „Claude ist freigegeben“ ist es nicht.

DSGVO und EU AI Act: zwei getrennte Prüfungen

Die DSGVO fragt: Ist die Verarbeitung personenbezogener Daten rechtmäßig und angemessen geschützt? Der AI Act fragt: Welche Risiken und Pflichten entstehen durch das KI-System, seine Rolle und seinen Einsatz? Beide Regelwerke können gleichzeitig gelten.

Nach der aktuellen Übersicht der Europäischen Kommission ist der AI Act seit 1. August 2024 in Kraft. Die Pflichten zur KI-Kompetenz gelten seit 2. Februar 2025. Transparenzpflichten für bestimmte KI-Systeme werden ab August 2026 relevant. Die konkrete Einordnung und der zeitliche Anwendungsbeginn weiterer Pflichten müssen je Rolle und Use Case geprüft werden.

Ein interner Schreibassistent wird nicht allein durch die Nutzung eines großen Sprachmodells zum Hochrisiko-System. Ein System für Einstellung, Auswahl, Leistungsbewertung oder andere Beschäftigungsentscheidungen kann dagegen in den Hochrisikobereich fallen. Auch außerhalb dieser Kategorie bleiben Datenschutz, Transparenz, Sicherheit und wirksame menschliche Aufsicht relevant.

So würden wir den ersten Einsatz aufsetzen

Starten Sie nicht mit dem sensibelsten Datensatz und nicht mit einer unternehmensweiten Freigabe. Wählen Sie einen eng begrenzten Prozess, bei dem ein Mensch das Ergebnis prüft und Fehler korrigieren kann.

Ein sinnvoller erster Durchlauf sieht so aus:

Use Case und verbotene Datenarten auf einer Seite festhalten.
Mit synthetischen oder sorgfältig bereinigten Beispielen testen.
Vertrag, Region, Aufbewahrung und Löschung am konkreten Produkt prüfen.
Qualitäts- und Datenschutzkriterien vor dem Pilot definieren.
Einen kleinen Nutzerkreis schulen und technisch begrenzen.
Ergebnisse und Vorfälle auswerten, erst dann erweitern.

Wenn noch unklar ist, welcher Prozess überhaupt geeignet ist, hilft der KI-Readiness-Check bei der Priorisierung. Den strategischen Rahmen finden Sie im Pillar KI im Mittelstand.

Für eine konkrete Architektur prüfen wir Datenfluss, Anbieterrolle, Schutzmaßnahmen und Human Review gemeinsam mit Ihren Datenschutzverantwortlichen. Die rechtliche Freigabe bleibt bei Ihrem Unternehmen und seiner Beratung.

KI-Einsatz konkret besprechen

Geschrieben von Simon Maiwald, Gründer von New Life Digital im MAFINEX Mannheim. Fachlich geprüft am 15. Juli 2026 anhand der oben genannten Primärquellen.

Quellen und weiterführende Dokumente

Orientierungshilfe der DSK zu Künstlicher Intelligenz und Datenschutz Datenschutzkonferenz
Orientierungshilfe zu technischen und organisatorischen Maßnahmen bei KI-Systemen Datenschutzkonferenz
Opinion 28/2024 on data protection aspects related to AI models European Data Protection Board
KI-Modelle und personenbezogene Daten Bundesbeauftragte für den Datenschutz und die Informationsfreiheit
Datenschutz-Grundverordnung EUR-Lex
AI Act: Regulatory framework for artificial intelligence Europäische Kommission
Data controls in the OpenAI platform OpenAI
Is my data used for model training? Anthropic

Häufige Fragen

Kurz und direkt beantwortet.

Kann ein Unternehmen ChatGPT oder Claude DSGVO-konform nutzen?

Ja, ein datenschutzkonformer Einsatz kann möglich sein. Entscheidend ist aber nicht der Anbietername, sondern der konkrete Verarbeitungsvorgang: Zweck und Rechtsgrundlage, Datenkategorien, Rollen und Vertrag, Empfänger und Drittlandtransfers, Speicherfristen, technische Schutzmaßnahmen sowie die Prüfung, ob eine Datenschutz-Folgenabschätzung nötig ist. Eine pauschale Freigabe für alle Daten und Anwendungsfälle gibt es nicht.

Reicht ein Auftragsverarbeitungsvertrag mit dem KI-Anbieter aus?

Nein. Ein Vertrag nach Art. 28 DSGVO ist wichtig, wenn der Anbieter als Auftragsverarbeiter handelt. Er ersetzt aber weder die Rechtsgrundlage noch Zweckbindung, Datenminimierung, Transferprüfung, Löschkonzept, technische und organisatorische Maßnahmen oder die Prüfung einer Datenschutz-Folgenabschätzung. Auch die tatsächliche Produktkonfiguration muss zum Vertrag passen.

Ist EU-Datenresidenz automatisch DSGVO-konform?

Nein. Eine EU-Region kann Risiken reduzieren, beantwortet aber nicht alle Fragen. Zu prüfen bleiben unter anderem Support-Zugriffe, Unterauftragsverarbeiter, Metadaten, Telemetrie, mögliche Drittlandtransfers, Rechtsgrundlage, Speicherfristen und Betroffenenrechte. Maßgeblich ist der vollständige Datenfluss, nicht nur der Standort des primären Rechenzentrums.

Wann braucht ein KI-Einsatz eine Datenschutz-Folgenabschätzung?

Nach Art. 35 DSGVO ist eine Datenschutz-Folgenabschätzung erforderlich, wenn die geplante Verarbeitung voraussichtlich ein hohes Risiko für die Rechte und Freiheiten natürlicher Personen verursacht. Das hängt vom Use Case ab, nicht allein vom Produktnamen. Relevante Faktoren können Umfang und Sensibilität der Daten, systematische Bewertung, Überwachung, Betroffenheit von Beschäftigten oder anderen schutzbedürftigen Gruppen und die Folgen fehlerhafter Ergebnisse sein.

Dürfen Beschäftigtendaten in ChatGPT oder Claude verarbeitet werden?

Das ist nur nach einer konkreten Prüfung vertretbar. Unternehmen müssen Zweck, Rechtsgrundlage, Erforderlichkeit, Zugriffsrechte, Aufbewahrung und mögliche Folgen für Beschäftigte klären. Bei Bewertung, Auswahl oder Überwachung von Personen steigen die Anforderungen deutlich. Datenschutzbeauftragte, Personalverantwortliche und gegebenenfalls der Betriebsrat sollten vor dem produktiven Einsatz eingebunden werden.

Sind kostenlose oder private Chatbot-Konten für Unternehmen geeignet?

Für öffentliche oder konsequent anonymisierte Inhalte kann ein eng begrenzter Einsatz möglich sein. Sobald personenbezogene, vertrauliche oder entscheidungsrelevante Daten verarbeitet werden, fehlen privaten Konten häufig die nötigen Vertrags-, Administrations-, Protokollierungs- und Löschkontrollen. Entscheidend sind die aktuellen Bedingungen und Einstellungen des konkreten Produkts, nicht das Etikett kostenlos oder bezahlt.

Was hat der EU AI Act mit der DSGVO zu tun?

Der EU AI Act und die DSGVO regeln unterschiedliche Fragen und können gleichzeitig gelten. Die DSGVO betrifft die Verarbeitung personenbezogener Daten. Der AI Act ordnet KI-Systeme nach Risiken ein und legt je nach Rolle und Einsatz Pflichten fest. Eine datenschutzrechtlich zulässige Verarbeitung erfüllt deshalb nicht automatisch alle Anforderungen des AI Act und umgekehrt.