KI-Agenten und DSGVO: die kurze Antwort

Seit dem 10. Juli 2023 können sich Datenübermittlungen an zertifizierte US-Unternehmen auf den Angemessenheitsbeschluss zum EU-US Data Privacy Framework stützen. Gegen diesen Beschluss wurde beim EuGH ein Rechtsmittel eingelegt. Hier siehst du vier wichtige Weichen, wenn du KI-Agenten oder ChatGPT mit personenbezogenen Daten DSGVO-konform nutzen willst. Alle Pflichten decken sie nicht ab.

Ein DSGVO-konformer Anbieter macht deinen KI-Einsatz nicht automatisch konform. Du musst nachweisen können, welche Daten wohin fließen, auf welcher Rechtsgrundlage, mit welchem Vertrag und auf welchem Übermittlungsweg.

Dieser Artikel gibt dir einen Überblick. Eine Rechtsberatung im Einzelfall ersetzt er nicht.

Weiche 1: Wohin gehen die Daten?

EU-Hosting heißt nicht, dass keine Daten den EWR verlassen. Modellaufrufe, Telemetrie, Supportzugriffe und Unterauftragnehmer können außerhalb liegen. Prüfe jeden dieser Datenflüsse einzeln.

Eine Option ist, das Modell so zu betreiben, dass die Modellaufrufe den EWR nicht verlassen, etwa bei einem Anbieter mit Verarbeitung im EWR oder auf eigenen Servern. Eine Drittlandübermittlung lässt sich für diese Aufrufe aber nur ausschließen, wenn dabei auch kein eigenständiger Empfänger im Drittland Zugang zu personenbezogenen Daten erhält.

Erledigt ist die Transferfrage damit nicht. Nach den Leitlinien 05/2021 des Europäischen Datenschutzausschusses ist auch der Fernzugriff eines Dienstleisters aus einem Drittland, etwa für Support, eine Übermittlung. Unterliegt ein Anbieter in der EU dem Recht eines Drittlands, musst du außerdem prüfen, ob er seine Pflichten als Auftragsverarbeiter trotzdem erfüllen kann.

Für Übermittlungen in ein Drittland wie die USA verlangt Kapitel V DSGVO eine Grundlage. Die beiden üblichen Wege sind Alternativen, kein Paket:

  • Angemessenheitsbeschluss (Art. 45). Ist der Empfänger unter dem Data Privacy Framework (DPF) zertifiziert, trägt der Beschluss die Übermittlung. Standardvertragsklauseln brauchst du dafür nicht zusätzlich.
  • Standardvertragsklauseln (Art. 46). Ein möglicher Weg, wenn kein Angemessenheitsbeschluss greift. Die Klauseln der EU-Kommission gelten für Empfänger, deren betreffende Verarbeitung nicht schon der DSGVO unterliegt, und du wählst das Modul, das zu den Rollen passt. Dazu gehört eine dokumentierte Beurteilung, ob Recht und Praxis im Zielland die Einhaltung der Klauseln zulassen (Klausel 14). Zeigt sie Schutzlücken, kommt es auf Zusatzmaßnahmen an, die diese Lücken wirksam schließen. Lassen sich keine geeigneten Garantien gewährleisten, sieht Klausel 14 die Aussetzung der Übermittlung vor.

Der Vertrag deines Anbieters nennt mögliche Übermittlungswege. Ob einer davon trägt, hängt auch vom konkreten Datenfluss, vom Empfänger und von den Voraussetzungen des jeweiligen Wegs ab. Das Data Processing Addendum von OpenAI nennt für Weitergaben aus dem EWR zum Beispiel beide: Standardvertragsklauseln oder einen Angemessenheitsbeschluss.

Wie stabil ist das Data Privacy Framework?

Stand 26. September 2026 ist der Beschluss laut EUR-Lex in Kraft. Ob er hält, ist offen. Die beiden Vorgänger, Safe Harbor und Privacy Shield, hat der EuGH 2015 und 2020 für ungültig erklärt. Das Rechtsmittel C-703/25 P führt InfoCuria zum selben Stand als anhängig. Außerdem hat noyb am 29. Juni 2026 eine weitere Klage angekündigt.

Halte deshalb fest, welche Übermittlungen am DPF hängen. Fällt es weg, weißt du, wo du umstellen musst.

Belege: Schrems I (C-362/14), Schrems II (C-311/18), Abweisung der Klage von Philippe Latombe am 3. September 2025 (T-553/23), Rechtsmittel vom 31. Oktober 2025 (C-703/25 P), Ankündigung von noyb vom 29. Juni 2026 (noyb.eu) nach dem US-Urteil Trump v. Slaughter.

Weiche 2: Welche Daten fließen ein?

Die Art der Daten ist ein zentraler Prüfpunkt. Welche Pflichten bestehen, hängt aber auch von Zweck, Umfang, Umständen und Risiken der Verarbeitung ab.

  • Personenbezogene Daten wie Namen, E-Mail-Adressen oder Kundennummern: Sobald sie im Prompt stehen, gilt die DSGVO. Ob dein Anbieter dabei Auftragsverarbeiter nach Art. 28 ist, hängt davon ab, ob er nur nach deiner Weisung verarbeitet. Das klärst du gesondert.
  • Besondere Kategorien nach Art. 9, etwa Gesundheitsdaten, Gewerkschaftszugehörigkeit oder biometrische Daten zur Identifizierung: Neben einer Rechtsgrundlage nach Art. 6 brauchst du eine Ausnahme nach Art. 9 Abs. 2, zum Beispiel eine ausdrückliche Einwilligung oder eine arbeitsrechtliche Grundlage.
  • Keine personenbezogenen Daten, etwa allgemeine Geschäftstexte: Die DSGVO greift für diesen Vorgang nur dann nicht, wenn auch Anmeldung, Verarbeitung und Ausgabe keinen Personenbezug haben. Name und Kundennummer zu streichen reicht dafür oft nicht. Lässt sich die Person mit Mitteln, die wahrscheinlich genutzt würden, wieder bestimmen, bleiben die Daten personenbezogen (Erwägungsgrund 26). Pseudonymisierte Daten bleiben für dich personenbezogen, solange du die Zuordnung herstellen kannst (EuGH, C-413/23 P).

Eine Datenschutz-Folgenabschätzung (DSFA) nach Art. 35 brauchst du bei voraussichtlich hohem Risiko, zum Beispiel bei umfangreicher Verarbeitung von Art.-9-Daten. Für KI im Kundenkontakt wichtig: Die DSFA-Liste der deutschen Aufsichtsbehörden (Version 1.1, 2018) nennt KI, die personenbezogene Daten verarbeitet, um die Interaktion mit Betroffenen zu steuern, mit dem Einsatzfeld Kundensupport.

Weiche 3: Welcher Vertrag gilt?

Verarbeitet der KI-Anbieter personenbezogene Daten in deinem Auftrag, brauchst du nach Art. 28 Abs. 3 einen Auftragsverarbeitungsvertrag (AVV). Bei KI-Anbietern zählen vor allem drei Punkte:

  • Weisung: Der Anbieter verarbeitet nur auf deine dokumentierte Weisung, außer Unions- oder Mitgliedstaatenrecht verpflichtet ihn zu einer Verarbeitung. Darüber muss er dich grundsätzlich vorher informieren. Nutzt er deine Daten entgegen deiner Weisung für eigene Zwecke, etwa zum Training, gilt er dafür selbst als Verantwortlicher (Art. 28 Abs. 10).
  • Unterauftragnehmer: nur mit deiner vorherigen gesonderten oder allgemeinen schriftlichen Genehmigung (Art. 28 Abs. 2).
  • Löschung: Nach Ende der Leistung löscht er die Daten oder gibt sie nach deiner Wahl zurück und löscht vorhandene Kopien. Ausgenommen sind Daten, die er nach Unions- oder Mitgliedstaatenrecht weiter speichern muss.

OpenAI bietet laut seiner Seite zum Enterprise-Datenschutz ein solches Data Processing Addendum (DPA) für ChatGPT Business, ChatGPT Enterprise und die API an. Für ChatGPT-Konten für Einzelpersonen nennt diese Seite kein DPA. Bevor du solche Konten für personenbezogene Kundendaten nutzt, kläre die Rolle des Anbieters und die vertragliche Grundlage, etwa mit deinem Datenschutzbeauftragten. Liegt Auftragsverarbeitung vor, brauchst du einen AVV.

Weiche 4: Was kannst du nachweisen?

Nach Art. 5 Abs. 2 DSGVO musst du die Einhaltung der Grundsätze nachweisen können („Rechenschaftspflicht“). Für einen KI-Einsatz mit personenbezogenen Daten heißt das:

  • Welche personenbezogenen Daten fließen in welches System?
  • Auf welcher Rechtsgrundlage?
  • Mit welchem AVV und auf welchem Übermittlungsweg?

Ins Verzeichnis nach Art. 30 gehört nicht nur der Name des KI-Systems, sondern die Verarbeitungstätigkeit mit ihren Pflichtangaben. Für Unternehmen mit weniger als 250 Beschäftigten gibt es eine Ausnahme. Sie greift aber nicht, wenn die Verarbeitung nicht nur gelegentlich erfolgt, ein Risiko für die Rechte und Freiheiten der Betroffenen birgt oder Daten nach Art. 9 oder 10 umfasst.

Speichert ChatGPT deine Daten? Was OpenAI je Produkt angibt

Das hängt vom Produkt ab. Stand 25./26. September 2026 laut OpenAIs eigenen Seiten (Enterprise-Datenschutz, Aufbewahrung in ChatGPT, Training, Datenkontrollen der API):

  • ChatGPT für Einzelpersonen: Gespeicherte Chats bleiben, bis du sie löschst. Gelöschte Chats entfernt OpenAI innerhalb von 30 Tagen endgültig, mit Ausnahmen etwa bei Rechtspflichten. Inhalte können zum Training genutzt werden. Für neue Gespräche schaltest du das über „Improve the model for everyone“ oder das Privacy Portal ab. Gibst du Feedback, kann die zugehörige Unterhaltung trotzdem ins Training einfließen. Temporäre Chats erscheinen nicht im Verlauf, solange du sie nicht als gewöhnlichen Chat speicherst. OpenAI kann sie bis zu 30 Tage aufbewahren, nutzt sie aber nicht zum Training, solange sie temporär bleiben.
  • ChatGPT Business und Enterprise: Admins legen die Aufbewahrung fest. Gelöschte Gespräche entfernt OpenAI binnen 30 Tagen, mit Ausnahmen etwa bei gesetzlicher Pflicht. Standardmäßig kein Training.
  • API: Kein Training, außer du stimmst ausdrücklich zu. Missbrauchsprotokolle bleiben bis zu 30 Tage, in Ausnahmen länger. Manche Funktionen speichern Anwendungsdaten zusätzlich bis zur Löschung, etwa Konversationen.

Ein Enterprise-Vertrag heißt also nicht, dass nichts gespeichert wird. Prüfe die Aufbewahrung für die Funktionen, die du tatsächlich nutzt.

So gehst du vor

  1. KI-Inventar erstellen. Welche Systeme sind im Einsatz, wer nutzt sie, welche Daten fließen ein?
  2. Datenkategorien klären. Personenbezogen, besondere Kategorien oder ohne Personenbezug?
  3. Verträge prüfen. Bei Personenbezug zuerst die Rollen klären, bei Auftragsverarbeitung den AVV prüfen oder nachfordern. Für Anbieter außerhalb des EWR den Übermittlungsweg je Datenfluss festhalten. Die Fragen an Anbieter weiter unten helfen dabei.
  4. DSFA-Pflicht prüfen. Bei voraussichtlich hohem Risiko, etwa umfangreichen Art.-9-Daten, eine DSFA durchführen. Bei KI im Kundenkontakt den konkreten Einsatz an der DSFA-Liste messen. Ob ein Assistent darunter fällt, dessen Antwortentwürfe ein Mensch prüft, ist damit nicht pauschal entschieden.
  5. Verzeichnis ergänzen. Die betreffenden Verarbeitungstätigkeiten mit den Pflichtangaben nach Art. 30 aufnehmen, soweit keine Ausnahme nach Abs. 5 greift.

Beispiel: ein Eintrag im KI-Inventar

Ein Maschinenbauer mit 80 Mitarbeitenden lässt Antwortentwürfe auf Kundenanfragen von einem KI-Dienst schreiben. Der Eintrag ist ein ausgedachtes Muster, keine rechtliche Bewertung:

System:           KI-Assistent für Antwortentwürfe im Vertriebsinnendienst
Daten:            Name, E-Mail-Adresse und Anfragetext von Kunden,
                  keine Art.-9-Daten
Rechtsgrundlage:  ___ (trägt der Datenschutzbeauftragte ein)
Vertrag:          AVV vom ___, Liste der Unterauftragnehmer Stand ___
Übermittlung:     Anbieter in den USA, DPF-Zertifizierung oder
                  Standardvertragsklauseln mit Beurteilung nach Klausel 14
Speicherung und
Training:         laut Anbieterdokumentation ___
DSFA:             geprüft am ___, Ergebnis ___

Was du von einem Anbieter verlangen solltest, auch von uns

Auch bei einem Angebot von AthenaRun solltest du Speicherorte, Modellanbieter und Protokolle konkret klären. Wir versprechen hier keine pauschalen Eigenschaften. Stell jedem Anbieter diese Fragen, uns eingeschlossen:

  • Wo werden Daten gespeichert, und wohin gehen Modellaufrufe und Supportzugriffe?
  • Welche Unterauftragnehmer gibt es, und auf welchem Übermittlungsweg?
  • Speichert der Modellanbieter Ein- und Ausgaben, wie lange, und wird damit trainiert?
  • Was wird protokolliert, wie lange, und wer hat Zugriff?

Ein Protokoll belegt einzelne Vorgänge. Die Rechenschaftspflicht als Ganzes erfüllt es nicht. Wenn du deinen KI-Einsatz entlang der vier Weichen durchgehen willst: Gespräch vereinbaren.

Weiterlesen im Wissen-Hub

Was einen KI-Agenten von einem Chat unterscheidet, steht in Was sind KI-Agenten, und was unterscheidet sie von ChatGPT?. Wie du Rollen, Freigaben und Protokollierung festlegst, liest du in Governance-Rahmen für KI-generierte Anwendungen. Wann eigene Tools der Fachabteilungen zum Risiko werden, zeigt Schatten-IT oder gesteuerte Eigenentwicklung?.