Die drei Ebenen, auf denen du dokumentierst
Für die Praxis lässt sich KI-Dokumentation in drei Ebenen gliedern: KI-Register, Nutzungsdokumentation und Audit Trail. Welche Nachweise du brauchst, hängt von deinem System, deiner Rolle, dem Risiko und dem Prüfauftrag ab.
Ebene 1: Das KI-Register. Was hast du im Einsatz, mit welchem Zweck, in welcher Risikoklasse? Das Register ist das Inventar. Es hilft dir, Risikoklassifizierungen, Schulungen und Nachweise im Unternehmen zusammenzuführen.
Ebene 2: Die Nutzungsdokumentation. Wer nutzt welches System, für welche Entscheidungen, in welchem Umfang? Bei Hochrisiko-Systemen ist besonders wichtig, wie die menschliche Aufsicht organisiert ist. Daraus folgt keine allgemeine Pflicht, jede KI-Empfehlung vor einer Entscheidung einzeln freizugeben. Auch bei anderen Systemen kann diese Ebene helfen, Abläufe nachzuvollziehen.
Ebene 3: Der Audit Trail. Die maschinenlesbare, manipulationsgeschützte Protokollierung von KI-gestützten Vorgängen. Welche Eingaben, Ausgaben und Folgeentscheidungen müssen nachvollziehbar sein? Lege den Umfang nach Zweck und Risiko fest und begrenze personenbezogene Inhalte auf das erforderliche Maß.
Anwendungsfristen: Die unten beschriebenen Hochrisiko-Pflichten nach Art. 9, 11, 14 und 26 EU AI Act gelten grundsätzlich ab dem 2. Dezember 2027 für Systeme nach Art. 6 Abs. 2/Anhang III und ab dem 2. August 2028 für Systeme nach Art. 6 Abs. 1/Anhang I. Für bereits eingesetzte Systeme sind zusätzlich die Übergangsregeln in Art. 111 Abs. 2 zu beachten (Art. 111 und 113, konsolidierte Fassung).
Dieser Artikel gibt einen Überblick und ersetzt keine Rechtsberatung im Einzelfall.
Besondere Kategorien nach Art. 9 DSGVO: Wenn der KI-Einsatz sensibel wird
Wenn dein KI-System besondere personenbezogene Daten verarbeitet, sind zusätzliche Voraussetzungen zu beachten. Art. 9 Abs. 1 DSGVO nennt acht Kategorien besonderer personenbezogener Daten:
- Rassische und ethnische Herkunft
- Politische Meinungen
- Religiöse oder weltanschauliche Überzeugungen
- Gewerkschaftszugehörigkeit
- Genetische Daten (Art. 4 Nr. 13 DSGVO)
- Biometrische Daten zur eindeutigen Identifizierung (Art. 4 Nr. 14 DSGVO)
- Gesundheitsdaten (Art. 4 Nr. 15 DSGVO)
- Daten zum Sexualleben oder zur sexuellen Orientierung
Daten zu strafrechtlichen Verurteilungen und Straftaten gehören nicht in diese Liste. Sie sind in Art. 10 DSGVO gesondert geregelt: Ihre Verarbeitung setzt eine behördliche Aufsicht oder eine zulässige Grundlage im Unions- oder nationalen Recht voraus. Wer sie als neunte Art.-9-Kategorie führt, prüft am Ende die falsche Norm.
Drei Beispiele für den KI-Einsatz im Unternehmen:
- Gesundheitsdaten (Nr. 7): KI-gestütztes Fehlzeitenmanagement, Burnout-Prävention durch HR-Tools, Analyse von Krankentagsmeldungen. Auch aus Verhaltensdaten abgeleitete Informationen können Gesundheitsdaten sein, wenn sie Rückschlüsse auf den Gesundheitszustand einer Person erlauben.
- Biometrische Daten (Nr. 6): Gesichtserkennung am Zugang, Fingerabdruck-Zeiterfassung, Stimm-Authentifizierung. Bei biometrischen Daten zur eindeutigen Identifizierung ist der besondere Schutz nach Art. 9 DSGVO zu beachten.
- Gewerkschaftszugehörigkeit (Nr. 4): Achte bei HR-Systemen darauf, unzulässige Benachteiligungen wegen gewerkschaftlicher Betätigung oder Einstellung zu vermeiden. Das ist schwerer zu kontrollieren, als es klingt, wenn Trainingsdaten aus historischen Personaldaten stammen.
Wenn dein KI-System eine dieser Kategorien verarbeitet, auch durch abgeleitete Informationen, brauchst du eine Ausnahme nach Art. 9 Abs. 2 DSGVO. Beispiele sind eine ausdrückliche Einwilligung (lit. a) oder eine arbeitsrechtliche Grundlage (lit. b), jeweils unter den dort genannten Voraussetzungen.
Hinzu kommt das Verzeichnis nach Art. 30 DSGVO. Welche Angaben hineingehören, hängt davon ab, ob du Verantwortlicher oder Auftragsverarbeiter bist. Für die Schutzmaßnahmen sieht es, wenn möglich, eine allgemeine Beschreibung der technischen und organisatorischen Maßnahmen vor.
Eine Datenschutz-Folgenabschätzung ist erforderlich, wenn die Verarbeitung besonderer Daten umfangreich ist oder aus anderen Gründen voraussichtlich ein hohes Risiko besteht (Art. 35 Abs. 1 und Abs. 3 lit. b DSGVO).
Wichtig dabei: Die Rechtsgrundlage nach Art. 6 und die zusätzliche Voraussetzung nach Art. 9 Abs. 2 sind zwei getrennte Prüfungen. Ein berechtigtes Interesse nach Art. 6 Abs. 1 lit. f kann die erste tragen. Als Ausnahme vom Verarbeitungsverbot des Art. 9 reicht es nicht.
Vorlage: KI-Register-Eintrag für besondere Datenkategorien
Wenn dein System besondere Kategorien verarbeitet, sollte der Register-Eintrag mindestens diese Felder enthalten:
KI-Register-Eintrag | Besondere Datenkategorien (Art. 9 DSGVO)
System | [Name des KI-Systems]
Zweck | [Konkrete Funktion, z. B. "Bewerbungsscreening"]
Betreiber | [Unternehmen bzw. rechtlich verantwortliche Stelle]
Interne Zuständigkeit | [Abteilung + verantwortliche Person]
Anbieter | [Anbieter + Vertragsgrundlage]
Risikoklasse | [EU AI Act Einordnung]
Besondere Kategorie | [z. B. Gesundheitsdaten nach Art. 4 Nr. 15]
Rechtsgrundlage Art. 6 | [Art. 6 Abs. 1 lit. __]
Zusätzliche Voraussetzung | [Art. 9 Abs. 2 lit. __ + konkrete Grundlage
und Begründung; bei Einwilligung auch Freiwilligkeit prüfen]
Bei lit. h | [Erforderlichkeit, rechtliche/vertragliche Grundlage
und Geheimhaltung nach Art. 9 Abs. 3 prüfen]
Art.-10-Daten, falls einschlägig | [Gesonderte Prüfung: behördliche Aufsicht
oder zulässige unions-/nationalrechtliche Grundlage mit Garantien]
DSFA erforderlich? | [Ja / Nein + Begründung]
DSFA durchgeführt | [Ja / Nein / Datum]
DSFA-Ergebnis | [Restrisiko + Maßnahmen; bei verbleibendem hohem Risiko
vorherige Konsultation der Aufsichtsbehörde nach Art. 36 DSGVO]
Datenwege | [Welche Daten, von wo nach wo]
Speicherdauer | [Konkrete Frist]
Löschnachweis | [Wer löscht, wie, wann wird es protokolliert?]
Letzter Review | [Datum + Prüfer]Dieser Eintrag ist kein einmaliges Dokument. Aktualisiere ihn, wenn sich erfasste Angaben ändern oder sich Zweck oder Risiko wesentlich verändern, und halte das Aktualisierungsdatum fest.
Als Ausgangspunkt kannst du einen jährlichen Review vorsehen, bei hohem Risiko oder häufigen Änderungen öfter. Das ist eine Empfehlung, kein gesetzlicher Rhythmus. Prüfe zusätzlich bei neuen Anwendungsfällen, wesentlichen Datenänderungen oder Sicherheitsvorfällen.
Ein dokumentierter Review-Zyklus hält das Register aktuell. Er ersetzt keine einschlägige Einzelpflicht: Art. 9 EU AI Act betrifft das Risikomanagementsystem für Hochrisiko-Systeme und richtet sich in erster Linie an Anbieter. Beachte dafür die oben genannten Anwendungsfristen.
Ebene 1: Das KI-Register im Detail
Ein internes KI-Register ist keine Vorgabe aus Art. 49 EU AI Act: Dieser regelt die Eintragung in die EU-Datenbank durch Anbieter und bestimmte öffentliche Betreiber. Als Inventar ist es trotzdem ein sinnvoller Start, weil es die Klassifizierung der eingesetzten Systeme übersichtlich zusammenführt. Nenne es deshalb auch nicht „KI-Register nach Art. 49“: Das sind zwei verschiedene Aufgaben mit verschiedenen Adressaten.
Mindestfelder pro System:
- Name und Version des Systems
- Anbieter und Kontakt
- Zweck: Was wird entschieden oder unterstützt?
- Risikoklasse: Nach EU AI Act, mit Begründung
- Eingesetzte Daten: Welche Datenkategorien fließen ein?
- Verantwortlicher im Unternehmen
- Datum der letzten Überprüfung
Das Register ist kein einmaliges Dokument. Bei jedem neuen Tool und jeder wesentlichen Änderung eines bestehenden Systems muss es aktualisiert werden, dazu im oben beschriebenen Review-Zyklus.
Ebene 2: Nutzungsdokumentation
Bei Hochrisiko-Systemen lohnt der Blick auf die Rollen und die oben genannten Anwendungsfristen. Art. 14 EU AI Act sieht für Anbieter eine Gestaltung vor, die wirksame menschliche Aufsicht ermöglicht. Art. 26 sieht für Betreiber vor, die Aufsicht kompetenten Personen zuzuweisen, den Betrieb zu beobachten und automatisch erzeugte Protokolle aufzubewahren, soweit sie ihrer Kontrolle unterliegen.
Die Aufbewahrung richtet sich nach dem Zweck des Systems und dauert grundsätzlich mindestens sechs Monate, sofern Unions- oder nationales Recht nichts anderes bestimmt.
Für einen Entscheidungsprozess kann etwa relevant sein: Wer hat wann welche KI-Empfehlung erhalten, und welche Entscheidung hat der Mensch daraufhin getroffen? Lege den Nachweisumfang passend zum Prozess und den Aufsichtsvorgaben fest.
Auch außerhalb der Hochrisiko-Kategorie können Nachweispflichten bestehen, etwa aus dem Datenschutzrecht. Eine passende Nutzungsdokumentation kann bei der Aufklärung eines Schadensfalls helfen. Bei einem Chatbot kann zum Beispiel relevant sein, ob Nutzer erkennen konnten, dass sie mit KI kommunizieren. Und lässt sich belegen, wie der KI-Hinweis umgesetzt war?
Die Hinweispflicht bei direkter Interaktion regelt Art. 50 Abs. 1 EU AI Act. Sie richtet sich an Anbieter. Eine Ausnahme gilt etwa, wenn die KI-Interaktion offensichtlich ist. Ist ein Hinweis erforderlich, muss er klar und eindeutig sein und spätestens bei der ersten Interaktion erfolgen. Die geltenden Anforderungen an Barrierefreiheit sind zu beachten.
Plane den Hinweis deshalb in der Oberfläche ein und dokumentiere seine Umsetzung. Ein bloßer Verweis auf den Datenschutzhinweis oder ein Server-Log belegt die tatsächliche Anzeige nicht zuverlässig.
Ebene 3: Audit Trail
Für einen Audit Trail musst du festlegen, welche Ereignisse die Anwendung erfasst und wie die Protokolle geschützt werden.
Ein belastbarer Audit Trail:
- Manipulationsgeschützt: Einträge sind nachträglich nicht änderbar, Zugriffe auf berechtigte Rollen begrenzt. Löschfristen werden gesondert festgelegt und dokumentiert. Manipulationsschutz und Aufbewahrung sind zwei verschiedene Anforderungen
- Datiert und zuordenbar: Jeder Eintrag hat einen Zeitstempel und eine passende Zuordnung, etwa eine Nutzer-, System- oder Interaktionskennung. Eine kryptografische Signatur ist eine zusätzliche Maßnahme und mit diesen beiden Angaben noch nicht erfüllt
- Vollständig: Die nach Zweck, Risiko und Datenschutz festgelegten relevanten Ereignisse werden erfasst
- Exportierbar: Lesbare Exporte erleichtern die Prüfung; je nach Prüfauftrag kann auch ein geregelter Systemzugang sinnvoll sein
Ein Baustein sind Append-only-Rechte: Die Anwendung darf neue Einträge hinzufügen, bestehende aber nicht überschreiben. Ergänze Schutz und Überwachung privilegierter Zugriffe sowie die Erkennung unzulässiger Änderungen oder Löschungen. Der Aufwand hängt von Architektur und Schutzbedarf ab. Frühe Planung kann spätere Nachrüstung erleichtern.
Was eine Prüfung wirklich fordert
Eine Prüfung kann neben Dokumenten auch Prozesse betreffen. Die Frage ist nicht nur „Haben Sie ein KI-Register?“, sondern „Können Sie zeigen, wie das Register aktuell gehalten wird?“
Eine mögliche Prüffrage lautet: Wie wird ein neues KI-Tool erfasst, bevor es produktiv geht? Das Register allein beantwortet das nicht: Der Prozess dahinter muss beschrieben und nachweisbar sein.
Bei Hochrisiko-Systemen sind die Rollen zu trennen. Die technische Dokumentation nach Art. 11 und Anhang IV EU AI Act gehört zu den Anbieteraufgaben. Betreiber bewahren die ihrer Kontrolle unterliegenden automatischen Protokolle nach Art. 26 auf. Für diese Dokumentationspflichten gelten die oben genannten Anwendungsfristen und Übergangsregeln. Behördliche Zugangs- und Auskunftsbefugnisse ergeben sich insbesondere aus Art. 21 und 74.
Wer das erst zusammenstellt, wenn die Anfrage kommt, braucht deutlich länger als jemand, der es strukturiert vorhält.
Die versteckten Standardfehler
Register ohne Versionierung. Ohne Änderungshistorie lässt sich schwerer nachvollziehen, welcher Stand zu einem früheren Zeitpunkt galt. Nutze eine versionierte Datei oder ein System mit Änderungshistorie.
Kompetenzmaßnahmen nicht festgehalten. Artikel 4 EU AI Act gilt seit dem 2. Februar 2025, seit dem 27. Juli 2026 in der durch die Verordnung (EU) 2026/1744 geänderten Fassung. Eine ausdrückliche Dokumentationspflicht enthält er nicht. Er schreibt auch weder einen festen Schulungsrhythmus noch ein bestimmtes Zertifikat vor (EU-Kommission: Fragen und Antworten zur KI-Kompetenz). Halte trotzdem fest, welche Kompetenzmaßnahmen für welche Rollen und Einsätze getroffen wurden. Das erleichtert spätere Nachweise.
Audit Trail extern gebaut, intern nicht. Ein reines Anbieter-Log erfasst den internen Umgang mit einer KI-Antwort nur, wenn der entsprechende Ablauf angebunden ist. Dokumentiere relevante Folgeentscheidungen deshalb im passenden Workflow oder Logsystem. Dieses kann auch extern betrieben werden.
Wie sich die Arbeit reduzieren lässt
Ein praktischer Hebel: Plane KI-Dokumentation als Teil des Applikations-Designs. Wenn passende Ereignisse von Anfang an protokolliert werden, kann das Nacharbeit reduzieren.
Konkret für die drei Ebenen:
- KI-Register: einmal aufsetzen, den Review-Zyklus als feste Routine im Kalender
- Nutzungsdokumentation: Teil des UI-Designs. Erforderliche Hinweise einplanen und ihre Umsetzung nachvollziehbar festhalten
- Audit Trail: Schutzbedarf, relevante Ereignisse und Nachweispflichten als technische Anforderungen festlegen
Protokollierung ist deshalb auch eine Architekturfrage. Logs helfen, Abläufe und Fehler nachzuvollziehen; Metriken und Traces können die Beobachtung des Betriebs ergänzen. Was eine Applikation protokolliert, wo und wie lange, sollte vor dem Bau festgelegt werden, nicht danach.
Ein Protokoll unterstützt die Nachvollziehbarkeit und die Erfüllung einschlägiger Nachweispflichten. Kompetenzmaßnahmen nach Art. 4 EU AI Act, Rollenklärung, Risikoeinstufung und weitere rechtliche Anforderungen werden davon getrennt umgesetzt.
Wenn du eine KI-Applikation planst und die Protokollierung von Anfang an mitdenken willst: Erstgespräch buchen.
Redaktioneller Stand: 26.09.2026 · AthenaRun GmbH, Frankfurt am Main