Warum KI-Compliance eine Geschäftsführer-Entscheidung ist

Seit dem 2. Februar 2025 müssen Unternehmen, die KI-Systeme im Anwendungsbereich der KI-Verordnung einsetzen, Maßnahmen zur KI-Kompetenz ihres Personals ergreifen (Art. 4). Die Betreiberpflichten für Hochrisiko-KI-Systeme nach Anhang III gelten grundsätzlich ab dem 2. Dezember 2027; für Bestandssysteme gibt es Übergangsregeln. Adressat ist das Unternehmen, die Sorgfaltspflicht dahinter trägt die Geschäftsführung. Hier liest du, was KI-Compliance für deine persönliche Haftung als Geschäftsführer bedeutet und welche Nachweise du führen solltest.

Die KI-Verordnung verpflichtet dein Unternehmen als Betreiber. Persönliche Haftung gegenüber der Gesellschaft setzt eine schuldhafte Pflichtverletzung voraus, die einen Schaden verursacht hat. Schaden und Verursachung durch ein möglicherweise pflichtwidriges Verhalten in deinem Aufgabenbereich muss die Gesellschaft beweisen. Dann musst du dich entlasten, etwa indem du zeigst, dass du sorgfältig gehandelt hast. Dafür brauchst du Nachweise.

Dieser Artikel gibt einen Überblick und ersetzt keine Rechtsberatung im Einzelfall.

Ein Recruiting-Algorithmus, der Bewerbungen filtert und dabei Gruppen benachteiligt. Ein KI-Kreditmodell, das die Finanzierung für eine Privatperson ohne nachvollziehbare Begründung ablehnt. Ein Chatbot, der Kundendaten auf Servern in den USA ablegt. In jedem dieser Fälle ist die Frage nicht „Hat die IT das geprüft?“, sondern „Hat die Geschäftsführung das verantwortet?“ Die ersten beiden Beispiele nennt die KI-Verordnung ausdrücklich als Hochrisiko-Bereiche (Anhang III Nr. 4 Buchstabe a und Nr. 5 Buchstabe b, dort nur für natürliche Personen). Das dritte ist vor allem eine Frage der Datenübermittlung nach der DSGVO. Was du dafür brauchst, steht unten bei der Lieferanten-Dokumentation.

Die KI-Verordnung (EU) 2024/1689 knüpft beim Einsatz an den Betreiber an. Das ist nach Art. 3 Nr. 4 die natürliche oder juristische Person, die ein KI-System in eigener Verantwortung verwendet. Im Mittelstand ist das regelmäßig das Unternehmen, das KI einsetzt, nicht der Hersteller. Dein Geschäftsführeramt allein macht dich noch nicht zum Betreiber. Für die Geschäftsführung geht es darum, die Erfüllung der Unternehmenspflichten zu organisieren: Zuständigkeiten klären, Aufgaben delegieren und überwachen. Welche Maßnahmen erforderlich sind, hängt vom konkreten Einsatz ab. Der Bundesgerichtshof zählt die „Einstandspflicht des Geschäftsführers für die Gesetzmäßigkeit der Unternehmensleitung“ zu den nicht übertragbaren Aufgaben (Urteil vom 6. November 2018, II ZR 11/17, Rn. 15).

Welche Pflichten die KI-Verordnung heute auferlegt

Die KI-Verordnung wurde durch die Verordnung (EU) 2026/1744 geändert, in Kraft seit dem 27. Juli 2026. Für Betreiber im Mittelstand sind insbesondere diese Punkte relevant:

  • Verbote und Transparenz. Prüfe vor dem Einsatz die Verbote nach Art. 5. Dazu gehört seit dem 2. Februar 2025 die KI-gestützte Emotionserkennung am Arbeitsplatz, abgesehen von medizinischen oder Sicherheitszwecken. Seit dem 2. August 2026 können außerdem Transparenzpflichten nach Art. 50 greifen, etwa die Offenlegung KI-erzeugter Deepfakes. Die jeweiligen Voraussetzungen und Ausnahmen sind entscheidend.
  • KI-Kompetenz (Art. 4), seit 2. Februar 2025. In der neuen Fassung ergreifen Anbieter und Betreiber „Maßnahmen, um die Entwicklung der KI-Kompetenz ihres Personals“ und anderer Personen in ihrem Auftrag zu unterstützen. Ein bestimmtes Kompetenzniveau müssen sie ausdrücklich nicht garantieren. Einen festen Schulungsrhythmus, ein Zertifikat oder eine bestimmte Dokumentation nennt der Artikel nicht.
  • Betreiberpflichten für Hochrisiko-KI-Systeme (Art. 26). Sie gelten grundsätzlich ab dem 2. Dezember 2027 für Systeme nach Anhang III und ab dem 2. August 2028 für Hochrisiko-Systeme nach Art. 6 Abs. 1 in Verbindung mit Anhang I Abschnitt A. Für Anhang I Abschnitt B gilt Art. 26 nicht unmittelbar (Art. 2 Abs. 2). Für Systeme, die vor dem jeweiligen Anwendungsbeginn in Verkehr gebracht oder in Betrieb genommen wurden, gelten die Hochrisiko-Pflichten grundsätzlich erst nach einer späteren erheblichen Konzeptionsänderung (Art. 111 Abs. 2). Für Systeme, die bestimmungsgemäß von Behörden verwendet werden sollen, gilt eine Sonderfrist bis zum 2. August 2030.
  • Registrierung (Art. 49). Bei Hochrisiko-Systemen nach Anhang III sieht die Vorschrift eine Registrierung in der EU-Datenbank durch die Anbieter vor, außerdem durch Betreiber, die Behörden oder Stellen der Union sind oder in deren Namen handeln. Für private Unternehmen, die ausschließlich als Betreiber handeln und nicht im Namen einer öffentlichen Stelle tätig sind, sieht Art. 49 Abs. 3 keine eigene Registrierung in der EU-Datenbank vor. Für kritische Infrastruktur (Anhang III Nr. 2) gilt stattdessen eine nationale Registrierung nach Art. 49 Abs. 5, in Deutschland nach § 20 KI-MIG; sie ist gesondert zu prüfen. Kläre vor dem Einsatz deine rechtliche Rolle und den anwendbaren Pflichtbeginn. Ein internes KI-Inventar ist keine Registrierung, aber die Grundlage, um überhaupt einzustufen, welche Pflichten dich treffen.

Zu den Betreiberpflichten nach Art. 26 gehört unter anderem:

  • das System nach der Betriebsanleitung verwenden
  • die menschliche Aufsicht Personen mit der nötigen Kompetenz, Ausbildung und Befugnis übertragen
  • den Betrieb überwachen
  • die automatisch erzeugten Protokolle, soweit sie deiner Kontrolle unterliegen, mindestens sechs Monate aufbewahren, sofern das Unionsrecht oder nationales Recht nichts anderes bestimmt

Sanktionen nach Art. 99 richten sich gegen die Akteure, also etwa gegen das Unternehmen als Betreiber. Sanktionen für Verstöße gegen Art. 4 legen nach Art. 99 Abs. 1 die Mitgliedstaaten fest. In Deutschland nennt die Bußgeldvorschrift, § 15 des KI-Marktüberwachungs- und Innovationsförderungsgesetzes (KI-MIG), Art. 4 nicht. Ein Verstoß gegen Art. 4 ist dort also derzeit nicht mit Bußgeld bedroht. Die Pflicht gilt trotzdem. Deine persönliche Haftung ergibt sich aus dem Gesellschaftsrecht.

Wie du persönlich haftest: GmbH, GmbH & Co. KG und AG

GmbH. Nach § 43 Abs. 1 GmbHG wendest du die Sorgfalt eines ordentlichen Geschäftsmannes an. Verletzt du deine Obliegenheiten, haftest du der Gesellschaft nach Abs. 2 für den entstandenen Schaden. Ob die Gesellschaft den Anspruch geltend macht, beschließen nach § 46 Nr. 8 GmbHG die Gesellschafter. Die Ansprüche verjähren in fünf Jahren (§ 43 Abs. 4).

Entscheidend ist die Beweislast. Nach dem BGH-Urteil vom 4. November 2002 (II ZR 224/00) muss die Gesellschaft Schaden und Verursachung durch ein möglicherweise pflichtwidriges Verhalten in deinem Pflichtenkreis darlegen und beweisen. Dabei können ihr Beweiserleichterungen zugutekommen. Du musst dich dann entlasten: durch den Nachweis erfüllter Sorgfaltspflichten, fehlenden Verschuldens oder dadurch, dass der Schaden auch bei pflichtgemäßem Verhalten entstanden wäre.

Unternehmerisches Ermessen. Für die AG ist die Business Judgment Rule in § 93 Abs. 1 Satz 2 AktG geregelt: Keine Pflichtverletzung liegt vor, wenn das Vorstandsmitglied „vernünftigerweise annehmen durfte, auf der Grundlage angemessener Information zum Wohle der Gesellschaft zu handeln“. Für GmbH-Geschäftsführer betonte der BGH in seinem Beschluss vom 14. Juli 2008 (II ZR 202/07) die sorgfältige Ermittlung der Entscheidungsgrundlagen und die Abwägung erkennbarer Risiken. Welcher Informationsumfang im konkreten Fall angemessen ist, bleibt eine Einzelfallfrage.

Welches KI-Tool du einführst, ist eine unternehmerische Entscheidung. Davon zu unterscheiden ist die Einhaltung anwendbarer gesetzlicher Pflichten wie Art. 4 oder Art. 26. Die Gesetzesbegründung zu § 93 AktG (BT-Drucksache 15/5092, S. 11) nimmt Gesetzesverstöße ausdrücklich vom „sicheren Hafen“ des unternehmerischen Ermessens aus.

Konkret heißt das: Wer weiß, dass ein KI-System Bonitätsbewertungen liefert oder Personalentscheidungen beeinflusst, und das nicht kontrolliert, riskiert eine Pflichtverletzung.

GmbH & Co. KG. Im gesetzlichen Regelfall sind Kommanditisten nach § 164 HGB von der Geschäftsführung ausgeschlossen; die Komplementär-GmbH handelt durch ihren Geschäftsführer. Bei außergewöhnlichen Geschäften bleibt die Beschlusszuständigkeit aller Gesellschafter bestehen. Der Gesellschaftsvertrag kann die Aufgabenverteilung abweichend regeln (§§ 163, 116 Abs. 2 HGB).

Der Geschäftsführer haftet nach § 43 Abs. 2 GmbHG der Komplementär-GmbH. Besteht deren alleinige oder wesentliche Aufgabe in der Führung der KG, erstreckt sich der Schutzbereich nach dem BGH-Urteil vom 18. Juni 2013 (II ZR 86/11) auf die KG: Der Geschäftsführer kann dann auch der KG unmittelbar haften. Kommanditisten haften den Gläubigern nach § 171 Abs. 1 HGB bis zur Höhe ihrer Haftsumme, soweit die Einlage nicht geleistet ist. Ob darüber hinaus eine Haftung in Betracht kommt, hängt auch von gesetzlichen Haftungsgründen und dem tatsächlichen Verhalten ab, nicht allein von der Vertragsgestaltung. Das ist im Einzelfall zu prüfen.

AG. Der Vorstand schuldet nach § 93 Abs. 1 AktG die Sorgfalt eines ordentlichen und gewissenhaften Geschäftsleiters und trägt nach § 93 Abs. 2 Satz 2 AktG die Beweislast dafür. § 91 Abs. 2 AktG verlangt vom Vorstand jeder AG geeignete Maßnahmen, insbesondere ein Überwachungssystem, damit bestandsgefährdende Entwicklungen früh erkannt werden. Der Vorstand einer börsennotierten Gesellschaft muss nach Abs. 3 darüber hinaus ein angemessenes und wirksames internes Kontroll- und Risikomanagementsystem einrichten. Der Deutsche Corporate Governance Kodex, der sich an börsennotierte Gesellschaften richtet, greift das in Grundsatz 4 auf. Eine ausdrücklich KI-bezogene Vorgabe haben wir im Kodex nicht gefunden. Die Regierungskommission schreibt in ihrem Konsultationsentwurf vom 5. August 2026 selbst, dass Digitalisierung und Künstliche Intelligenz im Kodex keine Erwähnung finden.

Die vier Dokumente, die deine Geschäftsführung haben sollte

Eine Vorschrift, die diese vier Dokumente in genau dieser Form verlangt, haben wir nicht gefunden. Sie sind deine Belege dafür, dass du sorgfältig entschieden und überwacht hast:

  • KI-Inventar. Liste aller KI-Systeme, die im Unternehmen genutzt werden, auch eingebettete KI in ERP, CRM, Buchhaltungssoftware und Office-Paketen. Mit Zweck, Einstufung nach der KI-Verordnung und Verantwortlichen.
  • KI-Governance-Richtlinie. Wer darf welche KI wofür einsetzen? Wer gibt Hochrisiko-Einsätze frei? Was gilt bei neuen Tools? Halte die Richtlinie knapp und zugänglich. Entscheidend ist, dass sie zu deinen Risiken passt und im Alltag umgesetzt wird.
  • Nachweis der Kompetenzmaßnahmen (Art. 4 KI-Verordnung in der Fassung der VO 2026/1744). Welche Maßnahmen zur KI-Kompetenz du für welche Rollen und Einsätze getroffen hast: Maßnahme, Zielgruppe, Datum. Art. 4 verlangt diese Dokumentation nicht ausdrücklich. Sie hilft dir aber zu zeigen, dass passende Maßnahmen tatsächlich stattgefunden haben. Allein belegt der Vermerk noch keine Pflichterfüllung.
  • Lieferanten-Dokumentation. Für jeden KI-Dienst, der personenbezogene Daten in deinem Auftrag verarbeitet: ein Auftragsverarbeitungsvertrag nach Art. 28 DSGVO. Gehen dabei personenbezogene Daten in ein Drittland wie die USA, braucht es nach Kapitel V der DSGVO eine passende Grundlage, etwa einen Angemessenheitsbeschluss der EU-Kommission (Art. 45) oder geeignete Garantien wie Standarddatenschutzklauseln (Art. 46). Lass prüfen, ob dein konkreter Transfer vom Beschluss erfasst ist oder ob die Garantien im Empfängerland tatsächlich greifen und zusätzliche Schutzmaßnahmen nötig sind. Bei Hochrisiko-Systemen solltest du außerdem die Betriebsanleitung und die einschlägigen Angaben zur CE-Kennzeichnung einholen, am besten bevor die Behörde fragt. Ob und ab wann Art. 26 und Art. 48 für dein System relevant sind, hängt von Anwendungsbereich, Rolle und Übergangsregeln ab. Soweit Art. 26 Abs. 1 anwendbar ist, musst du das System nach dieser Anleitung verwenden.

Diese Dokumente sind kein Schutzschild gegen jeden Vorwurf. Die Haftung nach § 43 Abs. 2 GmbHG setzt eine Pflichtverletzung, einen daraus entstandenen Schaden und Verschulden voraus, und darüber entscheidet keine Akte. Weil du aber beweisen musst, dass du sorgfältig gehandelt hast, sind sie oft genau das Beweismittel, das du dann brauchst.

So setzt du ein belastbares Setup auf

Für den Einstieg helfen dir diese Schritte. Sie sind keine gesetzliche Vorgabe; den nötigen Umfang bestimmen deine Systeme und Risiken:

  1. KI-Inventar anlegen. Für jedes System: Zweck, Einstufung, Verantwortlicher, Datum der Einstufung. Kandidaten für Hochrisiko markieren, etwa Bewerberauswahl oder Bonitätsbewertung von Privatpersonen.
  2. Governance-Richtlinie beschließen. Erlaubte Tools, Freigabeprozess, Eskalationsweg bei Fehlfunktionen.
  3. Betriebsrat einbinden, falls es einen gibt. Für geplante Arbeitsverfahren und Arbeitsabläufe einschließlich KI-Einsatz sieht § 90 BetrVG vor, dass du ihn rechtzeitig und mit den erforderlichen Unterlagen unterrichtest und so früh mit ihm berätst, dass seine Vorschläge und Bedenken noch in die Planung einfließen können. Prüfe außerdem eine Mitbestimmung nach § 87 Abs. 1 Nr. 6 BetrVG: Nach dem BAG kommt es auf die objektive Eignung zur Erhebung und Aufzeichnung von Verhaltens- oder Leistungsinformationen an, nicht auf die Überwachungsabsicht. Richtlinien über die personelle Auswahl bei Einstellungen brauchen nach § 95 BetrVG seine Zustimmung, auch wenn bei ihrer Aufstellung KI zum Einsatz kommt. Welche Beteiligungsrechte dein konkretes Tool auslöst, ist gesondert zu klären.
  4. Kompetenzmaßnahmen festlegen und festhalten. Rolle, Maßnahme, Datum, Teilnehmende.
  5. Lieferanten-Ablage füllen. Je nach Einsatz: AVV und geprüfte Grundlage für Drittlandübermittlungen, bei Hochrisiko-Systemen zusätzlich die oben erläuterten, für deinen Einsatz einschlägigen Unterlagen zu Anleitung und CE-Kennzeichnung samt Anwendungsbeginn und Übergangsregeln.
  6. Entscheidungen protokollieren. Welches System, welche Risikoabwägung, wer entschieden hat. Das Protokoll hält fest, auf welcher zuvor ermittelten Informationsgrundlage du entschieden hast. Es ersetzt die sorgfältige Information und Abwägung nicht.
  7. Prüftermin in den Kalender. In festem Turnus und bei jedem neuen System. Wie oft, hängt von Rollen, Systemen und Einsatz ab.

Das ist kein Compliance-Department, sondern ein Ausgangspunkt, den du an deinen Einsatz und seine Risiken anpasst.

Beispiel: ein Eintrag im KI-Inventar

System:          Bewerber-Scoring im HR-Tool
Zweck:           Vorsortierung eingehender Bewerbungen
Einstufung:      voraussichtlich Hochrisiko nach Anhang III Nr. 4 Buchst. a,
                 Art. 26 grundsätzlich ab 2. Dezember 2027;
                 individuellen Beginn nach Art. 111 Abs. 2 prüfen:
                 Inverkehrbringen/Inbetriebnahme und spätere erhebliche
                 Konzeptionsänderungen festhalten
Verantwortlich:  Leitung Personal, menschliche Aufsicht durch zwei
                 geschulte Recruiterinnen
Nachweise:       Betriebsanleitung liegt vor, AVV geschlossen,
                 Kompetenzmaßnahme für das Recruiting-Team mit Datum,
                 Betriebsrat beteiligt
Nächste Prüfung: in sechs Monaten oder bei jedem Update des Anbieters

Drei Fehler, die du vermeiden solltest

Fehler 1: Delegation ohne Überwachung. „Die IT macht das.“ Die IT kann den Betrieb übernehmen, nicht die Verantwortung der Geschäftsführung. Die KI-Verordnung verpflichtet das Unternehmen. Im Gesellschaftsrecht entbindet selbst eine zulässige Aufgabenverteilung innerhalb der Geschäftsführung den einzelnen Geschäftsführer nicht von seiner eigenen Verantwortung. Bei nicht übertragbaren Aufgaben wie der Gesetzmäßigkeit der Unternehmensleitung legt der BGH an die Kontroll- und Überwachungspflichten gegenüber Mitgeschäftsführern einen strengen Maßstab an (II ZR 11/17, Rn. 15).

Eine Schriftform verlangt der BGH für die Ressortverteilung nicht zwingend, nennt die schriftliche Dokumentation aber „regelmäßig das naheliegende und geeignete Mittel“ (Rn. 17). Halte also fest, wem du was übertragen hast und wie du kontrollierst, denn im Streit musst du deine Sorgfalt beweisen.

Fehler 2: Nur externe Tools im Blick. Beziehe auch eingebettete Komponenten ein: das Bewerber-Scoring im HR-Tool, die Belegerkennung in der Buchhaltungssoftware, das Lead-Scoring im CRM, die automatische E-Mail-Klassifizierung. Ob eine Funktion ein KI-System ist, richtet sich nach Art. 3 Nr. 1, nicht nach ihrer Bezeichnung. Ob die Verordnung anwendbar ist, hängt zusätzlich von ihrem Anwendungsbereich und den Ausnahmen in Art. 2 ab.

Welche Pflichten folgen, hängt vom Einsatzzweck ab. Anhang III nennt acht Bereiche: Biometrie, kritische Infrastruktur, Bildung, Beschäftigung und Personalmanagement, grundlegende private und öffentliche Dienste (dort etwa die Bonitätsbewertung natürlicher Personen), Strafverfolgung, Migration sowie Rechtspflege und demokratische Prozesse. Ein Bewerber-Scoring steht dort, Belegerkennung, Lead-Scoring und E-Mail-Klassifizierung als solche nicht. Die Kompetenzpflicht nach Art. 4 ist innerhalb des Anwendungsbereichs der Verordnung nicht auf Hochrisiko-Systeme beschränkt.

Fehler 3: Compliance als Projekt, nicht als Betrieb. Für Betreiber sieht die KI-Verordnung keine Zertifizierung vor, die dich dauerhaft entlastet. Das KI-Inventar muss aktuell bleiben, neue Tools müssen eingestuft werden. Wie oft Kompetenzmaßnahmen zu wiederholen sind, ergibt sich aus Rollen, Systemen und Einsatz. Wer Compliance als Projekt abschließt und nicht weiterführt, hat mit dem nächsten neuen Tool wieder eine Lücke.

Warum Nachweise auch bei Bußgeldern zählen

Wer auf Nachfrage der Behörde nichts vorlegen kann, steht anders da als jemand, der Inventar, Kompetenznachweis und Richtlinie vorweist. Am Verstoß ändert das nichts, es kann aber in die Bemessung einfließen. Art. 83 Abs. 2 DSGVO nennt unter den Zumessungskriterien Art, Schwere und Dauer des Verstoßes, den Grad der Verantwortung unter Berücksichtigung der getroffenen technischen und organisatorischen Maßnahmen und die Zusammenarbeit mit der Aufsichtsbehörde.

Art. 99 Abs. 7 der KI-Verordnung enthält vergleichbare Kriterien, darunter den Grad an Verantwortung unter Berücksichtigung der ergriffenen technischen und organisatorischen Maßnahmen und die Zusammenarbeit mit den Behörden. Das gilt dort, wo ein Verstoß mit Bußgeld bedroht ist. Für Art. 4 ist das in Deutschland derzeit nicht der Fall, der Kompetenznachweis zählt dann vor allem im Haftungsstreit, in dem du deine Sorgfalt beweisen musst.

Wo AthenaRun hier steht

Für jede KI-gestützte Anwendung, egal von wem sie stammt, lohnt vor dem Einsatz eine Prüffrage: Protokolliert sie nachvollziehbar, wer welche KI-gestützte Entscheidung ausgelöst hat, mit welchem Ergebnis und auf Basis welcher Daten? Ein Audit Trail zeichnet solche Angaben chronologisch auf, sodass sich die Ereignisfolge rekonstruieren lässt. Er unterstützt die Nachvollziehbarkeit und die Erfüllung einschlägiger Nachweispflichten. Kompetenzmaßnahmen nach Art. 4, Rollenklärung, Risikoeinstufung und weitere rechtliche Anforderungen ersetzt er nicht. Für Tools, die du schon im Einsatz hast, ist die Lieferanten-Dokumentation oben ein sinnvoller Ansatzpunkt.

Wenn du besprechen willst, wie eine KI-Anwendung solche Protokolle von Anfang an mitbringt: Erstgespräch buchen, 30 Minuten, kostenfrei.

Weiterlesen im Wissen-Hub

Wie du Rollen, Freigaben und Protokollierung für KI-Anwendungen regelst, steht in Governance-Rahmen für KI-generierte Anwendungen. Wie du Eigenentwicklungen in Fachabteilungen steuerst, statt Schatten-IT zu dulden, liest du in Schatten-IT oder gesteuerte Eigenentwicklung?.