EU AI Act im Mittelstand: Was seit August 2026 gilt und was sich verschoben hat

Was der EU AI Act seit dem 2. August 2026 verlangt

Der EU AI Act, die KI-Verordnung der EU, gilt seit dem 2. August 2026 in weiten Teilen, die Verbote schon seit Februar 2025. Zentrale Pflichten für Hochrisiko-KI folgen erst ab dem 2. Dezember 2027 oder dem 2. August 2028. Die Digital-Omnibus-Verordnung (EU) 2026/1744 hat die Abschnitte 1 bis 3 von Kapitel III verschoben: die Einstufung als Hochrisiko-System, die Anforderungen an solche Systeme und die Pflichten von Anbietern, Betreibern und anderen Beteiligten. Nicht alle Hochrisiko-Vorschriften sind damit verschoben.

Kümmere dich jetzt um KI-Kompetenz nach Art. 4 und prüfe, welche Transparenzpflichten nach Art. 50 für deine Systeme und deine Rolle gelten. Ein eigenes KI-Inventar hilft dabei. Bereite einen Hochrisiko-Einsatz frühzeitig vor: Für Anhang III und Produkt-KI gelten unterschiedliche Fristen und Übergangsregeln. Was heute schon gilt, bleibt zu beachten.

Das Thema betrifft viele: Laut einer Bitkom-Umfrage vom 11. März 2026 (604 telefonisch befragte Unternehmen ab 20 Beschäftigten, Januar bis Februar 2026) nutzen 41 Prozent der Unternehmen KI, ein Jahr zuvor waren es 17 Prozent. Wie viele davon ihre Pflichten aus der KI-Verordnung schon umgesetzt haben, geht aus der Umfrage nicht hervor.

Dieser Artikel gibt einen Überblick und ersetzt keine Rechtsberatung im Einzelfall. Stand: 26. September 2026.

Die Fristen im Überblick

Die Termine stehen in Art. 111 und 113 der KI-Verordnung (EU) 2024/1689 in der geänderten Fassung. Die Änderungsverordnung wurde am 24. Juli 2026 im Amtsblatt veröffentlicht und ist nach ihrem Art. 4 am 27. Juli 2026 in Kraft getreten (Amtsblatttext).

Seit 1. August 2024   Verordnung in Kraft
Seit 2. Februar 2025  Verbote (Art. 5) und KI-Kompetenz (Art. 4)
Seit 2. August 2025   Pflichten für Anbieter von KI-Modellen mit allgemeinem
                      Verwendungszweck (GPAI) und Sanktionsregeln
                      (Art. 101 erst seit 2. August 2026); GPAI-Modelle,
                      die schon vorher auf dem Markt waren: bis 2. August 2027
                      (Art. 111 Abs. 3)
Seit 2. August 2026   Allgemeiner Geltungsbeginn, u. a. Transparenz (Art. 50)
2. Dezember 2026      Kennzeichnung synthetischer Inhalte für Systeme,
                      die vor dem 2. August 2026 auf dem Markt waren;
                      neue Verbote (sexualisierte Deepfakes ohne Zustimmung)
2. Dezember 2027      Kapitel III Abschnitte 1–3 für Anhang-III-Systeme
                      (ohne Art. 6 Abs. 5)
2. August 2028        Kapitel III Abschnitte 1–3 für Systeme nach Art. 6 Abs. 1
                      und Anhang I (KI als Produkt oder Sicherheitsbauteil;
                      ohne Art. 6 Abs. 5)

Die Übersichtsseite der EU-Kommission zum AI Act erläutert die zentralen Termine. Die Übergangsfrist für die Kennzeichnung durch Altanbieter steht in Art. 111 Abs. 4.

Für Hochrisiko-Systeme, die schon vor dem 2. Dezember 2027 (Anhang III) oder dem 2. August 2028 (Anhang I) in Verkehr gebracht oder in Betrieb genommen wurden, gilt die Verordnung nach Art. 111 Abs. 2 nur, wenn sie danach in ihrer Konzeption erheblich verändert werden. Das gilt für alle Akteure, also auch für Betreiber, die ein solches System unverändert weiter nutzen. Die Verbote nach Art. 5 gelten unabhängig davon. Für Systeme, die Behörden nutzen sollen, gilt eine eigene Frist bis 2. August 2030.

Wer betroffen ist und wer nicht

Die Verordnung gilt nach Art. 2 unter anderem für Anbieter und Betreiber von KI-Systemen, für Einführer und Händler. Eine Ausnahme nach Unternehmensgröße gibt es nicht. Kleine und mittlere Unternehmen (KMU) sowie kleine Midcap-Unternehmen bekommen aber Erleichterungen, etwa eine vereinfachte technische Dokumentation (Art. 11 Abs. 1) und niedrigere Bußgelder (Art. 99 Abs. 6 und 6a). Wer dazugehört, regelt die Verordnung seit der Änderung in Art. 3 Nr. 14a und 14b mit Verweis auf zwei Empfehlungen der EU-Kommission:

• KMU nach der Empfehlung 2003/361/EG: weniger als 250 Beschäftigte und höchstens 50 Mio. Euro Jahresumsatz oder höchstens 43 Mio. Euro Jahresbilanzsumme
• kleine Midcap-Unternehmen nach der Empfehlung (EU) 2025/1099: kein KMU, weniger als 750 Beschäftigte und höchstens 150 Mio. Euro Jahresumsatz oder höchstens 129 Mio. Euro Jahresbilanzsumme

Gezählt wird in Jahresarbeitseinheiten, Teilzeit anteilig, Auszubildende zählen nicht mit. Mit 250 Jahresarbeitseinheiten ist das KMU-Kriterium „weniger als 250“ nicht mehr erfüllt. Den Status verlierst du aber nicht sofort: Maßgeblich sind die Daten des letzten Rechnungsabschlusses, und der Status wechselt grundsätzlich erst, wenn die Schwelle in zwei aufeinanderfolgenden Geschäftsjahren überschritten wird. Danach kann die Einstufung als kleines Midcap-Unternehmen infrage kommen.

Bei Partnerunternehmen und verbundenen Unternehmen werden die Zahlen anteilig oder ganz mitgerechnet. Beteiligungen ab 25 Prozent können dafür maßgeblich sein; für bestimmte Investoren gibt es Ausnahmen.

Ausgenommen sind unter anderem:

• Betreiber, die natürliche Personen sind und KI rein privat nutzen (Art. 2 Abs. 10)
• Forschung, Tests und Entwicklung vor dem Inverkehrbringen oder der Inbetriebnahme, außer Tests unter Realbedingungen; anderes Unionsrecht bleibt anwendbar (Art. 2 Abs. 8)
• KI-Systeme ausschließlich für militärische Zwecke, Verteidigung oder nationale Sicherheit (Art. 2 Abs. 3)
• KI-Systeme unter freien und quelloffenen Lizenzen, solange sie nicht als Hochrisiko-System oder unter Art. 5 oder 50 fallen (Art. 2 Abs. 12)

Ob überhaupt ein KI-System vorliegt, richtet sich nach Art. 3 Nr. 1. Gemeint ist ein maschinengestütztes System, das für einen zumindest teilweise autonomen Betrieb ausgelegt ist. Es leitet für explizite oder implizite Ziele aus Eingaben ab, wie es Ausgaben erzeugt: Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen, die physische oder virtuelle Umgebungen beeinflussen können. Anpassungsfähigkeit nach der Inbetriebnahme ist möglich, aber keine Voraussetzung.

Die bloße automatische Ausführung menschlich festgelegter Regeln ist nach Erwägungsgrund 12 nicht gemeint. Logik- und wissensgestützte Systeme können dagegen KI sein, wenn sie Schlussfolgerungen ableiten. Daraus folgt: Eine Anwendung ist nicht schon deshalb ein KI-System, weil beim Programmieren ein Sprachmodell geholfen hat. Ruft die laufende Anwendung dagegen selbst ein Modell auf, das klassifiziert, bewertet oder Inhalte erzeugt, gehört sie ins KI-Inventar. Werkzeuge wie Microsoft Copilot oder ChatGPT sind in der Regel KI-Systeme im Sinne der Verordnung.

Anbieter oder Betreiber: deine Rolle bestimmt deine Pflichten

Anbieter ist nach Art. 3 Nr. 3, wer ein KI-System entwickelt oder entwickeln lässt und es unter eigenem Namen oder eigener Marke in Verkehr bringt oder in Betrieb nimmt, entgeltlich oder unentgeltlich. Das kann auch ein System sein, das du nur im eigenen Haus unter deinem Namen in Betrieb nimmst.

Betreiber ist nach Art. 3 Nr. 4, wer ein KI-System in eigener Verantwortung verwendet, außer bei rein privater Nutzung. Wer ChatGPT im Vertrieb oder ein zugekauftes Recruiting-Tool einsetzt, ist Betreiber.

Betreiber eines Hochrisiko-Systems müssen ab dem 2. Dezember 2027 (Anhang III) unter anderem (Art. 26):

• das System nach der Betriebsanleitung verwenden
• die menschliche Aufsicht Personen mit der nötigen Kompetenz, Ausbildung und Befugnis übertragen
• den Betrieb überwachen
• die automatisch erzeugten Protokolle, soweit sie in ihrer Kontrolle liegen, grundsätzlich mindestens sechs Monate aufbewahren; abweichende Vorgaben des EU- oder nationalen Rechts, insbesondere zum Datenschutz, gehen vor
• vor dem Einsatz am Arbeitsplatz Arbeitnehmervertretung und Beschäftigte informieren

Grundrechte-Folgenabschätzung und EU-Datenbank treffen nicht jeden Betreiber. Die Abschätzung nach Art. 27 betrifft bestimmte Betreiber von Anhang-III-Hochrisiko-Systemen: Einrichtungen des öffentlichen Rechts, private Einrichtungen, die öffentliche Dienste erbringen, und Betreiber der Systeme nach Nr. 5 b und c (Kreditwürdigkeit natürlicher Personen, Lebens- und Krankenversicherung). Ausgenommen sind Systeme der kritischen Infrastruktur nach Nr. 2.

In die EU-Datenbank nach Art. 49 kommen bestimmte Anhang-III-Systeme. Registrieren müssen die Anbieter dieser Systeme. Bei Betreibern gilt die Pflicht für Behörden, Stellen der Union und Personen, die in deren Namen handeln. Systeme nach Nr. 2 werden national registriert. Ein internes KI-Inventar ist davon zu unterscheiden.

Rollenwechsel zum Anbieter. Nach Art. 25 Abs. 1 gelten Betreiber, Händler, Einführer und andere Dritte in drei Fällen als Anbieter eines Hochrisiko-Systems. Erstens: Du versiehst ein bereits auf dem Markt befindliches Hochrisiko-System mit deinem Namen oder deiner Marke. Zweitens: Du veränderst ein solches System wesentlich, und es bleibt hochriskant. Drittens: Du änderst die Zweckbestimmung eines bisher nicht hochriskanten Systems so, dass es hochriskant wird. Art. 25 steht in Kapitel III Abschnitt 3 und gilt deshalb erst ab dem 2. Dezember 2027 (Anhang III) oder dem 2. August 2028 (Anhang I). Fine-Tuning ist dort nicht als eigener Auslöser genannt.

Bei KI-Modellen mit allgemeinem Verwendungszweck nennen die Leitlinien der Kommission mehr als ein Drittel der ursprünglichen Trainingsrechenleistung als Schwelle für eine erhebliche Anpassung. Die Anbieterrolle folgt daraus nicht automatisch: Dazu gehört auch, das Modell unter eigenem Namen oder eigener Marke in Verkehr zu bringen. Die Leitlinien sind unverbindlich und verlangen eine Prüfung im Einzelfall.

Die Risikoklassen

Verbotene Praktiken (Art. 5). Dazu gehören manipulative oder täuschende Techniken, die Entscheidungen erheblich beeinträchtigen und dadurch erheblichen Schaden verursachen oder voraussichtlich verursachen. Verboten ist auch Social Scoring, wenn es zu sachfremden, ungerechtfertigten oder unverhältnismäßigen Benachteiligungen führt. Hinzu kommen das ungezielte Auslesen von Gesichtsbildern für Gesichtserkennungsdatenbanken und die Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen, außer aus medizinischen oder Sicherheitsgründen. Das letzte Verbot ist für Arbeitgeber relevant.

Ab dem 2. Dezember 2026 kommen Verbote für KI hinzu, die sexualisierte Darstellungen bestimmbarer Personen ohne deren Zustimmung oder Missbrauchsdarstellungen von Kindern erzeugt oder manipuliert. Wer ein solches System in Verkehr bringt oder in Betrieb nimmt, ist betroffen, wenn es dafür bestimmt ist oder solche Inhalte absehbar und reproduzierbar erzeugt, ohne dass angemessene Schutzvorkehrungen das verhindern. Betreiber sind betroffen, wenn sie das System gezielt dafür verwenden. Grenzen und Ausnahmen stehen in Art. 5 Abs. 1 Buchst. ba und bb sowie Abs. 1a und 1b.

Hochrisiko. Es gibt zwei Gruppen. Erstens KI, die selbst ein Produkt nach Anhang I ist oder als Sicherheitsbauteil eines solchen Produkts dient, wenn dafür eine Konformitätsbewertung durch Dritte vorgeschrieben ist. Eine Drittprüfung ausschließlich wegen anderer Risiken als für Gesundheit und Sicherheit genügt nach Art. 6 Abs. 1c nicht. Zweitens die Systeme aus Anhang III, mit der unten beschriebenen Ausnahme. Für die Einstufung gelten die oben genannten Fristen. Anhang-III-Fälle, die im Mittelstand vorkommen können:

• Bewerbungen sichten oder filtern, Bewerber bewerten, Entscheidungen über Beförderung, Kündigung oder Leistungsbewertung (Nr. 4)
• Kreditwürdigkeitsprüfung und Bonitätsbewertung natürlicher Personen, ausgenommen Systeme zur Aufdeckung von Finanzbetrug (Nr. 5 b)
• biometrische Fernidentifizierung, biometrische Kategorisierung nach sensiblen Merkmalen und Emotionserkennung (Nr. 1). Ausdrücklich nicht erfasst ist die biometrische Verifizierung, die nur bestätigt, dass eine Person die ist, für die sie sich ausgibt, etwa ein Fingerabdruck-Zugang
• Zugang zu Bildung und Bewertung von Lernergebnissen (Nr. 3)
• Sicherheitsbauteile beim Betrieb kritischer digitaler Infrastruktur, im Straßenverkehr oder in der Wasser-, Gas-, Wärme- und Stromversorgung (Nr. 2)

Viele Hochrisiko-Pflichten treffen den Anbieter: Risikomanagement, technische Dokumentation, Konformitätsbewertung und CE-Kennzeichnung (Art. 16). Welche Pflichten greifen, hängt von der Systemgruppe ab; für bestimmte Produktbereiche enthält Art. 2 Abs. 2 Sonderregeln. Eine EU-Registrierung ist nur in den Fällen des Art. 49 vorgesehen.

Die geänderte Fassung sieht außerdem vor: KI-Systeme, die ausschließlich etwa der Qualitätskontrolle, Automatisierung oder Benutzerfreundlichkeit ohne Sicherheitsbezug dienen, zählen nicht als Sicherheitsbauteile (Art. 6 Abs. 1a). Für die hier beschriebene Produkteinstufung gilt die Regel ab dem 2. August 2028. Würde ihr Ausfall oder ihre Fehlfunktion aber Gesundheit und Sicherheit gefährden, gelten sie doch als Sicherheitsbauteile (Art. 6 Abs. 1b).

Ausnahme nach Art. 6 Abs. 3. Ein System aus Anhang III ist nicht hochriskant, wenn es kein erhebliches Risiko für Gesundheit, Sicherheit oder Grundrechte birgt und eine der dort genannten Bedingungen erfüllt, etwa nur eine eng gefasste Verfahrensaufgabe erledigt. Die Ausnahme gilt nie, wenn das System ein Profiling natürlicher Personen vornimmt. Der Anbieter muss in diesem Fall:

• seine Bewertung vor dem Inverkehrbringen dokumentieren (Art. 6 Abs. 4)
• sie auf Verlangen der Behörde vorlegen (Art. 6 Abs. 4)
• das System in der EU-Datenbank registrieren (Art. 49 Abs. 2)

Eine formlose Selbsteinschätzung ohne Nachweis genügt also nicht. Art. 6 Abs. 3 und 4 betreffen ausschließlich Anhang-III-Systeme und gelten ab dem 2. Dezember 2027. Sie schaffen keine entsprechende Ausnahme für Produkte nach Anhang I. Die Einstufung vorzubereiten lohnt sich trotzdem jetzt.

Wer prüft vorab? Bei den meisten Anhang-III-Systemen (Nr. 2 bis 8) führt der Anbieter die Konformitätsbewertung selbst als interne Kontrolle durch (Art. 43 Abs. 2). Bei biometrischen Systemen (Nr. 1) und bei Produkten nach Anhang I kann eine notifizierte Stelle beteiligt sein, also eine unabhängige Prüfstelle, die für diese Aufgabe offiziell gemeldet ist und als Dritte prüft (Art. 3 Nr. 21 und 22).

Transparenzpflichten (Art. 50). Sie gelten seit dem 2. August 2026 und richten sich je nach Absatz an unterschiedliche Rollen:

• Anbieter von KI-Systemen, die direkt mit Menschen interagieren, etwa Chatbots, müssen sie so gestalten, dass die Nutzer erfahren, dass sie mit KI sprechen, außer es ist offensichtlich (Abs. 1)
• Anbieter von Systemen, die synthetische Audio-, Bild-, Video- oder Textinhalte erzeugen, müssen diese grundsätzlich maschinenlesbar kennzeichnen (Abs. 2). Ausnahmen gelten insbesondere für unterstützende Standardbearbeitung, für Funktionen, die Eingabedaten oder deren Bedeutung nicht wesentlich verändern, und für gesetzlich zugelassene Strafverfolgungszwecke. Für Systeme, die vor dem 2. August 2026 auf dem Markt waren, gilt das ab dem 2. Dezember 2026 (Art. 111 Abs. 4)
• Betreiber von Emotionserkennung oder biometrischer Kategorisierung müssen die Betroffenen informieren (Abs. 3)
• Betreiber, die Deepfakes erzeugen, also Bild-, Ton- oder Videoinhalte, die echten Personen, Orten oder Ereignissen ähneln und fälschlich echt wirken, müssen das offenlegen. Dasselbe gilt für KI-Texte, die zur Information der Öffentlichkeit über Angelegenheiten von öffentlichem Interesse veröffentlicht werden, außer sie wurden redaktionell geprüft und jemand trägt die redaktionelle Verantwortung (Abs. 4)

Minimales Risiko. Nach Angaben der EU-Kommission fällt die große Mehrheit der KI-Systeme in diese Gruppe, etwa Spamfilter. Spezifische Pflichten gibt es hier nicht, Art. 4 gilt trotzdem.

Art. 4: die KI-Kompetenzpflicht nach der Änderung

Art. 4 gilt seit dem 2. Februar 2025 und wurde mit der Verordnung (EU) 2026/1744 neu gefasst. Anbieter und Betreiber müssen jetzt Maßnahmen ergreifen, um die Entwicklung der KI-Kompetenz ihres Personals und anderer Personen, die in ihrem Auftrag KI-Systeme betreiben oder nutzen, zu unterstützen. Zu berücksichtigen sind technische Kenntnisse, Erfahrung, Aus- und Fortbildung, der Einsatzkontext und die Personen, bei denen die Systeme eingesetzt werden. Die Pflicht verlangt ausdrücklich nicht, für eine Person ein bestimmtes Kompetenzniveau zu garantieren. Das frühere „ausreichende Maß“ steht nicht mehr im Text.

Die EU-Kommission schreibt dazu: Ein Zertifikat ist nicht nötig, eine interne Aufzeichnung der Schulungen und anderer Maßnahmen reicht. Sich nur auf die Betriebsanleitung zu verlassen oder das Personal sie lesen zu lassen, kann nach ihrer Einschätzung wirkungslos sein. Einen festen Schulungsrhythmus schreibt Art. 4 nicht vor.

Einen Bußgeldtatbestand speziell für Art. 4 enthalten weder Art. 99 der Verordnung noch § 15 KI-MIG. In Deutschland ist ein Verstoß gegen Art. 4 derzeit also nicht mit Bußgeld bedroht. Die Pflicht gilt trotzdem. Die Verordnung verpflichtet die Mitgliedstaaten, für jeden Verstoß Sanktionen und andere Durchsetzungsmaßnahmen vorzusehen, dazu können Geldbußen, Verwarnungen und nichtmonetäre Maßnahmen gehören (Art. 99 Abs. 1). Die Kommission weist darauf hin, dass Marktüberwachungsbehörden Verstöße gegen Art. 4 auf Grundlage nationaler Gesetze sanktionieren können.

In der Praxis bewährt sich:

• festhalten, wer welche KI-Werkzeuge nutzt
• für jede Gruppe eine zur Rolle passende Maßnahme, Grundlagen für alle, Vertiefung für Personen, die Hochrisiko-Systeme beaufsichtigen
• Maßnahmen und Teilnahme intern dokumentieren und bei neuen Systemen oder geändertem Einsatz nachziehen

Sanktionen und Aufsicht in Deutschland

Die Bußgeldrahmen stehen in Art. 99 der geänderten Fassung:

• bis zu 35 Mio. Euro oder 7 Prozent des weltweiten Jahresumsatzes bei verbotenen Praktiken (Abs. 3)
• bis zu 15 Mio. Euro oder 3 Prozent bei Verstößen unter anderem gegen Anbieter- und Betreiberpflichten für Hochrisiko-Systeme und gegen die Transparenzpflichten nach Art. 50 (Abs. 4)
• bis zu 7,5 Mio. Euro oder 1 Prozent bei falschen, unvollständigen oder irreführenden Informationen auf ein Auskunftsersuchen zuständiger nationaler Behörden oder notifizierter Stellen hin (Abs. 5)

Grundsätzlich gilt der höhere Betrag. Für KMU gilt bei allen drei Rahmen der niedrigere Betrag (Art. 99 Abs. 6). Für kleine Midcap-Unternehmen gilt der niedrigere Betrag nur bei den Rahmen aus Abs. 4 und 5, nicht bei verbotenen Praktiken nach Abs. 3 (Art. 99 Abs. 6a).

In Deutschland regelt das Gesetz zur Marktüberwachung und Innovationsförderung von künstlicher Intelligenz (KI-MIG) die Aufsicht. Der Bundestag hat es am 11. Juni 2026 beschlossen, ausgefertigt wurde es am 22. Juli 2026, verkündet im BGBl. 2026 I Nr. 223 am 28. Juli 2026, in Kraft seit 29. Juli 2026.

• Bundesnetzagentur: zuständige Marktüberwachungsbehörde, soweit das Gesetz nichts anderes bestimmt (§ 2 Abs. 1). Sie betreibt mindestens ein KI-Reallabor (§ 13). Die unabhängige KI-Marktüberwachungskammer bei der Bundesnetzagentur ist nur für bestimmte Bereiche wie Strafverfolgung, Migration und Justiz zuständig (§ 2 Abs. 5, § 4).
• BaFin: zuständig für KI-Systeme in direktem Zusammenhang mit einer regulierten Finanztätigkeit der von ihr beaufsichtigten Unternehmen (§ 2 Abs. 3).
• Produktbehörden: Für KI in Produkten nach Anhang I Abschnitt A bleiben die dafür bereits zuständigen Marktüberwachungsbehörden zuständig (§ 2 Abs. 2).
• BSI: notifizierende Behörde für biometrische Hochrisiko-Systeme und Ansprechpartner für Cybersicherheitsfragen, bis die Behörde nach dem Cyber Resilience Act benannt ist (§ 3 Abs. 2, § 10 Abs. 4).
• Datenschutzaufsicht des Bundes und der Länder und das Bundeskartellamt werden einbezogen, soweit ihre Zuständigkeit berührt ist (§ 9 Abs. 4).

Die Behörden haben die Befugnisse aus der Marktüberwachungsverordnung (EU) 2019/1020 und der KI-Verordnung (§ 11 Abs. 1 KI-MIG). Laut EU-Kommission beaufsichtigen die nationalen Marktüberwachungsbehörden die Regeln seit dem 2. August 2026.

Womit du jetzt anfängst

1. KI-Inventar anlegen. Alle Systeme mit KI-Funktion erfassen, auch eingebettete KI in ERP, CRM oder Office. Pro System: Zweck, Anbieter, Verantwortliche im Haus, deine Rolle.
2. Verbote ausschließen. Prüfen, dass kein System unter Art. 5 fällt, besonders Emotionserkennung bei Beschäftigten.
3. Transparenz umsetzen. Chatbot-Hinweise und Kennzeichnung von Deepfakes und veröffentlichten KI-Texten prüfen. Entscheidend ist, dass die erforderlichen Informationen rechtzeitig, klar und zugänglich bereitstehen. Allgemeine Datenschutzinformationen allein genügen dafür nicht automatisch.
4. Art. 4 dokumentieren. Rollen, Maßnahmen, Teilnahme.
5. Risikoklasse begründen. Für Kandidaten aus Anhang III rechtlich prüfen lassen, ob die Ausnahme nach Art. 6 Abs. 3 trägt. Die Verordnung verlangt keinen eigenen KI-Beauftragten, eine klar benannte Zuständigkeit hilft trotzdem.
6. Hochrisiko-Einsatz vorbereiten. Für die einschlägigen Anhang-III-Pflichten ab dem 2. Dezember 2027 Betriebsanleitung, menschliche Aufsicht, Protokollaufbewahrung und Information der Beschäftigten organisieren. Für Produkt-KI den 2. August 2028 und für Altsysteme die Übergangsregel nach Art. 111 Abs. 2 gesondert prüfen. Vom Anbieter Betriebsanleitung und Konformitätserklärung anfordern und nach der Registrierung in der EU-Datenbank fragen.

Beispiel: Maschinenbauer mit 80 Mitarbeitenden

Ein erfundenes Beispiel, das zeigt, wie ein erstes Inventar aussehen kann. Die Einstufung ist eine erste Einschätzung, keine rechtliche Prüfung.

System                       Rolle      Einstufung (erste Einschätzung)
---------------------------  ---------  -----------------------------------------
Office-Assistent (Copilot)   Betreiber  kein Hochrisiko; Art. 4
Chatbot auf der Website      prüfen:    Art. 50 Abs. 1 Hinweis auf KI;
(gebaut von Agentur,         Anbieter?  wer Anbieter ist, klären
eigener Name)
Vorauswahl von Bewerbungen   Betreiber  Anhang III Nr. 4 a: Hochrisiko,
(zugekauftes Tool)                      Art. 26 ab 2.12.2027, Betriebsrat
                                        informieren; Art. 111 Abs. 2 prüfen
Kamera-Qualitätsprüfung      prüfen:    KI-Eigenschaft und Sicherheitsbezug
in der Fertigung             Betreiber? prüfen; reine, nicht sicherheitsrelevante
                                        Qualitätskontrolle spricht gegen eine
                                        Einstufung als Sicherheitsbauteil;
                                        Art. 6 Abs. 1a/1b ab 2.8.2028 beachten
Fingerabdruck an der Halle   prüfen:    bei reiner biometrischer Verifizierung
                             Betreiber? Ausnahme nach Anhang III Nr. 1 a prüfen;
                                        DSGVO gesondert prüfen
Bonitätsscore für Kunden     Betreiber  Anhang III Nr. 5 b nur bei natürlichen
                                        Personen; Einzelunternehmer prüfen

Was du von einem Softwarepartner verlangen solltest

Wenn du KI-Anwendungen bauen lässt, auch von uns, gehören diese Fragen ins Angebot: Wer ist nach Art. 3 Anbieter des fertigen Systems? Welche Protokolle erzeugt das System, wo liegen sie, und wie lange werden sie aufbewahrt? Wo werden Daten verarbeitet? Welche Unterlagen bekommst du für Inventar, Einstufung und Art. 4? Technische Protokolle unterstützen die Nachvollziehbarkeit. Kläre gesondert, wer Kompetenzmaßnahmen nach Art. 4, Rollenklärung, Risikoeinstufung und weitere rechtliche Anforderungen übernimmt. Wenn du diese Fragen für ein konkretes Vorhaben durchgehen willst, sprich uns an.

Weiterlesen im Wissen-Hub

Wie du Rollen, Freigaben und Protokollierung festlegst, steht in Governance-Rahmen für KI-generierte Anwendungen. Was passiert, wenn Fachabteilungen eigene Anwendungen bauen, liest du in Schatten-IT oder gesteuerte Eigenentwicklung?. Woran der Schritt in den Betrieb scheitert, zeigt Warum KI-Piloten nicht in den Produktivbetrieb kommen.