KI-Compliance-Prüfung im Unternehmen: Der AI-Act-Check Schritt für Schritt

Mit der Verordnung (EU) 2024/1689 (EU AI Act) gelten seit 2. August 2024 die ersten Pflichten, seit 2. Februar 2025 die Verbote nach Art. 5, seit 2. August 2025 die Pflichten für General-Purpose-AI-Modelle nach Kapitel V. Ab dem 2. August 2026 greifen die zentralen Anbieter- und Betreiberpflichten für Hochrisiko-KI nach Anhang III, ab 2. August 2027 die Pflichten für KI in regulierten Produkten nach Anhang I.

Eine KI-Compliance-Prüfung im Unternehmen muss diese Stichtage entlang eines geschlossenen Verfahrens abbilden: KI-Inventar, Rollenzuweisung, Risikoklassifizierung, Dokumentation, laufende Überwachung. Dieser Beitrag liefert die fünf Prüfschritte mit Verweis auf die jeweiligen Artikel des AI Act und auf die korrespondierenden CIVAC-Workspace-Vorlagen. CIVAC ist eine Compliance-Plattform und Officer-as-a-Service.

Der erste Schritt ist das vollständige KI-Inventar. Erfasst werden alle KI-Systeme im Sinne des Art. 3 Nr. 1 AI Act, also Systeme mit autonomen Anteilen, die aus Eingaben Inhalte, Vorhersagen, Empfehlungen oder Entscheidungen ableiten. Darunter fallen ChatGPT-Enterprise-Lizenzen, Copilot-Integrationen, eigene ML-Modelle, eingekaufte SaaS-KI und embedded AI in Standardsoftware wie HR-Suites oder CRM-Add-ons.

Pro System dokumentieren Sie Anbieter, Modellbasis (Eigenentwicklung, OpenAI, Anthropic, Google, Mistral), Einsatzzweck im Unternehmen, betroffene Datenkategorien und Nutzergruppen. Diese fünf Felder genügen für die spätere Klassifizierung nach Art. 6 AI Act. CIVAC stellt das Inventar als Vorlage im Compliance-Beauftragten-Workspace bereit, mit Spalten für Bestellurkunde, Rollenzuweisung und Risikoklasse.

Erfahrungswerte aus den ersten Audits durch die Marktüberwachungsbehörden zeigen ein typisches Bild: Mittelständler unterschätzen ihren KI-Bestand im Schnitt um den Faktor drei. Schatten-KI über Browser-Plug-ins, eigenmächtig abgeschlossene SaaS-Abos und embedded-AI-Funktionen in Bestandssoftware bleiben unerfasst, bis die Prüfung sie zwingend offenlegt.

Das Inventar ist kein Einmal-Artefakt. Jede neue SaaS-Lizenz, jeder Modellwechsel, jede Funktionserweiterung des Anbieters löst eine Inventaränderung aus. Der Compliance-Beauftragte koppelt das Inventar an den IT-Beschaffungsprozess, sodass keine KI-Funktion produktiv geht, ohne im Register zu stehen.

Audit-fest, dokumentiert, Art. 3-fest. Die Inventar-Vorlage von CIVAC enthält Versionierung, Änderungsverlauf und eine Unterschriftszeile für die quartalsweise Sichtung durch den Compliance-Beauftragten.

Der AI Act knüpft Pflichten an Rollen. Art. 3 AI Act definiert vier Hauptrollen. Anbieter (Art. 3 Nr. 3) ist, wer ein KI-System entwickelt und unter eigenem Namen in den Verkehr bringt. Betreiber (Art. 3 Nr. 4) ist, wer ein KI-System unter eigener Verantwortung verwendet. Importeur und Händler ergänzen die Distributionskette.

Die Rollenbestimmung pro System ist nicht trivial. Wer ChatGPT-Enterprise im Personalwesen einsetzt, ist Betreiber; OpenAI bleibt Anbieter. Wer ein Open-Source-Modell wie Llama eigenständig finetuned und unter eigenem Namen ausliefert, wird selbst Anbieter mit den vollen Pflichten nach Art. 16 AI Act, inklusive Konformitätsbewertung und CE-Kennzeichnung für Hochrisiko-Systeme.

Eine besondere Verschiebung enthält Art. 25 AI Act. Wer ein Hochrisiko-KI-System wesentlich verändert, unter eigenem Namen vertreibt oder den Verwendungszweck ändert, gilt selbst als Anbieter. Diese Umkippregel trifft viele Mittelständler unerwartet, wenn sie SaaS-Modelle für eigene Produkte rebranden.

Betreiberpflichten nach Art. 26 AI Act umfassen die Sicherstellung menschlicher Aufsicht, die Eingabedaten-Kontrolle, die Logging-Aufbewahrung über mindestens sechs Monate, die Information der betroffenen Beschäftigten gemäß Art. 26(7) AI Act und, in sensiblen Bereichen wie öffentlicher Dienst, die Grundrechte-Folgenabschätzung nach Art. 27 AI Act.

CIVAC trennt im Workspace die Anbieter- und Betreiber-Pfade. Die Rollenzuweisung pro System wird im Register hinterlegt und steuert anschließend, welche Audit-Vorlagen dem Compliance-Beauftragten vorgelegt werden.

Der AI Act kennt vier Risikoklassen. Verbotene Praktiken nach Art. 5 (Social Scoring, biometrische Echtzeit-Fernidentifizierung im öffentlichen Raum ohne Ausnahme, manipulative Techniken, Emotionserkennung am Arbeitsplatz und in der Bildung mit engen Ausnahmen). Hochrisiko-KI nach Art. 6 in Verbindung mit Anhang I (regulierte Produkte) und Anhang III (eigenständige Hochrisiko-Anwendungsfälle wie Recruiting, Kreditwürdigkeit, kritische Infrastruktur).

KI mit Transparenzpflichten nach Art. 50 (Chatbots, Deepfakes, KI-generierte Inhalte). Minimales Risiko (alle übrigen), die ohne spezifische Pflichten betrieben werden dürfen, aber freiwilligen Verhaltenskodizes nach Art. 95 AI Act unterliegen können.

Recruiting-KI ist nach Anhang III Nr. 4 Hochrisiko. Bonitätsprüfung nach Anhang III Nr. 5. KI in Verkehrsinfrastruktur nach Anhang III Nr. 2. Mittelständler unterschätzen, wie viele Standard-HR- und Finance-Tools dadurch in den Hochrisiko-Bereich rutschen. Die Bestätigung durch den Anbieter ist nicht ausreichend; der Betreiber muss die Klassifikation eigenständig nachvollziehen.

Chatbots auf der Unternehmenswebsite fallen unter Art. 50(1) AI Act. Die Pflicht ist begrenzt: Nutzer müssen erkennen, dass sie mit einer KI interagieren. Bei KI-generierten Bildern, Audio- und Videoinhalten greift Art. 50(2) AI Act mit der Kennzeichnungspflicht in maschinenlesbarem Format.

CIVAC liefert den AI-Act-Risikofragebogen als Vorlage im Workspace. Der Fragebogen führt durch die Anhang-III-Tatbestände, prüft die Ausnahmen nach Art. 6(3) AI Act und dokumentiert die Klassifikationsentscheidung mit Begründung. Mehr Hintergrund liefert die CIVAC-Übersicht zu den AI-Act-Pflichten ab August 2026.

Für Hochrisiko-KI nach Art. 6 AI Act fordert die Verordnung ein umfangreiches Dokumentationspaket. Art. 11 AI Act und Anhang IV beschreiben die technische Dokumentation, Art. 12 AI Act die automatische Aufzeichnung (Logging) der Ereignisse, Art. 13 AI Act die Gebrauchsanweisung mit Transparenz für den Betreiber, Art. 14 AI Act die menschliche Aufsicht, Art. 15 AI Act die Genauigkeits-, Robustheits- und Cybersicherheitsanforderungen.

Anbieter führen zusätzlich ein Risikomanagementsystem nach Art. 9 AI Act, ein Datengovernance-Verfahren nach Art. 10 AI Act und ein Qualitätsmanagementsystem nach Art. 17 AI Act. Die Konformitätsbewertung nach Art. 43 AI Act ist je nach Anhang-III-Kategorie als interne Kontrolle oder mit Beteiligung einer benannten Stelle durchzuführen. Die Eintragung in die EU-Datenbank nach Art. 71 AI Act folgt.

Betreiber von Hochrisiko-KI führen ein Einsatzregister, sichern die Eingabedaten-Qualität, garantieren die menschliche Aufsicht durch geschulte Personen und bewahren Logs nach Art. 26(6) AI Act mindestens sechs Monate auf. Bei Einsatz im öffentlichen Sektor oder bei wesentlichen Grundrechtsauswirkungen ergeht zusätzlich die Folgenabschätzung nach Art. 27 AI Act.

GPAI-Modelle nach Kapitel V AI Act unterliegen Transparenz- und Urheberrechtsdokumentation gemäß Art. 53 AI Act. Modelle mit systemischem Risiko (über 10^25 FLOPs Trainingsrechenleistung) tragen Zusatzpflichten nach Art. 55 AI Act, inklusive Modellbewertung, Risikobewertung und Cybersecurity-Maßnahmen.

CIVAC verbindet die AI-Act-Dokumentation mit dem ISO/IEC 27001:2022 ISMS und den 93 Controls. Die Datenresidenz liegt in der EU. Bestellurkunde, unterschrieben, abgelegt, belegbar.

Die KI-Compliance endet nicht mit der Inbetriebnahme. Art. 72 AI Act verpflichtet Anbieter zur fortlaufenden Marktbeobachtung des eigenen Systems über den gesamten Lebenszyklus. Erkenntnisse fließen in das Risikomanagement nach Art. 9 AI Act zurück und lösen bei Bedarf Updates oder Rückrufe aus.

Schwerwiegende Vorfälle nach Art. 73 AI Act sind den Marktüberwachungsbehörden binnen 15 Tagen zu melden, in Fällen mit Todesfolge binnen zehn Tagen, in Fällen weit verbreiteter Verstöße oder kritischer Infrastruktur binnen zwei Tagen. Die deutsche Marktüberwachung wird gemäß Entwurf des KI-Marktüberwachungsgesetzes bei der BNetzA und der BfDI ressortieren.

Betreiber überwachen den Einsatz gemäß Gebrauchsanweisung des Anbieters. Anomalien, Bias-Verdachtsfälle und Fehlfunktionen werden dokumentiert und an den Anbieter zurückgespielt. Bei eigenständiger Wesentlichkeitsänderung greift die Umkippregel des Art. 25 AI Act, der Betreiber wird zum Anbieter mit allen Folgepflichten.

Bußgelder nach Art. 99 AI Act sind erheblich. Verbote nach Art. 5 AI Act: bis 35 Mio. Euro oder 7 Prozent des weltweiten Konzernumsatzes. Verstöße gegen Anbieter- oder Betreiberpflichten: bis 15 Mio. Euro oder 3 Prozent. Falsche Auskünfte gegenüber der Behörde: bis 7,5 Mio. Euro oder 1 Prozent. Die Bußgelder sind kumulativ zu DSGVO-Sanktionen denkbar.

CIVAC bindet den Vorfall-Meldepfad an den NIS-2-24/72-Meldepfad an, sofern die Organisation parallel der NIS-2-Richtlinie unterliegt. Der Prüfer ruft an, der Nachweis liegt bereit.

Der AI Act greift gestaffelt. Seit 2. August 2024 ist die Verordnung in Kraft. Seit 2. Februar 2025 gelten die Verbote nach Art. 5 AI Act und die KI-Kompetenzpflicht nach Art. 4 AI Act, wonach Anbieter und Betreiber sicherstellen müssen, dass mit KI befasstes Personal über ausreichende Kompetenz verfügt.

Seit 2. August 2025 gelten die GPAI-Pflichten nach Kapitel V AI Act, die Governance-Vorschriften nach Kapitel VII und die Sanktionen nach Kapitel XII (mit Ausnahme der Sanktionen gegen GPAI-Anbieter, die zwölf Monate später greifen).

Ab 2. August 2026 greifen die zentralen Anbieter- und Betreiberpflichten für Hochrisiko-KI nach Anhang III. Dieser Stichtag betrifft die meisten Unternehmen, weil Recruiting-, Kreditwürdigkeits-, Bildungs- und kritische-Infrastruktur-Anwendungen unter Anhang III fallen. Die Vorlaufzeit für Dokumentation, Konformitätsbewertung und Eintragung in die EU-Datenbank ist kurz.

Ab 2. August 2027 gelten die Pflichten für Hochrisiko-KI in regulierten Produkten nach Anhang I, etwa Medizinprodukte, Maschinen, Spielzeug, Aufzüge. Hier greift die Verzahnung mit den jeweiligen Produktregulierungen einschließlich Konformitätsbewertung durch benannte Stellen.

Der CIVAC-Stichtagsfahrplan im Workspace synchronisiert diese Daten mit dem internen Compliance-Kalender, weist Aufgaben dem Compliance-Beauftragten zu und protokolliert Erledigung mit Datum und Unterschrift. Andere führen Compliance wie einen Aktenschrank. Wir führen sie wie Software.

Der AI Act ergänzt die DSGVO, ersetzt sie nicht. Eine KI mit Personenbezug erfordert weiterhin Rechtsgrundlage nach Art. 6 DSGVO, Information nach Art. 13 DSGVO, ggf. Datenschutz-Folgenabschätzung nach Art. 35 DSGVO. Die AI-Act-Grundrechte-Folgenabschätzung nach Art. 27 AI Act und die DSGVO-DSFA sind koordiniert zu führen, dürfen aber nicht zusammengelegt werden.

NIS-2 trifft kritische Betreiber. Wer als wesentliches oder wichtiges Unternehmen nach NIS-2 gilt und KI in seinen Netz- und Informationssystemen einsetzt, integriert die KI-spezifischen Risiken in das Risikomanagement nach Art. 21 NIS-2. Der ISB koordiniert mit dem Compliance-Beauftragten. CIVAC liefert hierfür den Informationssicherheitsbeauftragten-Workspace mit 93 ISO/IEC 27001:2022-Controls.

ISO/IEC 27001:2022 deckt die Cybersicherheitsanforderungen nach Art. 15 AI Act für Hochrisiko-KI weitgehend ab, sofern die KI-Systeme in den ISMS-Anwendungsbereich aufgenommen werden. Die Statement of Applicability sollte die KI-spezifischen Controls aus ISO/IEC 42001:2023 (AI Management System) referenzieren, der derzeit Stand der Technik für KI-Governance ist.

Die Produktsicherheitsgesetze (ProdSG, ProdHaftG, MaschinenG) greifen parallel, wenn die KI in einem Produkt nach Anhang I AI Act eingebettet ist. Die Konformitätsbewertung erfolgt integriert, mit einer einzigen technischen Dokumentation, die beide Regelungsregime abdeckt.

CIVAC verbindet diese Regelungswelten in einer Plattform. Statt 25 Beauftragten-Rollen in 25 Silos zu führen, läuft die Governance auf einem geteilten Datenmodell mit Querverweisen zwischen ROPA, ISMS, AI-Register und LkSG-Dossier.

Feststellung eins: unvollständiges KI-Inventar. Schatten-KI über Browser-Plug-ins, ungenehmigte SaaS-Tools und embedded-AI-Funktionen in Bestandssoftware bleiben unerfasst. Abhilfe: Inventar an den IT-Beschaffungsprozess koppeln und quartalsweise Discovery-Scans durchführen.

Feststellung zwei: falsche Rollenzuweisung. Unternehmen klassifizieren sich pauschal als Betreiber, obwohl sie durch Finetuning, Rebranding oder Funktionsänderung nach Art. 25 AI Act zum Anbieter geworden sind. Abhilfe: Die Umkippregel pro System prüfen und dokumentieren, idealerweise mit juristischer Sichtung.

Feststellung drei: pauschale Risikoklassifizierung. "Wir setzen nur Standardsoftware ein, also kein Hochrisiko" ist keine Klassifikation. Abhilfe: Pro System den Anhang-III-Fragebogen durchgehen, Ausnahmen nach Art. 6(3) AI Act begründen, Entscheidung im Register hinterlegen.

Feststellung vier: fehlende menschliche Aufsicht in der Praxis. Auf dem Papier ist menschliche Aufsicht festgelegt, in der Realität entscheidet die KI ohne Eingriff, weil die Mitarbeiter überlastet sind oder die Eingriffsmöglichkeit technisch nicht umgesetzt ist. Abhilfe: Die Aufsichtsdesigns nach Art. 14 AI Act testen und dokumentieren.

Feststellung fünf: lückenhafte Schulungsnachweise nach Art. 4 AI Act. Die KI-Kompetenzpflicht gilt seit Februar 2025; Schulungsteilnahme, Inhalte und Aktualisierungen müssen belegbar sein. CIVAC integriert die Schulungsnachweise in das Beauftragten-Register, sodass jeder mit KI befasste Mitarbeiter eine aktuelle Kompetenzbestätigung hinterlegt hat.

CIVAC ist eine Compliance-Plattform und Officer-as-a-Service. Die KI-Compliance-Prüfung ist eine von 490 Audit-Vorlagen im Workspace, eingebettet in das KI-Register, den Risikofragebogen, die Betreiber-Folgenabschätzung nach Art. 27 AI Act und den Vorfall-Meldepfad nach Art. 73 AI Act. EU-Datenresidenz ist Standard.

Das duale Modell gibt Ihnen zwei Wege. Lizenzieren Sie den Workspace für Ihre internen Beauftragten, oder lassen Sie unsere Beauftragten bestellen. Im ersten Fall arbeitet Ihr Compliance-Beauftragter mit den 25 Rollen, den 93 ISO/IEC 27001:2022-Controls, dem AI-Act-Stichtagsfahrplan und der vollständigen Versionierung.

Im zweiten Fall wird ein CIVAC-Compliance-Beauftragter binnen zwei Werktagen per Bestellurkunde bestellt, statt der klassischen zwei bis sechs Wochen. Der externe Beauftragte führt das KI-Register, die Risikoklassifizierung und die Berichtslinie an die Geschäftsführung. Bestellurkunde, unterschrieben, abgelegt, belegbar.

In beiden Modellen liegt der Behördenrespons-Pfad bereit. Fragt die Marktüberwachung an, ist das KI-Register exportbereit, die Klassifikationsbegründungen sind hinterlegt, die Konformitätsbewertungen sind versionsgeführt. Frist läuft ab Kenntnis, der Nachweis liegt bereit.

Aus dem Lesen einen Auftrag machen. Schreiben Sie an info@civac.de oder nutzen Sie das Kontaktformular auf civac.de für die KI-Compliance-Prüfung, den Workspace-Zugang oder die Bestellung eines externen Compliance-Beauftragten für Ihr Unternehmen.