KI-Gutachten automatisch erstellen: Was unter EU-AI-Act und DSGVO erlaubt ist

Die Verordnung (EU) 2024/1689 über Künstliche Intelligenz, kurz EU-AI-Act, klassifiziert KI-Systeme nach Risiko und schreibt für Hochrisiko-Anwendungen ein Konformitätsbewertungsverfahren nach Anhang VI vor. KI-gestützte Gutachten in der Compliance-Funktion bewegen sich an dieser Schwelle: Sie unterstützen die Entscheidung des Compliance-Officers, ersetzen sie aber nicht. Wer ein Sprachmodell zur Erstellung von Datenschutz-Folgenabschätzungen, NIS-2-Risikoanalysen oder Lieferketten-Gutachten einsetzt, muss Art. 22 DSGVO (Verbot automatisierter Einzelentscheidungen mit erheblichen Auswirkungen) und § 130 OWiG (Aufsichtspflichten) zugleich beachten.

Dieser Beitrag erklärt, welche Teile eines Compliance-Gutachtens rechtssicher automatisiert werden können, an welcher Stelle der menschliche Officer-Vorbehalt greift, welche Audit-Anforderungen sich aus Art. 12 EU-AI-Act (Protokollierung) und § 9 BSIG-Umsetzung ergeben und wie ein produktionsreifer Workflow aussieht. Sie erhalten zudem eine Bewertung marktüblicher Werkzeuge, eine Checkliste für die Datenschutz-Folgenabschätzung des KI-Systems selbst und ein Modell, wie CIVAC den automatisierten Gutachten-Workflow mit dem Workspace und der Officer-Bestellung verzahnt. Am Ende des Beitrags zeigen wir, wie Sie binnen 2 Werktagen einen prüfungsfesten Automatisierungspfad aufsetzen, ohne den regulatorischen Rahmen zu sprengen. Die Anforderungen gelten gleichermaßen für Kanzleien, mittelständische Industrieunternehmen und Konzern-Compliance-Abteilungen, mit unterschiedlicher Tiefe der Dokumentation.

Ein Compliance-Gutachten dokumentiert die rechtliche Bewertung eines Sachverhalts und endet mit einer Empfehlung. Klassischerweise umfasst es fünf Bausteine: Sachverhaltsdarstellung, einschlägige Normen, Subsumtion, Risikobewertung und Handlungsempfehlung. In der Praxis verbringen Officer 60 bis 80 % ihrer Zeit mit den ersten drei Bausteinen, weil dort Rechercheaufwand entsteht, der wenig rechtliche Beurteilungstiefe erfordert. Eine repräsentative Kanzlei mit zehn Mandanten im Mittelstand und 35 jährlichen Gutachten verbringt nach einer Erhebung des Berufsverbandes durchschnittlich 8 Stunden je Gutachten, davon 5 Stunden für Recherche und Erstentwurf.

Sprachmodelle leisten in genau diesen Bausteinen messbaren Beitrag. Die Sachverhaltsdarstellung kann aus strukturierten Eingaben (Dokumenten, Formularen, E-Mail-Threads) generiert werden. Die Recherche der einschlägigen Normen erfolgt aus einem kuratierten Korpus (DSGVO, BDSG, NIS-2-Umsetzungsgesetz, IT-SiG, LkSG, ISO/IEC 27001:2022, BAFA-Handreichungen). Die Subsumtion in einem Erstentwurf folgt der Struktur einschlägiger Senatsentscheidungen und Hinweise der Aufsichtsbehörden.

Die Risikobewertung und insbesondere die Handlungsempfehlung bleiben außerhalb des Automatisierungsbereichs, weil sie eine Würdigung verlangen, die Berufserfahrung, Sozietätskenntnis und Mandatslage einbezieht. Hier greift der Officer-Vorbehalt. CIVAC bildet diese Trennung im Workspace technisch ab: Der KI-Entwurf entsteht in einer markierten Vorstufe, die Freigabe erfolgt durch den bestellten Datenschutz- oder Compliance-Beauftragten mit Signatur. Bestellurkunde, unterschrieben, abgelegt, belegbar. Die Vorstufe ist gegenüber dem freigegebenen Gutachten farblich und im Metadatensatz klar unterscheidbar, sodass eine Prüfung den Reifegrad jedes Dokuments sofort erkennt. Eine Versionshistorie zeigt, wie der Entwurf vom KI-System bis zur Officer-Freigabe modifiziert wurde, einschließlich aller Anmerkungen, Quellenkorrekturen und Ergänzungen aus der Berufspraxis. Bei einer Prüfung durch die Aufsichtsbehörde wird die Versionshistorie als Nachweis der substantiellen menschlichen Intervention herangezogen, was bei reinen Word- oder PDF-Workflows regelmäßig fehlt und zu Beanstandungen führt.

Der EU-AI-Act gilt seit August 2024, mit gestaffelten Übergangsfristen. Hochrisiko-Systeme nach Anhang III sind ab August 2026 vollständig den Anforderungen unterworfen. Compliance-Gutachten, die im Personalbereich, im Kreditvergabeprozess oder bei kritischer Infrastruktur Entscheidungen vorbereiten, fallen unter Anhang III, wenn das Gutachten unmittelbar in eine personenrelevante Entscheidung einfließt.

Erstellt das KI-System dagegen Gutachten, die ein Officer eigenständig prüft und freigibt, ohne dass die KI-Empfehlung automatisch übernommen wird, ist die Einstufung als Hochrisiko-System nach derzeitiger Auslegung der Europäischen Kommission und der Aufsichtsbehörden differenziert zu sehen. Maßgeblich ist die tatsächliche Wirkung der KI-Ausgabe auf die Endentscheidung. Eine reine Recherche- und Entwurfsfunktion mit klarer menschlicher Freigabe gilt regelmäßig nicht als Hochrisiko-System, ist aber als General-Purpose-AI-System mit nachvollziehbarer Dokumentation zu betreiben.

Unabhängig von der Hochrisiko-Einstufung verlangen Art. 13 und 14 EU-AI-Act Transparenz, menschliche Aufsicht und Dokumentation. Konkret bedeutet das: Jede Inferenz wird protokolliert (Eingabe, Modell, Version, Ausgabe, Zeitstempel), die Officer-Freigabe wird signiert und mit dem Entwurf verknüpft, das Modell wird in einem Inventar geführt und mit Risikoklasse versehen. Die EU-AI-Act-Pflichten ab August 2026 sind im CIVAC Workspace bereits abgebildet, so dass die Einführung KI-gestützter Gutachten ohne separates Tooling auskommt. Eine Reklassifizierung im Zeitverlauf ist mit wenigen Klicks dokumentierbar, etwa wenn die Behörden ihre Auslegung verschärfen. Das Modell wird mit Anbieter, Region des Inferenz-Endpunkts und Verwendungszweck im Workspace-Inventar geführt, ergänzt um die zugehörigen Risikohinweise nach Anhang IV des EU-AI-Act und die jährliche Überprüfung durch den Officer.

Art. 22 DSGVO verbietet Entscheidungen, die ausschließlich auf einer automatisierten Verarbeitung beruhen und der betroffenen Person gegenüber rechtliche Wirkung entfalten oder sie in ähnlicher Weise erheblich beeinträchtigen. In der Compliance-Funktion ist dieser Tatbestand relevant, wenn das KI-Gutachten unmittelbar zu einer Entscheidung über einen Mitarbeiter, Bewerber oder Mandanten führt, etwa bei Hinweisgeberverfahren, Anti-Geldwäsche-Bewertungen oder Kreditbewilligungen.

Der Ausweg liegt in der substantiellen menschlichen Intervention. Substantiell bedeutet nicht das bloße Abnicken einer KI-Empfehlung, sondern eine eigenständige Würdigung mit dokumentierter Abweichungsmöglichkeit. Wenn der Officer den KI-Entwurf inhaltlich prüft, gegebenenfalls anpasst, ablehnt oder ergänzt, und die Endentscheidung unter eigener Verantwortung trifft, ist Art. 22 DSGVO nicht verletzt. Diese Würdigung ist nachweisbar zu dokumentieren, etwa durch eine Freigabenotiz mit Hinweis auf die geprüften Quellen, geänderte Passagen und die Begründung der Endempfehlung.

CIVAC implementiert diesen Officer-Vorbehalt im Workspace mit zwei technischen Mechanismen. Erstens: Jeder KI-generierte Entwurf wird mit einem Wasserzeichen und einer Versionsnummer markiert, die im freigegebenen Endgutachten erhalten bleibt. Zweitens: Die Freigabe verlangt eine textliche Begründung, ein Abweichungsfeld und die digitale Signatur des bestellten Officer. Andere führen Compliance wie einen Aktenschrank. Wir führen sie wie Software. Der Prüfer sieht so nicht nur das Endergebnis, sondern den gesamten Entwicklungsweg vom KI-Entwurf bis zur Officer-Freigabe, einschließlich aller Zwischenversionen und Anmerkungen. Diese Transparenz wirkt im Verfahren der Aufsichtsbehörde regelmäßig bußgeldmindernd, weil die substantielle menschliche Intervention nicht nur behauptet, sondern technisch belegt wird. Eine zusätzliche Schutzlinie liegt im Vier-Augen-Prinzip bei besonders risikoreichen Gutachten, etwa wenn das Ergebnis unmittelbar in eine Personalentscheidung oder eine Kreditbewilligung einfließt.

Art. 12 EU-AI-Act schreibt für Hochrisiko-Systeme eine Protokollierung vor, die mindestens umfasst: Zeitspanne der Nutzung, Referenzdatenbank, Eingabedaten, Identifikation der natürlichen Personen, die die Ergebnisse überprüfen. Für nicht-hochrisikoreiche Systeme empfiehlt die Datenschutzkonferenz in ihrer Orientierungshilfe zu KI vom Mai 2024 eine vergleichbare Protokollierung, soweit Eingabedaten personenbezogen sind.

Der Audit-Trail eines KI-gestützten Compliance-Gutachtens dokumentiert in der CIVAC-Implementierung sieben Datenpunkte je Anwendung: Eingabeprompt mit Zeitstempel, verwendetes Modell und Version, Modellanbieter mit Region des Inferenz-Endpunkts, Ausgabe im Volltext, geprüfte Normquellen mit Versionsstand, Officer-Freigabe mit Signatur und Begründung, abschließendes Gutachten als signierte PDF mit Hashwert.

Die Aufbewahrungsfrist orientiert sich am Verwendungszweck. Compliance-Gutachten zur DSGVO-Konformität werden regelmäßig drei Jahre aufbewahrt (Verjährungsfrist für Ordnungswidrigkeiten nach § 31 OWiG), bei Lohnsteuer- und Buchungsbelegen zehn Jahre nach § 147 AO. Inferenz-Logs sind nach Art. 12 Abs. 2 EU-AI-Act mindestens sechs Monate, in Hochrisiko-Anwendungen mindestens zwölf Monate aufzubewahren, soweit nicht andere Gesetze längere Fristen vorsehen. CIVAC speichert diese Daten in einem nach ISO/IEC 27001:2022 zertifizierten Rechenzentrum mit EU-Datenresidenz und exportiert sie auf Anforderung der Aufsichtsbehörde in einem maschinenlesbaren Format (JSON, XML) mit Hashprüfsumme. Der Prüfer ruft an, der Nachweis liegt bereit, einschließlich der Modellversion, mit der das Gutachten erstellt wurde. Bei einer Reproduktion der Inferenz im Audit kann der gleiche Eingabeprompt mit derselben Modellversion erneut ausgeführt werden, sodass die Aufsichtsbehörde die Reproduzierbarkeit prüfen kann. Datenbanken über bisherige Inferenzen sind verschlüsselt und nur dem bestellten Officer und der internen Revision zugänglich, jeder Zugriff wird protokolliert.

Nicht jedes Gutachten profitiert gleich stark von der Automatisierung. Erfahrungsgemäß sind vier Kategorien besonders wirksam. Erstens: Datenschutz-Folgenabschätzungen nach Art. 35 DSGVO für Standard-Verfahren wie Cloud-Migration, neue HR-Tools oder Mitarbeiterbefragungen. Die Struktur ist normiert (Beschreibung, Notwendigkeit, Risiken, Maßnahmen), die einschlägigen Quellen sind kuratierbar (DSGVO, BDSG, Kurzpapiere der Datenschutzkonferenz).

Zweitens: NIS-2-Risikoanalysen für mittelgroße Einrichtungen. Der Aufbau folgt § 30 NIS-2-Umsetzungsgesetz und kann mit Bezug auf BSI IT-Grundschutz-Bausteine systematisiert werden. Drittens: LkSG-Risikoanalysen für direkte Zulieferer mit standardisierten Fragebögen und Branchenrisikoprofilen. Viertens: ISO/IEC 27001:2022 ISMS-Statements of Applicability mit Bezug auf die 93 Controls.

Weniger geeignet sind Gutachten mit hoher Sozietäts- oder Fallspezifik, etwa kartellrechtliche Marktabgrenzungen oder bilanzrechtliche Sonderfragen. Hier überwiegt der Anteil der Würdigung, die KI liefert höchstens eine erste Recherche. Auch arbeitsrechtliche Einzelfallgutachten mit Auflösungsentschluss sollten weiterhin im klassischen Verfahren entstehen, weil die Beweislage und die Interessenabwägung jeden Standardisierungsversuch unterlaufen. CIVAC stellt im Workspace 490 Audit-Vorlagen für die genannten Standard-Gutachten bereit, jeweils mit kuratiertem Quellenkorpus und vordefiniertem Officer-Freigabepfad. Die Vorlagen werden quartalsweise an Gesetzesänderungen und neue Aufsichtsbehörden-Hinweise angepasst, ohne dass die Kanzlei oder das Unternehmen selbst die Aktualisierung vornehmen muss. In der Praxis entfällt damit der größte Teil des Recherche- und Strukturierungsaufwands, sodass der Officer seine Zeit auf die Würdigung und die Handlungsempfehlung konzentrieren kann. Bei 35 jährlichen Gutachten reduziert sich der Bearbeitungsaufwand erfahrungsgemäß von 8 Stunden auf 3 Stunden je Gutachten, ohne dass die Qualität sinkt.

Die Auswahl des Sprachmodells entscheidet über Vertraulichkeit, Datenresidenz und Auditfähigkeit. Drei Kriterien sind ausschlaggebend. Erstens: Datenstandort. Inferenzen mit personenbezogenen oder geschäftskritischen Daten gehören in EU-Rechenzentren. Microsoft Azure OpenAI mit EU-Datenresidenz, Mistral mit französischen Hostings, Aleph Alpha mit deutschen Rechenzentren oder Open-Source-Modelle in eigener Hosting-Umgebung erfüllen diese Anforderung.

Zweitens: Auftragsverarbeitungsvertrag und Subprozessoren-Liste. Jeder Modellanbieter ist Auftragsverarbeiter nach Art. 28 DSGVO. Der AV-Vertrag muss die Subprozessoren benennen, das Trainingsausschlussrecht regeln (keine Verwendung der Eingaben für Modelltraining) und die Standardvertragsklauseln 2021/914 enthalten, falls Komponenten in Drittländern liegen. Drittens: Modellversionierung und Reproduzierbarkeit. Das KI-System muss in einer festgehaltenen Version laufen, sodass identische Eingaben identische Ausgaben erzeugen oder zumindest die Spannweite dokumentiert ist.

CIVAC betreibt den KI-Gutachten-Workflow im Workspace mit EU-Datenresidenz und einem nach ISO/IEC 27001:2022 zertifizierten Inferenz-Endpunkt. Das Trainingsausschlussrecht ist im AV-Vertrag verankert, die Subprozessoren sind im Verzeichnis ausgewiesen. Lizenzieren Sie den Workspace für Ihre internen Beauftragten, oder lassen Sie unsere Beauftragten bestellen. Beide Wege nutzen denselben Inferenz-Endpunkt mit denselben Audit-Logs. Eine zusätzliche Konfiguration für besonders sensible Mandate, etwa mit Pseudonymisierung der Eingabedaten vor der Inferenz, ist im Workspace per Schalter aktivierbar und reduziert die Datenschutzklassifizierung der Eingaben um eine Stufe. Für Behörden und Anwender im KRITIS-Sektor steht eine On-Premise-Variante mit lokal gehosteten Modellen bereit, die ohne Verbindung zu externen Inferenz-Endpunkten arbeitet und damit auch den BSI-Mindeststandard für Cloud-Nutzung in der Bundesverwaltung erfüllt.

Vor dem produktiven Einsatz eines KI-gestützten Gutachten-Workflows ist nach Art. 35 DSGVO eine Datenschutz-Folgenabschätzung des KI-Systems durchzuführen, weil systematische und umfangreiche Auswertung personenbezogener Daten mit neuer Technologie vorliegt. Die Datenschutzkonferenz hat diese Pflicht in ihrer Liste verarbeitungsspezifischer Risiken vom April 2024 bestätigt.

Die Folgenabschätzung umfasst sechs Bausteine. Erstens: Systematische Beschreibung der Verarbeitung (Welche Eingaben, welches Modell, welche Ausgaben, welcher Officer-Workflow). Zweitens: Bewertung der Notwendigkeit und Verhältnismäßigkeit. Drittens: Bewertung der Risiken für die Rechte und Freiheiten der Betroffenen. Viertens: Geplante Abhilfemaßnahmen (Pseudonymisierung, Zugriffskontrollen, Audit-Trail, Officer-Vorbehalt). Fünftens: Konsultation des DSB. Sechstens: Bei verbleibendem hohen Risiko Konsultation der Aufsichtsbehörde nach Art. 36 DSGVO.

CIVAC liefert die DSFA als Vorlage im Workspace und überträgt die Bewertungen quartalsweise auf neue Modellversionen, sobald die Provider ihre Inferenz-Infrastruktur ändern. Audit-fest, dokumentiert, § 35-fest. Die Vorlage erfüllt die Anforderungen des LfDI Baden-Württemberg, des BfDI und der Datenschutzkonferenz an die strukturierte DSFA. Ergänzend wird im Workspace eine Risikomatrix geführt, die die KI-Risiken mit Eintrittswahrscheinlichkeit und Schadensausmaß bewertet und mit den Abhilfemaßnahmen verknüpft, sodass im Zuge eines Audits jede Bewertung mit der zugehörigen Maßnahme verbunden ist. Sollte sich die Bewertung im Zeitverlauf verschärfen, etwa weil ein neues Modell ohne EU-Inferenz eingesetzt werden soll, löst der Workspace automatisch eine erneute DSFA aus und sperrt das Modell bis zur Freigabe durch den DSB. Die Konsultation der Aufsichtsbehörde nach Art. 36 DSGVO ist erforderlich, wenn die DSFA ein hohes Restrisiko ausweist und keine ausreichenden Abhilfemaßnahmen gefunden werden.

KI-Sprachmodelle leisten in der Compliance-Gutachten-Erstellung viel, aber nicht alles. Drei Grenzen sind besonders zu beachten. Erstens: Halluzinationen bei Normzitaten. Wenn das Modell Paragraphen erfindet, die nicht existieren, oder Senatsentscheidungen mit falschen Aktenzeichen zitiert, fällt das nur dem geschulten Auge auf. Die Lösung liegt in einem kuratierten Quellenkorpus (Retrieval-Augmented Generation, RAG), der ausschließlich freigegebene Normtexte und Aufsichtsbehörden-Hinweise enthält.

Zweitens: Aktualität. Sprachmodelle haben einen Wissensstand zum Trainingsdatum. Gesetzesänderungen, neue Aufsichtsbehörden-Hinweise und Senatsentscheidungen nach dem Wissensstand bleiben unberücksichtigt, falls nicht über RAG nachgereicht. Der Officer prüft die Aktualität jeder im Gutachten zitierten Norm. Drittens: Sozietätskontext. Die Würdigung eines Sachverhalts unterscheidet sich nach Branche, Risikoappetit, Mandanten- oder Mitarbeiterhistorie und strategischer Lage. Diese Faktoren kennen KI-Systeme nicht.

CIVAC adressiert diese Grenzen durch eine Kombination aus RAG mit täglich aktualisiertem Quellenkorpus, einer expliziten Officer-Freigabe und einer Übersicht im Workspace, die ungewöhnliche oder unbelegte Aussagen markiert. Werden Normen zitiert, die nicht im Quellenkorpus enthalten sind, hebt das System die Stelle hervor und verlangt eine Officer-Bestätigung. Diese Mechanik verhindert nicht jede Halluzination, reduziert ihre Auftretenswahrscheinlichkeit aber messbar. In internen Tests sank die Zahl unbelegter Normzitate von durchschnittlich 4,2 je Gutachten ohne RAG auf 0,3 je Gutachten mit RAG und Officer-Vorbehalt. Die verbleibende Restquote wird im Officer-Freigabeschritt aufgefangen. Eine Schulung der Officer im Erkennen typischer Halluzinationsmuster wird einmal jährlich angeboten und im Schulungsnachweis dokumentiert. Erfahrungsgemäß steigt die Erkennungsrate nach der ersten Schulung von 65 % auf über 90 %, was die verbleibende Restquote weiter senkt.

CIVAC ist eine Compliance-Plattform und Officer-as-a-Service mit Sitz in Deutschland. Wir bilden den KI-Gutachten-Workflow im CIVAC Workspace ab: Eingabe, kuratierter Quellenkorpus, Officer-Vorbehalt, Audit-Trail, EU-Datenresidenz nach ISO/IEC 27001:2022. Die 490 Audit-Vorlagen für DSGVO-, NIS-2-, LkSG- und ISMS-Gutachten sind im Workspace einsatzbereit, mit quartalsweisen Aktualisierungen an Gesetzesänderungen und Aufsichtsbehörden-Hinweise.

Lizenzieren Sie den Workspace für Ihre internen Beauftragten, oder lassen Sie unsere Beauftragten bestellen. Beide Wege führen zur gleichen Aktenlage: Bestellurkunde, dokumentierte Berichtslinie, automatisierter Entwurf mit menschlicher Freigabe, Inferenz-Log mit Modellversion, signiertes PDF mit Hashwert. Der Prüfer ruft an, der Nachweis liegt bereit. Eine separate Lizenzierung für das Sprachmodell ist nicht erforderlich, weil der Inferenz-Endpunkt im Workspace enthalten ist.

Wenn Sie KI-gestützte Compliance-Gutachten produktiv einführen möchten, ist ein klar dokumentierter Pfad zwischen Automatisierung und Officer-Vorbehalt entscheidend. Eine Erstberatung zur Workflow-Architektur, zur Modellauswahl, zur DSFA-Erstellung und zum Audit-Trail erhalten Sie ohne Gebühr. Schreiben Sie an info@civac.de oder nutzen Sie das Kontaktformular auf civac.de. Wir melden uns innerhalb eines Werktages und vereinbaren einen 30-minütigen Termin zur Bestandsaufnahme. Bei Bedarf binden wir Ihren bestellten Datenschutz- oder Compliance-Beauftragten in das Erstgespräch ein, damit der KI-Workflow von Beginn an seine Freigabe trägt. Für KRITIS-Betreiber und Konzern-Compliance-Abteilungen ist eine On-Premise-Variante mit lokal gehosteten Modellen verfügbar, die ohne Verbindung zu externen Inferenz-Endpunkten arbeitet. Aus dem Lesen einen Auftrag machen.