AI Risk Register erstellen: KI-Inventar belastbar aufbauen

Pflichten im Überblick: Wofür Sie ein AI Risk Register erstellen

Ein AI Risk Register erfüllt drei Aufgaben:

• Transparenz: Es erfasst alle KI-Systeme im Unternehmen, auch eingebettete Funktionen und KI-Agenten.
• Steuerung: Es ordnet jedem System eine Risikoklasse, Risiken, Kontrollen und Maßnahmen zu.
• Nachweis: Es belegt gegenüber Geschäftsleitung, Aufsichtsrat, Prüfern und Behörden, dass Sie Pflichten erkannt und umgesetzt haben.

Geltendes Recht

• Verbotene Praktiken: Art. 5 KI-VO verbietet unter anderem manipulative Techniken, Social Scoring und die Emotionserkennung am Arbeitsplatz. Sie müssen ausschließen können, dass ein eingesetztes System darunter fällt.
• KI-Kompetenz: Anbieter und Betreiber „ergreifen Maßnahmen, um die Entwicklung der KI-Kompetenz ihres Personals … zu unterstützen“. Die Pflicht verlangt kein bestimmtes Kompetenzniveau (Art. 4 Abs. 1 KI-VO in der Fassung der Verordnung (EU) 2026/1744). Das Register zeigt, wer welche Systeme nutzt und wer geschult werden muss.
• Transparenz: Anbieter müssen sicherstellen, dass Personen informiert werden, wenn sie mit einem KI-System interagieren (Art. 50 Abs. 1 KI-VO). Betreiber von Deepfake-Systemen und bestimmten Textgeneratoren haben Offenlegungspflichten (Art. 50 Abs. 4 KI-VO).
• Datenschutz: Hat eine Verarbeitung „insbesondere bei Verwendung neuer Technologien“ voraussichtlich ein hohes Risiko zur Folge, führt der Verantwortliche vorab eine Datenschutz-Folgenabschätzung (DSFA) durch (Art. 35 Abs. 1 DSGVO).
• Mitbestimmung: Der Betriebsrat bestimmt mit bei der „Einführung und Anwendung von technischen Einrichtungen, die dazu bestimmt sind, das Verhalten oder die Leistung der Arbeitnehmer zu überwachen“ (§ 87 Abs. 1 Nr. 6 BetrVG).
• Standards: ISO/IEC 42001:2023 beschreibt ein KI-Managementsystem (AIMS) mit KI-Risikobeurteilung und Folgenabschätzung. ISO/IEC 23894:2023 gibt Leitlinien für das KI-Risikomanagement. Beide Normen sind freiwillig.

Künftiges Recht

• Hochrisiko-KI ab 02.12.2027: Betreiber müssen Systeme gemäß Betriebsanleitung verwenden, die menschliche Aufsicht kompetenten Personen übertragen, Eingabedaten prüfen, den Betrieb überwachen, Protokolle mindestens sechs Monate aufbewahren und Beschäftigte vorab informieren (Art. 26 Abs. 1, 2, 4, 5, 6 und 7 KI-VO).
• Grundrechte-Folgenabschätzung: Pflicht für Einrichtungen des öffentlichen Rechts, private Einrichtungen, die öffentliche Dienste erbringen, und Betreiber von Systemen zur Kreditwürdigkeitsprüfung sowie zur Risikobewertung und Preisbildung in der Lebens- und Krankenversicherung (Art. 27 Abs. 1 KI-VO i. V. m. Anhang III Nr. 5 lit. b und c).

Mehr dazu: Was ist der EU AI Act?

Vor dem Start: Anbieter oder Betreiber?

Die Pflichten der KI-VO hängen von Ihrer Rolle ab. Die meisten Unternehmen sind Betreiber: Sie nutzen KI-Systeme, die andere entwickelt haben. Das Risikomanagementsystem nach Art. 9 KI-VO, die technische Dokumentation und die Konformitätsbewertung sind in erster Linie Sache des Anbieters. Betreiber haben die Pflichten nach Art. 26 KI-VO.

Sie können jedoch zum Anbieter werden. Nach Art. 25 Abs. 1 KI-VO gelten Betreiber als Anbieter eines Hochrisiko-KI-Systems, wenn sie

• ein Hochrisiko-System mit ihrem Namen oder ihrer Marke versehen,
• es wesentlich verändern oder
• die Zweckbestimmung eines Systems so ändern, dass es zum Hochrisiko-System wird.

Mehr dazu: Was macht ein AI Compliance Officer?

Schritt 2: Einstufen nach Risikoklassen der KI-VO

Ordnen Sie jedes System einer von fünf Kategorien zu:

Typische Hochrisiko-Fälle nach Anhang III

• Nr. 4 lit. a: „KI-Systeme, die bestimmungsgemäß für die Einstellung oder Auswahl natürlicher Personen verwendet werden sollen, insbesondere um gezielte Stellenanzeigen zu schalten, Bewerbungen zu sichten oder zu filtern und Bewerber zu bewerten“.
• Nr. 4 lit. b: Systeme für Entscheidungen über Beförderung, Kündigung, Aufgabenzuweisung oder Leistungsbewertung.
• Nr. 5 lit. b: Kreditwürdigkeitsprüfung und Bonitätsbewertung natürlicher Personen, ausgenommen Betrugserkennung.
• Nr. 5 lit. c: Risikobewertung und Preisbildung in der Lebens- und Krankenversicherung.

Ausnahme mit Grenze

Ein Anhang-III-System ist nicht hochriskant, wenn es etwa nur eine eng gefasste Verfahrensaufgabe oder eine vorbereitende Aufgabe übernimmt (Art. 6 Abs. 3 Unterabs. 2 lit. a bis d KI-VO). Es „gilt … immer dann als hochriskant, wenn es ein Profiling natürlicher Personen vornimmt“ (Art. 6 Abs. 3 Unterabs. 3 KI-VO). Der Anbieter dokumentiert seine Bewertung, bevor er das System in Verkehr bringt (Art. 6 Abs. 4 KI-VO).

Orientierung: Die Europäische Kommission hat im Mai 2026 einen Entwurf von Leitlinien zur Einstufung von Hochrisiko-KI-Systemen mit Praxisbeispielen veröffentlicht. Die endgültige Fassung steht noch aus.

Schritt 4: Kontrollen und Maßnahmen festlegen

Halten Sie für jedes System fest, welche Kontrollen bestehen und welche fehlen. Typische Maßnahmen:

• Anbieterunterlagen anfordern: Betriebsanleitung und Angaben zur Zweckbestimmung, Genauigkeit und menschlichen Aufsicht (Art. 13 KI-VO), Nachweise zur Datenverarbeitung, Sicherheitszertifikate.
• Menschliche Aufsicht organisieren: Benennen Sie Personen mit „der erforderlichen Kompetenz, Ausbildung und Befugnis“ (Art. 26 Abs. 2 KI-VO).
• Eingabedaten prüfen: Soweit Sie die Eingabedaten kontrollieren, müssen diese der Zweckbestimmung entsprechen und „ausreichend repräsentativ“ sein (Art. 26 Abs. 4 KI-VO).
• Betrieb überwachen und Vorfälle melden: Bei Risiken Anbieter und Behörde informieren und die Nutzung aussetzen (Art. 26 Abs. 5 KI-VO).
• Protokolle aufbewahren: mindestens sechs Monate, soweit sie Ihrer Kontrolle unterliegen (Art. 26 Abs. 6 KI-VO).
• Beschäftigte und Betriebsrat informieren: vor dem Einsatz am Arbeitsplatz (Art. 26 Abs. 7 KI-VO); Mitbestimmung nach § 87 Abs. 1 Nr. 6 BetrVG klären.
• Zugriffskontrollen und Datenklassen: Was darf in welches Werkzeug eingegeben werden?
• Schulung: zielgruppengerecht nach Art. 4 KI-VO.
• Rückfallprozess: manuelle Bearbeitung bei Ausfall oder Fehlfunktion.

Mehr dazu: KI-Kompetenz als Pflicht

Praxisbeispiel: KI-gestützte Bewerbervorauswahl

Das folgende Beispiel zeigt einen ausgefüllten Registereintrag. Produkt und Anbieter sind frei gewählt und stehen für kein reales System.

Ergebnis: Der Eintrag zeigt sofort, welche Pflichten bis zum 02.12.2027 offen sind, wer zuständig ist und welche Nachweise fehlen.

Mehr dazu: AI Compliance in der Praxis: der GenAI-Einführungsfall

Quick-Check: Ist Ihr AI Risk Register belastbar?

Ordnen Sie jede Prüffrage Ihrem Stand zu. Die Empfehlung erscheint, sobald Sie eine Auswahl treffen. Die Auswahl dient nur Ihrer Selbsteinschätzung und wird nicht gespeichert.

Fazit: AI Risk Register erstellen und dauerhaft pflegen

Ein AI Risk Register ist kein Selbstzweck, sondern die Grundlage Ihrer KI-Governance. Wer ein AI Risk Register erstellen und pflegen will, macht Schatten-KI sichtbar, ordnet Pflichten nach KI-VO, DSGVO und BetrVG zu und erkennt, wo bis zum 02.12.2027 Handlungsbedarf besteht. Entscheidend ist nicht die Zahl der Spalten, sondern dass jede Einstufung begründet, jede Maßnahme zugeordnet und jede Änderung nachvollziehbar ist.

Kernbotschaften

• Das Register verbindet Inventar, Einstufung, Risikobewertung und Maßnahmen über eine gemeinsame System-ID.
• Klären Sie je System die Rolle nach KI-VO: Betreiber, aber bei Zweckänderung unter Umständen Anbieter (Art. 25 Abs. 1 KI-VO).
• Trennen Sie geltendes Recht, Übergangsregelungen und künftige Pflichten. Für Hochrisiko-Systeme nach Anhang III ist der 02.12.2027 maßgeblich.
• Pflegen Sie das Register über Freigabe-Gate, Aktualisierungsanlässe und Quartalsbericht.

Checkliste

• Inventarisierung aus technischen, vertraglichen und fachlichen Quellen abgeschlossen
• Amnestie-Phase für Schatten-KI durchgeführt
• 16 Spalten je System befüllt
• Einstufung mit Fundstelle begründet
• Brutto- und Nettorisiko bewertet
• Maßnahmen mit Verantwortlichen, Termin und Nachweis
• Hochrisiko-Systeme mit Fristreife-Ampel 02.12.2027
• Freigabe-Gate mit Einkauf verknüpft
• Quartalsbericht an die Geschäftsleitung eingerichtet

Quellenverzeichnis

Primärquellen der EU und des Bundes sowie Aufsichtsbehörden. Abruf aller Quellen: 16.10.2026. Nicht verlinkt, aber Grundlage der Ausführungen: Art. 35 DSGVO, § 87 Abs. 1 Nr. 6 BetrVG, § 1a Abs. 2a KWG sowie die Normen ISO/IEC 42001:2023 und ISO/IEC 23894:2023. Die genannten Studienzahlen von IBM (Cost of a Data Breach Report 2025) und die Prognose von Gartner sind Herstellerangaben und keine amtlichen Quellen.

• Verordnung (EU) 2026/1744 (EUR-Lex) – Änderungsverordnung: Art. 4, 5 und 113 KI-VO in neuer Fassung, Geltungszeitpunkte.
• Europäische Kommission: Regulatory framework for AI – Zeitplan der Regeln und neue Verbote ab Dezember 2026.
• Art. 4 KI-VO, AI Act Service Desk – Maßnahmen zur Unterstützung der KI-Kompetenz; kein bestimmtes Kompetenzniveau.
• Art. 5 KI-VO, AI Act Service Desk – Verbotene Praktiken einschließlich der neuen lit. ba und bb.
• Art. 6 KI-VO, AI Act Service Desk – Einstufung; Ausnahmen nach Abs. 3 lit. a bis d, Profiling, Dokumentation durch den Anbieter.
• Art. 9 KI-VO, AI Act Service Desk – Risikomanagementsystem für Hochrisiko-KI-Systeme (Anbieterpflicht).
• Art. 25 KI-VO, AI Act Service Desk – Wann Betreiber als Anbieter gelten.
• Art. 26 KI-VO, AI Act Service Desk – Betreiberpflichten einschließlich Sonderregeln für Finanzinstitute.
• Art. 27 KI-VO, AI Act Service Desk – Grundrechte-Folgenabschätzung und ihr Adressatenkreis.
• Art. 50 KI-VO, AI Act Service Desk – Transparenzpflichten Abs. 1 bis 4.
• Art. 99 KI-VO, AI Act Service Desk – Bußgeldrahmen und Sonderregel für KMU.
• Anhang III KI-VO, AI Act Service Desk – Wortlaut der Hochrisiko-Fälle Nr. 4 und Nr. 5.
• Europäische Kommission: Entwurf der Leitlinien zur Hochrisiko-Einstufung – Entwurf mit Praxisbeispielen; unverbindlich, endgültige Fassung steht aus.
• Europäische Kommission: Leitlinien zu Hochrisiko-Systemen – Stand des Verfahrens und Konsultation.
• KI-MIG, Bundesgesetzblatt 2026 I Nr. 223 (PDF) – Verkündeter Gesetzestext; Zuständigkeiten, u. a. § 2 Abs. 3.
• Bundesnetzagentur: Pressemitteilung zur KI-Verordnung – Bundesnetzagentur als Marktüberwachungsbehörde, Anlaufstelle und Beschwerdestelle.
• BaFin: KI-Marktüberwachung – Zuständigkeit der BaFin für KI mit direktem Bezug zu regulierter Finanztätigkeit.
• BaFin: Pressemitteilung zur KI-Verordnung – Abgrenzung zur Bundesnetzagentur, u. a. KI im Personalmanagement.
• BaFin: Meldung zur Orientierungshilfe zu IKT-Risiken bei KI – Orientierungshilfe vom 18.12.2025; unverbindlich; Lebenszyklus von KI-Systemen.
• BaFin: Orientierungshilfe zu IKT-Risiken bei KI (PDF) – Volltext: KI als Netzwerk- und Informationssystem, Inventarisierung von Modellen, Daten und Bibliotheken.
• Verordnung (EU) 2022/2554 (DORA), EUR-Lex – Verantwortung des Leitungsorgans (Art. 5) und Identifizierung der IKT-Assets (Art. 8).