1. Sicherstellung der KI-Kompetenz
Anbieter und Betreiber müssen nachweisen, dass ihr Personal über das notwendige Wissen und die erforderlichen Fähigkeiten verfügt. Dazu gehören:
-
Technische Kenntnisse über die Entwicklung und Funktionsweise von KI-Systemen
-
Erfahrung im praktischen Einsatz und der Wartung von KI-Technologien
-
Regelmäßige Schulungen, um auf dem neuesten Stand der Entwicklungen zu bleiben
-
Kontextbezogene Kenntnisse über die spezifischen Einsatzbereiche der KI-Systeme
2. Besondere Anforderungen für Hochrisiko-KI-Systeme
Bei Hochrisiko-KI-Systemen gibt es zusätzliche Anforderungen an die menschliche Aufsicht:
-
Verantwortliche Personen müssen umfassend geschult sein, um potenzielle Risiken frühzeitig zu erkennen und zu minimieren.
-
Befugnisse müssen klar geregelt sein, damit Verantwortliche angemessene Maßnahmen ergreifen können.
-
Anleitung und Dokumentation müssen verständlich und praxisnah sein, um die Nutzung und Überwachung zu erleichtern.
Konsequenzen bei Nichteinhaltung
Unternehmen, die diese Anforderungen nicht erfüllen, riskieren nicht nur regulatorische Strafen, sondern auch erhebliche Reputationsschäden. Die EU sieht bei Verstößen gegen den AI Act empfindliche Sanktionen vor, insbesondere für Betreiber von Hochrisiko-KI-Systemen.
Praxisbeispiel: Erfolgreiche Umsetzung der KI-Kompetenzanforderungen
Ein international tätiges Unternehmen im Finanzsektor hat bereits frühzeitig ein umfassendes Schulungsprogramm für seine Mitarbeiter eingeführt. Dabei wurden regelmäßige Weiterbildungen mit praxisnahen Fallstudien kombiniert, um eine hohe Kompetenz im Umgang mit KI zu gewährleisten. Ergebnis: Die KI-Systeme des Unternehmens erfüllen nicht nur die gesetzlichen Anforderungen, sondern werden auch effizienter und sicherer genutzt.
Fazit: Jetzt handeln!
Die Verpflichtung zur KI-Kompetenz ist keine bloße Empfehlung, sondern eine essenzielle Voraussetzung für den rechtskonformen und sicheren Einsatz von KI-Systemen. Unternehmen sollten proaktiv Maßnahmen ergreifen, um ihre Mitarbeitenden entsprechend zu schulen und ihre KI-Prozesse optimal aufzustellen.
Mehr zu aktuellen regulatorischen Anforderungen findest du hier: DORA-Compliance: Neueste Entwicklungen
