KI-Kompetenz als Schulungspflicht: Warum Unternehmen jetzt handeln müssen

Mit dem AI Act der Europäischen Union werden klare Anforderungen an Anbieter und Betreiber von KI-Systemen gestellt. Eine der zentralen Verpflichtungen ist die Sicherstellung, dass alle mit dem Betrieb und der Nutzung von KI-Systemen betrauten Personen über ein ausreichendes Maß an KI-Kompetenz verfügen. Dies betrifft technisches Wissen, Erfahrung, Ausbildung und Schulung – insbesondere bei Hochrisiko-KI-Systemen. Doch was bedeutet das konkret für Unternehmen?

KI-Kompetenz als Schulungspflicht

Verpflichtungen für Anbieter und Betreiber

1. Sicherstellung der KI-Kompetenz

Anbieter und Betreiber müssen nachweisen, dass ihr Personal über das notwendige Wissen und die erforderlichen Fähigkeiten verfügt. Dazu gehören:

  • Technische Kenntnisse über die Entwicklung und Funktionsweise von KI-Systemen

  • Erfahrung im praktischen Einsatz und der Wartung von KI-Technologien

  • Regelmäßige Schulungen, um auf dem neuesten Stand der Entwicklungen zu bleiben

  • Kontextbezogene Kenntnisse über die spezifischen Einsatzbereiche der KI-Systeme

2. Besondere Anforderungen für Hochrisiko-KI-Systeme

Bei Hochrisiko-KI-Systemen gibt es zusätzliche Anforderungen an die menschliche Aufsicht:

  • Verantwortliche Personen müssen umfassend geschult sein, um potenzielle Risiken frühzeitig zu erkennen und zu minimieren.

  • Befugnisse müssen klar geregelt sein, damit Verantwortliche angemessene Maßnahmen ergreifen können.

  • Anleitung und Dokumentation müssen verständlich und praxisnah sein, um die Nutzung und Überwachung zu erleichtern.

Konsequenzen bei Nichteinhaltung

Unternehmen, die diese Anforderungen nicht erfüllen, riskieren nicht nur regulatorische Strafen, sondern auch erhebliche Reputationsschäden. Die EU sieht bei Verstößen gegen den AI Act empfindliche Sanktionen vor, insbesondere für Betreiber von Hochrisiko-KI-Systemen.

Praxisbeispiel: Erfolgreiche Umsetzung der KI-Kompetenzanforderungen

Ein international tätiges Unternehmen im Finanzsektor hat bereits frühzeitig ein umfassendes Schulungsprogramm für seine Mitarbeiter eingeführt. Dabei wurden regelmäßige Weiterbildungen mit praxisnahen Fallstudien kombiniert, um eine hohe Kompetenz im Umgang mit KI zu gewährleisten. Ergebnis: Die KI-Systeme des Unternehmens erfüllen nicht nur die gesetzlichen Anforderungen, sondern werden auch effizienter und sicherer genutzt.

Fazit: Jetzt handeln!

Die Verpflichtung zur KI-Kompetenz ist keine bloße Empfehlung, sondern eine essenzielle Voraussetzung für den rechtskonformen und sicheren Einsatz von KI-Systemen. Unternehmen sollten proaktiv Maßnahmen ergreifen, um ihre Mitarbeitenden entsprechend zu schulen und ihre KI-Prozesse optimal aufzustellen.

Mehr zu aktuellen regulatorischen Anforderungen findest du hier: DORA-Compliance: Neueste Entwicklungen

S&P Unternehmerforum GmbH 784 Bewertungen auf ProvenExpert.com