KI-Kompetenz: Neue Pflicht für Unternehmen ab dem 2. Februar 2025

Im August 2024 ist die europäische KI-Verordnung (Verordnung (EU) 2024/1689, kurz „KI-VO“) in Kraft getreten. Ziel dieser Verordnung ist es vor allem, Risiken zu reduzieren, die von KI-Systemen ausgehen können. Um das umzusetzen, kommen zwangsläufig zahlreiche neue Verpflichtungen auf Unternehmen zu, welche KI-Systeme anbieten oder betreiben, was bei der beruflichen Nutzung schnell der Fall ist. Eine erste Pflicht, die für fast alle im professionellen Umfeld gilt, ist die KI-Kompetenz: Danach ist sicherzustellen, dass Ihr Personal über ausreichende KI-Kompetenz verfügt. Doch was bedeutet das genau und wie gestaltet sich die Umsetzung dieser Vorgabe?

Die ersten beiden Pflichten aus der KI-Verordnung gelten EU-weit ab dem 2. Februar 2025: Neben dem grundsätzlichen Verbot bestimmter Praktiken, werden ab 2. Februar 2025 (Art. 113 UAbs. 3 lit a) KI-VO) unzählige Unternehmen verpflichtet, KI-Kompetenz in ihrem Unternehmen sicherzustellen. Genauer: Art. 4 KI-VO verpflichtet Anbieter und Betreiber von KI-Systemen Maßnahmen zu ergreifen, um nach besten Kräften sicherzustellen, dass ihr Personal und andere Personen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI‑Systemen befasst sind, über ein ausreichendes Maß an KI‑Kompetenz verfügen. Betroffene Unternehmen werden somit schon deutlich vor Geltungsbeginn der meisten weiteren KI-VO-Vorschriften verpflichtet, KI-Kompetenz unter ihren Mitarbeitenden zu vermitteln. 

KI-Kompetenz ist „die Fähigkeiten, die Kenntnisse und das Verständnis, die es Anbietern, Betreibern und Betroffenen unter Berücksichtigung ihrer jeweiligen Rechte und Pflichten im Rahmen dieser Verordnung ermöglichen, KI‑Systeme sachkundig einzusetzen sowie sich der Chancen und Risiken von KI und möglicher Schäden, die sie verursachen kann, bewusst zu werden“ (Art. 3 Nr. 53 KI-VO). Die KI-Nutzer sollen befähigt werden, fundierte Entscheidungen über den Einsatz von KI-Systemen zu treffen (Erwägungsgrund 20 KI-VO).

Aber was genau bedeutet das? Mitarbeitenden muss vermittelt werden, wie KI-Systeme korrekt eingesetzt werden, welche Technik dahintersteht, wie Ergebnisse entstehen und welche rechtlichen Rahmenbedingungen für den konkreten Einsatz gelten. Im Zentrum steht dabei die Befähigung der Mitarbeitenden, fundierte Entscheidungen über KI-Systeme zu treffen:

  • Wann und wo können KI-Systeme sinnvoll eingesetzt werden?
  • Mit welchen Daten wird das KI-System betrieben bzw. welche Datenbasis wird verwendet?
  • Wie sind Outputs zu bewerten und zu nutzen?
  • Welche Chancen und welche Risiken bestehen, wie kann ich die Risiken minimieren?

Dies zu erreichen, ist eine Daueraufgabe. Panik ist damit nicht geboten: Es müssen nicht am 2. Februar 2025 KI-Profis in jeder Ecke des Unternehmens sitzen.

Aber: Unternehmen sollten die Pflicht auch nicht ignorieren. KI-Kompetenz zu schaffen ist kein Selbstzweck. Die Fähigkeit sichert den gewinnbringenden Einsatz von KI im Unternehmen, auch und gerade zugunsten des Unternehmens selbst.

Um KI-Kompetenz sicherzustellen, sollten sich Unternehmen auf drei Säulen konzentrieren:

  • Fortbildungen und Schulungen für die Mitarbeitenden, die KI einsetzen oder bald einsetzen werden
  • Bereitstellung von Ansprechpartnern im Unternehmen und Zuteilung von Verantwortlichkeiten, z.B. durch Benennung eines sachkundigen KI-Beauftragten
  • KI-Governance mit einem Überblick über die genutzten KI-Systeme, KI-Richtlinien für ihren Einsatz und eine Unternehmensstrategie zu Chancen, Risiken und Leitlinien beim KI-Einsatz

Verpflichtete der KI-Kompetenz

Verpflichtete des Art. 4 KI-VO sind Anbieter und Betreiber eines KI-Systems. Von der KI-Kompetenzpflicht werden somit unzählige Unternehmen betroffen sein, da ein Unternehmen schon dann als Betreiber eines KI-Systems anzusehen ist, wenn es KI-Systeme im eigenen Unternehmen für berufliche Zwecke einsetzt.

Anbieter sind dabei diejenigen, die ein KI‑System entwickeln oder entwickeln lassen und es unter ihrem eigenen Namen oder ihrer Handelsmarke in Verkehr bringen oder in Betrieb nehmen (Art. 3 Nr. 3 KI-VO).

Betreiber sind gem. Art. 3 Nr. 4 KI-VO diejenigen, die ein KI‑System in eigener Verantwortung verwenden, es sei denn, das KI-System wird nur im Rahmen einer persönlichen und nicht beruflichen Tätigkeit verwendet. Betreiber von KI-Systemen sind somit alle Unternehmen, die KI-Systeme gezielt für berufliche Zwecke einsetzen bzw. einsetzen lassen, aber auch dann, wenn sie den Einsatz aktiv dulden. Die Pflicht zur Sicherstellung von KI-Kompetenz gilt dabei unabhängig von der Unternehmensgröße. Mittlere und kleine Unternehmen werden daher auch verpflichtet KI-Kompetenz herzustellen.

Umsetzung im Unternehmen

Für die Umsetzung und Sicherstellung der KI-Kompetenz gibt es – wie so oft – keine universelle Lösung. Der konkrete Umfang der jeweiligen KI-Kompetenz ist von verschiedenen Faktoren abhängig; unter anderem vom Umfang der Nutzung von KI-Systemen, Grad des Risikos des KI-Systems und der Position der Mitarbeitenden. Während alle Mitarbeitenden, die mit KI in Berührung kommen können, ein Grundverständnis von KI, dem Rechtsrahmen, technischen Gegebenheiten, Chancen und Risiken erhalten sollten, benötigen Verantwortliche für KI-Projekte zusätzlich fundierte Kenntnisse zu den umzusetzenden Pflichten der KI-VO.

Im ersten Schritt sollte daher Basiswissen hinsichtlich KI-Kompetenz vermittelt werden. Im zweiten Schritt sollte jedes Unternehmen individuell prüfen, ob weitere Schulungen notwendig sind. Zu empfehlen ist in jedem Fall die Einführung eines KI-Governance-Rahmens mit schriftlichen Leitlinien, welcher als Orientierungshilfe für die Mitarbeitenden dient. Ein KI-Beauftragter ist nach der KI-VO im Gegensatz zur Sicherstellung der KI-Kompetenz nicht verpflichtend. Je nach Unternehmensgröße und Umfang von KI-Nutzung kann dies jedoch sinnvoll sein, um die gesetzlichen Vorgaben effektiv umsetzen zu können.

Gemeinsam mit Ihnen möchten wir die Anforderungen an die KI-Kompetenz aus Art. 4 KI-VO in unserem Webinar am 30. Januar 2025 vom 18-19 Uhr diskutieren, rechtlich und dank unserer Kooperation mit Marcel Pesch von der academy4.ai auch technisch operativ. Marcel Pesch wird uns dann auch das konkrete Schulungsangebot der Academy4.ai vorstellen, bei dem wir die rechtlichen Schulungsinhalte bereitstellen. Mehr Informationen dazu finden Sie unter https://loschelder.de/de/webinare.html

Dr. Kristina Schreiber

Dr. Kristina Schreiber