Die europäische KI-Verordnung, auch als „AI Act“ bekannt, ist die weltweit erste umfassende Gesetzgebung zur Regulierung von Künstlicher Intelligenz (KI). Als europäische Rechtsverordnung gilt sie einheitlich in allen Mitgliedsstaaten der EU und ist seit dem 01. August 2024 in Kraft.

Wer ist von der KI-Verordnung betroffen?

Die Vorgaben der KI-Verordnung richten sich an alle Akteure entlang der KI-Wertschöpfungskette, insbesondere:

• Betreiber: Unternehmen, die KI-Systeme nutzen.

• Anbieter: Unternehmen, die KI-Systeme entwickeln und unter eigenem Namen oder eigener Marke in Verkehr bringen.

Was versteht man unter einem KI-System?

Voraussetzung für die Anwendbarkeit der KI-Verordnung ist stets, dass ein KI-System eingesetzt wird. Laut Definition ist ein KI-System:

„Ein maschinengestütztes System, das für einen in unterschiedlichem Grade autonomen Betrieb ausgelegt ist und das nach seiner Betriebsaufnahme anpassungsfähig sein kann. Es leitet aus den erhaltenen Eingaben Ergebnisse wie Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen ab, die physische oder virtuelle Umgebungen beeinflussen können.“

Dieser recht sperrigen Definition unterfallen unteranderem generative KI-Systeme, wie zum Beispiel ChatGPT.

Nur in seltenen Fällen ist der Anwendungsbereich der KI-Verordnung nicht eröffnet, obwohl ein KI-System eingesetzt wird. Dies ist zum Beispiel bei KI-Systemen für militärische Zwecke oder Verteidigungszwecke der Fall.

Grundsätzlich werden allerdings die meisten Unternehmen, die ein KI-System einsetzen, der KI-Verordnung unterfallen und damit die Vorgaben der KI-Verordnung umsetzen müssen.

Zeitlicher Fahrplan der Vorgaben

Die Vorhaben der KI-Verordnung entfalten in den kommenden Jahren zeitlich gestaffelt Geltung. Erste Pflichten bestehen für Unternehmen, die KI-Systeme nutzen, bereits ab dem 02.02.2025.

Hierzu zählt insbesondere die Pflicht gem. Art. 4 KI-Verordnung. Der Art. 4 KI-Verordnung lautet:

„Die Anbieter und Betreiber von KI-Systemen ergreifen Maßnahmen, um nach besten Kräften sicherzustellen, dass ihr Personal und andere Personen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI-Systemen befasst sind, über ein ausreichendes Maß an KI-Kompetenz verfügen. Dabei sind technische Kenntnisse, Erfahrung, Ausbildung, Schulung sowie der Einsatzkontext zu berücksichtigen.“

DIe KI-Verordnung verpflichtet also Anbieter und Betreiber von KI-Systemen sicherzustellen, dass ihr Personal und andere Person, die auftragsgemäß KI nutzen, über ein ausreichendes Maß an KI-Kompetenz verfügen. Stellt ein Unternehmen keine ausreichende KI-Kompetenz bei seinem Personal sicher, liegt ein Verstoß gegen die Vorgaben der KI-Verordnung vor. Derartige Defizite in den Bereichen Compliance und Risikomanagement sollten aus Unternehmenssicht unbedingt vermieden werden.

Maßnahmen zur Sicherstellung der KI-Kompetenz

Um die gesetzlich vorgeschriebene KI-Kompetenz sicherzustellen, gelten regelmäßige Schulungen und Fortbildungen des Personals, das KI einsetzt, als quasi unerlässlich. Diese Schulungen und Fortbildungen sind ein entscheidender Baustein zur Erhöhung der KI-Kompetenz, weshalb Art. 4 KI-VO teils auch „Schulungsparagraph“ bezeichnet wird.

Unternehmen können ihr Personal entweder intern schulen oder einen externen Schulungsanbieter beauftragen. Als erforderliche Schulungsinhalte werden derzeit überwiegend die Vermittlung technischer, rechtlicher und ethischer Kenntnisse für erforderlich gehalten. Genaue Vorgaben macht die KI-Verordnung insofern nicht. Gleiches gilt für das Schulungsformat, so dass sowohl Präsenz- als auch Online-Schulungen möglich sind.

Wichtig ist, dass die Pflicht gemäß Art. 4 KI-Verordnung für alle Arten von KI-Systemen gilt, unabhängig davon welche Risiken von dem konkreten KI-System ausgehen. Dies führt in der Praxis zu einem riesigen Schulungsbedarf auf Seiten der Anbieter und Betreiber von KI-Systemen.