KI-Beratung & Entwicklung

Ihr Unternehmen ist von der KI-Verordnung betroffen, wenn in Ihrem Unternehmen ein KI-System zum Einsatz kommt. Hierunter fallen zum Beispiel generative KI-Anwendungen wie ChatGPT oder der MS Copilot. In seltenen Fällen gelten Ausnahmen, zum Beispiel bei KI-Systemen für militärische Zwecke oder Verteidigungszwecke. Grundsätzlich werden allerdings die meisten Unternehmen, die KI einsetzen, die Vorgaben der KI-Verordnung umsetzen müssen.

Die KI-Verordnung ist am 1.8.2024 in Kraft getreten. Geltung entfaltet die KI-Verordnung zeitlich gestaffelt innerhalb der nächsten drei Jahre. Während einige Vorschriften, wie zum Beispiel die KI-Kompetenzpflicht gem. Art. 4 KI-VO, bereits seit dem 2. Februar 2025 gelten, gelten die übrigen Regelungen der KI-Verordnung erst 12, 24 oder 36 Monate nach dem Inkrafttreten der KI-Verordnung. Diese Pflichten gelten für alle Akteure entlang der KI-Wertschöpfungskette, insbesondere für die Anbieter und die Betreiber von KI.

Seit dem 2. Februar 2025 sind alle Organisationen, die KI-Systeme (wie z.B. ChatGPT, MS Copilot) in der EU nutzen oder anbieten – ob privatwirtschaftlich, behördlich oder gemeinnützig –, verpflichtet, die sogenannte KI-Kompetenzpflicht nach Artikel 4 der KI-Verordnung (KI-VO) zu erfüllen. Das bedeutet: Mitarbeitende müssen über eine angemessene Sachkunde im Umgang mit KI verfügen.

Die Pflicht gilt für alle Mitarbeitenden, die mit KI-Systemen arbeiten. Art. 4 KI-Verordnung verpflichtet Anbieter und Betreiber von KI-Systemen sicherzustellen, dass ihr Personal und andere Personen, die auftragsgemäß KI nutzen, über ein ausreichendes Maß an KI‑Kompetenz verfügen. Die Schulung und Fortbildung des Personals sind ein entscheidender Baustein zur Erhöhung der KI-Kompetenz. Regelmäßige Schulungen und Fortbildungen gelten deshalb als unerlässlich, um das Verständnis des Personals im Umgang mit KI signifikant zu verbessern und so den Vorgaben der KI-Verordnung gerecht zu werden.

Unzureichende Schulung stellt ein Compliance-Risiko dar: Bei Fehlern oder Schäden durch unsachgemäßen KI-Einsatz können Unternehmen haftbar gemacht werden. Zudem erschließt nur gut geschultes Personal das volle Potenzial von KI-Systemen.

Stellt ein Unternehmen keine ausreichende KI-Kompetenz bei seinem Personal sicher, liegt ein Verstoß gegen die Vorgaben der KI-Verordnung und damit eine sanktionierbare Pflichtverletzung vor. Derartige Defizite in den Bereichen Compliance und Risikomanagement sollten unbedingt vermieden werden. Sie können u.a. zu einer Schadensersatzpflicht des Unternehmens führen, zum Beispiel wenn Personal ohne ausreichende KI-Kompetenz durch die Nutzung von KI einen Schadensfall bei einem Geschäftspartner herbeiführt.

Sie müssen sicherstellen, dass Ihr Personal, das auftragsgemäß KI nutzt, über ausreichende KI-Kompetenz verfügt. Dasselbe gilt für andere Personen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI-Systemen befasst sind, zum Beispiel externe Dienstleister. Da aufgrund der rasanten KI-Entwicklung voraussichtlich aber kurzfristig noch viel mehr Personal KI einsetzen wird als es derzeit der Fall ist, raten wir, möglichst viel Personal, wenn nicht das gesamte Personal, in KI zu schulen.

Eine verbindliche Definition gibt es nicht. Fachkreise sind sich jedoch einig: Regelmäßige Schulungen in technischer, rechtlicher und ethischer Hinsicht sind erforderlich. Eine Basisschulung wird als Mindeststandard für alle mit KI befassten Personen angesehen.

Neben internen Schulungen, die qualifiziertes Personal voraussetzen, bieten sich externe Schulungen an. Beispielsweise stellt die Online-Plattform von regulaid eine flexible Lösung im Flatrate-Modell zur Verfügung – inklusive Zertifikaten für alle Teilnehmenden.

Unternehmen sollten lückenlos festhalten, wer wann und in welchem Umfang geschult wurde. Nur so lässt sich im Ernstfall nachweisen, dass die gesetzlichen Anforderungen eingehalten wurden.