12.12.2024
Die europäische KI-Verordnung wird derzeit viel diskutiert. Für Unternehmen stellt sich die Frage, ob sie von der KI-Verordnung betroffen sind und die Vorgaben der KI-Verordnung umsetzen müssen. Die Antwort auf diese Frage hängt davon ab, ob die Unternehmen dem Anwendungsbereich der KI-Verordnung unterfallen. Dieser ist in Art. 2 KI-VO geregelt. Es kann zwischen dem sachlichen, persönlichen und räumlichen Anwendungsbereich unterschieden werden:
Sachlicher Anwendungsbereich
Die KI-Verordnung ist in sachlicher Hinsicht insbesondere anwendbar, wenn ein KI-System eingesetzt wird. Der Begriff „KI-System“ wird in Art. 3 Nr. 1 KI-VO definiert als „ein maschinengestütztes System, das für einen in unterschiedlichem Grade autonomen Betrieb ausgelegt ist und das nach seiner Betriebsaufnahme anpassungsfähig sein kann und das aus den erhaltenen Eingaben für explizite oder implizite Ziele ableitet, wie Ausgaben wie etwa Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen erstellt werden, die physische oder virtuelle Umgebungen beeinflussen können.“ Durch diese (etwas sperrige) Definition sollen KI-Systeme von „klassischer“ Software abgegrenzt werden. Letztere unterfällt nicht der KI-Verordnung. Zweifellos um KI-Systeme handelt es sich hingegen bei generativen KI-Anwendungen, wie zum Beispiel ChatGPT. Dasselbe dürfte allgemein für Systeme gelten, die auf maschinellem Lernen basieren.
Nur in seltenen Fällen ist der Anwendungsbereich der KI-Verordnung nicht eröffnet, obwohl ein KI-System eingesetzt wird. Die ist zum Beispiel der Fall bei KI-Systemen für militärische Zwecke, Verteidigungszwecke oder Zwecke der nationalen Sicherheit sowie bei KI-Systemen, die eigens für den alleinigen Zweck der wissenschaftlichen Forschung und Entwicklung entwickelt und in Betrieb genommen werden. Diese Ausnahmen werden jedoch für die meisten Unternehmen nicht einschlägig sein. Was versteht man unter einem KI-System?
Die Verordnung definiert ein KI-System als:
„Ein maschinengestütztes System, das für einen in unterschiedlichem Grade autonomen Betrieb ausgelegt ist und das nach seiner Betriebsaufnahme anpassungsfähig sein kann. Es leitet aus den erhaltenen Eingaben Ergebnisse wie Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen ab, die physische oder virtuelle Umgebungen beeinflussen können.“
Diese Definition schließt generative KI-Systeme wie ChatGPT ein. Ausnahmen gelten nur selten, beispielsweise bei militärischen oder verteidigungsspezifischen Anwendungen.
Persönlicher Anwendungsbereich
In Persönlicher Hinsicht richtet sich die KI-Verordnung insbesondere an Anbieter, Betreiber, Einführer und Händler von KI-Systemen. Die meisten Unternehmen dürften dabei als „Betreiber“ oder „Anbieter“ von KI-Systemen gelten.
Gemäß Art. 3 Nr. 4 KI-VO ist Betreiber „eine natürliche oder juristische Person, Behörde, Einrichtung oder sonstige Stelle, die ein KISystem in eigener Verantwortung verwendet, es sei denn, das KISystem wird im Rahmen einer persönlichen und nicht beruflichen Tätigkeit verwendet.“ Als Betreiber gelten damit – vereinfacht gesagt – die Personen, die ein KI-System nutzen.
Gemäß Art. 3 Nr. 3 KI-VO ist Anbieter „eine natürliche oder juristische Person, Behörde, Einrichtung oder sonstige Stelle, die ein KISystem oder ein KIModell mit allgemeinem Verwendungszweck entwickelt oder entwickeln lässt und es unter ihrem eigenen Namen oder ihrer Handelsmarke in Verkehr bringt oder das KISystem unter ihrem eigenen Namen oder ihrer Handelsmarke in Betrieb nimmt, sei es entgeltlich oder unentgeltlich.“ Als Anbieter gelten damit – vereinfacht gesagt – die Hersteller eines KI-Systems.
Die genaue Abgrenzung zwischen Betreibern und Anbietern ist in vielen Fällen schwierig. Für die Frage, ob der Anwendungsbereich der KI-Verordnung eröffnet ist, wird sie allerdings regelmäßig nicht entscheidend sein, da die KI-Verordnung sowohl Betreiber als auch Anbieter adressiert. Wichtig ist die Abgrenzung zwischen Betreibern und Anbietern von KI-Systemen hingegen bei der Beantwortung der nachgelagerten Frage, welche Pflichten sich konkret aus der KI-Verordnung ergeben. Insofern macht die KI-Verordnung Anbietern deutlich umfangreichere und strengere Vorgaben als Betreiber.
Räumlicher Anwendungsbereich
Der räumliche Anwendungsbereich der KI-Verordnung ist weit. Sie gilt insbesondere für
Anbieter, die in der Union KI-Systeme in Verkehr bringen oder in Betrieb nehmen, unabhängig davon, ob diese Anbieter in der Union oder in einem Drittland niedergelassen sind;
Betreiber von KI-Systemen, die ihren Sitz in der Union haben oder in der Union befinden;
Anbieter und Betreiber von KI-Systemen, die ihren Sitz in einem Drittland haben oder sich in einem Drittland befinden, wenn die vom KISystem hervorgebrachte Ausgabe in der Union verwendet wird.
Deutsche Unternehmen unterfallen damit unabhängig davon, ob sie Anbieter oder Betreiber sind, dem räumlichen Anwendungsbereich der KI-Verordnung. Unter Umständen müssen aber sogar Unternehmen, die ihren Sitz außerhalb der EU haben, die Vorgaben der KI-Verordnung beachten.
Fazit
Sofern für Ihr Unternehmen der Anwendungsbereich der KI-Verordnung in sachlicher, persönlicher und räumlicher Hinsicht eröffnet ist, sollten Sie sich zwingend näher mit den Vorgaben der KI-Verordnung befassen. Die KI-Verordnung ist am 01.08.2024 in Kraft getreten. Die Vorgaben der KI-Verordnung entfalten in den kommenden Jahren zeitlich gestaffelt Geltung. Erste Pflichten bestehen bereits ab dem 02.02.2025.
