Die KI-Verordnung behandelt nicht jede Anwendung gleich
Die KI-Verordnung verfolgt einen risikobasierten Ansatz: Sie knüpft Pflichten an den konkreten Verwendungszweck, die Rolle des Unternehmens und das Risiko des Systems. Die verbreitete Einteilung in „minimales", „begrenztes", „hohes" und „unannehmbares" Risiko ist als Orientierung nützlich, bildet die juristische Systematik aber nur vereinfacht ab. Rechtlich zu unterscheiden sind vor allem:
- Verbotene Praktiken nach Art. 5 KI-VO – bestimmte manipulative oder täuschende Anwendungen, Social Scoring, besonders eingriffsintensive biometrische Praktiken und die Emotionserkennung am Arbeitsplatz.
- Hochrisiko-KI-Systeme nach Art. 6 KI-VO in Verbindung mit Anhang I und III – etwa im Personalwesen, in der Bildung, beim Zugang zu wesentlichen Leistungen oder bei kritischer Infrastruktur.
- Systeme mit Transparenzpflichten nach Art. 50 KI-VO – Chatbots, KI-generierte Inhalte und Deepfakes.
- Modelle mit allgemeinem Verwendungszweck (GPAI) nach Art. 51 ff. KI-VO – die großen Basismodelle, die vielen Anwendungen zugrunde liegen.
Entscheidend ist nie das Basismodell allein, sondern der Einsatz: Ein allgemeiner Textassistent für interne Entwürfe kann außerhalb des Hochrisikobereichs liegen, während dasselbe Modell als Bestandteil eines automatisierten Bewerber-Screenings eine ganz andere Einordnung auslöst.
Erst die Rolle klären: Anbieter oder Betreiber?
Für Unternehmen ist zuerst die eigene Rolle zu bestimmen. Wer ein fremdes KI-System unter eigener Verantwortung im geschäftlichen Kontext einsetzt, ist typischerweise Betreiber (Deployer, Art. 3 Nr. 4 KI-VO). Wer ein KI-System entwickelt oder entwickeln lässt und es unter eigenem Namen oder eigener Marke in Verkehr bringt, ist Anbieter (Provider, Art. 3 Nr. 3 KI-VO). Die Anbieterrolle ist mit deutlich umfangreicheren Pflichten verbunden.
Besondere Aufmerksamkeit verlangt Art. 25 KI-VO: Ein Betreiber kann bei einem Hochrisiko-System selbst in die Anbieterstellung wechseln, wenn er seinen Namen oder seine Marke darauf setzt, eine wesentliche Änderung vornimmt oder den Zweck eines zuvor nicht hochriskanten Systems so verändert, dass es dadurch hochriskant wird. Eine bloße individuelle Konfiguration führt nicht automatisch zur Anbieterrolle – bei White-Label-Produkten, tiefgreifendem Fine-Tuning oder Zweckänderungen in sensible Bereiche muss die Rollenfrage aber ausdrücklich geprüft werden.
Ein Softwarehaus integriert ein zugekauftes Sprachmodell in sein eigenes Personalverwaltungsprodukt und vertreibt dieses unter eigener Marke. Damit wird es hinsichtlich des Gesamtsystems Anbieter – obwohl es das Modell nicht selbst entwickelt hat. Betreibt dasselbe Softwarehaus dieselbe Funktion ausschließlich intern für die eigene Personalabteilung, bleibt es Betreiber. Identische Technik, unterschiedliche Rolle, deutlich unterschiedlicher Pflichtenumfang.
Die vier Prüffragen für jeden neuen Anwendungsfall
Die Systematik der KI-Verordnung lässt sich für die Praxis auf vier aufeinander aufbauende Fragen reduzieren, die bei jedem neuen KI-Einsatz zu stellen sind:
- 1. Ist es überhaupt ein KI-System? Maßgeblich ist die Definition in Art. 3 Nr. 1 KI-VO (siehe unten).
- 2. Sind wir Anbieter oder Betreiber dieses konkreten Systems?
- 3. Fällt der Verwendungszweck unter eine verbotene Praxis nach Art. 5 KI-VO?
- 4. Liegt ein Hochrisikofall nach Art. 6 KI-VO (Anhang I/III) vor – und greifen daneben oder stattdessen Transparenzpflichten nach Art. 50 KI-VO?
Praxishinweis: Die Reihenfolge ist nicht beliebig. Wer mit der Risikoklasse beginnt, ohne die Rolle geklärt zu haben, ordnet regelmäßig falsch ein – denn Anbieter- und Betreiberpflichten weichen selbst bei identischer Risikoklasse erheblich voneinander ab.
Ist es im Rechtssinne überhaupt ein „KI-System"?
Nach Art. 3 Nr. 1 KI-VO ist ein KI-System ein maschinengestütztes System, das für einen in unterschiedlichem Grad autonomen Betrieb ausgelegt ist, nach der Einführung anpassungsfähig sein kann und aus Eingaben ableitet, wie Ausgaben – Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen – erzeugt werden, die physische oder virtuelle Umgebungen beeinflussen können.
Die Abgrenzung ist praktisch wichtig: Eine Excel-Formel, eine regelbasierte E-Mail-Weiterleitung oder ein einfacher Datenbankfilter sind kein KI-System. Umgekehrt können Funktionen, die im Marketing gar nicht als KI beworben werden, sehr wohl darunterfallen – etwa ein lernender Betrugserkennungsalgorithmus oder eine adaptive Empfehlungslogik im Onlineshop.
Ein Onlinehändler nutzt seit Jahren ein Modul zur Produktempfehlung. Im Softwarevertrag ist von KI keine Rede, das Modul heißt „Recommendation Engine". Bei der Bestandsaufnahme zeigt sich: Es lernt aus dem Klickverhalten und passt seine Logik selbständig an. Damit liegt der Sache nach ein KI-System vor, das ins KI-Register gehört – auch wenn es im Unternehmen bislang niemand als KI wahrgenommen hat.