Governance ist ein Prozess, keine PDF
Eine KI-Richtlinie ist wichtig, aber nur ein Teil der Governance. Ein Unternehmen braucht einen Prozess, der von der Entdeckung eines neuen Anwendungsfalls bis zum laufenden Betrieb reicht. Governance beantwortet deshalb nicht nur, was Mitarbeitende dürfen, sondern auch: Wer bewertet neue Systeme? Welche Daten sind freigegeben? Wie werden Verträge geprüft? Wann ist eine Datenschutz-Folgenabschätzung nötig? Wer nimmt die Risikoklassifikation vor? Wie werden Berechtigungen vergeben und Änderungen überwacht?
Der angemessene Formalisierungsgrad hängt von Größe und Risiko ab. In einem kleineren Unternehmen kann es genügen, dass neue Tools vor Nutzung bei einer verantwortlichen Person gemeldet und anhand eines Prüfbogens freigegeben werden. Keine Organisationsform ist allein wegen ihrer Bezeichnung rechtskonform – entscheidend ist, ob sie funktioniert und die relevanten Rechts- und Sicherheitsfragen tatsächlich erfasst.
Das KI-Register: ohne Überblick keine Compliance
Ohne Bestandsaufnahme ist weder KI-VO- noch Datenschutz- oder Geheimnisschutz-Compliance möglich. Das KI-Register ist praktisch das zentrale Steuerungsinstrument – ein KMU braucht dafür keine Spezialsoftware, eine gepflegte Tabelle genügt. Sinnvolle Spalten sind u. a.:
- Bezeichnung des Systems, Anbieter, verantwortlicher Fachbereich und Person
- betrieblicher Zweck in einem Satz und Rolle des Unternehmens (Anbieter/Betreiber)
- Risikoeinstufung nach KI-VO, verarbeitete Datenklassen, Personen- und Beschäftigtenbezug
- AVV vorhanden? Folgenabschätzung erforderlich/durchgeführt?
- Aktionsrechte des Systems (nur lesen, Inhalte erzeugen, interne Daten ändern, externe Aktionen)
- menschlicher Kontrollpunkt, Transparenzpflicht nach Art. 50, Betriebsrat beteiligt?, Freigabestatus, nächste Überprüfung
Das Register lässt sich mit bestehenden Formaten verknüpfen – etwa dem Verzeichnis von Verarbeitungstätigkeiten nach Art. 30 DSGVO oder dem Asset-Register der Informationssicherheit. Bei Agenten ist die genaue Dokumentation der Aktionsrechte entscheidend: „Kundenservice-Agent" ist zu ungenau, wenn nicht steht, ob er nur antworten oder auch Bestellungen ändern, Erstattungen auslösen oder Daten löschen darf.
Inoffizielle Nutzung erkennen – ohne Innovation abzuwürgen
Schatten-KI entsteht, wenn Mitarbeitende ohne Freigabe eigene Accounts, Browserdienste oder integrierte KI-Funktionen nutzen. Ein Totalverbot löst das selten, weil zugängliche Werkzeuge dann außerhalb der Prozesse weiterverwendet werden. Wirksamer ist die Kombination aus attraktiven freigegebenen Alternativen, klaren Regeln und technischer Kontrolle. Die Erhebung, welche Tools genutzt werden, muss datenschutz- und arbeitsrechtlich zulässig bleiben – eine aggregierte, nicht personenbezogene Auswertung ist der bessere Weg als eine verdeckte Einzelüberwachung, die selbst mitbestimmungspflichtig sein kann.
Bei einer anonymen Umfrage in einem Unternehmen mit 120 Beschäftigten geben 68 Prozent an, zumindest gelegentlich ein KI-Tool dienstlich zu nutzen – offiziell freigegeben war kein einziges. Statt eines Verbots stellt das Unternehmen eine administrierbare Unternehmenslizenz bereit, in der Training mit Eingabedaten vertraglich ausgeschlossen ist, und untersagt die dienstliche Nutzung privater Accounts. Die Nutzung verlagert sich binnen Wochen fast vollständig in die freigegebene Umgebung – Kontrolle ohne Produktivitätsverlust.
Risikobasiert freigeben – in drei Stufen
Jeder neue Anwendungsfall sollte so beschrieben werden, dass eine rechtliche und technische Einordnung möglich ist. „KI im HR" genügt nicht – es macht einen Unterschied, ob ein System nur Stellenanzeigen verbessert, Lebensläufe strukturiert, Bewerber automatisch filtert oder eine Einstellungsentscheidung vorbereitet. Bewährt hat sich ein dreistufiges Verfahren:
- Stufe 1: unkritische interne Anwendungen ohne Personenbezug und ohne externe Wirkung – formlose Freigabe durch die koordinierende Person.
- Stufe 2: Anwendungen mit Personen-/Beschäftigtenbezug oder externer Wirkung – zusätzlich datenschutzrechtliche Prüfung, ggf. Abstimmung mit dem Betriebsrat.
- Stufe 3: Hochrisikokandidaten, Agenten mit Aktionsrechten und wirtschaftlich gewichtige Systeme – Freigabe durch die Geschäftsleitung mit externer rechtlicher Prüfung.
Eine einfache Rechtschreibunterstützung darf nicht denselben Aufwand auslösen wie ein System zur automatisierten Bewerberbewertung. Ein Agent mit externen Aktionsrechten braucht zusätzlich ein Berechtigungs-, Logging- und Rückabwicklungskonzept.
Die KI-Richtlinie: verbindlich und konkret
Eine gesetzliche Pflicht zur eigenständigen KI-Richtlinie gibt es nicht – für Unternehmen mit regelmäßiger KI-Nutzung ist sie aber eine der wirksamsten Organisationsmaßnahmen. Sie sollte klarstellen, dass KI ein unterstützendes Werkzeug ist, dessen Ergebnisse nicht ungeprüft übernommen werden dürfen, und festlegen, welche Systeme und Accounts zulässig sind, welche Datenklassen in welchem System eingegeben werden dürfen und welche Anwendungen eine besondere Freigabe brauchen.
Praxishinweis: Ein allgemeiner Satz „KI-Ergebnisse sind zu prüfen" hilft wenig, wenn niemand weiß, wer prüft und nach welchem Maßstab. Für juristische, medizinische, finanzielle, personalbezogene oder öffentlich verbreitete Aussagen sollte konkret benannt sein, welche qualifizierte Person freigibt. Die Richtlinie sollte fünf Seiten nicht überschreiten und für jede Datenklasse ein konkretes Beispiel aus dem Unternehmensalltag enthalten – und einen einfachen Meldeweg für Halluzinationen und Vorfälle vorsehen.