Der Prompt ist bereits Datenverarbeitung
Sobald eine Person identifizierbar ist, unterliegt die Verarbeitung ihrer Daten grundsätzlich der DSGVO. Die Eingabe eines Namens, einer E-Mail-Adresse, eines Lebenslaufs oder einer Kundenakte in ein KI-System ist deshalb eine personenbezogene Datenverarbeitung – unabhängig davon, ob per Copy-and-paste, Datei-Upload, API oder Agentenschnittstelle. Es braucht eine Rechtsgrundlage (etwa Art. 6 Abs. 1 lit. b, c, f oder – in geeigneten Fällen – lit. a DSGVO) und die Grundsätze des Art. 5 DSGVO. Dass KI einen Prozess effizienter macht, ist keine eigene Rechtsgrundlage.
Besonders praxisrelevant ist der Grundsatz der Richtigkeit (Art. 5 Abs. 1 lit. d DSGVO): Erzeugt ein System eine unzutreffende Aussage über eine identifizierbare Person – etwa eine erfundene berufliche Station in einer Kandidatenzusammenfassung –, ist das eine Verarbeitung unrichtiger personenbezogener Daten. Betroffene können nach Art. 16 DSGVO Berichtigung verlangen; legen Sie fest, wo die fehlerhafte Information tatsächlich korrigiert werden kann.
Vier Datenklassen als praktisches Steuerungsraster
Die wirksamste Datenschutzmaßnahme ist oft, personenbezogene Daten gar nicht erst an ein externes System zu übertragen. Pseudonymisierung reduziert das Risiko, beseitigt den Personenbezug aber nicht – pseudonymisierte Daten bleiben personenbezogen. Für KMU bewährt sich eine einfache Datenklassifikation:
- Stufe A – öffentlich/allgemein (z. B. Katalogtexte, allgemeine Fachfragen): in allen freigegebenen Systemen zulässig.
- Stufe B – intern, nicht besonders schutzbedürftig (z. B. interne Abläufe ohne Personenbezug): nur in der administrierten Unternehmensumgebung.
- Stufe C – personenbezogen/vertraulich (z. B. Kundennamen, Kalkulationen, Vertragsentwürfe): nur nach dokumentierter Einzelfreigabe und nur in Systemen mit AVV und ausgeschlossener Trainingsnutzung.
- Stufe D – besonders sensibel (Art. 9 DSGVO, Beschäftigtenbewertungen, sicherheitskritischer Quellcode, laufende Transaktionen): keine Eingabe in externe generative Systeme.
Besondere Kategorien nach Art. 9 DSGVO (etwa Gesundheitsdaten) verlangen eine zusätzliche Rechtsgrundlage; für Daten über Straftaten gilt Art. 10 DSGVO. Bei Beschäftigtendaten ist zusätzlich § 26 BDSG zu beachten – eine pauschale Mitarbeitereinwilligung ist wegen des Abhängigkeitsverhältnisses selten der richtige Weg.
Auftragsverarbeitung ist das Ergebnis einer Prüfung, kein Automatismus
Die pauschale Empfehlung, mit jedem KI-Anbieter einen Auftragsverarbeitungsvertrag abzuschließen, ist zu undifferenziert. Ein Vertrag nach Art. 28 DSGVO ist erforderlich, wenn der Anbieter Daten im Auftrag und nach Weisung verarbeitet. Für einzelne Funktionen kann er selbst Verantwortlicher sein oder eine gemeinsame Verantwortlichkeit (Art. 26 DSGVO) vorliegen. Bei großen Anbietern ist eine gespaltene Rollenverteilung häufig: Auftragsverarbeiter für die Leistungserbringung, eigener Verantwortlicher für Missbrauchserkennung oder Produktverbesserung. Ein vorhandener AVV löst die übrigen Fragen nicht – Rechtsgrundlage, Transparenz, TOMs nach Art. 32 DSGVO, Speicherfristen, Unterauftragnehmer und Drittlandübermittlungen bleiben zu prüfen.
Praxishinweis: Unterscheiden Sie, ob Prompts, Dateien und Feedback für die Leistungserbringung, Missbrauchserkennung, Support, Produktverbesserung, Fine-Tuning oder Basismodelltraining genutzt werden. Für vertrauliche Unternehmensinformationen ist die menschliche Überprüfung von Eingaben durch Anbieter-Beschäftigte (zur Missbrauchserkennung) oft wichtiger als die Trainingsfrage – wird aber seltener geprüft. Und: Ein EU-Rechenzentrum beantwortet die Drittlandfrage (Art. 44 ff. DSGVO) nicht vollständig, weil auch Support- und Konzernzugriffe relevant sind.
Wann eine Datenschutz-Folgenabschätzung nötig ist
Eine Datenschutz-Folgenabschätzung nach Art. 35 DSGVO ist nicht für jede KI-Nutzung erforderlich, sondern nur, wenn die Verarbeitung voraussichtlich ein hohes Risiko für Rechte und Freiheiten natürlicher Personen zur Folge hat. Besonders prüfungsbedürftig sind großflächiges Profiling, systematische Bewertung oder Überwachung, besondere Datenkategorien, umfangreiche Beschäftigtendaten und automatisierte Entscheidungen mit erheblichen Auswirkungen. Hilfreich sind die „Muss-Listen" der deutschen Aufsichtsbehörden, die u. a. die Bewertung von Beschäftigten nennen.
Die Hochrisikoeinstufung nach der KI-Verordnung und die Datenschutz-Folgenabschätzung sind zwei verschiedene Prüfungen mit unterschiedlicher Schutzrichtung. Ein System kann nach dem AI Act nicht hochriskant sein und trotzdem eine Folgenabschätzung erfordern – umgekehrt schafft AI-Act-Compliance keine DSGVO-Rechtsgrundlage. Beide sollten in einem Dokument zusammengeführt, aber nicht vermengt werden.
Drei Ebenen sauber trennen
Ein KI-Chatbot benötigt nicht allein wegen der KI-Technologie ein Einwilligungsbanner. In der Praxis werden drei Ebenen regelmäßig vermischt – mit der Folge überflüssiger Banner oder fehlender Transparenzhinweise. Halten Sie sie auseinander:
- Art. 50 KI-VO: Muss der Nutzer darüber informiert werden, dass er mit einem KI-System interagiert?
- DSGVO: Welche Rechtsgrundlage und welche Informationen gelten für die Verarbeitung der Chatinhalte?
- § 25 TDDDG: Lösen Cookies, lokaler Speicher oder Tracking eine Einwilligung aus? Die Ausnahme für unbedingt erforderliche Vorgänge (§ 25 Abs. 2 Nr. 2 TDDDG) kann greifen, wenn eine Sitzungskennung nur den ausdrücklich angeforderten Dienst bereitstellt.