Personenbezogene Daten mit KI verarbeiten

Lesedauer: 6 Minuten.

Zusammenfassung:

Wer personenbezogene Daten in KI-Systeme eingibt, verarbeitet diese Daten im Sinne der DSGVO unabhängig davon, ob das KI-Modell damit trainiert wird oder nicht. Zulässig ist das nur mit einer gültigen Rechtsgrundlage, einem Auftragsverarbeitungsvertrag mit dem KI-Anbieter und einer geprüften Transfergrundlage, wenn der Anbieter außerhalb des EWR sitzt. Ob ein Unternehmen dabei als Verantwortlicher oder als Auftragsverarbeiter agiert, entscheidet darüber, welche Pflichten konkret gelten. Dieser Beitrag erklärt beide Rollen, zeigt die einschlägigen Rechtsgrundlagen und liefert eine Checkliste für den Einsatz in der Praxis.

Wann ist das Eingeben von Daten in ein KI-System eine „Verarbeitung“ im Sinne der DSGVO?

Jede Eingabe personenbezogener Daten in ein KI-System ist eine Verarbeitung nach Art. 4 Nr. 2 DSGVO. Das gilt für Namen, E-Mail-Adressen, Kommunikationsinhalte oder Vertragsdaten, und zwar unabhängig davon, ob das KI-Modell mit diesen Daten trainiert wird oder nicht.

Auch der reine Einsatz eines KI-Werkzeugs zur Texterstellung, zur Dokumentenanalyse oder zur Bearbeitung von Anfragen löst die datenschutzrechtlichen Pflichten aus, sobald personenbezogene Daten in den Prompt oder in den Kontext des Systems fließen.

Viele Unternehmen gehen davon aus, dass KI-Nutzung ohne eigenes Modelltraining datenschutzrechtlich unkritisch ist. Das stimmt nicht. Die Rechtsgrundlagenpflicht besteht unabhängig vom Trainingsaspekt.

Personenbezogene Daten in KI: Was ist erlaubt?

Personenbezogene Daten dürfen in KI-Systeme eingegeben werden, wenn vier Voraussetzungen gleichzeitig erfüllt sind:

1. eine gültige Rechtsgrundlage nach Art. 6 DSGVO,
2. vorab definierte Verarbeitungszwecke,
3. vorab Information per Datenschutzhinweise nach Art. 12 ff. DSGVO
4. und ein Auftragsverarbeitungsvertrag (AVV) mit dem KI-Anbieter.

Welche Anforderungen konkret gelten, hängt davon ab, ob das Unternehmen als Verantwortlicher oder als Auftragsverarbeiter agiert. Es sind also im ersten Schritt primär die Anforderungen der Datenschutz-Grundverordnung (DSGVO) revelant und aufbauend darauf die Anforderungen der KI-Verordnung (KI-VO).

Verantwortlicher oder Auftragsverarbeiter? Die entscheidende Weichenstellung

Bevor Rechtsgrundlagen geprüft werden können, muss feststehen, in welcher datenschutzrechtlichen Rolle das Unternehmen agiert. Die Antwort bestimmt, welche Pflichten gelten und welche Handlungsspielräume bestehen.

Verantwortlicher (Art. 4 Nr. 7 DSGVO): Wer selbst über Zweck und Mittel der Verarbeitung entscheidet. Das Unternehmen setzt KI für eigene Geschäftszwecke ein, etwa zur Kundenbetreuung, Effizienzsteigerung oder internen Analyse.

Auftragsverarbeiter (Art. 4 Nr. 8 DSGVO): Wer personenbezogene Daten im Auftrag eines anderen Unternehmens verarbeitet, ohne eigene Entscheidungshoheit über den Zweck. Typisch ist ein Dienstleister, der für seine Kunden Serviceleistungen erbringt und dabei auf deren Datenbestand zugreift.

Beide Rollen stellen eigene Anforderungen. Die folgenden Abschnitte behandeln sie deshalb getrennt.

KI mit personenbezogenen Daten als Verantwortlicher

Als Verantwortlicher hat das Unternehmen volle Entscheidungshoheit über den KI-Einsatz. Das bringt Gestaltungsfreiheit, aber auch die vollständige Pflichtenlast.

Welche Rechtsgrundlagen kommen in Betracht?

1. Vertragserfüllung (Art. 6 Abs. 1 S. 1 lit. b) DSGVO): Diese Rechtsgrundlage greift, wenn die KI-gestützte Verarbeitung objektiv notwendig ist, um einen Vertrag mit der betroffenen Person direkt zu erfüllen. Wer Kundendaten in ein KI-System eingibt, um eine vertraglich vereinbarte Leistung zu erbringen, kann sich auf lit. b) stützen, sofern die Verarbeitung wirklich zur Leistungserbringung erforderlich ist und nicht nur den Prozess komfortabler gestaltet. Die Grenze ist fließend und im Einzelfall zu begründen.
2. Berechtigte Interessen (Art. 6 Abs. 1 S. 1 lit. f) DSGVO): Für KI-Anwendungen, die dem legitimen Geschäftsbetrieb dienen, ohne direkt einer Vertragserfüllung zuzuordnen zu sein, kommt das berechtigte Interesse in Betracht. Voraussetzung ist ein dreistufiger Test:
   1. Ein legitimes Interesse muss bestehen, etwa Effizienzsteigerung, Fehlerreduktion oder Qualitätssicherung.
   2. Die Verarbeitung muss zur Erreichung dieses Zwecks erforderlich sein.
   3. Die Interessen der betroffenen Personen dürfen nicht überwiegen.
3. Einwilligung (Art. 6 Abs. 1 S. 1 lit. a DSGVO): Die Einwilligung taugt für laufende KI-gestützte Geschäftsprozesse nicht als Primärrechtsgrundlage. Sie ist jederzeit widerruflich, setzt echte Freiwilligkeit voraus und ist in einem Vertragsverhältnis strukturell fragil. Sie kommt als Absicherung für spezifische Einzelverarbeitungen in Betracht, nicht als Basis für den Regelbetrieb.

Besonderheit bei Mitarbeiterdaten

Für Mitarbeitende in Deutschland ist § 26 Abs. 1 S. 1 BDSG die einschlägige Norm. Der KI-Einsatz als normales Arbeitsmittel zur Erledigung übertragener Aufgaben fällt grundsätzlich darunter. Sobald das System zur Leistungsüberwachung oder Verhaltensauswertung genutzt werden könnte, gelten erhöhte Anforderungen. Bei bestehendem Betriebsrat ist § 87 Abs. 1 Nr. 6 BetrVG zu prüfen.

Auftragsverarbeitungsvertrag (AVV)

Der KI-Anbieter ist in aller Regel ein Auftragsverarbeiter im Sinne von Art. 28 DSGVO. Ohne einen vollständigen AVV ist der KI-Einsatz mit personenbezogenen Daten unzulässig. Der AVV muss Gegenstand und Zweck der Verarbeitung, die Datenkategorien, technisch-organisatorische Maßnahmen (TOMs), die Sub-Processor-Kette sowie die Löschung der Daten nach Auftragsende regeln.

Ein Punkt verdient besondere Aufmerksamkeit: Viele KI-Anbieter trainieren ihre Modelle mit eingespeisten Daten, sofern dies nicht vertraglich und technisch ausgeschlossen ist. Wer diesen Punkt im AVV nicht adressiert, riskiert, dass aus einer Auftragsverarbeitung eine eigenverantwortliche Verarbeitung des Anbieters wird. Vor Produktivsetzung ist zu klären, ob das Modelltraining mit eigenen Daten deaktiviert ist, und dieser Status ist zu dokumentieren. Anbieter wie Microsoft (Copilot), Google (Gemini) und OpenAI (ChatGPT) bieten entsprechende Enterprise-Konfigurationen an; deren konkreten Einsatz sollte man stets im AVV verankern.

Drittstaatentransfer

Viele gängige KI-Anbieter sitzen in den USA. Jede Übermittlung personenbezogener Daten in Drittstaaten außerhalb des EWR ist nur zulässig, wenn ein Angemessenheitsbeschluss der EU-Kommission vorliegt oder geeignete Garantien nach Art. 46 DSGVO bestehen, etwa Standardvertragsklauseln (SCC). Für US-Anbieter gilt seit 2023 der EU-U.S. Data Privacy Framework (DPF) als gültige Transfergrundlage, vorausgesetzt, der Anbieter ist dort zertifiziert. Dies ist vor Vertragsabschluss zu prüfen und zu dokumentieren.

Informationspflichten gegenüber Betroffenen

Betroffene Personen müssen nach Art. 13 bzw. 14 DSGVO informiert werden, dass ihre Daten mittels KI verarbeitet werden, welches System eingesetzt wird und auf welcher Rechtsgrundlage die Verarbeitung beruht.

Wann ist eine Datenschutz-Folgenabschätzung (DSFA) erforderlich?

Eine Datenschutz-Folgenabschätzung (DSFA) nach Art. 35 DSGVO ist ein strukturierter Prozess zur Bewertung der Risiken einer Verarbeitung für die Rechte und Freiheiten betroffener Personen. Sie ist verpflichtend bei KI-Systemen, die:

• systematisch personenbezogene Daten in großem Umfang verarbeiten,
• automatisierte Entscheidungen mit erheblichen Auswirkungen treffen, oder
• besondere Datenkategorien nach Art. 9 DSGVO einbeziehen.

Die deutschen Aufsichtsbehörden veröffentlichen sogenannte Blacklists, die Verarbeitungstätigkeiten benennen, für die eine DSFA stets erforderlich ist. Diese sind im Einzelfall heranzuziehen.

KI mit personenbezogenen Daten als Auftragsverarbeiter

Wer als Auftragsverarbeiter tätig ist, verarbeitet die Daten seiner Auftraggeber weisungsgebunden. Das schränkt den Spielraum für den KI-Einsatz strukturell ein. Sobald personenbezogene Daten des Verantwortlichen in ein KI-System fließen, wird der KI-Anbieter zum Sub-Auftragsverarbeiter. Art. 28 Abs. 2 DSGVO regelt klar: Ein Auftragsverarbeiter darf ohne vorherige schriftliche Genehmigung des Verantwortlichen keinen weiteren Auftragsverarbeiter hinzuziehen.

Enthalten bestehende AVVs nur eine Liste spezifisch genehmigter Sub-Auftragsverarbeiter, kann der KI-Anbieter nicht ohne weiteres eingebunden werden. Ein eigenmächtiger Einsatz wäre zugleich ein Vertragsverstoß und ein Verstoß gegen Art. 28 Abs. 2 DSGVO. Der Verantwortliche kann den AVV fristlos kündigen; die Aufsichtsbehörde kann Bußgelder verhängen, die nach Art. 83 Abs. 4 DSGVO bis zu 10 Millionen Euro oder 2 % des weltweiten Jahresumsatzes betragen können.

Wann gilt ein KI-System nicht als Sub-Auftragsverarbeiter?

Nicht jeder KI-Einsatz fällt automatisch in diese Kategorie. Wenn das KI-System ausschließlich auf interne Wissensdatenbanken, Musterdokumente oder anonymisierte Informationen zugreift, ohne konkrete personenbezogene Daten des Verantwortlichen zu verarbeiten, liegt keine Sub-Auftragsverarbeitung im AVV-Kontext vor. Es handelt sich dann um eine eigenständige interne Verarbeitung des Auftragsverarbeiters, für die er selbst Verantwortlicher ist.

In der Praxis ist diese Trennung schwer sauber zu halten, sobald das KI-System Ticketinhalte, Kommunikationsverläufe oder andere auftragsrelevante Informationen als Kontext erhält.

Lösung 1: Einzelgenehmigung einholen

Der Verantwortliche wird schriftlich über den geplanten KI-Anbieter informiert und erteilt seine Genehmigung vor Produktivsetzung (Art. 28 Abs. 2 S. 1 DSGVO). Dieser Weg ist bei wenigen Auftraggebern praktikabel, bei größerem Mandantenstamm jedoch nicht skalierbar.

Lösung 2: AVV auf das Widerspruchsmodell umstellen

Art. 28 Abs. 2 S. 2 DSGVO lässt zu, dass der Auftragsverarbeiter den Verantwortlichen vorab über geplante Änderungen der Sub-AV-Liste informiert, verbunden mit einer definierten Einwendungsfrist. Erhebt der Verantwortliche innerhalb dieser Frist keinen Einwand, gilt die Genehmigung als erteilt. Dieses Modell ist skalierbar und empfiehlt sich als Standard für wachsende Dienstleister. Es erfordert eine einmalige Nachtragsvereinbarung zu bestehenden AVVs und sollte in allen neuen AVVs von Beginn an verankert werden.

Lösung 3: Technische Abschirmung der Kundendaten

In bestimmten Konstellationen lässt sich der KI-Einsatz so gestalten, dass personenbezogene Daten des Verantwortlichen nicht in das System gelangen, etwa durch Anonymisierung der Eingaben oder durch Beschränkung des KI-Zugriffs auf interne Ressourcen. Dieser Ansatz ist fehleranfällig, bedarf klarer interner Regelungen und ist als alleinige Maßnahme nicht empfehlenswert.

Eigene Dokumentationspflichten als Auftragsverarbeiter

Auch der Auftragsverarbeiter hat eigene Pflichten. Er führt ein Verarbeitungsverzeichnis nach Art. 30 Abs. 2 DSGVO, das alle im Auftrag durchgeführten Verarbeitungen dokumentiert. Er muss den Verantwortlichen bei Betroffenenanfragen, Datenpannen und der DSFA unterstützen (Art. 28 Abs. 3 lit. e, f DSGVO). Und er haftet dem Verantwortlichen gegenüber für die korrekte Einbindung aller Sub-Auftragsverarbeiter, einschließlich des KI-Anbieters.

Wann ist KI mit personenbezogenen Daten in beiden Rollen unzulässig?

Unabhängig von der Rolle gibt es Grenzen, die nicht durch organisatorische Maßnahmen überbrückt werden können:

• Wenn keine Rechtsgrundlage für die konkrete Verarbeitung besteht, ist der KI-Einsatz unzulässig.
• Wenn besondere Kategorien personenbezogener Daten nach Art. 9 DSGVO verarbeitet werden, ohne dass ein Ausnahmetatbestand nach Art. 9 Abs. 2 DSGVO greift, gilt dasselbe. KI-Systeme inferieren solche Daten häufig aus scheinbar neutralen Eingaben, etwa Gesundheitsinformationen aus Sprachmustern oder religiöse Überzeugungen aus Kommunikationsinhalten.
• Wenn der AVV mit dem KI-Anbieter fehlt oder unvollständig ist.
• Wenn der KI-Anbieter die Daten für eigenes Modelltraining nutzt, ohne dass dies vertraglich erlaubt wäre.
• Wenn ein Drittstaatentransfer stattfindet, ohne dass eine geeignete Transfergrundlage nach Art. 46 DSGVO vorliegt.

Checkliste: Personenbezogene Daten in KI

Als Verantwortlicher

• Rechtsgrundlage für jede betroffene Personengruppe dokumentiert (Art. 6 DSGVO)
• Interessenabwägung schriftlich festgehalten, sofern lit. f einschlägig
• AVV mit dem KI-Anbieter vollständig abgeschlossen (Art. 28 DSGVO)
• Modelltraining mit eigenen Daten vertraglich und technisch ausgeschlossen
• Transfergrundlage für Drittstaaten geprüft (Art. 44 ff. DSGVO), ggf. SCC oder DPF-Zertifizierung des Anbieters bestätigt
• Datenschutzinformation für Betroffene aktualisiert (Art. 13, 14 DSGVO)
• Verarbeitungsverzeichnis um den KI-Einsatz ergänzt (Art. 30 DSGVO)
• DSFA geprüft und ggf. durchgeführt (Art. 35 DSGVO)

Als Auftragsverarbeiter

• Geprüft, ob personenbezogene Daten des Verantwortlichen in das KI-System fließen
• Genehmigung des Verantwortlichen für den KI-Anbieter als Sub-AV eingeholt (Art. 28 Abs. 2 DSGVO)
• AVV mit dem Verantwortlichen auf Widerspruchsmodell umgestellt oder Einzelgenehmigung erteilt
• AVV mit dem KI-Anbieter abgeschlossen
• Transfergrundlage für Drittstaaten geprüft
• Eigenes Verarbeitungsverzeichnis aktualisiert (Art. 30 Abs. 2 DSGVO)