DSGVO und KI: was verboten ist, was bedingt gilt und was Sie steuern

Eine kurze Liste von KI-Nutzungen liegt nah an einem echten Verbot unter der DSGVO. Sie zuerst zu kennen macht den Rest leichter durchdenkbar.

• Allein automatisierte Entscheidungen über Menschen. Artikel 22 beschränkt Entscheidungen mit rechtlicher oder ähnlich erheblicher Wirkung, die ohne bedeutsame menschliche Beteiligung getroffen werden. Deutsche Aufsichtsbehörden lesen das streng und erwarten wirksame menschliche Aufsicht statt eines Abnickens (Hogan Lovells).
• Besondere Kategorien von Daten, standardmäßig. Gesundheits-, biometrische, Weltanschauungs- und ähnliche Daten sind nach Artikel 9 grundsätzlich von der Verarbeitung ausgeschlossen, es sei denn, eine bestimmte Ausnahme greift. Die EU-KI-Verordnung schafft eine enge Öffnung: Artikel 10 Absatz 5 erlaubt solche Daten strikt zur Erkennung und Korrektur von Verzerrungen in Hochrisikosystemen (IAPP).
• Modelle, die auf rechtswidrig erhobenen Daten beruhen. Die EDSA-Stellungnahme 28/2024 vom 18. Dezember 2024 hält fest, dass die Entwicklung eines Modells mit rechtswidrig verarbeiteten personenbezogenen Daten die Rechtmäßigkeit seines Einsatzes beeinträchtigen kann, sofern das Modell nicht ordnungsgemäß anonymisiert wurde (EDSA).

Die meiste KI-Arbeit liegt außerhalb dieser kurzen Liste, wo die Antwort selten ein glattes "nein" ist. Es ist ein "ja, wenn".

Die große Mitte der KI-Arbeit ist rechtmäßig, wenn Sie die richtigen Bedingungen zeigen und dokumentieren können.

Zwei Bedingungen leisten den Großteil der Arbeit. Die erste ist eine Rechtsgrundlage. Für das Training und die Nutzung von Modellen mit personenbezogenen Daten legte der EDSA einen dreistufigen Test für das berechtigte Interesse vor, der das Interesse selbst, die Erforderlichkeit der Verarbeitung und eine Abwägung gegen die Rechte der betroffenen Personen wägt (EDSA). Das berechtigte Interesse steht zur Verfügung, aber es wird über diesen Test verdient, nicht unterstellt.

Die zweite ist Anonymität, die Sie nicht selbst erklären dürfen. Dieselbe Stellungnahme hält fest, dass ein auf personenbezogenen Daten trainiertes Modell nicht automatisch anonym ist. Es gilt nur dann als anonym, wenn es sehr unwahrscheinlich ist, sowohl die Personen zu identifizieren, deren Daten es trainiert haben, als auch diese Daten über Anfragen zu extrahieren, im Einzelfall von der Aufsichtsbehörde bewertet (IAPP). Die Stellungnahme stützt sich so stark auf "Einzelfall", dass juristische Analysten die Formel im Text durchzählten (Ropes & Gray). Die praktische Lesart: die meiste KI-Verarbeitung ist erlaubt, unter der Bedingung, dass Sie Ihre Grundlage und Ihre Dokumentation zeigen können.

Der ermutigende Teil ist, dass die Bedingungen, die Sie erfüllen müssen, weitgehend davon bestimmt werden, wie Sie das System bauen, nicht davon, wer Sie sind.

• Weniger behalten, kürzer. Datenminimierung und Zweckbindung gelten an den KI-spezifischen Stellen, an denen Daten sich verstecken: Prompt- und System-Logs und die Vektoren in einem RAG-Speicher. EDSA-Leitlinien verweisen darauf, das Geloggte zu minimieren, aggregierte oder pseudonyme Kennungen zu bevorzugen und die Aufbewahrung kurz zu halten (EDSA-Analyse).
• Bewusst entscheiden, wo die Daten liegen. Seit dem Schrems-II-Urteil ist die Übermittlung personenbezogener Daten an einen US-Anbieter nicht durch die Unterzeichnung von Standardvertragsklauseln erledigt. Sie müssen prüfen, ob diese Klauseln angesichts des US-Überwachungsrechts tatsächlich durchgesetzt werden können, und diese Verantwortung lässt sich nicht an den Anbieter abgeben (Analyse).

Das ist der praktische Grund, warum Datenresidenz und On-Premise-Betrieb Steuerungshebel sind statt Ideologie, derselbe Punkt hinter dem Betrieb von Modellen, die Sie besitzen statt mieten (iiterate).

Es hilft, Datenschutz und KI-Regulierung als getrennte Pflichten zu behandeln, die sich treffen, statt als ein einziges Regelwerk.

Die DSGVO ist ein Grundrechte-Regime über personenbezogene Daten; die EU-KI-Verordnung liegt näher am Produktsicherheitsrecht für KI-Systeme (IAPP). Ein Hochrisikosystem kann Pflichten aus beiden schulden: eine Datenschutz-Folgenabschätzung nach Artikel 35 der DSGVO und eine Grundrechte-Folgenabschätzung nach Artikel 27 der KI-Verordnung, die sie ergänzt statt ersetzt. Die beiden greifen auch auf unbequeme Weise ineinander. Praktiker weisen etwa darauf hin, dass DSGVO-Profiling ein System wieder in den Anwendungsbereich ziehen kann, das eine KI-Verordnungs-Ausnahme scheinbar freigab (r/gdpr). Offizielle Hilfe ist unterwegs: EDSA und Europäische Kommission sollen Anfang 2026 gemeinsame Leitlinien zur Überschneidung veröffentlichen (IAPP).

Sie brauchen keine Gewissheit, die die Aufsicht nicht geliefert hat. Sie brauchen eine belastbare, dokumentierte Haltung. Eine praktische Reihenfolge:

1. Kartieren Sie, wo personenbezogene Daten ins System gelangen: Eingaben, Prompts, Logs, Trainingsdaten und der RAG-Speicher.
2. Wählen und dokumentieren Sie eine Rechtsgrundlage für jede Nutzung. Stützen Sie sich auf das berechtigte Interesse, führen Sie den Abwägungstest durch statt ihn anzunehmen.
3. Führen Sie eine DSFA durch, bevor Sie etwas einsetzen, das Menschen profiliert oder über sie entscheidet, und halten Sie einen Menschen für Artikel-22-Fälle bedeutsam in der Schleife.
4. Minimieren und befristen Sie, was das System behält, besonders Prompt-Logs und Vektoren.
5. Entscheiden Sie die Datenresidenz bewusst. Würden personenbezogene Daten die EU verlassen, führen Sie die Übermittlungsprüfung durch oder halten Sie die Verarbeitung in der EU oder on-prem.
6. Überprüfen Sie die Haltung erneut, wenn die gemeinsame Leitlinie von EDSA und Kommission 2026 erscheint.

Die Kurzfassung: an KI ist unter der DSGVO sehr wenig kategorisch verboten, ein paar Dinge sind es wirklich, und der Rest ist überwiegend ein dokumentiertes "ja, wenn". Die Bedingungen, die es entscheiden, sind überwiegend architektonisch, was heißt, dass Sie sie setzen. Dieselben Governance-Fragen tauchen in dem Moment auf, in dem ein interner Agent Kundendaten berührt (iiterate). Dies bleibt Orientierung statt Rechtsberatung, machen Sie also Ihren Datenschutzbeauftragten zum nächsten Leser.