DSGVO · DATENFLÜSSE IN KI-SYSTEMEN
Wohin fließen Ihre Daten in einem KI-System wirklich?
Ein KI-Assistent reicht eine Eingabe durch mehrere Stationen, bevor eine Antwort zurückkommt: Prompt, Sprachmodell, oft ein Suchindex, ein Protokoll, ein Anbieter und dessen Unterauftragsverarbeiter. An jeder Station stellen sich eigene Fragen nach Artikel 28 DSGVO und danach, was EU-Datenresidenz dort tatsächlich bedeutet. Die Darstellung ist allgemein und ersetzt keine Rechtsberatung.
- Auftragsverarbeitung
- Ein Vertrag nach Artikel 28 DSGVO legt Gegenstand, Dauer und Pflichten fest, bevor ein Anbieter Daten überhaupt verarbeitet.
- EU-Datenresidenz
- Ein Serverstandort in der EU regelt, wo Daten liegen, nicht automatisch, welches Recht für den Anbieter sonst noch gilt.
- US-Recht reicht weiter
- Der US CLOUD Act kann US-Unternehmen zur Herausgabe von Daten verpflichten, auch wenn diese in einem EU-Rechenzentrum liegen.
- Kette der Verarbeiter
- Ein KI-System reicht Eingaben oft an mehrere Stellen weiter: Hosting, Modellanbieter, Protokollierung, Überwachung.
- Orientierung der Aufsicht
- Die Datenschutzkonferenz veröffentlichte am 6. Mai 2024 eine Orientierungshilfe zu KI und Datenschutz für Verantwortliche.
Welchen Weg nimmt eine Eingabe durch ein KI-System?
Eine Eingabe durchläuft mehrere Stationen: Sie wird zu einem Prompt zusammengesetzt, oft um Treffer aus einem Suchindex ergänzt, an ein Sprachmodell gesendet, in einem Protokoll festgehalten und von einem Anbieter verarbeitet, der seinerseits Unterauftragsverarbeiter einsetzen kann. Jede Station ist eine eigene Stelle, an der Daten liegen bleiben oder weiterwandern.
Für die betroffene Person ist nur die Antwort sichtbar. Dahinter liegt eine Kette aus Systemen, von denen jedes eine Kopie oder einen Ausschnitt der Eingabe sieht.
Wer diese Kette nicht kennt, kann auch nicht beurteilen, wo eine Rechtsgrundlage, ein Vertrag oder eine technische Maßnahme ansetzen muss.
Was regelt ein Auftragsverarbeitungsvertrag nach Artikel 28 DSGVO?
Ein Auftragsverarbeitungsvertrag nach Artikel 28 DSGVO legt fest, was ein Anbieter mit personenbezogenen Daten tun darf: Gegenstand, Dauer, Art und Zweck der Verarbeitung, die Kategorien betroffener Daten, die Pflichten und Rechte des Verantwortlichen sowie die Bindung des Anbieters an dessen Weisungen. Ohne diesen Vertrag fehlt die rechtliche Grundlage für die Verarbeitung durch Dritte.
Der Vertrag beschreibt keine Vertrauensbeziehung, sondern eine Pflichtenliste: Vertraulichkeit, Sicherheitsmaßnahmen, die Einbindung weiterer Unterauftragsverarbeiter, Unterstützung bei Betroffenenanfragen und das Vorgehen nach Vertragsende.
Ein KI-Anbieter, der diesen Vertrag nicht anbietet oder nur eine allgemeine Nutzungsbedingung vorlegt, eignet sich für personenbezogene Daten nicht.
Was bedeutet EU-Datenresidenz technisch, und was bedeutet sie nicht?
EU-Datenresidenz bedeutet technisch, dass Server und Verarbeitung in einem Rechenzentrum innerhalb der EU liegen. Sie sagt nichts darüber, welchem Recht der Mutterkonzern eines Anbieters unterliegt, ob Unterauftragsverarbeiter außerhalb der EU eingebunden sind oder ob Support- und Überwachungsdienste von dort aus mitlesen. Der Standort ist ein Baustein, kein vollständiger Nachweis.
Ein US-Unternehmen bleibt dem US CLOUD Act unterworfen, unabhängig davon, in welchem Land es seine Server betreibt. Das hat der Europäische Datenschutzausschuss zusammen mit dem Europäischen Datenschutzbeauftragten 2019 in einer gemeinsamen Bewertung festgehalten.
Wer diesen Unterschied kennt, fragt einen Anbieter nicht nur nach dem Serverstandort, sondern nach dessen Konzernstruktur und den eingesetzten Unterauftragsverarbeitern.
Wann verändert ein lokales Sprachmodell die Antwort auf diese Fragen?
Ein lokales Sprachmodell verändert die Antwort dort, wo die Kette der Verarbeiter verkürzt werden soll: Läuft das Modell in der eigenen Infrastruktur, entfällt ein externer Anbieter samt seinen Unterauftragsverarbeitern für diesen Verarbeitungsschritt vollständig. Für Suchindex, Protokolle und Backups bleibt die Frage nach Ort und Zugriff trotzdem bestehen, nur mit weniger beteiligten Parteien.
Damit wird nicht automatisch jede Datenschutzfrage hinfällig, aber ihre Zahl sinkt: Ein Vertrag mit einem Modellanbieter entfällt, wenn kein externes Modell mehr aufgerufen wird.
Details zu Speicherbedarf, Quantisierung und Betrieb eines solchen Modells stehen unter Lokale Sprachmodelle.
Was gilt, wenn ein Anbieter außerhalb der EU sitzt?
Sitzt ein Anbieter außerhalb der EU, kann eine Übermittlung nach Kapitel V der DSGVO nur auf eine der dort vorgesehenen Grundlagen gestützt werden: eine Angemessenheitsentscheidung der Kommission, Standardvertragsklauseln nach Artikel 46 oder eine andere geeignete Garantie. Standardvertragsklauseln allein binden dabei nur die Vertragsparteien, nicht die Behörden eines Drittstaats.
Für die USA besteht seit Juli 2023 eine Angemessenheitsentscheidung der Kommission, das EU-US Data Privacy Framework, dem beigetretene Unternehmen folgen können.
Ob ein konkreter Anbieter dem Rahmen angehört und welche Garantie im Einzelfall trägt, ist eine Frage, die vor Vertragsabschluss zu klären ist, nicht danach.
01
Wie sieht der Datenfluss in einem typischen KI-System aus?
Ein Chatassistent oder ein Wissenssystem besteht selten aus einer einzigen Komponente. Eine Eingabe wandert durch mehrere Stationen, von denen jede eine eigene Kopie oder einen eigenen Ausschnitt der Daten hält.
- 01EingabeText der Person
- 02Prompt-Aufbauergänzt um Kontext
- 03Suchindexsofern eine Wissensbasis eingebunden ist
- 04Sprachmodellbeim Anbieter oder lokal
- 05ProtokollAnfrage und Antwort
- 06UnterauftragsverarbeiterHosting, Überwachung
Der Suchindex verdient besondere Aufmerksamkeit: Er enthält oft Ausschnitte aus Verträgen, Personalunterlagen oder Kundenkorrespondenz, in eine Vektordarstellung überführt. Diese Darstellung ist keine Verschlüsselung, sie lässt sich unter Umständen wieder in lesbaren Text zurückrechnen und braucht deshalb denselben Schutz wie die Ausgangsdokumente.
Protokolle wiederum sind für die Fehlersuche wertvoll und enthalten zugleich alles, was eine Person eingegeben hat. Sie brauchen eigene Zugriffsrechte und eine eigene Löschfrist, unabhängig davon, wie lange die Quelldokumente aufbewahrt werden.
02
Was muss ein Auftragsverarbeitungsvertrag nach Artikel 28 DSGVO enthalten?
Artikel 28 DSGVO verlangt einen Vertrag, der Gegenstand, Dauer, Art und Zweck der Verarbeitung, die Kategorien betroffener Daten sowie die Pflichten von Verantwortlichem und Auftragsverarbeiter festhält. Dazu gehören Vertraulichkeit, technische und organisatorische Maßnahmen, die Bedingungen für Unterauftragsverarbeiter, Unterstützung bei Betroffenenrechten und das Vorgehen mit den Daten nach Vertragsende.
Der Vertrag ist keine Formalität, sondern die rechtliche Grundlage dafür, dass ein Anbieter Daten überhaupt verarbeiten darf. Fehlt er oder deckt er den tatsächlichen Ablauf nicht ab, fehlt die Grundlage, unabhängig davon, wie sorgfältig die Technik sonst gebaut ist.
Checkliste
Worauf ein Auftragsverarbeitungsvertrag eine Antwort geben sollte
Ein Anbieter, der auf diese Punkte nur mit einer allgemeinen Datenschutzerklärung antwortet, hat noch keinen Auftragsverarbeitungsvertrag angeboten.
03
Was bedeutet EU-Datenresidenz technisch, und was bedeutet sie nicht?
Technisch bedeutet EU-Datenresidenz, dass ein Rechenzentrum innerhalb der EU Daten speichert und verarbeitet. Sie sagt nichts über das Recht, dem der Anbieter als Unternehmen unterliegt, über eingebundene Unterauftragsverarbeiter außerhalb der EU oder über Support- und Überwachungszugriffe von dort. Der Serverstandort ist ein Baustein der Bewertung, kein vollständiger Nachweis der Konformität.
| Ebene | Was der EU-Standort zeigt | Was offen bleibt |
|---|---|---|
| Speicherort | Server stehen in einem Rechenzentrum in der EU | Welchem Recht der Mutterkonzern des Anbieters unterliegt |
| Verarbeitung | Die Anfrage wird in der EU berechnet | Ob Unterauftragsverarbeiter außerhalb der EU eingebunden sind |
| Vertrag | Ein Auftragsverarbeitungsvertrag kann EU-Recht als Grundlage nennen | Ob der Anbieter im Streitfall mit einer Behörde außerhalb der EU tatsächlich nur diesem Vertrag folgt |
| Protokolle und Sicherungen | Können in derselben Region gespeichert werden | Ob Support- oder Monitoring-Zugriffe von außerhalb der EU stattfinden |
Drei Annahmen zur EU-Datenresidenz, geprüft
So pauschal nicht richtig.
Der Serverstandort ist ein Kriterium unter mehreren. Rechtsgrundlage, Auftragsverarbeitungsvertrag und die Frage nach dem Mutterkonzern des Anbieters bleiben unabhängig davon zu klären.
Nein.
Der Europäische Datenschutzausschuss und der Europäische Datenschutzbeauftragte hielten 2019 fest, dass die Reichweite des CLOUD Act sich nach der Kontrolle über ein Unternehmen richtet, nicht nach dem Serverstandort.
Nur zusammen mit weiteren Schritten.
Standardvertragsklauseln binden die Vertragsparteien, nicht die Behörden eines Drittstaats. Je nach Empfängerland kann eine zusätzliche Bewertung der tatsächlichen Schutzwirkung nötig sein.
04
Was ändert ein lokal betriebenes Sprachmodell am Datenfluss?
Ein Sprachmodell, das vollständig in der eigenen Infrastruktur läuft, entfernt für diesen Verarbeitungsschritt einen externen Anbieter und dessen Unterauftragsverarbeiter aus der Kette. Die Fragen nach Zugriffsrechten, Protokollierung und Löschfristen bleiben trotzdem bestehen, nur mit weniger beteiligten Parteien.
- Kein Auftragsverarbeitungsvertrag mit einem Modellanbieter nötig, weil kein externes Modell aufgerufen wird.
- Keine Frage nach einem Drittstaat für diesen Schritt, weil die Verarbeitung im eigenen Netz bleibt.
- Die Frage nach dem Suchindex und den Protokollen bleibt bestehen, unabhängig vom Modell.
- Betrieb, Aktualisierung und Absicherung des Modells übernimmt dann die eigene Organisation.
Was Speicherbedarf, Quantisierung und laufender Betrieb eines solchen Modells konkret bedeuten, beschreibt Lokale Sprachmodelle im Detail.
05
Was gilt, wenn Daten ein Drittland erreichen?
Kapitel V der DSGVO, Artikel 44 bis 49, verlangt für eine Übermittlung personenbezogener Daten in ein Land außerhalb der EU eine eigene Rechtsgrundlage: eine Angemessenheitsentscheidung der Europäischen Kommission, Standardvertragsklauseln nach Artikel 46 oder eine der übrigen dort genannten Garantien. Für die USA besteht seit Juli 2023 eine solche Angemessenheitsentscheidung, das EU-US Data Privacy Framework, dem beigetretene Unternehmen folgen können.
VERTRAUT VON TEAMS, DIE KI ERNST NEHMEN
Häufige Fragen
Reicht ein Auftragsverarbeitungsvertrag mit einem großen Cloud-Anbieter aus?
Der Vertrag ist die notwendige Grundlage, aber nicht der einzige Punkt. Zusätzlich zählt, welchem Recht der Anbieter als Unternehmen unterliegt, welche Unterauftragsverarbeiter eingebunden sind und ob eine Datenübermittlung in ein Drittland vorliegt. Der Vertrag allein beantwortet diese drei Fragen nicht.
Was unterscheidet EU-Hosting von einem Server in Deutschland?
Rechtlich wenig, solange beide innerhalb der EU liegen und derselben Aufsicht unterstehen. Ein Unterschied entsteht erst, wenn ein Anbieter aus einem Drittstaat seine Server in Deutschland betreibt, denn dann bleibt die Frage nach dem Recht des Mutterkonzerns bestehen.
Müssen Protokolle eines KI-Assistenten wie personenbezogene Daten behandelt werden?
Sofern sie Eingaben von identifizierbaren Personen enthalten, ja. Sie unterliegen denselben Grundsätzen wie die Quelldaten: eigene Zugriffsrechte, eine dokumentierte Löschfrist und eine Rechtsgrundlage für die Speicherung zu Fehlersuche oder Qualitätskontrolle.
Wer entscheidet, ob eine Datenschutz-Folgenabschätzung nötig ist?
Das entscheidet der Verantwortliche, oft mit Unterstützung der eigenen Datenschutzbeauftragten. Eine systematische Bewertung personenbezogener Aspekte in großem Umfang ist ein Kriterium, das eine solche Abschätzung nahelegen kann. Die Datenschutzkonferenz bietet dazu in ihrer Orientierungshilfe von 2024 eine Einordnungshilfe.
Ist ein Sprachmodell eines US-Anbieters mit Auftragsverarbeitungsvertrag automatisch zulässig?
Nicht automatisch. Neben dem Vertrag braucht die Übermittlung in die USA eine eigene Grundlage nach Kapitel V der DSGVO, etwa das EU-US Data Privacy Framework für beigetretene Unternehmen oder Standardvertragsklauseln mit zusätzlicher Bewertung. Beide Fragen sind getrennt zu klären.
Was passiert mit Daten, die im Prompt an ein Sprachmodell übergeben werden?
Sie erreichen zunächst das Modell selbst und, sofern konfiguriert, ein Protokoll. Ob sie darüber hinaus zum Training weiterer Modelle verwendet werden, regelt der Vertrag mit dem Anbieter und dessen Voreinstellungen, die vor dem Einsatz zu prüfen sind.
Quellen
- 01 Verordnung (EU) 2016/679 (Datenschutz-Grundverordnung), Artikel 28 Amt für Veröffentlichungen der Europäischen Union, 2016 · eur-lex.europa.eu
- 02 Verordnung (EU) 2016/679 (Datenschutz-Grundverordnung), Kapitel V, Artikel 44 bis 49 Amt für Veröffentlichungen der Europäischen Union, 2016 · eur-lex.europa.eu
- 03 Standard Contractual Clauses (SCC) Europäische Kommission, 2021 · commission.europa.eu
- 04 EDPB-EDPS Joint Response to the LIBE Committee on the impact of the US CLOUD Act Europäischer Datenschutzausschuss und Europäischer Datenschutzbeauftragter, 2019 · edps.europa.eu
- 05 Orientierungshilfe: Künstliche Intelligenz und Datenschutz Datenschutzkonferenz, 2024 · datenschutzkonferenz-online.de
- 06 Generative KI-Modelle: Chancen und Risiken für Industrie und Behörden Bundesamt für Sicherheit in der Informationstechnik, 2025 · bsi.bund.de
- 07 Adequacy decision for the EU-US Data Privacy Framework Europäische Kommission, 2023 · commission.europa.eu
Bereit, KI souverän einzusetzen?
Vereinbaren Sie ein unverbindliches Erstgespräch. Wir besprechen den ersten Anwendungsfall, der sich für Sie lohnt.
Datenflüsse besprechenWeiterführende Seiten
Vertiefen Sie einzelne Standorte und Lösungen unserer KI-Beratung.
Regionen
Themen
Grundlagen
Aus unseren Signalen
Praxisnahe Einblicke zu souveräner KI, RAG und Compliance.
