Wer haftet, wenn KI-generierter Code Schaden anrichtet?

01

Gibt es eine eigene Haftungsregel für KI-generierten Code?

Nein, keines der hier beschriebenen EU-Regelwerke knüpft an die Herkunft des Codes an. Die Produkthaftungsrichtlinie fragt, ob ein Produkt fehlerhaft ist und wer es in Verkehr gebracht oder in Betrieb genommen hat. Ob ein Mensch oder ein Sprachmodell die Zeilen geschrieben hat, nennt der Richtlinientext nicht als Kriterium.

Ihren Vorschlag für eine eigene Richtlinie zur KI-Haftung (COM(2022) 496) hat die Europäische Kommission zurückgezogen, die Rücknahme steht seit dem 6. Oktober 2025 im Amtsblatt (C/2025/5423). Ansprüche aus Vertrag oder Delikt aus anderen Gründen als der Fehlerhaftigkeit lässt die Produkthaftungsrichtlinie unberührt (Artikel 2 Absatz 4 Buchstabe b). Die technische Seite des Themas behandelt der Leitfaden Vom Prototyp zur produktionsreifen Anwendung.

02

Welche Stichtage prägen die Rechtslage für Software?

NIS2 gilt in Deutschland seit dem 6. Dezember 2025, Artikel 50 der KI-Verordnung seit dem 2. August 2026, die Meldepflichten des Cyber Resilience Act seit dem 11. September 2026. Am 9. Dezember 2026 endet die Umsetzungsfrist der Produkthaftungsrichtlinie, ab dem 11. Dezember 2027 gilt der Cyber Resilience Act vollständig.

Stichtage können sich verschieben: Die Verordnung (EU) 2026/1744 hat im Juli 2026 die Hochrisiko-Anforderungen der KI-Verordnung auf den 2. Dezember 2027 und den 2. August 2028 verlegt, den Geltungsbeginn von Artikel 50 aber beibehalten.

03

Was ändert die neue Produkthaftungsrichtlinie für Software?

Die Richtlinie (EU) 2024/2853 nennt Software ausdrücklich als Produkt, auch wenn sie über das Netz genutzt wird. Sie gilt für Produkte, die nach dem 9. Dezember 2026 in Verkehr gebracht oder in Betrieb genommen werden, und knüpft an die Fehlerhaftigkeit des Produkts an, nicht an ein Verschulden.

• Produkt: Software, auch als Software-as-a-Service (Artikel 4 Nummer 1, Erwägungsgrund 13). Reiner Quellcode als Information ist kein Produkt.
• Hersteller: wer ein Produkt entwickelt, entwickeln lässt, unter eigenem Namen auftritt oder für den Eigenbedarf entwickelt (Artikel 4 Nummer 10). Wer ein Produkt außerhalb der Kontrolle des Herstellers wesentlich verändert und danach bereitstellt oder in Betrieb nimmt, gilt ebenfalls als Hersteller (Artikel 8 Absatz 2).
• Fehlerhaftigkeit: Das Produkt bietet nicht die Sicherheit, die eine Person erwarten darf; sicherheitsrelevante Cybersicherheitsanforderungen fließen in die Beurteilung ein (Artikel 7).
• Ausnahme: freie und quelloffene Software, die außerhalb einer Geschäftstätigkeit entwickelt oder bereitgestellt wird (Artikel 2 Absatz 2).

Wer Ansprüche hat und welche Schäden zählen

Anspruch haben natürliche Personen (Artikel 5), und zwar für Tod, Körperverletzung einschließlich medizinisch anerkannter Beeinträchtigungen der psychischen Gesundheit, beschädigte Sachen und vernichtete oder beschädigte Daten (Artikel 6). Ausgenommen sind Sachen, die ausschließlich für berufliche Zwecke verwendet werden, und Daten, die für berufliche Zwecke verwendet werden. Schäden, die allein ein Unternehmen an solchen Sachen oder Daten erleidet, nennt die Richtlinie also nicht; wo die Grenze bei gemischter Nutzung verläuft, hängt vom Einzelfall und von der deutschen Umsetzung ab.

Updates und Umsetzung in Deutschland

Die Entlastung, ein Fehler habe beim Inverkehrbringen noch nicht bestanden, greift nach Artikel 11 Absatz 2 nicht, wenn er auf Software, auf Updates oder auf fehlende sicherheitsnotwendige Updates unter der Kontrolle des Herstellers zurückgeht. Für Code, der schnell entsteht und laufend weiterentwickelt wird, zählt damit der Update-Weg. Umzusetzen ist die Richtlinie bis zum 9. Dezember 2026 (Artikel 22). Den Regierungsentwurf zur Modernisierung des Produkthaftungsrechts (Drucksache 21/4297) hat der Bundestag am 4. März 2026 in erster Lesung beraten. Für ältere Produkte gilt die Richtlinie 85/374/EWG weiter (Artikel 21).

04

Wann greifen die Meldepflichten des Cyber Resilience Act?

Seit dem 11. September 2026 gilt Artikel 14 der Verordnung (EU) 2024/2847. Hersteller von Produkten mit digitalen Elementen, die auf dem EU-Markt bereitgestellt werden, melden aktiv ausgenutzte Schwachstellen und schwerwiegende Sicherheitsvorfälle an das zuständige CSIRT und an ENISA, nach Angaben der Kommission auch für Produkte, die bereits im Markt sind.

Bereitstellung auf dem Markt ist die Abgabe zum Vertrieb oder zur Verwendung auf dem Unionsmarkt im Rahmen einer Geschäftstätigkeit, entgeltlich oder unentgeltlich (Artikel 3 Nummer 22). Nach den FAQ der Kommission findet kein Inverkehrbringen statt, wenn ein Produkt für den Eigengebrauch hergestellt wird; eine ausschließlich intern entwickelte und genutzte Anwendung liegt danach in der Regel außerhalb des Cyber Resilience Act. Eigenständige SaaS-Lösungen sind nach der Kommission selbst keine Produkte mit digitalen Elementen, soweit sie nicht als Datenfernverarbeitung zu einem Produkt gehören.

Offen bleiben Zwischenformen: eine interne Anwendung, die später Kunden zugänglich wird, ein Werkzeug für andere Gesellschaften eines Konzerns, eine Begleit-App zu einem Gerät. Die übrigen Anforderungen gelten ab dem 11. Dezember 2027, für Produkte, die vorher in Verkehr gebracht wurden, nach Artikel 69 Absatz 2 nur bei einer wesentlichen Änderung.

05

Welche Rolle spielt Artikel 50 der KI-Verordnung?

Artikel 50 der Verordnung (EU) 2024/1689 regelt Transparenz, nicht Schadensersatz. Seit dem 2. August 2026 sollen Menschen erkennen können, wann sie mit einem KI-System interagieren, und Anbieter markieren erzeugte Inhalte maschinenlesbar. Für Verstöße sieht Artikel 99 Geldbußen vor, einen eigenen Schadensersatzanspruch enthält Artikel 50 nicht.

Rollen, interne Anwendungen und die praktische Kennzeichnung beschreibt der Leitfaden Muss ich KI in meiner Anwendung kennzeichnen?. Eine erste Orientierung zur Einstufung gibt der EU-AI-Act-Check, die gesamte Verordnung ordnet die Seite EU AI Act umsetzen ein.

06

Wie wirkt NIS2 auf eigene Software und auf Dienstleister?

Das deutsche NIS2-Umsetzungsgesetz ist seit dem 6. Dezember 2025 in Kraft und verpflichtet Einrichtungen, nicht einzelne Anwendungen. § 30 Absatz 2 Nummer 4 BSI-Gesetz nennt die Sicherheit der Lieferkette als Risikomanagementmaßnahme. Nach Darstellung des BSI sind deshalb auch Dienstleister indirekt betroffen, die selbst nicht unter das Gesetz fallen.

Das BSI beschreibt, dass regulierte Einrichtungen ihre Zulieferer vertraglich zu Sicherheitsmaßnahmen verpflichten und sich diese nachweisen lassen sollten, etwa zu Security by Design, zur Bewältigung von Sicherheitsvorfällen und zum Patchmanagement. Für Software, die mit KI-Werkzeugen entsteht, können daraus konkrete Vertragsfragen werden: welche Werkzeuge im Einsatz sind, wie generierter Code geprüft wird und wie Abhängigkeiten gepflegt werden. Ob ein Unternehmen selbst reguliert ist, lässt sich mit der NIS-2-Betroffenheitsprüfung des BSI als rechtlich nicht bindende Orientierung klären.

07

Die vier Regelwerke nebeneinander

08

Welche Annahmen halten einer Prüfung am Rechtstext nicht stand?

09

Welche Themen gehören in ein Gespräch mit der Rechtsberatung?

10

Welche Unterlagen erleichtern ein solches Gespräch?

Wie diese Unterlagen technisch entstehen, beschreiben die Leitfäden Der Fachbereich hat eine App gebaut und Eine Anwendung im eigenen Haus betreiben.