Muss ich KI in meiner Anwendung kennzeichnen?

01

Was verlangt Artikel 50 der KI-Verordnung?

Artikel 50 enthält vier Transparenzpflichten. Anbieter gestalten KI-Systeme für die direkte Interaktion so, dass Menschen davon erfahren, und markieren erzeugte Inhalte maschinenlesbar. Betreiber informieren über Emotionserkennung und biometrische Kategorisierung und legen Deepfakes sowie bestimmte veröffentlichte Texte offen. Die Information erfolgt spätestens bei der ersten Interaktion, klar und barrierefrei.

Absatz 5 regelt die Form: Die Information erreicht die betroffenen Personen spätestens zum Zeitpunkt der ersten Interaktion oder Aussetzung, in klarer und eindeutiger Weise und barrierefrei. Ein Deepfake ist nach Artikel 3 Nummer 60 ein durch KI erzeugter oder manipulierter Bild-, Ton- oder Videoinhalt, der wirklichen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähnelt und fälschlich als echt erscheinen würde.

Wo die Kennzeichnung im Weg vom Prototyp in den Betrieb steht, zeigt der Leitfaden Vom Prototyp zur produktionsreifen Anwendung. Die übrigen Regelwerke für Software, von der Produkthaftung bis NIS2, beschreibt Wer haftet, wenn KI-generierter Code Schaden anrichtet?

Zur Einordnung der Folgen: Für Verstöße gegen Artikel 50 sieht Artikel 99 Absatz 4 Geldbußen von bis zu 15 Millionen Euro oder bis zu 3 Prozent des weltweiten Jahresumsatzes vor, je nachdem, welcher Betrag höher ist. Für KMU einschließlich Start-ups gilt nach Absatz 6 der jeweils niedrigere Betrag, und nach Absatz 7 werden alle Umstände des Einzelfalls berücksichtigt.

02

Seit wann gilt die Kennzeichnungspflicht?

Artikel 50 gilt seit dem 2. August 2026. Die Verordnung (EU) 2026/1744, seit dem 27. Juli 2026 in Kraft, hat diesen Termin beibehalten und für die maschinenlesbare Markierung nach Absatz 2 eine Übergangsfrist ergänzt: Anbieter, deren Systeme vor dem 2. August 2026 auf dem Markt waren, haben dafür bis zum 2. Dezember 2026 Zeit.

Die Verordnung (EU) 2026/1744 hat außerdem Absatz 7 neu gefasst: Die Kommission bewertet, ob die Einhaltung von Praxisleitfäden ausreicht, um die Pflichten aus den Absätzen 2 und 4 zu erfüllen. Nach den Erwägungsgründen dieser Verordnung haben solche Leitfäden eine begrenzte Rechtswirkung und begründen keine Konformitätsvermutung.

03

Wann ist ein Unternehmen Anbieter, wann Betreiber?

Anbieter ist nach Artikel 3 Nummer 3, wer ein KI-System entwickelt oder entwickeln lässt und es unter eigenem Namen in Verkehr bringt oder in Betrieb nimmt. Betreiber ist nach Nummer 4, wer ein KI-System in eigener Verantwortung verwendet, außer bei persönlicher, nicht beruflicher Tätigkeit. Ein Unternehmen kann beide Rollen zugleich haben.

Für kleine Anwendungen ist ein Detail wichtig: Inbetriebnahme umfasst nach Artikel 3 Nummer 11 auch die Bereitstellung eines KI-Systems für den Eigengebrauch. Wer einen internen Assistenten selbst entwickelt oder entwickeln lässt und unter eigenem Namen einsetzt, kann damit Anbieter dieses Systems sein und es zugleich als Betreiber verwenden.

Offen ist, ab welcher Eigenleistung aus der Nutzung eines fremden Modells über eine Schnittstelle ein eigenes KI-System im Sinne der Verordnung wird, etwa bei einer Oberfläche mit eigenen Systemanweisungen, eigener Dokumentensuche und eigenem Namen. Die Verordnung unterscheidet Anbieter von KI-Modellen mit allgemeinem Verwendungszweck und Anbieter von KI-Systemen. Rollenwechsel beim Einkauf und bei der Veränderung fremder Systeme ordnet die Seite EU AI Act umsetzen ein.

04

Wann kann eine kleine interne Anwendung erfasst sein?

Artikel 50 enthält keine allgemeine Ausnahme für interne oder kleine Anwendungen; Artikel 2 Absatz 10 nimmt nur Betreiberpflichten natürlicher Personen bei rein persönlicher, nicht beruflicher Nutzung aus. Ob eine interne Anwendung erfasst sein kann, hängt am Anknüpfungspunkt des jeweiligen Absatzes: direkte Interaktion, erzeugte Inhalte oder Veröffentlichung.

Forschung, Tests und Entwicklung vor dem Inverkehrbringen oder der Inbetriebnahme nimmt Artikel 2 Absatz 8 aus. Wann ein interner Pilot mit echten Nutzerinnen und Nutzern in eine Inbetriebnahme übergeht, ist eine Auslegungsfrage. Wie eine Fachbereichs-Anwendung vor der Freigabe insgesamt erfasst wird, beschreibt Der Fachbereich hat eine App gebaut.

05

Wie sieht eine Kennzeichnung in der Praxis aus?

In der Oberfläche ist es ein erkennbarer Hinweis beim ersten Kontakt, etwa am Eingabefeld eines Assistenten, auch für Screenreader lesbar. Bei erzeugten Medien kommt eine maschinenlesbare Markierung hinzu, etwa Herkunftsmetadaten oder Wasserzeichen, bei Deepfakes eine sichtbare Offenlegung. Der Praxisleitfaden der Kommission beschreibt dafür Verfahren und stellt EU-Symbole bereit.

Hinweis in der Oberfläche

Absatz 5 verlangt die Information spätestens bei der ersten Interaktion. Umsetzen lässt sich das zum Beispiel mit einem kurzen Satz am Eingabefeld oder in der ersten Antwort, einem Namen, der das System als KI erkennbar macht, und derselben Information als zugänglichem Text für assistive Technik. Ein Hinweis, der nur in den Nutzungsbedingungen steht, erreicht Menschen im Moment der Interaktion in der Regel nicht.

Maschinenlesbare Markierung erzeugter Medien

Für Anbieter nennt der Praxisleitfaden maschinenlesbare Markierung, Wasserzeichen und Metadaten. Verbreitete technische Bausteine sind das IPTC-Vokabular Digital Source Type, dessen Wert trainedAlgorithmicMedia Medien bezeichnet, die mit einem trainierten KI-Modell erzeugt wurden, und die Spezifikation der Coalition for Content Provenance and Authenticity (C2PA), die Herkunftsangaben kryptografisch an eine Datei bindet. Metadaten können beim Umwandeln oder Hochladen verloren gehen; Absatz 2 verlangt Lösungen, die soweit technisch möglich wirksam, interoperabel, belastbar und zuverlässig sind.

Sichtbare Offenlegung bei Deepfakes und Texten

Für Betreiber sieht der Praxisleitfaden sichtbare Kennzeichnungen vor, unter anderem mit EU-Symbolen, die die Kommission bereitstellt. Bei veröffentlichten Texten hängt die Ausnahme in Absatz 4 an zwei Bedingungen zugleich: menschliche Überprüfung oder redaktionelle Kontrolle und eine Person, die die redaktionelle Verantwortung trägt.

06

Welche Fragen gehören in ein Gespräch mit der Rechtsberatung?

Eine erste Orientierung zur Einstufung einer Anwendung nach der gesamten Verordnung gibt der EU-AI-Act-Check. Der folgende Pfad bleibt bei Artikel 50.

07

Welche Annahmen passen nicht zum Wortlaut?