Deepfakes und die KI-Verordnung: Eine kritische Betrachtung der ausufernden Offenlegungspflichten

Die nächste Welle an Pflichten aus dem umstrittenen AI-Act der europäischen Union kommt in Kürze zur Anwendung. Ab dem 2. August 2026 greifen die neuen Transparenz- und Offenlegungspflichten der europäischen KI-Verordnung (KI-VO / AI Act). Im Zentrum steht dabei Artikel 50 Absatz 4 KI-VO, welcher den Umgang mit sogenannten „Deepfakes“ regelt.

Unter Deepfake sind jedoch nicht ausschließlich manipulierte Videos von Politikern oder Prominenten zu verstehen. Die Definition der europäischen Behörden ist derart weit gefasst, dass sie die gesamte Marketing- und Werbebranche vor massive Herausforderungen stellt. Doch worin genau liegt das Problem und wie lassen sich die geforderten „Wasserzeichen“ in der Praxis rechtssicher umsetzen?

Die uferlose Definition des Deepfake-Begriffs

Nach Art. 50 Abs. 4 KI-VO liegt ein offenlegungspflichtiger Deepfake vor, wenn ein KI-generierter oder manipulierter Inhalt existierenden Personen, Gegenständen, Orten oder Ereignissen ähnelt und deshalb vom Betrachter als echt wahrgenommen werden würde. Kritisch zu betrachten ist hierbei vor allem die Auslegung durch die entsprechenden EU-Leitlinien. Diese statuieren, dass es für die Annahme eines Deepfakes bereits ausreicht, wenn die Darstellung jemandem oder etwas ähnelt, das in der Realität existieren könnte. Ausgenommen von dieser weitreichenden Pflicht sind marginale, kosmetische Standardbearbeitungen, beispielsweise Farbkorrekturen, Rauschreduzierung, Entfernen von Staubflecken oder unwesentlichen Schatten, da diese den Wahrheitsgehalt und die Authentizität des Bildes nicht semantisch verändern.

Ebenfalls liegt kein Deepfake vor, wenn die dargestellten Inhalte für den durchschnittlichen Betrachter eindeutig nicht real existierend sein können. Dies soll bei bewusst übertriebenen, den Grundsätzen der Physik widersprechenden Darstellungen der Fall sein. Hiermit sind beispielsweise Bilder von Drachen und anderen Fantasy-Figuren gemeint. 

Diese Auslegung entleert den eigentlichen, auf Täuschung und Manipulation abzielenden Deepfake-Begriff seines ursprünglichen Sinns und führt zu einer massiven Ausweitung der Offenlegungspflichten.

Praxisbeispiele, die die Problematik verdeutlichen:

• Fiktive Models: Ein vollständig KI-generiertes Model, welches keiner bestimmten realen Person nachempfunden ist, gilt als Deepfake, da es sich nichtsdestotrotz um eine Person handelt, die existieren könnte.
• Generierte Naturbilder: Selbst die fotorealistische Generierung von KI für simple Motive wie Gras, Schnee oder Herbstlaub kann gemäß den Richtlinien als Deepfake klassifiziert werden, da diese Elemente in der Realität existieren und fälschlicherweise für ein authentisches Foto gehalten werden könnten.
• Produktdarstellungen: Werden echte Schuhe oder Kleidungsstücke mittels KI fotorealistisch in Szene gesetzt, kann dies ebenfalls als Deepfake gewertet werden, da ein Betrachter das Bild für authentische Produktfotografie halten könnte.

Die uferlose Definition der europäischen Kommission ist aus juristischer und praktischer Sicht äußerst problematisch. Sie führt zu einer rechtlichen Grauzone, in der KI-Betreiber aus reiner Vorsicht nahezu alle fotorealistischen KI-Bilder kennzeichnen. Wenn allerdings faktisch jedes KI-generierte Grashalm-Bild den gleichen Hinweis enthalten muss wie ein politisches Manipulationsvideo, verfehlt die Norm ihren eigentlichen Schutzzweck. Die Sensibilisierung der Nutzer weicht infolgedessen einer völligen Abstumpfung gegenüber KI-Warnhinweisen.

Wie muss die Offenlegungspflicht erfüllt werden?

Liegt nach Ansicht der europäischen Kommission ein Deepfake vor, muss dieser zwingend gekennzeichnet werden. Die KI-VO fordert, dass diese Information klar und eindeutig spätestens zum Zeitpunkt der ersten Interaktion bereitgestellt wird. Die Praxisrichtlinien legen folgenden Elemente fest:

1. Sichtbarkeit auf den ersten Blick (Keine Interaktion):

Das Label muss bei der ersten Begegnung mit dem Bild erkennbar sein. Lösungen, bei denen Nutzer erst scrollen, klicken oder mit der Maus über das Bild fahren müssen (Hover-Effekt), sind ausdrücklich unzulässig. Ebenfalls ist ein Hinweis in den Metadaten der Bilddatei, in den AGB oder im Footer der Website rechtlich nicht ausreichend. Empfehlenswert ist die Nutzung standardisierter Open-Source-Werkzeuge wie SynthID.

2. Aufbau und Gestaltung des Labels:

Der Marktstandard sieht ein zweiteiliges Label vor: Ein visuelles Hauptelement (das Kürzel „AI“ oder „KI“) kombiniert mit einer kurzen Erläuterung, zum Beispiel „Mit KI erstellt“ oder „Mit KI bearbeitet“. Das Label muss sich deutlich vom Hintergrund abheben, wobei der Standard für barrierefreie Webgestaltung bei einem Kontrastverhältnis von 4,5 zu 1 liegt, welchen auch die EU empfiehlt.

3. Platzierung:

Das Wasserzeichen ist fest in die Bilddatei zu integrieren, idealerweise in der unteren rechten oder linken Bildecke. Es muss ausreichend Abstand zu anderen Elementen wie Logos und Plugins aufweisen, darf aber bei Verkleinerungen, etwa durch Thumbnails im Online-Shop, nicht unleserlich werden. Bei Videos unter sechs Sekunden Länge sollte die Kennzeichnung durchgehend sichtbar sein.

4. Ausnahme für kreative Werke:

Positiv zu bewerten sind die Regeln für kreative und künstlerische Inhalte. Bei Werbekampagnen, die maßgeblich durch kreative Entscheidungen geprägt sind, genügt eine „werkkonforme, dezente Kennzeichnung“, die zwar wahrnehmbar ist, den Genuss des Werkes aber nicht unverhältnismäßig stört.

Fazit und Handlungsbedarf

Die weite Interpretation des Deepfake-Begriffs schießt über das Ziel deutlich hinaus. Die Verordnung droht, legitime und alltägliche Marketingmaßnahmen unter den Generalverdacht der Fälschung zu stellen. Hinsichtlich der Implementierung von Wasserzeichen ist die rechtliche Anerkennung spezifischer Technologien ist noch offen, sodass die Entwicklung der technischen Standards genau verfolgt werden sollte.

Dennoch sind diese Regelungen ab dem 2. August 2026 anwendbar. Unternehmen und Agenturen müssen daher jetzt reagieren. Es gilt, den gesamten Arbeitsablauf der Bilderstellung anzupassen, Freigabeprozesse für das korrekte Einfügen der Labels zu etablieren und Verträge mit externen Dienstleistern um strenge Offenlegungspflichten beim KI-Einsatz zu ergänzen. Wer hier auf Lücke setzt, riskiert nicht nur Abmahnungen durch Mitbewerber, sondern auch empfindliche Sanktionen nach der KI-Verordnung.