Kennzeichnungspflicht für KI-Inhalte

Ab dem 2. August 2026 gelten die Transparenzpflichten des Art 50 Abs 4 der EU-KI-Verordnung („AI Act“) für mittels Künstlicher Intelligenz („KI“) erzeugte oder veränderte Bild-, Audio- oder Videoinhalte, die ein Deepfake darstellen. Auch mittels KI erzeugte oder veränderte Texte gilt eine Kennzeichnungspflicht, sofern der Text veröffentlicht wird, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren.

Zur Konkretisierung dieser Pflichten hat die Europäische Kommission am 8. Mai 2026 den Entwurf ihrer Leitlinien zur Umsetzung der Transparenzpflichten für bestimmte KI-Systeme veröffentlicht („Leitlinienentwurf“). Am 10. Juni 2026 folgte der Verhaltenskodex zur Transparenz KI-generierter Inhalte („Verhaltenskodex“). Dabei erläutern die Leitlinien, ob eine Kennzeichnungspflicht besteht, während der freiwillige Verhaltenskodex konkretisiert, wie diese umgesetzt werden kann, ohne rechtlich verpflichtend zu sein. 

1) Wen treffen die Pflichten?

Art 50 Abs 4 AI Act richtet sich an Betreiber von KI-Systemen, also an jene, die ein KI-System in eigener Verantwortung beruflich verwenden. Mitarbeiter, die ein KI-System nach den Anweisungen und unter der Aufsicht des Unternehmens einsetzen, werden dem Unternehmen ebenso zugerechnet wie Freelancer oder Agenturen, die unter enger Kontrolle des Unternehmens und unter Einbeziehung in dessen Organisation tätig werden. Umgekehrt trifft eigenverantwortlich handelnde Dienstleister die Kennzeichnungspflicht selbst. Um Missverständnissen vorzubeugen, sollten diese Verantwortlichkeiten daher vertraglich klar zugewiesen werden.

Ausgenommen von der Transparenzpflicht ist nur die rein persönliche, nicht-berufliche Nutzung. Diese Grenze ist allerdings schnell überschritten: Wer etwa ein Deepfake einer Bürgermeisterin erstellt und zur Kritik an politischen Entscheidungen öffentlich auf Social Media teilt, handelt nach Auffassung der Europäischen Kommission nicht mehr rein privat.

2) Deepfake als Dreh und Angelpunkt

Voraussetzung ist, dass ein Deepfake vorliegt. Der AI Act definiert Deepfake als durch KI erzeugten oder manipulierten Bild-, Ton- oder Videoinhalt, der wirklichen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähnelt und einer Person fälschlicherweise als authentisch oder wahrheitsgemäß erscheinen könnte. Wirklich bedeutet dabei nicht, dass diese existieren, sondern dass diese existieren könnten.

Die Definition reicht damit deutlich weiter, als der umgangssprachliche Begriff vermuten lässt. Erfasst sind nicht nur manipulierte Abbildungen, sondern alle täuschend echten, künstlich erzeugten oder veränderten Abbildungen von Personen, Gegenständen, Orten, Einrichtungen und Ereignissen. Ein fotorealistisches KI-Bild eines Produkts oder Gebäudes kann daher ebenso ein Deepfake sein wie das manipulierte Video einer Vorstandsvorsitzenden. Eine Täuschungsabsicht ist gerade nicht erforderlich. Maßgeblich ist die objektive Eignung zur Täuschung über die Authentizität, und zwar unter Berücksichtigung des gesamten potenziellen Publikums, einschließlich Kindern oder Personen mit geringerer digitaler Kompetenz.

Regelmäßig nicht erfasst sind offensichtlich unrealistische, leicht als KI generiert erkennbare sowie bloß geringfügige technische KI-Bearbeitungen wie Farbkorrekturen oder Rauschunterdrückung. Die Abgrenzung bleibt aber vom jeweiligen Einzelfall abhängig. 

3) Wann sind KI-generierte Texte kennzeichnungspflichtig?

Gemäß Art 50 Abs 4 Unterabsatz 2 AI Act ist offenzulegen, dass ein Text künstlich erzeugt oder manipuliert wurde, wenn er veröffentlicht wird, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren. Alle drei Merkmale müssen kumulativ vorliegen. 

Die Pflicht entfällt, wenn der Text einer menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen wurde und eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung trägt. Erforderlich ist eine inhaltliche Prüfung mit der Befugnis, den Text zu ändern oder abzulehnen. Die bloße Rechtschreibkorrektur oder eine oberflächliche Freigabe genügen dabei nicht. 

4) Wie ist offenzulegen?

Liegt ein Deepfake vor, muss offenlegt werden, dass der Inhalt künstlich erzeugt oder verändert wurde. Ebenso müssen erfasste Textveröffentlichungen klar mit einem Hinweis versehen werden, dass der Text künstlich erstellt oder verändert wurde.

Art 50 Abs 4 und 5 AI Act sieht vor, dass die Offenlegung des „KI-Ursprungs“ den betroffenen natürlichen Personen in klarer und eindeutig erkennbarer Weise (zum Beispiel sichtbar oder hörbar) bereitzustellen ist. Dies spätestens zum Zeitpunkt der ersten Wahrnehmung des KI-generierten Inhalts. 

Der Verhaltenskodex schlägt dazu vor, die Kennzeichnung bei Bildern im Regelfall direkt in das Bild einzubetten, und zwar an gut sichtbarer, freier Stelle (etwa oben rechts). Bei Audio-Deepfakes ist zusätzlich zum akustischen Hinweis ein visuelles Kennzeichen in Form eines Symbols oder eines Schriftzeichens anzuzeigen, sofern das Endgerät über ein Display verfügt. Bei länger dauernden Inhalten ist zudem auf eine wiederholte Anzeige zu achten. So ist bei Videos, in die Personen zu unterschiedlichen Zeitpunkten einsteigen und dabei mit einem Deepfake konfrontiert werden können, der Hinweis sowohl zu Beginn des Videos als auch, soweit möglich, in regelmäßigen Abständen während des gesamten Videos und jedenfalls nach Unterbrechungen anzuzeigen. Gleiches gilt für länger andauernde Audio-Deepfakes, bei denen auch später einsteigende Personen entsprechend über die KI-Eigenschaft zu informieren sind. Ein „versteckter“ Hinweis, beispielsweise im Impressum oder in den Nutzungsbedingungen, genügt dabei ebenso wenig wie eine Offenlegung erst im Abspann eines Videos. 

Für die graphische Kennzeichnung stellt die EU-Kommission frei nutzbare EU-Icons („AI Generated“) für vollständig KI-generierte Inhalte und („AI Modified“) für teilweise KI-modifizierte Inhalte bereit: