Ab dem 2. August 2026 gilt für KI-Systeme (mit allgemeinem Verwendungszweck wie z.B. Sprachmodelle) ein neues Transparenzregime: KI-generierte und KI-manipulierte Inhalte sind grundsätzlich zu kennzeichnen.
Grundlage ist Artikel 50 der EU KI-Verordnung ((EU) 2024/1689). Anbietern, aber auch Betreibern von KI-Systemen werden neue Verpflichtungen auferlegt, die mit Bußgeldern von bis zu 15 Mio. Euro oder 3 % des weltweiten Jahresumsatzes sanktioniert werden können.
Der europäische Gesetzgeber verfolgt einen klaren Ansatz für synthetisch erzeugte Inhalte: Kennzeichnung und Offenlegung sollen Transparenz schaffen um Täuschung, Manipulation und Vertrauensverlust zu verhindern.
Folgende wesentliche Regelungen des Artikel 50 KI-VO stehen in unserer heutigen Betrachtung im Vordergrund. Zum einen die Kennzeichnung synthetisch erzeugter Audio-, Bild-, Video- oder Textinhalte durch die Anbieter sowie die Offenlegung von Deepfakes und Public-Interest-Texten durch die Betreiber von KI-Systemen.
Artikel 50 Absatz 2 KI-VO verpflichtet Anbieter von KI-Systemen, also z.B. OpenAI mit ChatGPT oder Google mit Gemini, synthetisch erzeugte Inhalte maschinenlesbar zu kennzeichnen, etwa durch Metadaten, Watermarks oder vergleichbare technische Verfahren. Die Pflicht kann aber auch kleinere Unternehmen treffen, die Angebote auf der Grundlage von KI-Modellen Dritter, etwa für Voice Cloning-Angebote, entwickeln und unter eigener Marke vertreiben.
Betreiber werden nach Artikel 50 Absatz 4 KI-VO verpflichtet, den Einsatz von KI für Menschen unmittelbar erkennbar offenzulegen. Erfasst sind solche Unternehmen, die KI-Systeme professionell einsetzen, um Output z.B. für Werbespots, Filmszenen oder Audiospuren für Synchron- oder Hörbücher zu generieren. Unter den Betreiberbegriff können aber z.B. auch Zeitungsverlage fallen, die Presseberichte mit KI erzeugen.
Das Transparenzregime wird durch den am 10. Juni 2026 veröffentlichten – aber rechtlich nicht verbindlichen – Code of Practice ergänzt. Er enthält konkrete Vorschläge zur Umsetzung der genannten Verpflichtungen. Hierzu gehören z.B. technische Möglichkeiten der Kennzeichnung (Metadaten, Watermarks, mehrstufige Labels), die Nutzung von (EU-) Logos („AI generated“, „AI modified“) oder die Gestaltung interner Compliance Prozesse. Als anerkannter Compliance-Maßstab schafft der Code damit praktische Orientierung, ersetzt jedoch nicht die rechtliche Prüfung. Der Einhaltung der im Code vorgesehenen Vorgaben kommt lediglich Indizwirkung zu. Für die unterzeichnenden Akteure hat dies aber nicht automatisch Rechtskonformität zur Folge.
Darüber hinaus erarbeitet die EU-Kommission Leitlinien zur Auslegung des Art. 50 KI-Verordnung. Ein Entwurf wurde bereits veröffentlicht, während die finale Fassung erst Ende Juli 2026, d.h. kurz vor Inkrafttreten der Transparenzverpflichtungen, erwartet wird.
Jede Form des Outputs braucht zunächst einen maschinenlesbaren Marker auf Systemebene, der die Kennzeichnung an der „Quelle“ und folgend dann im Downstream ermöglichen soll. Derzeit wird ein mehrschichtiger Ansatz von Markierungstechniken durch die Anbieter verfolgt, der auf einer ersten Ebene den Einsatz von Metadaten, auf einer zweiten Ebene Watermarking- und optional ergänzend Fingerprinting- oder Loggin-Techniken vorsieht. Die Erkennung der Kennzeichnung ist der zweite Pfeiler: Hierzu gehört die kostenlose Bereitstellung eines Erkennungs-Interfaces oder der Verweis auf ein bestehendes anerkanntes Erkennungs-Tool.
Die Kennzeichnungs- und Erkennungsmethoden sollen nach dem Code of Practice vier Kriterien genügen:
- sie müssen wirksam, also zugänglich und verständlich,
- zuverlässig identifizierbar,
- robust gegen typische Änderungen des Inhalts wie Spiegeln, Komprimieren oder Paraphrasieren oder gezielten Angriffen und
- mittelfristig vollständig interoperabel sein.
Diese technisch anspruchsvolle Kennzeichnung sollte zudem immer vor Inverkehrbringen als auch während des Lebenszyklus erhalten bleiben.
Für vor dem 2. August 2026 bestehende KI-Systeme bringt die „Verordnung zur Vereinfachung der Umsetzung harmonisierter Vorschriften für künstliche Intelligenz“ (KI-Omnibus) einen kurzen Aufschub, die Pflicht soll für solche Anbieter erst ab dem 2. Dezember 2026.
Betreiber, also z.B. Unternehmen, die KI-Systeme in eigener Verantwortung nutzen, müssen dies gegenüber Menschen transparent machen. Diese Offenlegungspflicht gilt sowohl für Deepfakes als auch für KI-generierte bzw. manipulierte Texte.
Besondere Aufmerksamkeit gilt Deepfakes. Art. 3 Nr. 60 KI‑VO definiert Deepfakes ausdrücklich als KI‑generierte oder manipulierte Bild-, Ton- oder Videoinhalte, die reale Elemente enthalten und realistisch wirken, sodass sie als wahrheitsgemäß erscheinen könnten. Entscheidend ist aber nicht nur die technische Erzeugung, sondern auch die Wahrnehmungswirkung auf den Betrachter. Einer bewussten Täuschungsabsicht bedarf es dabei nicht.
Eine Erleichterung zur Kennzeichnung von Deepfakes ist für offensichtlich fiktionale, künstlerische oder satirische Inhalte vorgesehen. Hier soll ein kontextgerechter Hinweis ausreichen, etwa durch Credits, Beschreibungen, oder Begleitinfo, die die Darstellung oder den Genuss des Werks nicht beeinträchtigen.
Die Kennzeichnung von Deepfake sollte bei Kurzvideos durchgehend, bei langen Videos wiederholend erfolgen. Live-Videos sollten eine möglichst durchgehende Kennzeichnung haben. Bei Deepfake Bildern sollte das AI-Label dauerhaft im Bild erscheinen. Bei Audio-Formaten wie Podcasts, Radiobeiträgen oder ähnlichen Formaten sollte die Kennzeichnung bereits bei der ersten Wahrnehmung hörbar sein; bei längeren Audio-Inhalten können wiederholte Hinweise erforderlich werden.
Die Offenlegungspflicht für redaktionelle Texte gilt eingeschränkt: Nur Texte, die veröffentlicht werden, „um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren“ müssen gekennzeichnet sein, so Artikel 50 Abs. 4, UAbs. 2 S. 1 KI-VO.
Erfasst sind insbesondere meinungsbildungsrelevante Inhalte politischer, gesellschaftlicher, wirtschaftlicher, kultureller oder wissenschaftlicher Art. Auch hier gibt es eine Ausnahmeregelung: Bezugnehmend auf die o. g. Leitlinien der EU-Kommission entfällt die Kennzeichnungspflicht regelmäßig, sofern eine menschliche oder redaktionelle Endkontrolle erfolgt und eine natürliche oder juristische Peron die redaktionelle Verantwortung für den Inhalt übernimmt. Bei der Veröffentlichung von Texten von öffentlichem Interesse sollte daher immer ein entsprechender Prüfprozess durch Verantwortliche erfolgen.
Für alle hier genannten Verpflichtungen gilt nach Artikel 50 Absatz 5 der KI-VO, dass die offenzulegenden Informationen spätestens bei der ersten Interaktion mit dem Nutzer bereitzustellen sind.
Ob Medienhäuser, Agenturen, Produktionsfirmen oder Marketingabteilungen von Unternehmen, sie sollten ihre internen Compliance Prozesse kurzfristig überprüfen. Vor dem Hintergrund der skizzierten Transparenzverplichtungen sollte sich Verantwortliche folgendes fragen:
• Wo wird generative KI eingesetzt?
• Welche Kennzeichnungsmechanismen werden genutzt?
• Wer trägt die Verantwortung entlang der Wertschöpfungskette?
• Sind Verträge mit Blick auf Verantwortlichkeiten innerhalb der Wertschöpfungskette und interne Guidelines an die neuen Transparenzpflichten angepasst?
Gerade an den Schnittstellen zwischen Agenturen, Werbetreibenden, Plattformen und Sendern bzw. Publishern werden klare vertragliche Regelungen künftig noch mehr an Bedeutung gewinnen.
Unternehmen, die Compliance- und Kennzeichnungsprozesse etablieren, reduzieren nicht nur regulatorische Haftungsrisiken, sondern stärken auch das Vertrauen ihrer Nutzer, Kunden und Geschäftspartner. Hierbei helfen die Vorgaben des Code of Practice, sie sind aber nicht autoritativ. Die Regeln des Datenschutzes, das Urheberrecht oder Persönlichkeitsrechte bleiben parallel zu beachten.
Sie haben Fragen zur KI-konformen Anpassung Ihrer Prozesse? Sprechen Sie uns gerne an.