Ein neues KI-Transparenzregime für mehr Vertrauen

Ab dem 2. August 2026 gilt für KI-Systeme (basierend auf KI-Modellen mit allgemeinem Verwendungszweck wie z.B. Sprachmodelle) ein neues Transparenzregime: KI-generierte und KI-manipulierte Inhalte sind grundsätzlich zu kennzeichnen: Zentrale Vorschrift ist Artikel 50 der KI-VO. Daneben sollen der rechtlich nicht verbindliche Code of Practice bei der konkreten Umsetzung und die Leitlinien der EU-Kommission (noch im Entwurf) bei der Auslegung der Norm helfen.

Anbietern wie Betreibern von KI-Systemen werden neue Verpflichtungen auferlegt, die mit Bußgeldern von bis zu 15 Mio. Euro oder 3 % des weltweiten Jahresumsatzes sanktioniert werden können.

Wir betrachten heute folgende wesentliche Regelungen des Artikel 50 KI-VO:

  • die Kennzeichnung synthetisch erzeugter Audio-, Bild-, Video- oder Textinhalte durch Anbieter von KI-Systemen, wie beispielsweise OpenAI mit ChatGPT oder Google mit Gemini (Absatz 2)
  • sowie die Offenlegung von Deepfakes und Public-Interest-Texten durch die Betreiber von KI-Systemen (Absatz 4), also Unternehmen, die KI-Systeme professionell einsetzen, um Output z.B. für Werbespots oder Filmszenen zu generieren.

Anspruchsvolle technische Kennzeichnungspflicht für Anbieter von KI-Systemen

Jede Form des Outputs muss an der „Quelle“, also auf Systemebene mit einem maschinenlesbaren Marker versehen werden, der die Kennzeichnung folgend im Downstream ermöglichen soll. Derzeit wird ein mehrschichtiger Ansatz von Markierungstechniken als Best Practice gefordert, der auf einer ersten Ebene den Einsatz von Metadaten, auf einer zweiten Ebene Watermarking- und optional ergänzend Fingerprinting- oder Loggin-Techniken vorsieht. Die Erkennung der Kennzeichnung ist der zweite Pfeiler: Hierzu gehört die kostenlose Bereitstellung eines Erkennungs-Interfaces oder der Verweis auf ein bestehendes anerkanntes Erkennungs-Tool. Nach dem Code of Practice, müssen die Kennzeichnungs- und Erkennungsmethoden unterschiedlichen Kriterien genügen, u.a. wirksam, also zugänglich und verständlich, zuverlässig identifizierbar und robust gegen typische Änderungen des Inhalts sein.

Für vor dem 2. August 2026 bestehende KI-Systeme bringt die „Verordnung zur Vereinfachung der Umsetzung harmonisierter Vorschriften für künstliche Intelligenz“ (KI-Omnibus) einen kurzen Aufschub, die Pflicht soll für solche Anbieter erst ab dem 2. Dezember 2026 gelten.

Betreiber sind verpflichtet KI-Output offenzulegen

Unternehmen, die KI-Systeme in eigener Verantwortung nutzen, müssen den damit geschaffenen Output gegenüber Menschen transparent machen. Diese Offenlegungspflicht gilt für Deepfakes als auch für KI-generierte bzw. manipulierte Texte.

Bei Deepfakes handelt es sich um KI‑generierte oder manipulierte Bild-, Ton- oder Videoinhalte, die reale Elemente enthalten und realistisch wirken, sodass sie als wahrheitsgemäß erscheinen könnten. Eine Kennzeichnung „light“ soll für offensichtlich fiktionale, künstlerische oder satirische Inhalte gelten. Hier soll ein kontextgerechter Hinweis ausreichen, der die Darstellung oder den Genuss des Werks nicht beeinträchtigt. Im Code of Practice werden für die unterschiedlichen Medien passende, unterschiedliche Kennzeichnungsmöglichkeiten vorgeschlagen.

Die Offenlegungspflicht für redaktionelle Texte gilt eingeschränkt: Nur Texte, die veröffentlicht werden, „um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren“ müssen gekennzeichnet sein. Hier gilt eine Ausnahme: Die Kennzeichnungspflicht entfällt regelmäßig dann, wenn eine menschliche oder redaktionelle Endkontrolle erfolgt und eine natürliche oder juristische Peron die redaktionelle Verantwortung für den Inhalt übernimmt.

Was Unternehmen jetzt tun sollten

Ob Medienhäuser, Agenturen, Produktionsfirmen oder Marketingabteilungen von Unternehmen, sie sollten ihre internen Compliance Prozesse kurzfristig überprüfen. Vor dem Hintergrund der skizzierten Transparenzverpflichtungen sollten sich Verantwortliche folgendes fragen:

• Wo wird generative KI eingesetzt?

• Welche Kennzeichnungsmechanismen werden wo und wie genutzt?

• Wer trägt die Verantwortung entlang der Wertschöpfungskette?

• Sind Verträge mit Blick auf Verantwortlichkeiten innerhalb der Wertschöpfungskette und interne Guidelines an die neuen Transparenzpflichten angepasst?

Gerade an den Schnittstellen zwischen Agenturen, Werbetreibenden, Plattformen und Sendern bzw. Publishern werden klare vertragliche Regelungen künftig noch mehr an Bedeutung gewinnen.

Eine ausführliche Abhandlung zum Thema finden Sie als Fokusthema hier.

Bleiben Sie informiert. Melden Sie sich hier zu unserem Newsletter zu aktuellen rechtlichen Fragestellungen, Rechtsprechung oder Veranstaltungen an: