Der augenfälligste technologische Durchbruch in den letzten Jahren betrifft die Qualität großer Sprachmodelle (Large Language Models, LLM). Ein zentraler Grund dafür ist – neben der gestiegenen Rechenleistung der eingesetzten Computersysteme –, dass beim Training nicht nur auf die Qualität, sondern auch auf eine enorme Menge an Trainingsdaten gesetzt wurde.
Dies führte bekanntlich zu einem gesteigerten Bedarf an geeigneten Trainingsdaten. Dabei wurde sich in großem Maßstab aus dem frei verfügbaren Internet, teilweise einschließlich dort abrufbarer Schattenbibliotheken bedient. Besonders im Fadenkreuz der KI-Entwickler waren (und sind) dabei Inhalte, welche besonders gut für das KI-Training geeignet sind: Das trifft zum Beispiel auf durch Medienhäuser erstellten Inhalte zu, da diese sowohl inhaltlich als auch sprachlich geprüft werden.
Als Urheberrechtler fragen wir uns da natürlich: Wo bleibt die Abmahnwelle?
LLM-Anbieter können in Deutschland wegen Urheberrechtsverletzungen in Anspruch genommen werden
Aus urheberrechtlicher Sicht zeigt sich, dass die Anbieter, wenn überhaupt, allenfalls das US-amerikanische Copyright-System im Blick behalten haben. Das ist im Grundsatz auch nicht zu beanstanden: Nach dem Territorialitätsprinzip findet das Urheberrecht derjenigen Rechtsordnung Anwendung, in welcher die urheberrechtlich relevante Handlung begangen wird. Hinsichtlich des Trainingsprozesses, der schwerpunktmäßig in den USA stattfindet, wird überwiegend davon ausgegangen, dass deutsches Recht nicht anwendbar ist. Relevant wird dieses aber, wenn LLMs Trainingsdaten nahezu wortgleich wiedergeben („memorisieren“) können.
Dies wurde bereits durch ein Urteil des LG München I v. 11.11.2025, 42 O 14139/24, GEMA/OpenAI (nicht rechtskräftig) entschieden: Das Gericht hält fest, dass die Wiedergabe urheberrechtlich geschützter Inhalte im Output eine öffentliche Zugänglichmachung darstellt und – noch wichtiger – dass sich aus dem Output der Schluss ziehen lässt, die betreffenden Werke seien im Modell selbst gespeichert, was eine urheberrechtlich relevante Vervielfältigung darstellt. Anders gewendet: Aus der Regurgitation – also einer (fast) wörtliche Wiedergabe von Trainingsinhalten im KI-Output in der Inferenzphase – schließt das Gericht auf das Memorisieren der Trainingsdaten im Modell, welches es als urheberrechtlich relevante Vervielfältigung durch den KI‑System‑Anbieter einordnet.
Memorisieren ist für KI-Anbieter ein notwendiges Übel
Memorisieren ist nach dem Stand der Forschung nicht bloß ein Randphänomen, sondern ein strukturell zu beobachtendes Verhalten großer Sprachmodelle; teilweise wird sogar vertreten, es ergebe sich aus der Art des Trainings nahezu zwangsläufig. Empirisch wird in der Forschung zudem gezeigt, dass größere Modelle tendenziell mehr memorisieren. Versuche, Memorisieren zu unterdrücken, können dagegen mit Einbußen bei der allgemeinen Qualität und Genauigkeit einhergehen. Zwischen dem Verhindern von Memorisieren und dem Verhindern von Halluzinationen dürfte somit ein Zielkonflikt bestehen.
Zugespitzt gesagt: Aus Sicht der KI-Anbieter ist nur die Regurgitation ein Problem, während Memorisieren – also die Fähigkeit eines KI-Modells, Trainingsinhalte (fast) wörtlich wiederzugeben – angestrebt, oder zumindest in Kauf genommen wird, um die Qualität des Modells zu erhöhen.
Löchrige Guardrail-Systeme dürften als Wellenbrecher mittelfristig scheitern
Ein Ausweg aus Sicht der KI-System-Betreiber ist es, die Modelle durch sog. Guardrail-Systeme anzureichern, welche auf verschiedenen Ebenen Regurgitation von urheberrechtlich relevanten Inhalten verhindern sollen. Diese Systeme führen in der Tat dazu, dass es schwieriger wird, urheberrechtlich geschützte Inhalte aus den Modellen zu extrahieren. Wenn das LG München I noch festhalten konnte, dass die geschützten Inhalte auf „einfache Prompts als Output abrufbar“ waren (Rn. 265), ist das inzwischen deutlich seltener der Fall. Allerdings deutet die technische Extraktionsforschung daraufhin, dass Guardrail-Systeme auf absehbare Zeit überwindbar bleiben werden. Anschauungsmaterial liefert ein Paper von Ahmed et al. (2026), welches beschreibt, wie urheberrechtlich geschützte Bücher direkt aus Claude, Gemini, Grok und GPT‑4.1 extrahiert und dazu teilweise Jailbreaking‑Techniken einsetzt werden.
Vielleicht ist es die technische Komplexität um das Jailbreaking, die bisher verhindert hat, dass Rechteinhaber trotz günstiger Ausganglage bisher noch eher vorsichtig gegenüber den großen KI-Anbietern auftreten. Wir sind aber sehr sicher, dass schon bald die Fallgruppe zur Entscheidung ansteht, ob eine Vervielfältigung im Modell vorliegt, wenn die Regurgitation nicht auf einen „einfachen Prompt“ hin geschieht, sondern Ergebnis eines Jailbreaks oder Prompt-Hacks durch technische Extraktionsforscher ist.
By the way…
wenn Sie jetzt sagen: Mein Unternehmen sollte sich die LLM-Anbieter auch einmal vorknöpfen, melden Sie sich gerne bei Dr. Hanno Magnus. Wir arbeiten mit renommierten Extraktionsforschern zusammen und sind darauf spezialisiert, edge cases an der Grenze von Urheberrecht und Technologie zu verhandeln.