Auswirkungen von Künstlicher Intelligenz auf das Urheberrecht im Kulturbereich

Antwort der Bundesregierung auf die Kleine Anfrage der Fraktion der CDU/CSU – Drucksache 20/9013 – Auswirkungen von Künstlicher Intelligenz auf das Urheberrecht im Kulturbereich V o r b e m e r k u n g d e r F r a g e s t e l l e r Die rasante Entwicklung von Systemen Künstlicher Intelligenz hat nach Ansicht der Fragesteller disruptive Auswirkungen auf den Kultursektor. Für sämtliche Bereiche, von Musik über Text bis hin zu Film, bieten sich neben neuen Chancen und einer Erweiterung des künstlerisch Möglichen auch zahlreiche Unwägbarkeiten. So ergeben sich bisher nicht geklärte gewichtige Fragen hinsichtlich des Schutzes geistigen Eigentums sowie der Verein- und Anwendbarkeit bestehender Urheber- und Leistungsschutzbestimmungen (beispielsweise die DSM-Richtlinie (DSM-RL; Directive on Copyright in the Digital Single Market)) mit dem vorliegenden Entwurf eines europäischen AI Acts. Schon jetzt sind zahlreiche Klagen gegen KI-Systeme anhängig. So wurden in den USA mehrere Sammelklagen gegen OpenAI, Meta und Alphabet (https://www.wiwo.de/erfolg/management/chatgpt-warum-der-kuenstlichen-in telligenz-echter-aerger-droht/29258342.html) wegen Urheber- und Persönlichkeitsrechtsverletzungen sowie gegen Stable Fusion wegen der widerrechtlichen Verwendung von Millionen Fotos (https://www.heise.de/news/12-Millio nen-Bilder-kopiert-Getty-klagt-auch-in-den-USA-gegen-Stability-AI-748708 1.html) eingereicht. Bereits heute gefährden Suchmaschinen, Social-Media-Plattformen und andere Dienste durch die massive Nutzung urheberrechtlich geschützten Materials die Rechte von Urhebern, Künstlern und anderen Rechteinhabern, ohne adäquat dafür zu bezahlen. Die Umwälzungen durch generative KI-Systeme sind ein weiteres Beispiel für den Druck, dem Künstlerinnen und Künstler sowie Rechteinhaber im Digitalen Zeitalter (https://www.buchreport.de/news/geplan te-ki-verordnung-kein-verstaendnis-von-kultur/) ausgesetzt sind. Daraus ergibt sich politischer Handlungsbedarf, insbesondere hinsichtlich der Prüfung geeigneter regulatorischer Maßnahmen. 1. Welchen generellen Regulierungsbedarf sieht die Bundesregierung in Bezug auf die Gewährleistung des Schutzes von geistigem Eigentum beim Training generativer KI-Systeme? Deutscher Bundestag Drucksache 20/9714 20. Wahlperiode 12.12.2023 Die Antwort wurde namens der Bundesregierung mit Schreiben des Bundesministeriums der Justiz vom 1. Dezember 2023 übermittelt. Die Drucksache enthält zusätzlich – in kleinerer Schrifttype – den Fragetext. 2. Für welche Fragen das Urheberrecht und KI betreffend sieht die Bundesregierung eine zwingende Notwendigkeit, diese im AI Act zu regulieren, weil sie in der Urheberrichtlinie nicht ausreichend geregelt werden könnten? 3. Sieht die Bundesregierung Regelungsbedarf hinsichtlich Artikel 14 Absatz 1 des Grundgesetzes (GG) in Verbindung mit BVerfGE (Bundesverfassungsgericht) 31, S. 229 ff. im Hinblick auf den Aufbau sog. Neuronaler Netze durch generative KI (foundation models), und wenn ja, welchen, und wenn nein, warum nicht? 4. Sieht die Bundesregierung im Hinblick auf den Aufbau sog. Neuronaler Netze durch generative KI (foundation models) Regelungsbedarf hinsichtlich Artikel 14 Absatz 2 und 3 GG in Verbindung mit § 11 UrhG, insbesondere der Monetarisierung von Kulturgütern, die zu Trainingszwecken generativer KI genutzt werden, und wenn ja, welchen, wenn nein, warum nicht? Die Fragen 1 bis 4 werden aufgrund des Sachzusammenhangs gemeinsam beantwortet. Die Bundesregierung verfolgt die Debatte zum Einsatz generativer künstlicher Intelligenz (KI) und der sich in diesem Zusammenhang stellenden urheberrechtlichen Fragen genau und prüft fortlaufend den bestehenden Bedarf für gesetzgeberische Maßnahmen. Der geltende Rechtsrahmen wird maßgeblich durch das Unionsrecht vorgegeben. So beruht insbesondere die gesetzliche Erlaubnis für das Text- und Data Mining in § 44b des Urheberrechtsgesetzes (UrhG) auf europäischen Vorgaben (Artikel 4 der Richtlinie (EU) 2019/790 über das Urheberrecht und die verwandten Schutzrechte im digitalen Binnenmarkt [DSM-Richtlinie]). Die Bundesregierung setzt sich dafür ein, dass das Thema „KI und Urheberrecht“ in das nächste Arbeitsprogramm der Kommission aufgenommen wird. Die DSM-Richtlinie wird außerdem ab dem Jahr 2026 auf europäischer Ebene evaluiert. In diesem Zuge wird auch überprüft werden, ob sich die Regelung zum Text- und Data Mining in ihrer aktuellen Fassung bewährt hat und ob Anpassungsbedarf in Bezug auf zwischenzeitliche technische Entwicklungen besteht. Hierbei wird auch der Schutz gemäß Artikel 17 der Charta der Grundrechte der Europäischen Union (EU) zu berücksichtigen sein. Aus Artikel 14 Absatz 1 des Grundgesetzes (GG) ergibt sich, dass dem Urheber grundsätzlich Ausschließlichkeitsrechte an seinen Werken zustehen, nicht jedoch, dass ihm jede denkbare Verwertungsmöglichkeit zuzuweisen ist. Der Gesetzgeber steht bei der Erfüllung des ihm in Artikel 14 Absatz 1 Satz 2 GG erteilten Auftrags, Inhalt und Schranken des geistigen Eigentums zu bestimmen, vor der Aufgabe, den verfassungsrechtlich garantierten Anspruch auf eine angemessene Nutzung der schöpferischen Leistung und die schutzwürdigen Interessen der Allgemeinheit in einen gerechten Ausgleich und ein ausgewogenes Verhältnis zu bringen (vergleiche Bundesverfassungsgericht, Neue Juristische Woche 1979, 2029, 2030). Im Hinblick auf die deutsche Rechtslage ist zu beachten, dass Rechtsinhaber nach § 44b Absatz 3 UrhG die Möglichkeit haben, einen Nutzungsvorbehalt hinsichtlich der Vervielfältigung ihrer Werke zu Zwecken des Text- und Data Minings zu erklären. Liegt keine gesetzliche Erlaubnis für Vervielfältigungen zu Zwecken des Text- und Data Minings vor, müssen Nutzer eine Lizenz zu angemessenen Bedingungen erwerben. Damit Rechteinhaber nachvollziehen können, ob ihre Werke für das Training genutzt beziehungsweise erklärte Opt-outs respektiert werden, setzt sich die Bundesregierung in den Verhandlungen über die KI-Verordnung für zumutbare und technisch umsetzbare Transparenzvorgaben für Trainingsdaten ein. 5. Sieht die Bundesregierung Regelungsbedarf hinsichtlich des Urheberpersönlichkeitsgrundrechts beispielsweise bei der Erstellung von KI- generierten Bildern oder Musik „im Stile von“ bzw. bei den zu Trainingszwecken verwendeten Kulturgütern, und wenn ja, welche, und wenn nein, warum nicht? Die Bundesregierung sieht hier keinen Regelungsbedarf. Stile sind nicht urheberrechtlich schutzfähig. 6. Ist die Bundesregierung der Auffassung, dass die bestehenden Schrankenregelungen für Text und Data Mining die Nutzung von geschützten Werken für das Training von KI-Systemen abdecken (vgl. § 44b Text und Data Mining des Urheberrechtsgesetzes (UrhG)), und wenn ja, warum, und wenn nein, welche Anpassungen plant die Bundesregierung (vgl. insbesondere BVerfGE 134, 242 (330)? Die Bundesregierung prüft den Regelungsrahmen fortlaufend. Derzeit sind keine konkreten Anpassungen vorgesehen. Die DSM-Richtlinie (Erwägungsgrund 18) nimmt ausdrücklich Bezug auf die „Entwicklung neuer Anwendungen oder Technologien“. Ferner definiert die DSM-Richtlinie Text- und Data Mining in Artikel 2 als „eine Technik für die automatisierte Analyse von Texten und Daten in digitaler Form, mit deren Hilfe Informationen unter anderem — aber nicht ausschließlich — über Muster, Trends und Korrelationen gewonnen werden können“. Damit in Einklang steht auch die in § 44b Absatz 1 UrhG enthaltene Definition. Text- und Data Mining zu Zwecken des KI-Trainings ist hiervon grundsätzlich erfasst. Die Schrankenregelung in § 44b UrhG kann urheberrechtlich relevante Nutzungshandlungen rechtfertigen, sofern ihre Voraussetzungen im konkreten Fall erfüllt sind (insbesondere Vervielfältigung rechtmäßig zugänglicher Werke, kein Nutzungsvorbehalt, Löschpflicht). Die verbindliche Auslegung von Rechtsvorschriften und die Entscheidung, ob die Voraussetzungen einer Schranke im Einzelfall vorliegen, ist Aufgabe der Rechtsprechung. Im Hinblick auf die Rolle von Artikel 14 GG wird auf die Antwort zu den Fragen 1 bis 4 verwiesen. 7. Plant die Bundesregierung, sich für rechtssichere Vorgaben der Umsetzung bezüglich Artikel 4 Absatz 3 der DSM-Richtlinie (maschinenlesbare Nutzungsvorbehalte, sogenannte Opt-out) einzusetzen (vgl. https://fra gdenstaat.de/anfrage/technische-umsetzung-von-urheberrecht-data-minin g/#nachricht-767265)? 8. Unterstützt die Bundesregierung die Forderung der Branche (vgl. https:// www.netzwerk-autorenrechte.de/stellungnahme_ki.html), den maschinenlesbaren Nutzungsvorbehalt Opt-out umzukehren und die Nutzung künstlerischer Werke zustimmungspflichtig zu gestalten (Opt-in), und wenn nein, warum nicht? Die Fragen 7 und 8 werden aufgrund des Sachzusammenhangs gemeinsam beantwortet. Die DSM-Richtlinie wird ab dem Jahr 2026 auf europäischer Ebene evaluiert. In diesem Zuge wird auch überprüft werden, ob sich die Regelung zum Text- und Data Mining in ihrer aktuellen Fassung bewährt hat und ob Anpassungsbedarf in Bezug auf zwischenzeitliche technische Entwicklungen besteht. 9. Wie positioniert sich die Bundesregierung zu dem erfolgenden Abgriff geistigen Eigentums auf Basis einer Zusammenarbeit mit „Forschungseinrichtungen und Einrichtungen des kulturellen Erbes“ (vgl. https://urhe ber.info/media/pages/diskurs/ruf-nach-schutz-vor-generativer-ki/03e4ed0 ae5-1681902659/finale-fassung_de_urheber-und-kunslter-fordern-schut z-vor-gki_final_19.4.2023_12-50.pdf) sowie der Wahl einer gemeinnützigen Rechtsform für Anbieter von KI-Systemen, die sich mehrheitlich in privater Hand befinden, wie ChatGPT (https://commoncrawl.org/big-p icture/frequently-asked-questions/) und StableFusion (LMU)? Sieht die Bundesregierung die private Nutzung von KI-Tools als eine „wissenschaftlichen Zwecken“ dienliche Nutzung an (vgl. Landesgericht (LG) München I ZUM 2005, 407, 411)? Das Text- und Data Mining für Zwecke der wissenschaftlichen Forschung ist in § 60d UrhG geregelt. Die Vorschrift dient der Umsetzung von europäischem Recht (Artikel 3 DSM-Richtlinie). Gemäß § 60d Absatz 2 Satz 3 UrhG können sich Forschungsorganisationen, die mit einem privaten Unternehmen zusammenarbeiten, das einen bestimmenden Einfluss auf die Forschungsorganisation und einen bevorzugten Zugang zu den Ergebnissen der wissenschaftlichen Forschung hat, nicht auf die Berechtigung in § 60d Absatz 1 UrhG berufen. Die verbindliche Auslegung von Rechtsvorschriften und die Entscheidung, ob die Voraussetzungen einer Schranke im Einzelfall vorliegen, ist Aufgabe der Rechtsprechung. 10. Wie positioniert sich die Bundesregierung zur Problematik, dass beim sogenannten Webscraping zwischen rechtmäßig zugänglichen und illegal im Internet vorhandenen Werken zu unterscheiden ist, insbesondere vor dem Hintergrund, dass nach § 44b Absatz 2 UrhG nur Vervielfältigungen (beispielsweise zu KI-Trainingszwecken) von rechtmäßig zugänglichen Werken zulässig sind, zu unterscheiden ist? Sieht die Bundesregierung Regelungsbedarf, wenn ja, welchen, und wenn nein, warum nicht? Die Voraussetzungen von § 44b UrhG sind durch Unionsrecht vorgegeben (Artikel 4 DSM‑Richtlinie). Im Übrigen wird auf die Antwort zu den Fragen 7 und 8 verwiesen. 11. Unternimmt die Bundesregierung Maßnahmen, um sicherzustellen, dass der AI-Act mit dem Digitalen Signaturalgorithmus (DSA) sowie der DSM-Richtlinie durchgängig horizontal harmonisiert ist, und wenn ja, welche? Der Digital Services Act (DSA) lässt die Vorschriften anderer Rechtsakte der Union unberührt, die andere Aspekte der Erbringung von Vermittlungsdiensten im Binnenmarkt regeln oder den DSA präzisieren und ergänzen. 12. Wie positioniert sich die Bundesregierung zu der von der EU- Kommission vorgelegten AILD (AI Liability Directive) (https://commission.euro pa.eu/business-economy-euro/doing-business-eu/contract-rules/digital-co ntracts/liability-rules-artificial-intelligence_en#documents) und damit einhergehend den Haftungsfragen sowohl von Herstellern als auch von Nutzern von KI-Systemen? Die Kommission hat den Entwurf einer Richtlinie zur Anpassung der Vorschriften über außervertragliche zivilrechtliche Haftung an künstliche Intelligenz (Richtlinie über KI‑Haftung) am 28. September 2022 vorgelegt. Die Verhandlungen in der zuständigen Ratsarbeitsgruppe Zivilrecht (Haftungsrecht) sind seit Dezember 2022 unterbrochen, weil zunächst das Ergebnis der Verhandlungen über den Vorschlag für eine Verordnung des Europäischen Parlaments und des Rates zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz (Gesetz über künstliche Intelligenz) und zur Änderung bestimmter Rechtsakte der Union (KI‑Verordnung) abgewartet werden soll. Die Bundesregierung wird die Verhandlungen zur Richtlinie über KI‑Haftung konstruktiv begleiten, sobald diese wieder aufgenommen werden, und sich zu Einzelfragen zu gegebener Zeit positionieren. 13. Welche Konsequenzen würden sich aus Sicht der Bundesregierung ergeben, wenn die Definition von KI im AI Act zu unpräzise ausfallen würde, mit Blick auf die Anwendung der AI Liability Directive und der Product Liability Directive? Der Entwurf der Richtlinie über KI-Haftung knüpft für seinen Anwendungsbereich an Vorschriften der KI‑Verordnung an. Die Bundesregierung wird die Auswirkungen auf die Richtlinie über KI‑Haftung prüfen, sobald die Verhandlungen über das Gesetz über Künstliche Intelligenz abgeschlossen sind und dessen Text feststeht (vergleiche die Antwort zu Frage 12). Der Kommissionsvorschlag für eine Richtlinie über die Haftung für fehlerhafte Produkte vom 28. September 2022 wird derzeit in Brüssel im Trilog verhandelt. Er sieht vor, dass Software unabhängig von ihrer Verkörperung in einem physischen Produkt künftig vom Anwendungsbereich erfasst sein soll. Damit dürfte die Produkthaftungsrichtlinie auch für KI relevant werden. Allerdings verweist dieser Vorschlag für seinen Anwendungsbereich nicht auf den Entwurf des Gesetzes über Künstliche Intelligenz, sodass die dortige Definition von KI sich nicht auf den Anwendungsbereich der Produkthaftungsrichtlinie auswirken dürfte. 14. Hält die Bundesregierung die Regelung der Haftungsfragen in einer Richtlinie angesichts der sich daraus ergebenden Umsetzungsverzögerung für angemessen, oder setzt sie sich für eine europäische Verordnung ein, und wenn nein, aus welchen Gründen nicht? Bereits nach geltendem deutschem Recht können Hersteller und Nutzer von KI auf Schadensersatz haften, wenn sie sorgfaltswidrig handeln und dadurch Schäden verursachen. Insoweit ist die deliktische Haftung gemäß § 823 des Bürgerlichen Gesetzbuches von Relevanz. Auf europäischer Ebene ermöglicht das Regelungsinstrument der Richtlinie es den Mitgliedstaaten, die europäischen Vorgaben in einer auf ihr jeweiliges nationales Haftungsrecht abgestimmten Weise umzusetzen. 15. Plant die Bundesregierung, die AILD zeitnah nach einer möglichen Verabschiedung durch das Europäische Parlament, in nationales Recht zu überführen, und wenn ja, bestehen bereits konkrete Pläne zur Ausgestaltung? Die Bundesregierung beabsichtigt, die Richtlinie über KI-Haftung innerhalb der vorgeschriebenen Umsetzungsfrist in nationales Recht umzusetzen. Konkrete Pläne zur Umsetzung wird die Bundesregierung vorlegen, wenn die Richtlinie verabschiedet ist. 16. Setzt sich die Bundesregierung in den Trilogverhandlungen über den AI Act für eine EU-weit einheitliche Regelung zur Kennzeichnungspflicht bzw. Wasserzeichenmarkierung von KI-generierten Inhalten ein (Transparenzpflicht nach Artikel 52 AI Act), und wenn ja, welche konkrete Verhandlungsposition vertritt sie? Die Bundesregierung unterstützt die in Artikel 52 KI‑Verordnung in der Fassung der Allgemeinen Ausrichtung vorgesehene Kennzeichnungspflichten. Auch einer Kennzeichnungspflicht weiterer KI-generierter Inhalte steht die Bundesregierung bei Berücksichtigung des jeweiligen Stands der Technik grundsätzlich offen gegenüber. Im Einzelnen befindet sich die Bundesregierung dazu noch in der Abstimmung. 17. Was tut oder plant die Bundesregierung, um die Entwicklung von Techniken zu fördern, die KI-Produkte zuverlässig erkennen, und die zudem dabei helfen können, diejenigen KI-Produkte, die gegen das Urheberrecht und Persönlichkeitsrechte verstoßen, herauszufiltern? Die genannten Fragestellungen sind Gegenstand der KI‑Forschung, wie sie beispielsweise an den vom Bundesministerium für Bildung und Forschung geförderten KI‑Kompetenzzentren, aber auch darüber hinaus betrieben wird. 18. Plant die Bundesregierung, sich auf Grundlage eines zu erwartenden Beschlusses des Europäischen AI Acts für bilaterale Abkommen, insbesondere mit den USA, zum Schutz geistigen Eigentums und einer angemessen monetarisierten Verwertung von Kulturgütern einzusetzen, und wenn nein, warum nicht? Derzeit hat die Bundesregierung keine entsprechenden Pläne. Die Bundesregierung wird nach Abschluss der Verhandlungen zur KI-Verordnung prüfen, ob und auf welcher Ebene derartige Abkommen sinnvoll wären. Aus Sicht der Bundesregierung sind im Hinblick auf die Kompetenz der EU für Handelsaspekte des geistigen Eigentums nach Artikel 207 AEUV vor einer Entscheidung über bilaterale Abkommen zu einzelnen Teilaspekten handelspolitische Fragen in den zuständigen europäischen Gremien zu erörtern. 19. Wie bewertet die Bundesregierung die aktuelle Durchsetzbarkeit von Verwertungsansprüchen gegenüber international agierenden Plattformen, und plant sie eine nationale gesetzliche Stärkung der Verwertungsgesellschaften, um sicherzustellen, dass die wirtschaftliche Abgeltung der Nutzung von urheberrechtlich geschützten Werken verbessert wird? Für die Regulierung von Plattformen mit Blick auf das Urheberrecht bestehen unionsrechtliche Vorgaben (insbesondere Artikel 17 DSM-Richtlinie), die mit dem Urheberrechts-Diensteanbieter-Gesetz vom 31. Mai 2021 umgesetzt wurden. Dabei wurden insbesondere verwertungsgesellschaftspflichtige Vergütungsansprüche normiert (vergleiche § 4 Absatz 4, § 5 Absatz 2 des Gesetzes über die urheberrechtliche Verantwortlichkeit von Diensteanbietern für das Teilen von Online-Inhalten). Der Koalitionsvertrag für die 20. Legislaturperiode enthält zudem die folgende Maßgabe: „Beim Urheberrecht setzen wir uns für fairen Interessenausgleich ein und wollen die Vergütungssituation für kreative und journalistische Inhalte verbessern, auch in digitalen Märkten.“ Das Bundesministerium der Justiz hat daher ein Forschungsvorhaben ausgeschrieben. Dieses soll zum einen analysieren, ob das bestehende Vergütungssystem für urheberrechtlich geschützte Inhalte dem Prinzip der angemessenen Vergütung insbesondere bei Verwertungen in Streaming-Modellen und im Rahmen der Plattform-Ökonomie Rechnung trägt und zum anderen eine Grundlage für mögliche Reformen des Vergütungssystems für gesetzlich erlaubte Nutzungen schafft. Hierbei soll auch die Rolle von Verwertungsgesellschaften in den Blick genommen werden 20. Ist der Bundesregierung der offene Brief diverser Verwertungsgesellschaften vom 20. Juli 2023 sowie die darin erhobenen Forderung zur Regulierung künstlicher Intelligenz bekannt (https://www.gema.de/docume nts/d/guest/cisac-open-letter-seven-principles-on-ai-2023-07), und wenn ja, teilt die Bundesregierung diese Forderung? Der offene Brief der Verwertungsgesellschaften vom 20. Juli 2023 einschließlich der darin erhobenen Forderung zur Regulierung Künstlicher Intelligenz ist der Bundesregierung bekannt. Darin werden insbesondere Lizenzierungsmöglichkeiten für die Nutzung von urheberrechtlich geschützten Inhalten durch KI- Anbieter, effektive Möglichkeiten zur Erklärung eines Nutzungsvorbehalts bei gesetzlichen Schranken (Opt-out), Urheberbenennung/Quellenangabe bei der Nutzung von Werken durch KI-Anbieter, Transparenzvorgaben, Dokumentationspflichten für KI‑Anbieter, sowie ein stärkerer Schutz für menschengemachte Werke als für vollständig KI‑generierte Inhalte gefordert. Auf die Antworten zu den Fragen 1 bis 4, 15, 25 und 26 wird hinsichtlich der Positionierung der Bundesregierung verwiesen. 21. Wird sich die Bundesregierung für die Einführung eines Verfügungsrechts und einer Vergütungspflicht zugunsten von Urhebern, ausübenden Künstlern und Inhabern von Leistungsschutzrechten einsetzen, um deren Inhalte effektiv, insbesondere vor der in der kommenden europäischen Legislaturperiode (2024-2029) geplanten Evaluierung der DSM- Richtlinie, bei Nutzung durch KI-Dienste zu schützen? Der durch das Urheberrecht gewährte Schutz umfasst grundsätzlich auch die Nutzung geschützter Inhalte durch KI-Systeme. Soweit im Rahmen der Nutzung durch KI‑Systeme urheberrechtlich relevante Handlungen vorgenommen werden, ist dies nur mit einer vertraglichen oder gesetzlichen Erlaubnis möglich. Die in § 44b UrhG vorgesehene gesetzliche Erlaubnis sieht die Möglichkeit zum Opt‑out vor. 22. Sieht die Bundesregierung die Notwendigkeit zur Einführung eines generellen Leistungsschutzes für KI-Erzeugnisse, und wenn ja, wird sich die Bundesregierung z. B. bei der Evaluierung der DSM-Richtlinie für die Einführung eines solchen Leistungsschutzrechts einsetzen? Derzeit sieht die Bundesregierung keine Notwendigkeit, sich für die Einführung eines Leistungsschutzes für KI-Erzeugnisse im Rahmen der Evaluierung der DSM‑Richtlinie einzusetzen. 23. Setzt sich die Bundesregierung für verpflichtende Bias-Tests und eine Offenlegung von Trainingsdaten von KI-Systemen ein, und wenn ja, durch welche Institutionen sollen diese durchgeführt und ausgewertet werden? Die Bundesregierung unterstützt die noch im Verhandlungsstand befindliche KI-Verordnung und den ihr zugrundeliegenden risikobasierten Regulierungsansatz. In der KI-Verordnung sind für Hochrisiko-KI-Systeme auch Anforderungen an Trainingsdaten, insbesondere zur Vermeidung von Bias, und Dokumentationspflichten zu Trainingsdaten vorgesehen. Im Hinblick auf eine Offenlegung von Trainingsdaten wird auch auf die Antwort zu Frage 4 verwiesen. 24. Sieht die Bundesregierung Regelungsbedarf hinsichtlich des Persönlichkeitsrechts in Bezug auf KI-generierte Klonungen von Stimmen und Körpern (vgl. https://www.computerbild.de/artikel/cb-News-Internet-Na ch-Klage-Streaming-Dienste-verbannen-KI-Song-35648703.html und https://www.spiegel.de/kultur/hollywood-streik-es-geht-um-kuenstliche-i ntelligenz-a-f5429ce4-ef4c-4b74-a679-12c7c81d0b0f), und wenn ja, für welche konkreten Anpassungen beabsichtigt sie sich einzusetzen? Unterstützt die Bundesregierung den Schutz von Bild- und Stimmprofilen sowie Vergütungsansprüche bei erlaubter Verwendung zum Training von KI sowie zur Erzeugung synthetischer Inhalte? Die Bundesregierung geht davon aus, dass es sich bei den gegenständlichen KI- generierten Klonungen von Stimmen und Körpern um Deepfakes handelt, wie sie in Artikel 52 der KI‑Verordnung adressiert werden. Die dort vorgesehene Kennzeichnungspflicht wird von der Bundesregierung unterstützt. 25. Wie definiert die Bundesregierung ein ausschließlich KI-generiertes Erzeugnis und in Abgrenzung dazu ein Erzeugnis, für welches KI „nur“ als Hilfsmittel genutzt wurde? Wie bewertet die Bundesregierung den damit urheberrechtlichen einhergehenden Regelungsbedarf? Daraus resultierend, sieht die Bundesregierung Anpassungsbedarf bei § 2 Absatz 2 UrhG? Die Bundesregierung plant derzeit keine Anpassungen des § 2 Absatz 2 UrhG. Die verbindliche Auslegung von Rechtsvorschriften ist Aufgabe der Gerichte. Für den Werkbegriff bestehen nach der Rechtsprechung des Europäischen Gerichtshofs zudem unionsrechtliche Vorgaben. 26. Sind der Bundesregierung Fälle bekannt, in denen Entwickler von KI- Systemen gemäß § 44b Absatz 2 Satz 2 UrhG Vervielfältigungen von rechtmäßig zugänglichen Werken nicht gelöscht haben (wenn ja, bitte auflisten), und wenn nein, sieht die Bundesregierung Durchsetzungsschwierigkeiten dieses Gesetzes beispielsweise von Privatpersonen gegenüber internationalen Unternehmen? Der Bundesregierung sind keine konkreten Fälle bekannt. Nach Kenntnis der Bundesregierung haben Rechteinhaber derzeit kaum Möglichkeiten, abschließend zu prüfen, ob Werke für das Training von KI genutzt beziehungsweise erklärte Opt-outs respektiert werden. Um die Einhaltung der urheberrechtlichen Vorgaben für rechtmäßiges Text- und Data Mining zu gewährleisten, setzt sich die Bundesregierung in den Verhandlungen über die KI-Verordnung für zumutbare und technisch umsetzbare Transparenzvorgaben hinsichtlich Trainingsdaten ein. Auf die Antwort zu den Fragen 1 bis 4 wird im Übrigen verwiesen. 27. Sieht die Bundesregierung die Gefahr einer Verarmung künstlerischer Ausdrucksweisen durch eine zunehmende Anzahl KI-generierter Kunstwerke, die auch auf eine immer größere Anzahl durch KI erzeugte Kunstwerke zurückgreifen, welche jedoch nicht selbstständig „kreativ“ sein können? Die Folgen einer zunehmenden Anwendung generativer KI im Kunstbereich sind derzeit noch nicht absehbar. 28. Wann haben sich Mitglieder der Bundesregierung mit Vertretern der Kultur- und Kreativwirtschaft zum Thema „künstliche Intelligenz“ und den urheberrechtlichen Auswirkungen ausgetauscht (bitte einzeln auflisten)? Mitglieder der Bundesregierung im Sinne des Artikel 62 des Grundgesetzes nehmen im Rahmen ihrer Aufgaben eine Vielzahl von Terminen mit Vertreterinnen und Vertretern aller gesellschaftlichen Gruppen wahr. KI spielt dabei als zentrales aktuelles Thema mit Querschnittscharakter bei vielen Terminen und Gesprächen eine wichtige Rolle. Eine Verpflichtung zur Erfassung sämtlicher geführter Gespräche beziehungsweise deren Ergebnisse – einschließlich Telefonate – besteht nicht, und eine solche umfassende Dokumentation wurde auch nicht durchgeführt (siehe dazu die Vorbemerkung der Bundesregierung in ihrer Antwort auf die Kleine Anfrage der Fraktion DIE LINKE. „Beziehungen zwischen der Bundesregierung und der wehrtechnischen Industrie sowie weiteren Unternehmen der Rüstungswirtschaft“ auf Bundestagsdrucksache 18/1174. Zudem werden Gesprächsinhalte nicht protokolliert. Die nachfolgenden Ausführungen beziehungsweise aufgeführten Angaben erfolgen auf der Grundlage der vorliegenden Erkenntnisse sowie vorhandener Unterlagen und Aufzeichnungen. Diesbezügliche Daten sind somit möglicherweise nicht vollständig. Termine, an denen Ministerinnen oder Minister oder der Bundeskanzler sich in dieser Legislaturperiode mit Vertretern der Kultur- und Kreativwirtschaft spezifisch zum Thema „urheberrechtliche Auswirkungen von KI“ ausgetauscht haben, sind nachstehend aufgelistet. Zur Kultur- und Kreativwirtschaft gehören der Architekturmarkt, der Buchmarkt, die Darstellenden Künste, die Designwirtschaft, die Filmwirtschaft, der Kunstmarkt, die Musikwirtschaft, der Pressemarkt, die Rundfunkwirtschaft, der Software-/Gamesmarkt und der Werbemarkt (https://www.kultur-kreativ-wirtschaft.de/KUK/Navigation/DE/DieBran che/Uebersicht/uebersicht.html). Mitglied der Bundesregierung Teilnehmer, Thema und Datum des Austauschs mit Vertretern der Kultur- und Kreativwirtschaft zum Thema „urheberrechtliche Auswirkungen von KI“ Bundesminister für Wirtschaft und Klimaschutz Bundesminister Dr. Robert Habeck und Vertreter der Buchbranche im Zusammenhang mit der Weiterentwicklung des Buchpreisbindungsgesetzes „Künstliche Intelligenz in der Buchbranche“, 12. Oktober 2023 Bundesminister der Justiz Bundesminister Dr. Marco Buschmann und Dr. Mathias Döpfner, „Urheberrecht im Zusammenhang mit generativer KI“, 22. März 2023 Bundesminister für besondere Aufgaben/Chef des Bundeskanzleramts Bundesminister Wolfgang Schmidt und Dr. Florian Drücke, Vorstandsvorsitzender des Bundesverbandes Musikindustrie eingetragener Verein (e. V.), 4. Juli 2023 in Berlin 29. Welche Bundeseinrichtungen im Zuständigkeitsbereich der Beauftragten der Bundesregierung für Kultur und Medien setzen KI-gestützte Verfahren ein, und zu welchem Zweck (bitte einzeln auflisten)? Einrichtung Zweck Akademie der Künste (AdK) für künstlerische Produktionen und im Bereich des Archivs/Digitale Dienste Martin-Gropius-Bau Entwicklung einer App, für KI-gestützte Services des Hauses Berliner Festspiele Unterstützung des Marketings zur Vorhersage zukünftiger Kaufabsichten von (potentiellen) Besuchern und Besucherinnen sowie bei Kundenfragen. Deutsche Welle (DW) Erkennung von konzertierten Desinformationskampagnen und zur sprachenübergreifende Verfügbarmachung der archivierten und (aktuell) produzierten mehrsprachigen DW‑Programminhalte DFF – Deutsches Filminstitut & Filmmuseum e. V. Entwicklung eines inklusiven Ansatzes für die Beschreibung kultureller Sammlungen Stiftung Haus der Geschichte der Bundesrepublik Deutschland Zeitzeugeninterviews unter Nutzung KI Bundesarchiv KI-gestützte Karteikarten- und Handschriftenerkennung Deutsche Nationalbibliothek Aufbereitung und Analyse von Texten und Metadaten 30. Welche Projekte zur Anwendung von KI-gestützten Verfahren wurden bei der Bundesbeauftragten für Kultur und Medien in den Jahren 2022 und 2023 beantragt, und in welcher Höhe? In den Jahren 2022 und 2023 wurden bei der Beauftragten der Bundesregierung keine Projekte zur Anwendung KI-gestützter Verfahren beantragt. 31. Welche Projekte zur Anwendung von KI-gestützten Verfahren werden von der Beauftragten der Bundesregierung für Kultur und Medien seit 2022 gefördert? Einrichtung Projekt Stiftung Preußischer Kulturbesitz „Mensch.Maschine.Kultur – Künstliche Intelligenz für das digitale Kulturelle Erbe in der Staatsbibliothek zu Berlin“ AdK „Kunst und Leben mit KI“ KBB – Kulturveranstaltungen des Bundes in Berlin Gesellschaft mit beschränkter Haftung (1. Projekt im Gropiusbau, 2. Projekt im Haus der Kulturen der Welt) Zu 1. „Digitale Kunst und Vermittlung. Mensch trifft KI“ Zu 2. „KI in der HKW-Mediathek; Hassreden im Netz“ fragFINN e. V. „fragFINN – mit künstlicher Intelligenz smarter“ Annette von Droste zu Hülshoff‑Stiftung „Intelligence Allemende – ein KI-gesteuerter poetischer Nutzgarten“ DW „KI gegen Desinformation 2“ Fraunhofer Gesellschaft „KI für den Kulturgutschutz III“ 32. Sieht die Bundesregierung Handlungsbedarf hinsichtlich der Folgen von KI-Anwendungen auf den Arbeitsmarkt in der Kultur- und Kreativwirtschaft und die in diesem Sektor Beschäftigten? Da Anwendungen der KI aktuell noch nicht in der Breite der Unternehmen und Branchen Anwendung finden, sind die Auswirkungen von KI auf Arbeit, insbesondere auf einzelne Branchen, Berufe und Regionen, noch nicht abschließend beurteilbar. Durch den Einsatz von KI können sich Arbeitsinhalte und -plätze sowie Berufsbilder und Kompetenzanforderungen in fast allen Bereichen beziehungsweise bestehenden Berufsfeldern verändern, aber auch neue Arbeitsplätze und Berufsbilder entstehen. Für die Darstellung des Handlungsbedarfs hinsichtlich der Folgen von KI-Anwendungen auf dem Arbeitsmarkt wird auf die Antwort der Bundesregierung auf die Kleine Anfrage der Fraktion der CDU/CSU „Auswirkungen von künstlicher Intelligenz auf den deutschen Arbeitsmarkt und Sozialstaat“ auf Bundestagsdrucksache 20/6373 verwiesen. 33. Ergreift die Bundesregierung Maßnahmen, um das geistige Eigentum von Künstlerinnen und Künstlern gegenüber KI-Systemanwendungen zu schützen, und wenn ja, welche? Auf die Antwort zu den Fragen 1 bis 4 und 26 wird verwiesen. 34. Wie viele Mitarbeiter der Beauftragten der Bundesregierung für Kultur und Medien sind im Themenbereich KI tätig? Bei der Beauftragten der Bundesregierung für Kultur und Medien (BKM) ist ein Fachreferat mit Koordinierungsaufgaben bei Angelegenheiten der Digitalisierung und der KI befasst. Darüber hinaus wird der Themenbereich KI in den jeweils fachlich betroffenen Organisationseinheiten bearbeitet. 35. Ist aus Sicht der Bundesregierung eine Anpassung des nationalen oder des EU-Rechtsrahmen für Urheberrecht und verwandte Schutzrechte nötig? 36. An welcher Stelle sollte es aus Sicht der Bundesregierung Anpassungen auf der EU-Ebene geben, z. B. im Rahmen des AI Acts, der Richtlinie zur Harmonisierung bestimmter Aspekte des Urheberrechts oder an anderer Stelle? Die Fragen 35 und 36 werden aufgrund des Sachzusammengangs gemeinsam beantwortet. Die Bundesregierung prüft den Regelungsrahmen fortlaufend. Derzeit sind keine konkreten Anpassungen vorgesehen. Auf die Antwort zu den Fragen 1 bis 10, 16, 21 bis 23 und 25 bis 26 wird insoweit verwiesen. Gesamtherstellung: H. Heenemann GmbH & Co. KG, Buch- und Offsetdruckerei, Bessemerstraße 83–91, 12103 Berlin, www.heenemann-druck.de Vertrieb: Bundesanzeiger Verlag GmbH, Postfach 10 05 34, 50445 Köln, Telefon (02 21) 97 66 83 40, Fax (02 21) 97 66 83 44, www.bundesanzeiger-verlag.de ISSN 0722-8333