Die Positionen der Bundesregierung in der weiteren Verhandlung zur KI-Verordnung

Antwort der Bundesregierung auf die Kleine Anfrage der Abgeordneten Dr. Petra Sitte, Nicole Gohlke, Gökay Akbulut, weiterer Abgeordneter und der Fraktion DIE LINKE. – Drucksache 20/7835 – Die Positionen der Bundesregierung in der weiteren Verhandlung zur KI-Verordnung V o r b e m e r k u n g d e r F r a g e s t e l l e r Am 6. Dezember 2022 hat der Rat der Europäischen Union seinen „Verordnungs-Vorschlag des Europäischen Parlaments und des Rates zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz“ (nachfolgend: KI-VO) vorgelegt (Ratsdokument 15698/22, data.consilium.europa.eu/doc/document/ ST-14954-2022-INIT/de/pdf). Das Europäische Parlament hat im Juni 2023 seine Position dazu beschlossen. Unmittelbar danach hat der Trilog zur endgültigen Einigung begonnen. Seit dem Entwurf der EU-Kommission im April 2021 und der Einigung des Rates im Dezember 2022 wurde die KI-Technologie weiterentwickelt. Insbesondere Systeme der generativen KI, wie zum Beispiel die derzeit viel diskutierten Anwendungen ChatGPT, DALL-E oder Midjourney, sind in den vergangenen Monaten in den Alltag vieler Menschen eingezogen und zeigen das Potenzial, ganze Sektoren oder Branchen nachhaltig zu verändern. Die Positionen, mit denen sich die Bundesregierung im Trilog einbringen will, sind für breite Teile der Gesellschaft relevant, u. a. in den Sektoren Innere Sicherheit, Bildung, Kultur und Medien. V o r b e m e r k u n g d e r B u n d e s r e g i e r u n g Im Gesetzgebungsverfahren der Europäischen Union (EU) zu der Verordnung des Europäischen Parlaments und des Rates „Zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz (Gesetz über künstliche Intelligenz, KI- Verordnung) und zur Änderung bestimmter Rechtsakte der Union“ hat der Rat der EU am 6. Dezember 2022 einstimmig seine Positionierung zum Vorschlag der EU-Kommission beschlossen, eine sogenannte Allgemeine Ausrichtung des Rates (im Folgenden: Allgemeine Ausrichtung). Die Bundesregierung hat der Allgemeinen Ausrichtung unter Abgabe einer Protokollerklärung mit Hinweis auf noch bestehendes Verbesserungspotential zugestimmt. Die Allgemeine Ausrichtung in Verbindung mit dem sich mittelbar aus der Protokollerklärung ergebenden Verbesserungsbedarf bildet die Grundlage für die deutsche Positio- Deutscher Bundestag Drucksache 20/8179 20. Wahlperiode 31.08.2023 Die Antwort wurde namens der Bundesregierung mit Schreiben des Bundesministeriums für Wirtschaft und Klimaschutz vom 25. August 2023 übermittelt. Die Drucksache enthält zusätzlich – in kleinerer Schrifttype – den Fragetext. nierung in den weiteren Verhandlungen auf EU-Ebene. Im Lichte des dynamischen Verhandlungsprozesses besteht die Notwendigkeit, kurzfristig mögliche Kompromisslinien und Vorschläge im Rat zu beraten. Hierzu erfolgt jeweils eine kurzfristige Positionierung der Bundesregierung. Im Übrigen ist darauf hinzuweisen, dass die Beantwortung von Fragen bezüglich der nationalen Durchführung der KI-Verordnung in den laufenden Verhandlungen nicht erfolgen kann, weil es hierfür des final beschlossenen Verordnungstextes bedarf.  1. Wie beurteilt die Bundesregierung die Ausnahme aus der KI-VO für KI- Systeme und deren Ergebnisse, die eigens für den alleinigen Zweck wissenschaftlicher Forschung und Entwicklung entwickelt und in Betrieb genommen werden, insbesondere mit Blick auf die „Leitlinien zur Sicherung guter wissenschaftlicher Praxis“ der Deutschen Forschungsgemeinschaft e. V. (www.dfg.de/download/pdf/foerderung/rechtliche_rahmenbe dingungen/gute_wissenschaftliche_praxis/kodex_gwp.pdf) und ihre Anforderungen an Reproduzierbarkeit und Nachvollziehbarkeit? Die Bundesregierung begrüßt grundsätzlich den Vorschlag, KI-Systeme, die für Forschungs- und Entwicklungsaktivitäten entwickelt worden sind, aus dem Anwendungsbereich der KI-Verordnung herauszunehmen. Dass die Entwicklung und Nutzung solcher KI-Systeme den von der Wissenschaft selbst gesetzten Prinzipien und Standards, wie den Leitlinien zur Sicherung guter wissenschaftlicher Praxis der Deutschen Forschungsgemeinschaft (DFG), unterliegen sollte, ist davon unbenommen.  2. Wie kann auf Basis der KI-VO nach Einschätzung der Bundesregierung zwischen einem Forschungsprojekt, einer Auftragsforschung für Unternehmen und dem Inverkehrbringen durch private Unternehmen oder unter Beteiligungen privater Unternehmen unterschieden werden, und wie bewertet die Bundesregierung, dass ChatGPT als Forschungsprototyp bezeichnet wird, aber vom Unternehmen OpenAI in Verkehr gebracht wurde (www.bundestag.de/resource/blob/944148/30b0896f6e49908155f cd01d77f57922/20-18-109-Hintergrundpapier-data.pdf)? Die Bundesregierung verweist auf die andauernden Verhandlungen der KI- Verordnung, insofern können noch keine finalen Einordnungen nach der KI- Verordnung vorgenommen werden. Dies gilt auch hinsichtlich der Definition des „Inverkehrbringens“. Erst im Laufe der weiteren Verhandlungen kann geprüft werden, ob Ausnahmeregelungen für KI-Systeme (KI-Modelle oder KI- Anwendungen) und deren Ergebnisse, die für wissenschaftliche Forschung und Entwicklung erzeugt und betrieben werden, auf nicht-kommerzielle Nutzung zu begrenzen und nicht zu gewähren sind, wenn und soweit das KI-System und dessen Ergebnisse in den kommerziellen Bereich übergehen.  3. Unterstützt die Bundesregierung den Ansatz, dass der Einsatz von Verfahren, bei denen biometrische Daten nach Artikel 3 der KI-VO zu Bildungszwecken erhoben und verarbeitet werden, nicht zu den Verboten in Artikel 5 KI-VO gehört? Das Verbot in Artikel 5 des Entwurfs der KI-Verordnung in der Fassung der Allgemeinen Ausrichtung bezieht sich auf den Einsatz biometrischer Identifikationssysteme bzw. Fern-Identifikationssysteme zu Strafverfolgungszwecken. Erhebung und Verarbeitung biometrischer Daten sind jedoch kein Spezifikum von KI-Systemen, sondern unterliegen bereits den Anforderungen des Artikel 9 der Datenschutz-Grundverordnung (DSGVO). Artikel 3 Nummer 33 des Entwurfs der KI-Verordnung wiederum definiert die Nutzung biometrischer Daten lediglich spezifischer zu Zwecken der eindeutigen Identifizierung natürlicher Personen. Der Einsatz von biometrischen Identifikationssystemen bei digitalen Bildungsangeboten ist somit nach der Fassung der Allgemeinen Ausrichtung nicht verboten. Im Übrigen wird auf die Vorbemerkung der Bundesregierung verwiesen.  4. Welche Forschungsprojekte, die die Bundesregierung in ihrer Antwort auf die Kleine Anfrage der Fraktion DIE LINKE. auf Bundestagsdrucksache 20/6862 auflistet, plant die Bundesregierung, mit Blick auf kommende Verbote in der KI-VO nicht weiter zu fördern? Die Bundesregierung geht davon aus, dass keine der aufgelisteten Forschungsprojekte von Verboten im Rahmen der KI-Verordnung betroffen sein werden. Aufgrund der laufenden Verhandlungen ist eine abschließende Antwort nicht möglich.  5. Unterstützt die Bundesregierung den Ansatz, dass die KI-VO (mit Ausnahme von Artikel 52 KI-VO zu Transparenzpflichten) nicht gelten soll für Nutzende, die natürliche Personen sind und KI-Systeme ausschließlich persönlich verwenden? Wie bewertet die Bundesregierung das Risiko, dass eine Umgehung der Kennzeichnungspflicht (indem Inhalte beispielsweise als Kunst oder Satire benannt werden) oder eine schlechte Sichtbarkeit der Kennzeichnung zur verstärkten Produktion und Verbreitung von Deep Fakes oder anderen falschen, irreführenden oder desinformierenden Text-, Audio-, Bildoder Video-Formaten führt? a) Wenn ja, wie begründet die Bundesregierung diese Ausnahme, und wie sollen demokratiegefährdende Effekte KI-basierter Desinformationsaktivitäten, die von natürlichen Personen zu privaten Zwecken ausgehen, stattdessen geregelt werden? Die Ausnahme, dass die KI-Verordnung mit Ausnahme der Transparenzpflichten des Artikels 52 nicht für Nutzerinnen und Nutzer gelten soll, die KI- Systeme im Rahmen einer ausschließlich persönlichen und nicht beruflichen Tätigkeit verwenden, hat die Bundesregierung in der Allgemeinen Ausrichtung unterstützt. Zu beachten sind hier der Ansatz der Produktregulierung und der Nutzerbegriff, der sich insoweit aus Artikel 3 Absatz 4 des Entwurfs der KI- Verordnung ergibt. Die Verordnung setzt ihrer Systematik nach bei dem Produkt und den Anforderungen an das Produkt an. Die Bundesregierung setzt sich in den Verhandlungen in Abweichung von der klassischen Produktregulierung für Betroffenenrechte ein. Hinsichtlich des angesprochenen Risikos der Umgehung der Kennzeichnungspflicht weist die Bundesregierung auf die Sanktionsvorschrift des Artikels 71 Absatz 4h des Entwurfs der KI-Verordnung in der Fassung der Allgemeinen Ausrichtung hin.  b) Ist die Bundesregierung der Ansicht, dass generative KI-Systeme, die künstlich massenhaft Bilder, Videos, Audios und Texte erzeugen können, die unter Umständen nicht die Realität abbilden oder irreführen können, grundsätzlich als Hochrisikosysteme gelten sollten, und wenn nein, warum nicht? Generative KI-Systeme können in verschiedenen Bereichen eingesetzt werden. Eine grundsätzliche pauschale Einstufung von generativen KI-Systemen als Hochrisiko-KI-Systeme erscheint aufgrund der bestehenden Besonderheiten nicht sachgerecht. Vielmehr sollte der Ansatz der KI-Verordnung, nur in bestimmten Bereichen eine Regulierung von Hochrisiko-KI zu schaffen, unterstützt werden. Die Bundesregierung prüft Anforderungen an generative KI- Systeme, die deren Besonderheiten berücksichtigen und Risiken angemessen adressieren. Die Anforderungen müssen verhältnismäßig sein, sollten innerhalb der Wertschöpfungskette gut umsetzbar sein und keine Innovationsattentismen für die Entwicklung generativer KI-Systeme in Europa sein. Die Prüfung der Bundesregierung dauert an.  6. Unterstützt die Bundesregierung den Ansatz des EU-Parlaments, die Anbieter generativer KI-Systeme zu Transparenz bezüglich der Verwendung urheberrechtlich geschützter Trainingsdaten zu verpflichten, und wenn nein, warum nicht? Die Bundesregierung befindet sich dazu noch in der Abstimmung.  7. Verfolgt oder prüft die Bundesregierung die Änderung bestehender urheberrechtlicher Regelungen auf Europa- oder Bundesebene vor dem Hintergrund der Weiterentwicklung generativer KI, wenn ja, mit welchen Vorstellungen, und wenn nein, warum nicht? Die Bundesregierung verfolgt die Debatten zum Einsatz generativer KI und sich stellenden urheberrechtlichen Fragen sehr genau und prüft fortlaufend den bestehenden Bedarf für gesetzgeberische Maßnahmen. Der geltende Rechtsrahmen wird maßgeblich durch das Unionsrecht vorgegeben. So beruht insbesondere die gesetzliche Erlaubnis für das Text und Data Mining in § 44b des Urheberrechtsgesetzes auf europäischen Vorgaben (Artikel 4 der Richtlinie (EU) 2019/790 über das Urheberrecht und die verwandten Schutzrechte im digitalen Binnenmarkt, DSM-Richtlinie). Die DSM-Richtlinie wird ab dem Jahr 2026 auf europäischer Ebene evaluiert. In diesem Zuge wird auch überprüft werden, ob sich die Regelung zum Text und Data Mining in ihrer aktuellen Fassung bewährt hat und ob Anpassungsbedarf in Bezug auf zwischenzeitliche technische Entwicklungen besteht.  8. Wie begründet die Bundesregierung die Unterstützung sogenannter retrograder biometrischer Fernerkennung und die damit verbundene Abweichung vom Koalitionsvertrag zwischen SPD, BÜNDNIS 90/DIE GRÜ- NEN und FDP? a) Mit welcher Begründung geht die Bundesregierung davon aus, dass eine retrograde Gesichtserkennung verfassungskonform ist? b) Stimmt die Bundesregierung zu, dass auch eine retrograde biometrische Fernerkennung unter Richtervorbehalt zunächst die Erhebung und Speicherung biometrischer Daten zwingend erfordert, und zu welchen Anlässen plant die Bundesregierung derzeit, diese Verfahren einzusetzen? c) Welche Schlüsse zieht die Bundesregierung aus der Kritik in der gemeinsamen EDSA-EDSB-Stellungnahme (edpb.europa.eu/system/fil es/2021-06/edpb-edps_joint_opinion_ai_regulation_en.pdf), der Kritik des UN-Hochkommissars für Menschenrechte (www.ohchr.or g/en/2021/09/artificial-intelligence-risks-privacy-demand-urgent-acti on-bachelet?LangID=E&NewsID=27469) sowie des Europäischen Parlaments (www.europarl.europa.eu/RegData/etudes/STUD/2021/6 97191/EPRS_STU(2021)697191_EN.pdf) zu den Risiken von retrograder biometrischer Fernerkennung im öffentlichen Raum (einschließlich online) und der Bedrohung für die Grundrechte (u. a. Privatsphäre, Datenschutz, Versammlungs- und Vereinigungsfreiheit, Nichtdiskriminierung, Medienfreiheit und Rechtsstaatlichkeit)? Die Fragen 8 bis 8c werden gemeinsam beantwortet. Die Aussage der Bundesregierung zur retrograden biometrischen Identifizierung, die Gegenstand der Protokollerklärung und der dort in Bezug genommenen Stellungnahme zur Allgemeinen Ausrichtung ist, stellt keine Abweichung vom Koalitionsvertrag dar, der die „biometrische Erfassung zu Überwachungszwecken“ ablehnt. Die Details des unionsrechtlichen Verbotstatbestands waren zum Zeitpunkt der erwähnten deutschen Stellungnahme und sind auch aktuell im Trilog noch in der Diskussion. Vor diesem Hintergrund wird auf die Vorbemerkung der Bundesregierung Bezug genommen, der weitere Verlauf der Verhandlungen bleibt abzuwarten. Der EDSB (Europäischer Datenschutzbeauftragter) und der EDSA (Europäischer Datenschutzausschuss) sowie der EPRS (Wissenschaftlicher Dienst des Europäischen Parlaments) weisen in ihren Stellungnahmen darauf hin, welche Gefahren der Einsatz biometrischer Gesichtserkennung für Grundrechte haben kann. Es werden unterschiedliche Strategien vorgeschlagen, um die Gefahren zu minimieren oder auszugleichen. Diese Vorschläge bezieht die Bunderegierung in ihre Bewertung mit ein. Deutschland hat sich in den Verhandlungen zur KI-Verordnung nur dahingehend positioniert, die retrograde biometrische Identifizierung, beispielsweise im Zuge der Auswertung von Beweismitteln, nicht europarechtlich auszuschließen. Der staatliche Einsatz dieser Technologie in Deutschland bedarf, wie jede Ermittlungsmaßnahme, einer verfassungskonformen Rechtsgrundlage.  d) Welche Verfahren sind nach Kenntnis der Bundesregierung vorgesehen, um die unbestimmten Rechtsbegriffe „Ferne“, „aktive Einbeziehung“ und „zeitgleich“ und „nahezu zeitgleich“ genau zu bestimmen, und welchen Vorschlag hat die Bundesregierung, diese Begriffe zu bestimmen? Es handelt sich um unbestimmte Rechtsbegriffe, deren Verwendung üblich ist und die in der Praxis im Wege der Auslegung durch Rechtsanwender und Gerichte ausreichend konkretisiert werden können. Insgesamt erscheint die Abgrenzung anhand der vorgesehenen Definition (Artikel 3 Nummer 37 der KI- Verordnung in der Fassung der Allgemeinen Ausrichtung) und des Erwägungsgrunds 8, der die Gefahr einer Umgehung aufgreift und durch genauere Konkretisierung minimiert, hinreichend klar. Im Übrigen wird auf die Vorbemerkung der Bundesregierung verwiesen.  e) Unterstützt die Bundesregierung die Öffnungsklausel in Artikel 5 Absatz 4 KI-VO in der allgemeinen Ausrichtung der EU- Kommission zur biometrischen Echtzeit-Fernerkennung, nach der die Mitgliedstaaten die Verwendung biometrischer Echtzeit- Fernidentifizierung selbst festlegen können, und wenn ja, zu welchen Zwecken hält die Bundesregierung diese Öffnungsklausel für sinnvoll? Zu diesem Punkt wird auf die Vorbemerkung der Bundesregierung verwiesen.  f) Unterstützt die Bundesregierung den Ansatz, dass die Pflicht zur getrennten Überprüfung und Bestätigung durch zwei Personen beim Einsatz von biometrischer Fernerkennung nicht für Anwendungen im Bereich Strafverfolgung, Migration, Grenzkontrolle und Asyl gelten soll (bitte ausführlich begründen)? Die Bundesregierung geht davon aus, dass die Fragestellenden sich auf die Regelung in Artikel 14 Absatz 5 der KI-Verordnung in der Fassung der Allgemeinen Ausrichtung beziehen. Nach Satz 1 dieser Regelung müssen bei den in Anhang III Nummer 1 Buchstabe a genannten Hochrisiko-KI-Systemen die in Absatz 3 genannten Vorkehrungen so gestaltet sein, dass der Nutzer keine Maßnahmen oder Entscheidungen allein aufgrund des vom System hervorgebrachten Identifizierungsergebnisses trifft, solange dies nicht von mindestens zwei natürlichen Personen getrennt überprüft und bestätigt wurde. Die in Satz 2 insoweit bestehende Ausnahme ist nur einschlägig, wenn die Anwendung dieser Anforderung nach Unionsrecht oder nationalem Recht unverhältnismäßig ist. Die Bundesregierung hat der Allgemeinen Ausrichtung des Rates zur KI- Verordnung unter Abgabe einer Protokollerklärung zugestimmt.  9. Welche Vorhaben und Projekte mit Bezug zum Einsatz von KI sind im Programm „P20“ (www.bmi.bund.de/DE/themen/sicherheit/ programmp20/programm-p20-node.html) vorgesehen, und welche Auswirkungen wird die KI-VO auf diese Vorhaben und Projekte absehbar haben, insbesondere vor dem Hintergrund, dass in der Allgemeinen Ausrichtung des Verordnungsentwurfs Verbote bestimmter KI-Fähigkeiten vorgesehen sind? Im Programm P20 sind vier Vorhaben im Sinne der Fragestellung vorgesehen (KIPO, PSI, „KI-relevante-Plattformen“ und OSINT). Die Auswirkungen der KI-Verordnung auf diese Vorhaben können derzeit nicht abschließend beurteilt werden, da die Verhandlungen zur KI-Verordnung noch andauern. Es ist jedoch davon auszugehen, dass eine Klassifizierung als Hochrisiko-Anwendungen gemäß Annex III der KI-Verordnung in der Fassung der Allgemeinen Ausrichtung für einzelne Vorhaben wahrscheinlich ist. 10. Sieht die Bundesregierung vor, dass Behörden nur KI-Systeme einsetzen dürfen, deren Ergebnisse erklärbar, nachvollziehbar und reproduzierbar sind und dass Behörden die Öffentlichkeit über alle eingesetzten KI- Systeme informieren muss, auch wenn diese nicht unmittelbar mit natürlichen Personen interagieren (bitte ausführlich begründen)? 11. Unterstützt die Bundesregierung den Ansatz, dass alle KI-Systeme, die von Behörden eingesetzt werden, nach einem standardisierten Risikoklassenmodell durch dafür speziell qualifizierte Personen bewertet und jährlich durch eine unabhängige Stelle hinsichtlich Notwendigkeit, Effizienz und Nachhaltigkeit evaluiert werden sollten, und wenn nein, warum nicht? Die Fragen 10 und 11 werden gemeinsam beantwortet. Unter den Voraussetzungen der KI-Verordnung in der Fassung der Allgemeinen Ausrichtung dürfen Behörden KI in Einklang mit den jeweiligen Fachgesetzen einsetzen. Dabei wird auf die Ausnahme für Sicherheitsbehörden in Artikel 51 der KI-Verordnung in der Fassung der Allgemeinen Ausrichtung hingewiesen. Die Prüfung der Bundesregierung hinsichtlich des Einsatzes von KI-Systemen in Bundesbehörden und damit verbundenen Anforderungen dauert an. Sofern sich die Frage auf die Anforderungen an Behörden nach der KI-VO bezieht, wird darauf verwiesen, dass die Verhandlungen andauern. 12. Mit welcher Begründung gelten nach Ansicht der Bundesregierung Online-Räume nicht als öffentliche Räume im Sinne des Artikels 3 Nummer 39 KI-VO? Nach Artikel 3 Absatz 39 der KI-Verordnung in Fassung der Allgemeinen Ausrichtung bezeichnet der Ausdruck „öffentlich zugänglicher Raum“ einen einer unbestimmten Anzahl natürlicher Personen zugänglichen physischen Ort in privatem oder öffentlichem Eigentum, unabhängig davon, ob vorher bestimmte Bedingungen oder Umstände für den Zugang festgelegt wurden, und unabhängig von möglichen Kapazitätsbeschränkungen. In Erwägungsgrund 9 der KI- Verordnung in der Fassung der Allgemeinen Ausrichtung wird erläutert, dass Online-Räume nicht erfasst werden, da es sich nicht um physische Räume handelt. 13. Unterstützt die Bundesregierung den Ansatz des EU-Parlaments, dass KI-Systeme, die zur Wahlbeeinflussung geeignet sind, also auch Systeme, die für Wahlberechtigte nicht oder nicht unmittelbar erkennbar sind oder Systeme, die politische Werbung steuern und nur bestimmten Gruppen zugänglich machen, lediglich Hochrisikosysteme sind, oder sollten solche Systeme nach Ansicht der Bundesregierung verboten werden, und wenn nein, warum nicht? Die KI-Verordnung folgt dem Ansatz einer Produktregulierung. Anknüpfungspunkt ist das Produkt bzw. die Anforderungen an das Produkt, um Risiken zu unterbinden oder zu minimieren. Die Grenze zur unzulässigen Wahlbeeinflussung ist insbesondere am Maßstab der Wahlgrundsätze und weiteren wahlspezifischen Regelungen und Gesetzen zu prüfen. Der Ansatz des Europäischen Parlaments geht über eine Produktregulierung hinaus. Die Prüfung der Bundesregierung, inwieweit entsprechende Systeme darüber hinaus in den Anhang III der KI-Verordnung fallen sollten, dauert an. Anhang III knüpft an den Bereich an, in dem das Hochrisiko-KI-System eingesetzt wird. 14. Unterstützt die Bundesregierung den Ansatz der Differenzierung von Hochrisiko-KI-Systemen, und wenn ja, welche KI-Systeme gehören nach Einschätzung der Bundesregierung zu den Hochrisikosystemen, von denen wahrscheinlich kein erhebliches Risiko für Gesundheit, Sicherheit oder Grundrechte ausgeht? a) Wie ist nach Kenntnis der Bundesregierung der „unwesentliche Einfluss“ auf eine Entscheidung nach Artikel 6 Absatz 3 KI-VO (Allgemeine Ausrichtung) definiert? b) Wie definiert die Bundesregierung „unwesentlichen Einfluss“ auf eine Entscheidung? c) Wie sind nach Kenntnis der Bundesregierung die Begriffe „erhebliche schädliche Auswirkungen“, „schwerer Schaden“ und „bedeutendes Risiko“ im Kontext Hochrisiko-KI-Systeme im Text der Allgemeinen Ausrichtung definiert? Die Prüfung der Bundesregierung hierzu dauert an. Die Fragen 14 bis 14c werden aufgrund des Sachzusammenhangs gemeinsam beantwortet. Nähere Ausführungen zu „unwesentlichem Einfluss“ im Sinne der Allgemeinen Ausrichtung der KI-Verordnung finden sich dort in Erwägungsgrund 32, ebenso Beispiele. Außerdem weist die Bundesregierung darauf hin, dass nach der Allgemeinen Ausrichtung nach Artikel 6 Absatz 3 der KI-Verordnung die EU-Kommission spätestens ein Jahr nach Inkrafttreten der Verordnung Durchführungsrechtsakte erlässt, um festzulegen, unter welchen Umständen das Ergebnis der in Anhang III genannten KI-Systeme in Bezug auf die zu treffende Maßnahme unwesentlich ist. Insofern ist auch der Bereich bei der Entscheidung einzubeziehen und dies keine pauschale Festlegung.  d) Wer soll nach Kenntnis oder nach Einschätzung der Bundesregierung diese Auswirkungen, Schäden oder Risiken in welchem Verfahren feststellen? Die Prüfung der Bundesregierung dazu dauert an.  e) Wie wird die Bundesregierung Sachverhalte regeln, bei denen durch ein Hochrisiko-KI-System „erhebliche schädliche Auswirkungen“, ein „schwerer Schaden“ oder ein „bedeutendes Risiko“ entsteht, bevor die EU-Kommission den dazugehörenden Rechtsakt erlässt (der erst ein Jahr nach Inkrafttreten der KI-VO vorgesehen ist)? Die Folgen richten sich nach den in dem Zeitraum geltenden Gesetzen und Vorschriften, die auf den jeweiligen Einzelfall anzuwenden sind. Die KI- Verordnung in der Fassung der Allgemeinen Ausrichtung sieht ferner einen Geltungsbeginn der Verordnung drei Jahre nach Inkrafttreten der Verordnung vor.  f) Welche bestimmten Zwecke sind nach Kenntnis der Bundesregierung gemeint, für die es laut Erwägungsgrund 17 der Allgemeinen Ausrichtung Rechtsvorschriften geben soll, um soziales Verhalten zu bewerten? Hintergrund des Verbots des Social Scorings soll nach dem Verständnis der Bundesregierung sein, dass Daten nicht in einem Kontext verwendet werden sollen, die in keinem ursprünglichen Zusammenhang mit der ursprünglichen Erlangung bzw. Sammlung der Daten stehen und dass es dadurch zu einer unverhältnismäßigen, ungerechtfertigten und unfairen Behandlung in neuem, fremdem Kontext komme. Als Beispiele für den Erwägungsgrund sollen nach den Äußerungen in den Verhandlungen u. a. die Prüfung der Kreditwürdigkeit, die Vergabe von Studienplätzen und die Arbeitsvermittlung von Jugendlichen in Betracht kommen. 15. Unterstützt die Bundesregierung den Ansatz der Allgemeinen Ausrichtung, Emotionserkennungssysteme als Hochrisikosysteme zu behandeln? a) Wenn ja, auf welche wissenschaftlichen Erkenntnisse stützt die Bundesregierung ihre Einschätzung, dass Emotionserkennung per KI zuverlässig ihr Ziel erreicht? b) Durch wen wird die Zielerreichung definiert? c) Wenn nein, hat sich die Bundesregierung dafür eingesetzt, dass Emotionserkennung unter Artikel 5 KI-VO verboten werden muss? Die Abstimmung der Bundesregierung hierzu dauert an. 16. Kann die Bundesregierung darlegen, wann und wie Nutzende davon Kenntnis erlangen, dass sie nach Artikel 23a der Allgemeinen Ausrichtung den Pflichten eines Anbieters unterliegen? a) Kann die Bundesregierung ausschließen, dass Schulen, die ChatGPT oder andere Mehrzweck-KI-Systeme oder Foundation-Modelle im Unterricht nutzen, dadurch zu Anbietern eines Hochrisikosystems werden mit den entsprechenden Anforderungen und Pflichten aus der künftigen KI-VO? Inwieweit Schulen oder ihre Träger zu Anbietern von Hochrisiko-KI werden können, wenn sie KI-Systeme mit allgemeinem Verwendungszweck verwenden, hängt von dem konkreten Verwendungszweck ab. Fällt dieser unter einen der in Annex III Nummer 3 der KI-Verordnung in der Fassung der Allgemeinen Ausrichtung genannten Zwecke, würden sie gemäß Artikel 23a zu Anbietern eines Hochrisiko-Systems. Ob dies bei einer Nutzung „im Unterricht“ der Fall ist, hängt von der konkreten Nutzung und von der finalen Ausgestaltung des Annex III ab. Insoweit wird auf die Vorbemerkung verwiesen.  b) Welche Maßnahmen wird die Bundesregierung ergreifen, um Rechtssicherheit für Nutzende von KI-Systemen mit allgemeinem Verwendungszweck oder Foundation-Modellen zu schaffen, ob, und wenn ja, unter welchen Umständen, sie zu Anbietenden mit allen zugehörenden Pflichten wechseln? Auch zu diesem Punkt ist auf die Vorbemerkung der Bundesregierung zu verweisen.  c) Wie unterscheidet die Bundesregierung zwischen Anbietenden, Einsetzenden und Nutzenden? Die Allgemeine Ausrichtung unterscheidet zwischen Provider bzw. Anbieter und User bzw. Nutzerin und Nutzer. Der Begriff des Einsetzenden kommt dort nicht vor. Das Europäische Parlament hat vorgeschlagen, den Begriff des Users durch den Begriff des Deployers zu ersetzen. Diese Frage wird im Trilogverfahren diskutiert werden.  d) Wie kann nach Ansicht der Bundesregierung sichergestellt werden, dass sich die Einsetzenden bzw. Nutzenden an die Gebrauchsanweisung des Systems halten und bei Wechsel in die Rolle der Anbietenden die Pflichten aus der KI-VO einhalten? Um sicherzustellen, dass Anbieter von Hochrisiko-KI-Systemen die Pflichten aus der KI-Verordnung einhalten, werden in der Fassung der Allgemeinen Ausrichtung unter anderem Aufsichtsinstrumente (Artikel 63 ff.) sowie Sanktionen bei Nichteinhaltung (Artikel 71 ff.) vorgesehen. 17. Was bedeutet nach Kenntnis der Bundesregierung, dass laut Artikel 29 Absatz 6 der Allgemeinen Ausrichtung Nutzende gegebenenfalls eine Datenschutzfolgeabschätzung vornehmen müssen? a) Für wen und unter welchen Umständen gilt diese Pflicht? b) Gilt diese Pflicht für Bildungseinrichtungen, die KI-Anwendungen zur Unterrichtsunterstützung nutzen, und wenn ja, für welche Art KI- Anwendungen (Foundation-Modell, GPAI, KI-System)? Artikel 29 Absatz 6 der KI-Verordnung bestimmt, dass Nutzer von Hochrisiko- KI-Systemen die gemäß Artikel 13 bereitgestellten Informationen verwenden, um gegebenenfalls ihrer Verpflichtung zur Durchführung einer Datenschutzfolgenabschätzung gemäß Artikel 35 der Verordnung (EU) 2016/679 oder Artikel 27 der Richtlinie (EU) 2016/680 nachzukommen. Voraussetzung ist demnach, dass nach den entsprechenden datenschutzrechtlichen Regelungen eine Datenschutzfolgenabschätzung vorgesehen ist. Artikel 29 Absatz 6 adressiert den Nutzer nach Artikel 3 Absatz 4 der Allgemeinen Ausrichtung. Aufgrund der andauernden Verhandlungen der KI-Verordnung kann die Bundesregierung noch keine abschließende Einschätzung zu Frage 17b geben. 18. Zu welchem Zeitpunkt vor oder nach dem Inverkehrbringen oder der Inbetriebnahme oder in welchem Zeitraum nach dem Inverkehrbringen oder der Inbetriebnahme eines Hochrisikosystems sollte nach Ansicht der Bundesregierung die EU-Kommission darüber entscheiden, ob Anwendungen dem Anhang III der KI-VO hinzugefügt oder entfernt werden? a) Wer definiert das Ausmaß des Schadens, das für eine Aufnahme eines Systems in Anhang III eintreten muss? b) Wer soll den Schaden in welchem Verfahren feststellen? Die Verhandlungen dauern an. Ein Zeitpunkt ist in der Verordnung gegenwärtig nicht konkret vorgesehen. Änderungen des Anhangs III können sich z. B. aufgrund weiterer Entwicklungen und Erkenntnisse ergeben. Das Verfahren richtet sich nach Artikel 7 in Verbindung mit Artikel 73 der KI-Verordnung in der Fassung der Allgemeinen Ausrichtung.  c) Gibt es Schäden, die die Grundrechte betreffen, die nach Ansicht der Bundesregierung so gering sind, dass sie nicht zu einer Aufnahme des Systems in Anhang III führen sollten, wenn ja, welche? Die Verhandlungen der KI-Verordnung und zu Anhang III dauern an. Dies beinhaltet auch die weitere Positionierung der Bundesregierung zu Anhang III in Bezug auf die Änderungen des Europäischen Parlaments. Im Übrigen verweist die Bundesregierung auf die Allgemeine Ausrichtung sowie ihre Protokollerklärung zur Allgemeinen Ausrichtung. 19. Unterstützt die Bundesregierung die Formulierung in Erwägungsgrund 32 der Allgemeinen Ausrichtung, dass Übersetzungssysteme nicht zu einem wesentlichen Risiko führen können, auch nicht bei Anwendungen im gesundheitlichen, polizeilichen oder juristischen Kontext, und auf welche wissenschaftlichen oder praktischen Erkenntnisse stützt die Bundesregierung diese Einschätzung? a) Schätzt die Bundesregierung die Wahrscheinlichkeit erheblicher schädlicher Auswirkungen, schwerer Schäden oder eines bedeutenden Risikos für Flüchtende, Schutzsuchende oder andere vulnerable Gruppen durch den Einsatz solcher Systeme als erhöht ein, und wenn ja, welche Schlussfolgerungen zieht die Bundesregierung hieraus für die Ableitung besonderer Regelungen zum Schutz dieser Betroffenengruppen? b) Warum hält es die Bundesregierung vor dem Hintergrund der bekannt gewordenen sachlichen Fehler in Ergebnissen von Sprachmodellen, wie zum Beispiel ChatGPT, für vertretbar, dass Kommunikationsaufgaben in der Rechtspflege nicht zu den Hochrisikoanwendungen gezählt werden? Die Fragen 19 bis 19b werden gemeinsam beantwortet. Übersetzungssysteme sind nicht generell als Hochrisiko-KI-Systeme einzustufen. Erwägungsgrund 32 enthält ergänzende Erläuterungen dazu, wann die in Anhang III aufgeführten KI-Systeme – etwa in den Bereichen Biometrik, grundlegender privater und öffentlicher Dienste und Leistungen, Strafverfolgung und Rechtspflege – ausnahmsweise keine Hochrisiko-KI-Systeme sind. Erwägungsgrund 32 nennt als Beispiel KI-Systeme, „die für die Übersetzung zu Zwecken der Information oder der Dokumentenverwaltung verwendet werden“. Es steht außer Frage, dass rechtsstaatliche Garantien und Grundrechte auch beim Einsatz neuer Technologien gewahrt werden müssen. Beim Einsatz von KI-Systemen in der Justiz sind daher hohe und verbindliche Standards insbesondere hinsichtlich der Diskriminierungsfreiheit erforderlich. Die Übertragung von Kommunikationsaufgaben auf generative Sprachmodelle kommt im Kernbereich der Rechtspflege nicht in Betracht. 20. Welche Szenarien sind für die Bundesregierung denkbar, in denen ein Hochrisikosystem auch ohne Konformität mit der KI-VO in Betrieb genommen wird, und kann die Bundesregierung ausschließen, dass eine solche Inbetriebnahme eines Systems ohne Konformität mit der KI-VO erfolgen wird? Die Bundesregierung wird nach dem Stand der Allgemeinen Ausrichtung faktisch nicht vollständig ausschließen können, dass ein Hochrisiko-KI-System nicht den Vorgaben der KI-Verordnung entspricht. Z. B. bei einem Verstoß gegen die KI-Verordnung würden jedoch voraussichtlich Sanktionen greifen. Daneben sieht die KI-Verordnung selbst Derogationsmöglichkeiten vor, etwa Artikel 47 Absatz 1a in der Fassung der Allgemeinen Ausrichtung für besonders gelagerte dringende Gefahrenlagen. Diese sind zu begrüßen. 21. Was sind nach Ansicht der Bundesregierung „schwerwiegende Fälle“, die Anbietende oder Einsetzende von Hochrisikosystemen den Aufsichtsbehörden melden müssen? a) Welche Sanktionen plant die Bundesregierung bei Nichtmelden schwerer Vorfälle? b) Was ist nach Einschätzung der Bundesregierung eine „schwere gesundheitliche Schädigung“, und was ist im Vergleich dazu eine nicht schwere gesundheitliche Schädigung nach Artikel 3 Nummer 44 der Allgemeinen Ausrichtung, und wer bestimmt den Unterschied in welchem Verfahren? Die Fragen 21 bis 21b werden gemeinsam beantwortet. Die Bundesregierung verweist darauf, dass die Verhandlungen zur KI- Verordnung andauern. Dies betrifft auch die Begrifflichkeiten. Über die Durchführung – auch über Zuständigkeiten und gegebenenfalls umzusetzende Sanktionen – kann erst abschließend entschieden werden, wenn der verabschiedete Text vorliegt. Etwaigen Leitlinien der EU-Kommission (Artikel 62 Absatz 2 der KI- Verordnung in der Fassung der Allgemeinen Ausrichtung), die sich auch auf die „Schwere der gesundheitlichen Schädigung“ beziehen können, greift die Bundesregierung nicht vor. 22. Welche Kontaktdaten der Nutzenden eines Hochrisikosystems sollen Anbietende nach Artikel 60 KI-VO in die EU-Datenbank eintragen, und bedeutet diese Pflicht, dass eine anonyme Nutzung von Hochrisikosystemen nicht möglich sein wird? Die Bundesregierung geht davon aus, dass die Frage auf die Daten der Nutzerin bzw. des Nutzers abzielt, die detaillierter im Anhang VIII der KI-Verordnung in der Fassung der Allgemeinen Ausrichtung aber auch im verfügenden Teil der KI-Verordnung geregelt sind. Aus Anhang VIII geht hervor, dass die in Teil II Nummer 12 genannten Informationen von der Datenbank automatisch generiert werden. Die Verhandlungen zur KI-Verordnung dauern an. Im Zusammenhang mit dem zweiten Teil der Frage geht die Bundesregierung davon aus, dass diese auf die Allgemeine Ausrichtung abzielt. Hierzu weist die Bundesregierung auf Artikel 60 Absatz 2 Satz 3 der KI-Verordnung in der Fassung der Allgemeinen Ausrichtung hin, der festlegt, dass die in Anhang VIII Teil II Nummer 12 aufgeführten Daten auf der Grundlage der gemäß Artikel 51 Absatz 2 von einschlägigen Nutzern bereitgestellten Informationen automatisch durch die Datenbank generiert werden. Artikel 51 Absatz 2 der KI-Verordnung in der Fassung der Allgemeinen Ausrichtung legt wiederum Folgendes fest: „Vor der Verwendung eines in Anhang III aufgeführten Hochrisiko-KI Systems registrieren sich Nutzer von Hochrisiko-KI Systemen, die Behörden, Einrichtungen oder sonstige Stellen sind, oder in ihrem Namen handelnde Einrichtungen in der in Artikel 60 genannten EU-Datenbank und wählen das System aus, dessen Verwendung sie planen. Die in Unterabsatz 1 festgelegten Pflichten gelten weder für Behörden, Einrichtungen oder sonstige Stellen in den Bereichen Strafverfolgung, Grenzschutz, Einwanderung oder Asyl noch für Behörden, Einrichtungen oder sonstige Stellen, die die in Anhang III Nummer 2 genannten Hochrisiko-KI Systeme verwenden, noch für in ihrem Namen handelnde Einrichtungen.“ 23. Wer stellt nach Einschätzung der Bundesregierung den kausalen Zusammenhang zwischen einem KI-System und einem schwerwiegenden Vorfall fest, der vom Anbieter des Systems nach Artikel 62 KI-VO der Aufsichtsbehörde gemeldet werden muss, und wie, und ist es nach Einschätzung der Bundesregierung ausreichend, wenn die EU-Kommission dazugehörende Leitlinien ein Jahr nach Inkrafttreten der KI-VO erlässt? Eine solche Einschätzung kann nach Auffassung der Bundesregierung erst abschließend getroffen werden, wenn der ausverhandelte Text vorliegt. Etwaigen Leitlinien greift die Bundesregierung nicht vor. Die Bundesregierung verweist darauf, dass in der KI-Verordnung nach dem Inkrafttreten ein Übergangszeitraum bis zum Geltungsbeginn des Rechtsakts vorgesehen sein soll. 24. Unterstützt die Bundesregierung den Ansatz, dass Hochrisikosysteme, die vor dem Anwendungsbeginn der KI-VO in Betrieb genommen wurden, von der KI-VO ausgenommen sind, und was sind in diesem Kontext „erhebliche Änderungen“? Die Bundesregierung unterstützt diesen Ansatz von Artikel 83 Absatz 2 der KI- Verordnung in der Fassung der Allgemeinen Ausrichtung. Bei den „erheblichen Änderungen“ handelt es sich um einen auch in anderen EU-Rechtsakten verwendeten und hinreichend bestimmbaren Rechtsbegriff, der eine sachgerechte Abgrenzung im Einzelfall ermöglicht und erforderlichenfalls in der Praxis durch Gerichte weiter konkretisiert werden wird. 25. Welchen Zeitraum hält die Bundesregierung für angemessen, für den die Konformitätsbescheinigungen gelten, die von notifizierten Stellen gemäß Anhang VII ausgestellt werden, angesichts der schnellen technischen Entwicklungszyklen von KI und vielfacher unbekannter gesellschaftlicher Auswirkungen? Es wird davon ausgegangen, dass die Konformitäts-Bescheinigungen nach Anhang VII gemeint sind. Hinsichtlich der Geltungsdauer von Konformitäts- Bescheinigungen weist die Bundesregierung auf Artikel 44 Absatz 2 der KI- Verordnung in der Fassung der Allgemeinen Ausrichtung hin. Die Bundesregierung verweist auch vor dem Hintergrund der mit der Frage adressierten schnellen technischen Entwicklungen auf die eingeräumten Flexibilitäten der Fristen hin und auf die Möglichkeiten nach Artikel 44 Absatz 3 der KI-Verordnung in der Fassung der Allgemeinen Ausrichtung (Aussetzung, Einschränkung und Widerruf der Bescheinigung). 26. Welche nationalen Behörden kommen nach Ansicht der Bundesregierung infrage, um die Anwendung und Umsetzung der KI-VO in Deutschland zu beaufsichtigen? Über die Frage der Durchführung der KI-Verordnung durch die nationalen Behörden kann erst nach abgeschlossener Verhandlung der KI-Verordnung abschließend entschieden werden. Die Prüfung der Bundesregierung hinsichtlich der Durchführung dauert an.  a) Unterstützt die Bundesregierung, dass die meisten Hochrisikosysteme erst nach dem Inverkehrbringen oder der Inbetriebnahme von externen Aufsichtsbehörden in Bezug auf ihre Konformität und ihr Risiko für Grundrechte kontrolliert werden können?  b) Wenn nein, welche anderen Zulassungs- oder Auditverfahren strebt die Bundesregierung an?  c) Sind die in der KI-VO hierfür vorgesehenen Öffnungsklauseln dafür geeignet, dass die Bundesregierung eigene Zulassungs- oder Auditverfahren für Hochrisikoanwendungen einsetzt, und wenn ja, welche Öffnungsklauseln sind das? Der neue Rechtsrahmen (NLF) und das europäische System der Marktüberwachung sind aus Sicht der Bundesregierung grundsätzlich ein bewährtes Verfahren. Die Bundesregierung sieht gegenwärtig keinen Grund, im Fall der KI- Verordnung einen vom üblichen NLF und der europäischen Marktüberwachung abweichenden Ansatz zu wählen. Zum Beispiel. sind Freiwillige Zertifizierungen auch bei Inkrafttreten der KI-Verordnung weiterhin möglich.  d) Unterstützt die Bundesregierung den Ansatz, dass eine Aufsichtsbehörde im Rahmen von Tests unter realen Bedingungen Lockerungen bei der Begrenzung des Zeitrahmens und des Schutzes vulnerabler Gruppen erlauben kann (bitte ausführlich begründen)? Die Allgemeine Ausrichtung sieht vor, dass Personen, die aufgrund ihres Alters oder einer körperlichen oder geistigen Behinderung einer schutzwürdigen Gruppe angehören, angemessen geschützt sind (Artikel 54a Absatz 4g).  e) Auf welchen Zeitraum sollten nach Ansicht der Bundesregierung sowohl Reallabore als auch Tests unter realen Bedingungen zeitlich befristet werden? Die Bundesregierung verweist darauf, dass eine pauschale Festlegung eines Zeitraums schwierig ist und auch Komplexität und Umfang des Projekts eine Rolle spielen, so dass auch das jeweilige Projekt zu berücksichtigen ist. Für Tests unter realen Bedingungen sieht die Fassung der Allgemeinen Ausrichtung der KI-Verordnung einen Zeitraum von zwölf Monaten vor (Artikel 54a Absatz 4f). 27. Wie wird die Bundesregierung die Anwendungen von KI in dem Zeitraum regeln, in dem die KI-VO noch nicht in Kraft getreten ist? Es bestehen bereits heute zahlreiche horizontale und sektorale Gesetze, denen die Anwendung von KI unterfällt, wie beispielsweise der DSGVO und dem Urheberrecht. Ob weitere nationale Vorschriften oder z. B. Vereinbarungen erforderlich sein werden bzw. anzustreben sind, kann erst nach Abschluss der Verhandlungen beurteilt werden. 28. Auf welcher Rechtsgrundlage sind gegen wen Ansprüche geltend zu machen, wenn generative KI Ergebnisse produziert, die Schutzgüter oder berechtigte Interessen natürlicher Personen tangieren? Dies hängt davon ab, um welche Schutzverletzung es konkret geht. Bei Datenschutzverletzungen richtet sich dies beispielsweise nach der DSGVO. Gegen eine unrechtmäßige Verwendung ihrer urheberrechtlich geschützten Inhalte können z. B. Rechteinhaber gegen den Verletzer nach den allgemeinen urheberrechtlichen Regelungen Unterlassungs- und – im Falle vorsätzlichen oder fahrlässigen Handelns – Schadensersatzansprüche geltend machen, § 97 des Urheberrechtgesetzes. Je nach tangiertem Schutzgut kommen weitere Ansprüche in Betracht, z. B. bei Verletzungen des Allgemeinen Persönlichkeitsrechts unter anderem Ansprüche auf Unterlassung und Schadensersatz. 29. Unterstützt die Bundesregierung, dass eine Veröffentlichung einer Open- Source-Software oder eines Open-Source-Systems in einem offenen Repositorium kein Inverkehrbringen nach der KI-VO ist, und wenn ja, worin liegt nach Ansicht der Bundesregierung der Unterschied? Die Bundesregierung hat die Allgemeine Ausrichtung unterstützt, die für die KI-Verordnung keine gesonderten Regelungen für Open Source vorsieht. Ferner sind nach dem Verständnis der Bundesregierung nach dem Vorschlag des Europäischen Parlaments – mit Ausnahme von Hochrisiko-KI-Systemen und Basismodellen – Open Source Systeme bereits vom Anwendungsbereich der Verordnung nicht umfasst. Die Bundesregierung behält sich eine weitere Prüfung und Position zum Vorschlag des Europäischen Parlaments und der dem Vorschlag zu Grunde liegenden Erwägungen vor, auch dauern die Verhandlungen an. 30. Unterstützt die Bundesregierung den Ansatz, dass Basismodelle (Foundation-Modelle) als Hochrisikosysteme im Sinne der KI-VO gelten sollten, und wenn nein, warum nicht (bitte ausführlich begründen)? Die Bundesregierung geht derzeit nicht davon aus, dass die sogenannten Basismodelle als Hochrisiko-Systeme im Sinne der KI-Verordnung anzusehen sind. Dafür fehlt es ihnen selbst gerade an einem konkreten Verwendungszweck, der nach dem risikobasierten Ansatz der KI-Verordnung zur Aufnahme in den Katalog der Hochrisiko-Anwendungen führen könnte. Den Risiken, die sich aus der Verfügbarkeit dieser Basismodelle ergeben können, begegnet die Allgemeine Ausrichtung durch die Regulierung sogenannter „KI-Systeme mit allgemeinem Verwendungszweck“. Die Diskussion über den am besten geeigneten Regelungsansatz für diese Problematik bewegt sich größtenteils – aber nicht ausschließlich – zwischen dem Ansatz der Allgemeinen Ausrichtung und dem vom Europäischen Parlament vorgeschlagenen Konzept der Bezugnahme auf Basismodelle und ist wesentlicher Gegenstand der Trilogverhandlungen. Es wird in diesem Zusammenhang auch auf die Antwort zu Frage b verwiesen. Die Bundesregierung hat im Übrigen in ihrer Protokollerklärung auf weiteres Verbesserungspotenzial hingewiesen. Die Prüfung der Bundesregierung dauert an. 31. Hält die Bundesregierung das Recht auf eine menschliche Entscheidungsprüfung durch die Kombination der Regelungen aus Artikel 22 der Datenschutz-Grundverordnung (DSGVO) und Artikel 68 KI-VO (unter Einbeziehung der Änderungsanträge des EU-Parlaments) für eingeräumt sowohl für teil- als auch für vollständig automatisierte Entscheidungen, und wenn nein, in welcher der beiden genannten Verordnungen sollte die Lücke für das Recht auf eine menschliche Entscheidungsprüfung in teilautomatisierten Verfahren geschlossen werden (wenn die Bundesregierung diesen Lückenschluss nicht für nötig hält, bitte begründen)? Die Bundesregierung sieht an dieser Stelle keine Regelungslücke. Artikel 22 Absatz 1 DSGVO räumt einer betroffenen Person das grundsätzliche Recht ein, nicht einer ausschließlich auf automatisierten Verarbeitungen beruhenden Entscheidung unterworfen zu werden. Eine ausschließlich auf automatisierten Verarbeitungen beruhende Entscheidung liegt auch vor, wenn diese Verarbeitung sogenannte „Künstliche Intelligenz“ einsetzt. Artikel 22 Absatz 1 DSGVO ist insoweit technologieneutral formuliert, so dass keine Schutzlücke ersichtlich ist. Ist eine ausschließlich automatisierte Verarbeitung unter den Voraussetzungen des Artikels 22 Absatz 2 DSGVO erlaubt, muss der Verantwortliche angemessene Maßnahmen zum Schutz der Rechte der betroffenen Person ergreifen, wozu mindestens das Recht auf Erwirkung des Eingreifens einer Person gehört (Artikel 22 Absatz 3 DSGVO). Soweit in teilautomatisierten Verfahren lediglich Verfahren zur Entscheidungsvorbereitung eingesetzt werden, liegt die abschließende Entscheidung bei einem Menschen. Dieses Schutzniveau wird durch die KI-Verordnung selbstständig ergänzt. Davon unabhängig sind Fragen der Transparenz und der nachträglichen Überprüfung von Teil- und vollständig automatisierten Entscheidungen. Die Einzelheiten der Prüfung innerhalb der Bundesregierung zu den Änderungsanträgen des Europäischen Parlaments dauern an. 32. In welchen offenen oder geschlossenen Multistakeholder-Gremien zur Internet Governance beschäftigt sich die Bundesregierung mit Standardisierungsfragen (breit interpretiert) rund um Künstliche Intelligenz (bitte nach Abteilung, Ressort und jeweiligem Internet-Governance-Gremium aufschlüsseln)? Die Bundesregierung verfolgt regelmäßig die Diskussionen in den einschlägigen Multistakeholder-Gremien zur Internet Governance (siehe die Antwort der Bundesregierung auf die Schriftliche Frage 23 der Abgeordneten Anke Domscheit-Berg (DIE LINKE.) auf Bundestagsdrucksache 20/104). Beispielsweise bringt sich die Bundesregierung beim jährlich stattfindenden Internet Governance Forum (IGF) der Vereinten Nationen ein, das in diesem Jahr seinen Fokus u. a. auf KI-Governance legen wird. Das IGF ist jedoch ausschließlich eine Multistakeholder-Diskussionsplattform und erarbeitet selbst keine Standards. 33. Beteiligen sich Angehörige der deutschen Sicherheitsbehörden (breit interpretiert) an der Arbeit der in Frage 32 erwähnten Gremien bzw. sind sie daran indirekt beteiligt? Es wird davon ausgegangen, dass sich die Frage auf die in Frage 32 genannten Gremien bezieht und sich Sicherheitsbehörden (breit interpretiert) an Gremien im Sinne der Fragestellung beteiligen. 34. Hält die Bundesregierung die von der Europäischen Kommission, der US-Regierung und von großen Technologieunternehmen geplante freiwillige Selbstverpflichtung „AI Pact“ für geeignet, um KI im Zeitraum bis zum Inkrafttreten der KI-VO zu regeln, und wie steht die Bundesregierung dazu, dass bei der Verhandlung des „AI Pact“ weder eine demokratische Mitbestimmung durch das Europäische Parlament noch eine Partizipation von Organisationen der Zivilgesellschaft vorgesehen ist? Die Selbstverpflichtung im Rahmen des „AI Pact“ stellt keine gesetzliche Regelung dar. Da es sich um eine Selbstverpflichtung handelt, ist keine Beteiligung erforderlich. Sie kann aus Sicht der Bundesregierung aber einen Beitrag zu einer schnelleren Erreichung der mit der KI-Verordnung verfolgten Ziele erbringen und zudem die Umsetzung zum Beginn der Anwendbarkeit der KI- Verordnung erleichtern. Gesamtherstellung: H. Heenemann GmbH & Co. KG, Buch- und Offsetdruckerei, Bessemerstraße 83–91, 12103 Berlin, www.heenemann-druck.de Vertrieb: Bundesanzeiger Verlag GmbH, Postfach 10 05 34, 50445 Köln, Telefon (02 21) 97 66 83 40, Fax (02 21) 97 66 83 44, www.bundesanzeiger-verlag.de ISSN 0722-8333