Künstliche Intelligenz und deren Verantwortung

[Die Antwort wurde namens der Bundesregierung mit Schreiben des Bundesministeriums für Bildung und Forschung vom 26. Juli 2019 übermittelt. Die Drucksache enthält zusätzlich – in kleinerer Schrifttype – den Fragetext. Deutscher Bundestag Drucksache 19/12059 19. Wahlperiode 29.07.2019 Antwort der Bundesregierung auf die Kleine Anfrage der Abgeordneten Joana Cotar, Uwe Schulz, Dr. Michael Espendiller, weiterer Abgeordneter und der Fraktion der AfD – Drucksache 19/11406 – Künstliche Intelligenz und deren Verantwortung V o r b e m e r k u n g d e r F r a g e s t e l l e r Maschinen mit kognitiven Funktionen, ähnlich dem Menschen, die mit Wahrnehmung, Lernen, Erinnern und Denken, also der Erkenntnis- und Informationsverarbeitung in Zusammenhang stehen, können Daten analysieren und interpretieren. Aufgrund der Analyse und Interpretation kann die Maschine eigenständig Probleme lösen. Diese Interpretation der künstlichen Intelligenz (KI) ist allgemein bekannt. Nach Ansicht der Fragesteller kann KI ohne Zweifel enorme Fortschritte in den Bereichen Verkehr, Bildung, Industrie, Medizin bis hin zu juristischen Recherchebereichen erbringen. Damit allerdings die KI ihre kognitiven Funktionen ausüben kann, braucht die Maschine enorme Mengen an Daten (www.computerweekly.com/de/definition/Kuenstliche-Intelligenz-KI). Im Jahr 2017 wurde der Roboter Sophia zum Staatsbürger Saudi-Arabiens ernannt. Sophia hat inzwischen, laut Medienberichten, auch die deutsche Bundeskanzlerin getroffen. Die künstliche Intelligenz erhält somit einen Status, der sonst nur Menschen vorbehalten war. Der humanoide Roboter mit Gummimaske, mit menschenähnlichem Gesicht, kann einfache Zusammenhänge selbst lernen und soll sehr schlagfertig sein (www.boell.de/de/2019/01/18/ kuenstlicheintelligenz-wer-traegt-die-verantwortung). Die Fragen, die damit einhergehen, z. B. in welchem Eigentum die Daten stehen, ob Daten überhaupt eigentumsfähig sind oder wer die Verantwortung für die KI-Systeme und deren Handlungen trägt, sind nur einige, die einer Klärung in diesem Zusammenhang bedürfen. Die Rechtssicherheit für Nutzer, Industrie, Wirtschaft und für die Gesellschaft scheint aus Sicht der Fragesteller momentan nicht gewährleistet. Auch in Europa überlegt man offenbar, KI-Systemen wie Sophia eine eigene Persönlichkeit zu geben. Eine Resolution des europäischen Parlaments (www. europarl.europa.eu/doceo/document/A-8-2017-0005_EN.html?redirect) schlägt auf lange Sicht die Schaffung eines spezifischen rechtlichen Status für autonome Roboter vor, damit diese als elektronische Personen eingestuft werden können und folglich für Schäden verantwortlich sind, die sie verursachen. Die mögliche Anwendung der elektronischen Persönlichkeit soll erfolgen, wenn autonome Roboter selbständig Entscheidungen treffen oder auf andere Weise unabhängig mit Dritten interagieren. Die KI-Strategie der Bundesregierung beschäftigt sich demgegenüber nicht mit Fragen von Schadensverursachung und daraus entstehender Verantwortung oder Haftung. 1. Warum wurden die Fragen der Verantwortlichkeit und etwaiger Schadenshaftung in der KI-Strategie der Bundesregierung ausgeklammert? Fragen im Zusammenhang mit der Verantwortlichkeit und Haftung in den Bereichen Künstliche Intelligenz (KI), Robotik und automatisierte/autonome Systeme werden sowohl national, auf europäischer Ebene als auch international breit diskutiert. Die Bundesregierung beteiligt sich intensiv an diesen Überlegungen, zumal die KI-Strategie der Bundesregierung eine Überprüfung des Ordnungsrahmens auf Lücken bei Algorithmen- und KI-basierten Entscheidungen, Dienstleistungen und Produkten vorsieht. 2. In welcher Form hat sich die Bundesregierung mit den ethischen Problemen, die der Einsatz von KI-Systemen mit sich bringen kann, bisher auseinandergesetzt, und welche Erkenntnisse wurden daraus bislang gezogen? 3. Mit welchen konkreten Problemen hat sich die Bundesregierung im Zusammenhang mit dem Einsatz von KI-Systemen auseinandergesetzt, und welche Erkenntnisse wurden daraus bislang gezogen? Die Fragen 2 und 3 werden im Zusammenhang beantwortet. Die Bundesregierung hat im Herbst 2018 eine Datenethikkommission (DEK) eingesetzt, die binnen eines Jahres ethische Maßstäbe entwickeln sowie konkrete Regulierungsoptionen in den Bereichen Umgang mit Daten, Algorithmen- basierte Entscheidungen und KI vorschlagen soll. Die Leitfragen der Bundesregierung an die Datenethikkommission können auf der Homepage des Bundesministeriums für Justiz und Verbraucherschutz (BMJV) abgerufen werden. Die Datenethikkommission wird ihre Ergebnisse voraussichtlich am 23. Oktober 2019 der Bundesregierung vorstellen. Auf europäischer und internationaler Ebene laufen verschiedene Prozesse (z. B. Gruppe der Mitgliedstaaten für die KI und die Digitalisierung der europäischen Industrie, OECD, G20, G7). Diese Prozesse, in die sich die Bundesregierung aktiv einbringt, befassen sich auch und insbesondere mit den Fragen der Transparenz und Überprüfbarkeit algorithmischer Entscheidungssysteme, der potentiellen Erklärbarkeit von KI-Systemen, dem Umgang mit Diskriminierungen, etwa durch unausgewogene Trainingsdaten, und den Fragen nach Kontrolle, Verantwortung und Haftung. Im Bereich automatisiertes und vernetztes Fahren hat die Bundesregierung auf der Grundlage des Berichts der Ethik-Kommission „Automatisiertes und Vernetztes Fahren“ einen Maßnahmenplan zur Schaffung von Ethikregeln für Fahrcomputer verabschiedet, welcher derzeit umgesetzt wird. Die Erkenntnisse aus diesem Prozess hat Deutschland auf EU-Ebene im Rahmen des Hochrangigen Strukturierten Dialogs im Bereich des automatisierten und vernetzten Fahrens (HLM) erfolgreich eingebracht. Darüber hinaus werden im Rahmen der KI-Strategie Auswirkungen des Einsatzes von KI auf die Gesellschaft, die Arbeitswelt, die künftige Ausbildung von Fachkräften, die Mobilität der Zukunft sowie die IT-Sicherheit und des Datenschutzes betrachtet. Die vom Bundesministerium für Bildung und Forschung (BMBF) geförderte Plattform Lernende Systeme bringt führende Expertinnen und Experten aus Wissenschaft, Wirtschaft, Politik und zivilgesellschaftlichen Organisationen aus den Bereichen Lernende Systeme und KI zusammen, um Innovationspotentiale Künstlicher Intelligenz, Fragen nach dem Verhältnis von Mensch und Maschine sowie ethische und rechtliche Implikationen zu erörtern. In den öffentlich zugänglichen Berichten und Whitepapern zeigen die Arbeitsgruppen der Plattform kontinuierlich wirtschaftliche und gesellschaftliche Entwicklungen auf, analysieren die künftig benötigten Kompetenzen und illustrieren über konkrete Anwendungsszenarien den Nutzen Lernender Systeme. 4. Welchen gesetzgeberischen Handlungsbedarf sieht die Bundesregierung als Folge der gewonnenen Erkenntnisse, und wann ist mit entsprechenden Gesetzesinitiativen und deren Umsetzung zu rechnen? Die Bundesregierung wird die Empfehlungen der Datenethikkommission in ihre Prüfung möglichen gesetzgeberischen Handlungsbedarfs miteinbeziehen. Im Rahmen ihrer Überlegungen werden auch die auf internationaler Ebene formulierten Prinzipien für die Entwicklung und Anwendung von Künstlicher Intelligenz einfließen. Im Übrigen wird auf die Antwort der Bundesregierung zu den Fragen 1 bis 4 der Kleinen Anfrage der Fraktion der FDP auf Bundestagsdrucksache 19/11351 verwiesen. 5. Teilt die Bundesregierung die Meinung der Fragesteller, dass der Vorschlag des europäischen Parlaments, in seiner Resolution Roboter als elektronische Personen einzustufen, die für Schäden, die sie verursachen verantwortlich sind, ein Risiko für die Rechtssicherheit in Deutschland darstellen kann? 6. Beabsichtigt die Bundesregierung, eine Einstufung von autonomen Robotern als elektronische Personen, welche für Schäden zur Verantwortung gezogen werden können, auch in Deutschland rechtlich umzusetzen? Die Fragen 5 und 6 werden im Zusammenhang beantwortet. Der Bundesregierung sind die Diskussionen auf politischer und rechtwissenschaftlicher Ebene um die Anerkennung, bzw. Schaffung einer eigenständigen elektronischen Person bekannt. Die Bundesregierung beabsichtigt derzeit keine Rechtsänderung im Hinblick auf die Schaffung oder Anerkennung einer „elektronischen Person“. 7. Teilt die Bundesregierung die Meinung der Fragesteller, dass mit einem vermehrten Einsatz von KI-Systemen auch die Notwendigkeit für einen verantwortlichen Umgang mit diesen Systemen durch private Nutzer, öffentliche Verwaltung, Wirtschaft und die Gesellschaft steigt? Wenn ja, wie begegnet die Bundesregierung dieser steigenden Notwendigkeit? In der KI-Strategie betont die Bundesregierung die Notwendigkeit eines verantwortungsvollen und gemeinwohlorientierten Einsatzes von KI. Die Strategie sieht vor, relevante Akteure – vom Entwickler bis zum Nutzer von KI-Technologie – für die ethischen und rechtlichen Grenzen der Nutzung Künstlicher Intelligenz im Rahmen eines breiten gesellschaftlichen Dialogs zu sensibilisieren. Die Plattform Lernende Systeme und das diesjährige Wissenschaftsjahr des BMBF leisten hier einen wichtigen Beitrag. Zudem befindet sich ein Deutsches KI-Observatorium im Aufbau, das die Auswirkungen von KI im Sinne einer Technikfolgenabschätzung beobachtet und analysiert. Fragen von Verantwortlichkeiten und Transparenz beim Einsatz von KI-Systemen sind auch Gegenstand der DEK. 8. Wie bewertet die Bundesregierung KI als zukunftsweisende Querschnittstechnologie für den deutschen Wirtschaftsstandort? Die wirtschaftlichen Potentiale von KI bewertet die Bundesregierung als sehr hoch, da KI-Systeme für nahezu alle Sektoren und Branchen Bedeutung haben und die Reichweite ihrer Anwendungsfelder kaum limitiert ist. Eine starke Förderung von KI in Deutschland ist wirtschaftlich vor allem für den Erhalt der Arbeitsproduktivität und Wettbewerbsfähigkeit wichtig. Da die deutsche Gesellschaft altert, werden zukünftig weniger Menschen arbeiten. Hier könnte KI helfen, die notwendigen Produktivitätsgewinne zu erreichen, um die Ziele für das Pro-Kopf-BIP für 2030 zu halten. Berechnungen einer vom Bundesministerium für Wirtschaft und Energie in Auftrag gegebenen Studie gehen von einem jährlichen KI-induzierten Wachstum allein im produzierenden Gewerbe in Deutschland von 0,69 Prozent aus. Hieraus folgend wird durch den Einsatz von KI-Technologien eine zusätzliche Bruttowertschöpfung von 31,8 Mrd. Euro im produzierenden Gewerbe in Deutschland bis 2023 erwartet. 9. Beabsichtigt die Bundesregierung, das laut KI-Strategie des Bundes bis 2025 vorgesehene Investitionsvolumen von 3 Mrd. Euro zu erhöhen? Die Bundesregierung geht, wie in der KI-Strategie dargelegt, davon aus, dass die Hebelwirkung ihres Engagements auf Wirtschaft, Wissenschaft und Länder mindestens zur Verdoppelung dieser Investitionen führen wird. 10. Wie hoch ist nach Kenntnis der Bundesregierung das derzeit anfallende Datenvolumen durch die Verwendung von KI-Systemen in der öffentlichen Verwaltung und der Gerichtsbarkeit? 11. Ist die Bundesregierung nach eigener Ansicht technisch vorbereitet für die Speicherung, Sicherung und Verarbeitung des künftig anfallenden Datenvolumens, das durch die Verwendung von KI-Systemen in der öffentlichen Verwaltung und der Gerichtsbarkeit auf absehbare Zeit entstehen wird? Wenn nein, warum nicht? 12. Wenn Frage 11 mit ja beantwortet wurde, wo und wie wird das derzeit anfallende Datenvolumen durch die Verwendung von KI-Systemen in der öffentlichen Verwaltung und der Gerichtsbarkeit gespeichert, gesichert und verarbeitet, und welche Maßnahmen der Bundesregierung sind erforderlich, um insbesondere die Datensicherheit in Zukunft zu gewährleisten? Die Fragen 10, 11 und 12 werden im Zusammenhang beantwortet. Im Rahmen der Dienstekonsolidierung der Bundesverwaltung finden derzeit Evaluationsmaßnahmen statt. Das durch den Einsatz von KI entstehende Datenvolumen ist noch nicht bekannt. Es ist jedoch nicht davon auszugehen, dass durch den Einsatz von KI-Systemen zwangsläufig erhebliche Datenmengen entstehen. Vielmehr sind bereits bestehende große Datenmengen eine Voraussetzung für das Trainieren von KI-Systemen. Zugleich können sie ein Anwendungsfall für den Einsatz von KI-Systemen sein, da dadurch große Mengen nicht strukturierter Daten nutzbar gemacht werden können. In beiden Fällen ist der Einsatz von KI-Technologien nicht ursächlich für die Erzeugung großer Datenmengen. Welche besonderen Maßnahmen im Sinne der Fragen 11 und 12 gegebenenfalls erforderlich sind, wird im Rahmen der Evaluationsmaßnahmen berücksichtigt. Im Geschäftsbereich des BMJV verwendet das Deutsche Patent- und Markenamt maschinelles Lernen für die Recherche in den umfangreichen, bereits vorhandenen Datenbeständen. Der Mehrbedarf für den Speicherplatz, der aus dieser Verwendung resultiert, wurde bei der Konzeptionierung dieser Recherche-Lösung bereits berücksichtigt. Die vom maschinellen Lernen zur Recherche erzeugten Daten haben denselben Schutzbedarf wie der Datenbestand, in dem recherchiert wird. Die Speicherung erfolgt auf denselben IT-Systemen (NAS-Filer), auf denen auch der andere Datenbestand aufbewahrt wird. Daher sind keine zusätzlichen Maßnahmen zur Sicherstellung der Datensicherheit erforderlich. Satz: Satzweiss.com Print, Web, Software GmbH, Mainzer Straße 116, 66121 Saarbrücken, www.satzweiss.com Druck: Printsystem GmbH, Schafwäsche 1-3, 71296 Heimsheim, www.printsystem.de Vertrieb: Bundesanzeiger Verlag GmbH, Postfach 10 05 34, 50445 Köln, Telefon (02 21) 97 66 83 40, Fax (02 21) 97 66 83 44, www.betrifft-gesetze.de ISSN 0722-8333]