Zum Textgenerator ChatGPT des Unternehmens Open AI
der Abgeordneten Barbara Lenk, Eugen Schmidt, Edgar Naujok, Beatrix von Storch und der Fraktion der AfD
Vorbemerkung
Am 30. November 2022 hat das US-Start-up Open AI den auf Künstlicher Intelligenz (KI) beruhenden Textgenerator ChatGPT vorgestellt (https://chat.openai.com/auth/login). Die Entwickler charakterisieren den Bot folgendermaßen: „Wir haben ein Modell namens ChatGPT trainiert, das auf eine dialogische Weise interagiert. Das Dialogformat ermöglicht es ChatGPT, Folgefragen zu beantworten, Fehler zuzugeben, falsche Prämissen in Frage zu stellen und unangemessene Anfragen zurückzuweisen. ChatGPT ist ein Geschwistermodell von InstructGPT, das darauf trainiert ist, einer Anweisung in einer Eingabeaufforderung zu folgen und eine detaillierte Antwort zu geben“ (ebd., übersetzt mit https://deepl.com).
Die Fragesteller haben die frei zugängliche Forschungsversion von ChatGPT getestet (https://chat.openai.com/chat). Der Bot verwendet eine sachlichhöfliche Sprache, interagiert orthografisch, grammatikalisch und syntaktisch einwandfrei und wechselt auf Wunsch während der Konversation vom Deutschen ins Französische. Regelmäßig weist er darauf hin, ein KI-Modell zu sein, über keinerlei Gefühle und Absichten zu verfügen und als Hilfestellung des Nutzers in Wissensfragen gedacht zu sein. Auf den ersten Blick ist nicht ersichtlich, dass die generierten Antworten nicht von einem Menschen, sondern von einem Algorithmus kommen. Fragen nach jüngeren Ereignissen, etwa zum Literaturnobelpreis für Annie Ernaux oder zum Tod Benedikts XVI., bringen den Bot jedoch an seine Grenzen: Sein digitalisiertes Wissen reicht bis zum September 2021, er verfügt gegenwärtig über keinen Zugang zum Internet, um seine Datenbank à jour zu halten (digitale Antworten des ChatGPT auf Fragen der Fragesteller).
Die Software hat nach Auskunft der Firmenleitung binnen weniger Tage 1 Million Nutzer erreicht. Open AI wurde 2015 gegründet mit dem Anspruch, KI-Lösungen zu entwickeln, die einen „Nutzen für die Menschheit“ stiften und dabei mögliche Schäden vermeiden. Seit 2019 arbeitet das Unternehmen gewinnorientiert, im selben Jahr stieg der Konzern Microsoft als Investor ein. Gegenwärtig befindet sich Open AI in Verhandlungen über eine weitere milliardenschwere Beteiligung von Microsoft (Microsoft greift nach Open AI, in: Frankfurter Allgemeine Zeitung, 11. Januar 2023, S. 22).
Während einer kürzlich erfolgten Reise in die USA hat der Bundesminister für Digitales und Verkehr, Dr. Volker Wissing, auch mit Repräsentanten des Startups Open AI gesprochen. Er lehnt einem Pressebericht zufolge eine strenge Regulierung künstlicher Intelligenz ab und plädiert im Umgang mit KI-Lösungen für Transparenz und Zertifizierungen (https://www.zeit.de/politik/2023-01/digitalminister-volker-wissing-kuenstliche-intelligenz-chatgpt).
Wir fragen die Bundesregierung:
Fragen12
Hat die Bundesregierung oder eine ihr nachgeordnete Behörde Kenntnis über den Bot ChatGPT (siehe Vorbemerkung der Fragesteller) und hat diesen eventuell bereits getestet, und wenn ja, sieht die Bundesregierung Potenziale und oder mögliche Risiken des Bots ChatGPT (bitte ausführen, wo sie diese ggf. sieht)?
Wenn Frage 1 bejaht wurde, sieht die Bundesregierung bestimmte Zusammenhänge technischer, wirtschaftlicher oder sozialer Natur, in denen mögliche Risiken der Nutzung des genannten Bots ChatGPT (siehe Vorbemerkung der Fragesteller) gegen seine Chancen überwiegen, und wenn ja, welche Zusammenhänge wären das (bitte ausführen)?
Hat sich die Bundesregierung bzgl. der geplanten Verordnung des Europäischen Parlaments und des Rates „Zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz (Gesetz über künstliche Intelligenz) und zur Änderung bestimmter Rechtsakte der Union“ (COM(2021) 206 final) eine Auffassung darüber zu eigen gemacht, ob sie diese dafür geeignet hält, auch den genannten Textgenerator ChatGPT (siehe Vorbemerkung der Fragesteller) einer Risikoklassifizierung zu unterziehen?
a) Wenn ja, hat sich die Bundesregierung bereits damit auseinandergesetzt, welche Risiken mit der Nutzung des Bots ChatGPT verbunden sein könnten?
b) Wenn ja, in welche Risikoklasse gemäß der genannten geplanten Verordnung (COM(2021) 206 final) wäre nach Auffassung der Bundesregierung der Bot ChatGPT einzuordnen?
c) Wenn nein, warum nicht?
Wie sollte darüber hinaus nach Auffassung der Bundesregierung die Regulierung einer emergenten Technologie wie der Künstlichen Intelligenz, zu der auch der Textgenerator ChatGPT zu zählen ist, aussehen (siehe Vorbemerkung der Fragesteller und unter https://www.zeit.de/politik/2023-01/digitalminister-volker-wissing-kuenstliche-intelligenz-chatgpt)?
Ist es für die Bundesregierung gegebenenfalls denkbar, den marktreifen Bot ChatGPT oder ein vergleichbares digitales Produkt zur Textgenerierung auf der Basis Künstlicher Intelligenz zum Dialog mit interessierten Bürgern auf den Webseiten der Bundesministerien und nachgeordneten Behörden einzusetzen, und wenn ja, warum (bitte ausführen)?
Setzt die Bundesregierung auf den eigenen Webseiten oder jenen nachgeordneter Behörden bereits automatisierte Textgeneratoren zur Kommunikation mit interessierten Bürgern ein, und wenn ja, sind diese als Bots gekennzeichnet (bitte ausführen, auch wie diese ggf. gekennzeichnet sind)?
Hat sich die Bundesregierung damit beschäftigt, welche technischen, pädagogischen, administrativen Maßnahmen sinnvoll, geboten und obendrein praktikabel wären, um dem unter Umständen wettbewerbsverzerrenden Einsatz des Bots ChatGPT und vergleichbarer Produkte etwa im schulischen oder universitären Kontext zu begegnen (wenn ja, bitte ausführen, welche Maßnahmen dies sind)?
Liegen der Bundesregierung Erkenntnisse zur Frage vor, ob es den Bürgern wichtig ist, zu wissen, ob ein journalistischer Text (etwa Nachrichten zum Wetter, zum Verkehr, zum Sport oder zur Börse) von einem KI-gestützten Algorithmus oder von einem Menschen verfasst werden (bitte ausführen)?
Welche Stelle respektive Organisation wäre nach Auffassung der Bundesregierung geeignet, einen Textgenerator wie ChatGPT zu prüfen und zu zertifizieren, um Vertrauen bei den Nutzern zu schaffen und zu erhalten? Anhand welcher Kriterien sollte nach Auffassung der Bundesregierung eine dargestellte Zertifizierung geschehen?
Kann die Bundesregierung angeben, ob mit den bisher gut 2,5 Mrd. Euro gebundener Fördermittel zur KI-Förderung im Rahmen der nationalen KI-Strategie (https://www.ki-strategie-deutschland.de/files/downloads/Foerdermittel_gesamt_7_2022.jpg) auch digitale Textgeneratoren gefördert wurden, und wenn ja, mit welchen Ergebnissen?
Kann die Bundesregierung Angaben zu den Ergebnissen des Gesprächs zwischen Bundesminister Dr. Volker Wissing und dem Vorstandsvorsitzenden von Open AI, Sam Altman, über das „Teilen von Daten“ machen (bitte ausführen, siehe https://bmdv.bund.de/SharedDocs/DE/Artikel/K/dialog-in-den-usa.html)?
Kann die Bundesregierung Auskunft darüber geben, ob beim Gespräch zwischen Bundesminister Dr. Volker Wissing und dem Vorstandsvorsitzenden von Open AI, Sam Altman, auch die Trainingsdaten des Bots ChatGPT, ihr Umfang, ihre Herkunft, ihre Strukturierung und ihr Preis Thema waren (bitte ausführen, siehe https://bmdv.bund.de/SharedDocs/DE/Artikel/K/dialog-in-den-usa.html)?