Zum möglichen Einsatz von KI-Drohnen aus deutscher Ko-Produktion in der Ukraine
der Abgeordneten Barbara Benkstein, Eugen Schmidt, Edgar Naujok, Steffen Janich und der Fraktion der AfD
Vorbemerkung
Die Bundesregierung plant offenbar die Lieferung KI-gesteuerter (KI = Künstliche Intelligenz) Drohnen aus deutscher Ko-Produktion an die Ukraine zur Unterstützung des Landes im laufenden Krieg mit Russland. Diese Drohne, entwickelt vom deutschen, 2021 gegründeten Unternehmen Helsing und einem nicht näher benannten ukrainischen Partner, soll nicht über Funk oder über GPS gesteuert werden, sondern stattdessen über eine Software alle notwendigen Informationen erhalten, die einen Kontakt zu einem menschlichen Operateur unnötig machen; überdies ist die Drohne auf diese Weise auch nicht mehr durch Störsender anfällig (vgl. www.nzz.ch/international/ukraine-erhaelt-deutsche-strike-drohnen-veraendert-ki-einsatz-das-kampfgeschehen-ld.1857942).
Das beteiligte Unternehmen Helsing beschreibt sich als Software-Unternehmen, das seinen Fokus auf die Entwicklung fortschrittlicher Software-Architektur und KI-Algorithmen, „die unsere Demokratie schützen“, lege; diesbezüglich arbeite man eng mit Streitkräften, Ministerien und Partnern aus der Industrie zusammen (vgl. helsing.ai/de/company). Die Bundesregierung hat die Lieferung von 4 000 dieser KI-gesteuerten Drohnen an die Ukraine bestätigt, mit der Auslieferung der Waffen werde „jetzt“ begonnen (vgl. www.dbwv.de/ticker-zurueck-zur-startseite/ukraine-bekommt-von-deutschland-4000-ki-gesteuerte-drohnen). Die genannten Waffen werden auf der Liste der gelieferten Unterstützungsleistungen Deutschlands an die Ukraine als „bewaffnete Drohnen“ beschrieben (vgl. www.bundeswehr.de/de/aktuelles/meldungen/militaerische-unterstuetzungsleistungen-ukraine). Seitens der Bundeswehr werden Drohnen im Ukraine-Krieg eine „überragende Bedeutung“ zugeschrieben, sowohl für die Aufklärung als auch als Ersatz für die Artillerie; generell könne man ihre Bedeutung kaum überschätzen (vgl. www.bmvg.de/de/aktuelles/drohnen-ukrainedeutschland-lettland-ergreifen-initiative-5853846).
Das Besondere der in Rede stehenden KI-Drohnen ist dem Vernehmen nach ihr quasi autonomes Agieren; einmal in der Luft, sucht sie sich ihre Ziele selbst. Ihre Software enthält Daten zu Panzern, Fahrzeugen, Geschützen und Kommandoständen; über Kameras und Sensoren registriert die Drohne Informationen im Gelände und gleicht diese mit ihrem gespeicherten Datenbestand ab. Sowie die KI-gesteuerte Drohne aufgrund des Datenabgleichs ein militärisches Ziel identifiziert, stürzt sie sich ohne weiteren Befehl darauf und bringt im Aufprall eine Sprengladung zur Explosion (vgl. www.nzz.ch/international/ukraineerhaelt-deutsche-strike-drohnen-veraendert-ki-einsatz-das-kampfgeschehen-ld.1857942).
Wir fragen die Bundesregierung:
Fragen21
Werden nach Kenntnis der Bundesregierung KI-Algorithmen des Unternehmens Helsing auch in anderen zivilen und militärischen Zusammenhängen als dem Krieg in der Ukraine, die die Bundesrepublik Deutschland betreffen, eingesetzt, wenn ja, wo, seit wann, und mit welchen Erfahrungen (siehe Vorbemerkung der Fragesteller; bitte ausführen)?
Hat die Bundesrepublik Deutschland bereits Erfahrungen sammeln können mit KI-gesteuerten Drohnen im Sinne der Beschreibung in der Vorbemerkung der Fragesteller, wenn ja, wo, in welchen Zusammenhängen wurden diese Erfahrungen gemacht, und welche Schlussfolgerungen wurden daraus gezogen (siehe Vorbemerkung der Fragesteller; bitte ausführen)?
Ist die Bundesrepublik Deutschland finanziell am genannten KI-Unternehmen Helsing beteiligt, wenn ja, seit wann, und in welcher Höhe (siehe Vorbemerkung der Fragesteller; bitte ausführen)?
Aufgrund welcher Kriterien wurde das Unternehmen Helsing mit der Ko-Produktion der in Rede stehenden KI-Drohnen betraut, und gab es vorab eine Ausschreibung (siehe Vorbemerkung der Fragesteller; bitte ausführen)?
Kann die Bundesregierung Angaben sowohl zum Eigengewicht der in Rede stehenden KI-Drohnen als auch zum zulässigen Höchstgewicht an Zuladungen machen (siehe Vorbemerkung der Fragesteller; bitte ausführen)?
Werden nach Kenntnis der Bundesregierung die im konkreten Einsatz der KI-Drohnen gewonnenen Daten gesammelt, gespeichert und analysiert sowie zur Aktualisierung der Software genutzt (siehe Vorbemerkung der Fragesteller; bitte ausführen)?
Sind die genannten KI-Drohnen nach Kenntnis der Bundesregierung ab Werk einsatzbereit oder bedarf es für ihren Einsatz im Kriegsgebiet noch einer Einweisung, wenn eine Einweisung nötig ist, wo, und durch wen wird diese vorgenommen?
Anhand welcher und wie beschaffter digitaler Daten wurde die Software im Inneren der genannten KI-Drohnen nach Kenntnis der Bundesregierung trainiert, und wie viel Zeit wurde nach Kenntnis der Bundesregierung für das Design und das Training der Algorithmen aufgewendet (siehe Vorbemerkung der Fragesteller; bitte ausführen)?
Wo stehen nach Wissen der Bundesregierung die Server, auf denen die Daten zur Einsatzplanung und Einsatzauswertung der genannten KI-Drohnen gespeichert sind, und welche Firma betreibt diese Server?
Sind die genannten KI-Drohnen nach Erkenntnis der Bundesregierung imstande, im konkreten Einsatz zwischen mehreren infrage kommenden Zielen eine Priorisierung und damit Auswahl zu treffen, und wenn ja, anhand welcher Kriterien wird diese Priorisierung getroffen (bitte ausführen)?
Sind der Bundesregierung Berichte über Unfälle dieser KI-gesteuerten Drohnen bekannt, die die Gesundheit und das Leben Unbeteiligter gefährdet haben, und wenn ja, welche Konsequenzen wurden daraus gezogen?
Kann die Bundesregierung ausschließen, dass durch die KI-gesteuerten Drohnen versehentlich zivile Ziele getroffen werden, etwa aufgrund unvollständiger Informationen über das Einsatzgebiet oder wegen mangelhafter Interpretation dieser Informationen (siehe Vorbemerkung der Fragesteller; bitte ausführen)?
Ab welchem Datum rechnet die Bundesregierung mit dem Beginn des Einsatzes der genannten KI-Drohnen im Ukraine-Krieg, und ist die Bundesregierung an der Entscheidung über den Beginn und den Ort ihrer Einsätze beteiligt (siehe Vorbemerkung der Fragesteller; bitte ausführen)?
Wo genau werden nach den Erkenntnissen der Bundesregierung diese KI-Drohnen zum Einsatz kommen – zur Verteidigung des Hinterlandes der Ukraine, im unmittelbaren Frontgebiet, auf russischem Territorium (siehe Vorbemerkung der Fragesteller; bitte ausführen)?
Ist die Bundesregierung beziehungsweise eine ihr nachgeordnete Behörde an der Programmierung der KI-Software der genannten Drohnen beteiligt, und wenn ja, worin genau besteht diese Beteiligung (siehe Vorbemerkung der Fragesteller; bitte ausführen)?
Wie viel kosten die erwähnten 4 000 KI-Drohnen den Bund (vgl. Vorbemerkung der Fragesteller), und aus welchem Posten des laufenden Haushalts 2024 beziehungsweise des sich derzeit in der Schwebe befindlichen Haushaltsentwurfs für 2025 werden die KI-Drohnen bezahlt beziehungsweise sollen sie bezahlt werden?
Beabsichtigt die Bundesregierung, die genannten KI-Drohnen beziehungsweise vergleichbare Waffensysteme auch für die Bundeswehr anzuschaffen, wenn ja, zu welchem Zeitpunkt, und in welcher Menge?
Ist es nach Wissen der Bundesregierung möglich, einen einmal begonnenen Einsatz einer oben genannten KI-Drohne vor dem Erreichen des Ziels abzubrechen, und wenn ja, geschieht dies durch einen menschlichen Entscheider oder ist ein solcher potentieller Abbruch des Einsatzes Teil des Programmcodes der KI-Drohne?
Ist die Bundesregierung der Auffassung, dass Deutschland mit der Auslieferung der genannten KI-Drohnen an die Ukraine zur Kriegspartei wird beziehungsweise zu werden droht (siehe Vorbemerkung der Fragesteller; bitte begründen)?
Welche Instanz steht nach Kenntnis der Bundesregierung in der Haftung für den Fall, dass die genannten KI-Drohnen ihr definiertes militärisches Ziel verfehlen und stattdessen eine zivile Einrichtung wie ein Krankenhaus, eine Schule oder ein Wohnhaus treffen, ist es die Bundesregierung, das KI-Unternehmen, das ukrainische Militär oder ein anderer Akteur (bitte benennen)?
Ist die Bundesregierung der Auffassung, bei den genannten KI-Drohnen aus deutscher Ko-Produktion handele es sich um sog. Lethal Autonomous Weapon Systems (LAWS), für deren Ächtung sich die Bundesregierung auf internationaler Ebene einsetzt (vgl. www.auswaertiges-amt.de/en/aussenpolitik/themen/-/218382; bitte ausführen)?