Zur internationalen Ächtung autonomer Waffensysteme
der Abgeordneten Ali Al-Dailami, Żaklin Nastić, Dr. Sahra Wagenknecht, Sevim Dağdelen, Klaus Ernst, Andrej Hunko, Christian Leye, Amira Mohamed Ali, Jessica Tatti, Alexander Ulrich und der Gruppe BSW
Vorbemerkung
In der modernen Kriegsfuhrung hat der Einsatz von Künstlicher Intelligenz (KI) an enormer Bedeutung gewonnen. Seit langem werden etwa KI-gestützte unbewaffnete Drohnen in den Bereichen Überwachung und Aufklärung eingesetzt, doch sind seit geraumer Zeit auch (teil)autonome Waffensysteme von zentraler Bedeutung bei Angriffen auf Infrastruktur, Equipment oder Personen. Die Rolle des Menschen in diesen Prozessen nimmt kontinuierlich ab. Nach Auffassung der Fragesteller stellt dies eine äußerst besorgniserregende Entwicklung dar, weil die Hemmschwelle für den Einsatz tödlicher Gewalt immer weiter herabgesetzt wird. Auch in der öffentlichen Debatte werden die Entwicklungen rund um die Autonomisierung von Waffensystemen breit diskutiert.
Die Antwort der Bundesregierung auf die Kleine Anfrage „Ächtung internationaler Waffensysteme“ auf Bundestagsdrucksache 20/3631 weisen nach Ansicht der Fragestellenden teils erhebliche Lücken auf. So erklärte die Bundesregierung etwa, jene Passagen des aktuellen Koalitionsvertrags zwischen SPD, BÜNDNIS 90/DIE GRÜNEN und FDP, die autonome Waffensysteme betreffen, nicht zu kommentieren, weil es sich schließlich um kein offizielles Dokument der Bundesregierung handele. Die vorliegende Kleine Anfrage versucht nun, diese Lücken zu schließen.
In der Frage der Ablehnung von autonomen Waffensystemen (AWS) scheinen die Mehrheitsverhältnisse global betrachtet eindeutig. Die meisten Staaten dieser Welt unterstützen ein Verbot von AWS. Es sind in erster Linie die Länder des Globalen Nordens, welche die Verantwortung dafür tragen, dass bislang kein völkerrechtlich verbindliches Dokument zur Ächtung oder zumindest Regulierung autonomer Waffensysteme auf den Weg gebracht wurde. „Die Diskussionen über die Verabschiedung eines solchen Instruments wurden bisher von einer Minderheit militarisierter Staaten blockiert, die stark in die Entwicklung autonomer Waffen investieren“, formulierte es die Kampagne „Killer Roboter stoppen!“ (/www.killer-roboter-stoppen.de/2023/09/vote-against-the-machine-germany/) vor der Verabschiedung der Resolution A/RES/78/241 durch die Generalversammlung der Vereinten Nationen, mit der nach wie vor keine Ächtung oder Regulierung autonomer Waffensysteme erfolgt ist, sondern unter anderem der Generalsekretär der Vereinten Nationen (VN) aufgefordert wird, ein Meinungsbild der Mitgliedstaaten zu autonomen Waffensystemen zu erstellen (/www.un.org/depts/german/gv-78/ar78241.pdf).
Seitens der Bundesregierung wird nach Meinung der Fragesteller durch die Einführung von einschränkenden Formulierungen oder in der Praxis kaum anwendbaren Definitionen, ohne zugleich darzulegen, was diese auf der technischen Ebene konkret bedeuten, der weiteren Entwicklung hin zu einer Autonomisierung der Kriegsfuhrung Tür und Tor geöffnet. So ist es bei genauerem Blick nicht ersichtlich, wo bei konkreten Waffensystemen die jeweilige Unterscheidung zwischen voll- und teilautonomen Systemen liegen soll. Wann etwa ein Waffensystem „keinem Rahmen menschlicher Kontrolle“ mehr unterliegt, ist im Grunde eine philosophische Fragestellung, keine technische, weshalb derartige Formulierungen der dem Vernehmen nach auch von der Bundesregierung angestrebten Ächtung entsprechender Systeme eher schaden, statt ihr zu nützen. Mit der vorliegenden Kleinen Anfrage wollen die Fragesteller zur Aufklärung über KI-gestützte Waffensysteme beitragen und den Diskurs zu deren Ächtung voranbringen.
Wir fragen die Bundesregierung:
Fragen18
Wie definiert die Bundesregierung konkret die für die Kategorie „Vollautonome Waffensysteme“ (sogenannte letale autonome Waffensysteme/ LAWS) notwendige Bedingung, diese „unterliegen keinem Rahmen menschlicher Kontrolle“ (Vorbemerkung der Bundesregierung auf Bundestagsdrucksache 20/3631)?
a) Existieren bereits Waffensysteme, die insbesondere im Punkt der LAWS-Definition der Bundesregierung genügen, wenn ja, welche?
b) Fällt ein letales Waffensystem, bei dessen Einsatz sich die „menschliche Kontrolle“ darauf beschränkt, den Einsatz des Systems initiieren und abbrechen zu können (sogenannte „kill switch“-Funktion), in die Kategorie LAWS?
c) Wie genau findet nach Ansicht der Bundesregierung der Übergang von einem „Waffensystem mit autonomen Funktionen“ zu einem LAWS statt (bitte an konkreten technischen Voraussetzungen darlegen)?
Sind nach Kenntnisstand der Bundesregierung in bewaffneten Konflikten bereits autonome Waffensysteme bei Angriffen gegen Personen oder Sachen zum Einsatz gekommen, wenn ja, in welchem Konflikt, und wann?
Unterstützt die Bundesregierung die Ukraine mit Waffensystemen, die autonom Ziele erkennen bzw. erfassen und/oder bekämpfen können?
Wird sich die Bundesregierung für einen völkerrechtlich verbindlichen Abschluss zur Ächtung von autonomen Waffensystemen im Rahmen der Vereinten Nationen im Format des VN-Waffenübereinkommens (CCW) einsetzen?
Unterstützt die Bundesregierung den Vorstoß von VN-Generalsekretärs Antonio Guterres, bis zum Jahr 2026 ein internationales Verbot von AWS anzustreben (/www.un.org/sites/un2.un.org/files/our-common-agenda-policy-brief-new-agenda-for-peace-en.pdf#page=27), wenn ja, über welche konkreten Initiativen?
Sollte die CCW bis Ende 2024 zu keinem verbindlichen Ergebnis kommen, würde die Bundesregierung ein anderes Forum präferieren, um ein völkerrechtlich verbindliches Instrument bis 2026 zu erreichen, wenn ja, welches?
a) Werden aus Bundesmitteln gegenwärtig Forschungsprojekte finanziert, welche die Entwicklung von autonomen Waffensystemen in Bezug auf autonome Zielerkennung bzw. Zielerfassung und Zielbekämpfung ermöglichen (bitte nach Projekt und Förderungssumme aufschlüsseln)?
b) Wird sich die Bundesregierung dafür einsetzen, dass Forschungen diesbezüglich nicht mehr unterstützt werden?
Hat sich die Bundesregierung seit 2022 auf EU-Ebene im Rahmen der PESCO (Ständigen Strukturierten Zusammenarbeit) für ein Verbot von autonomen Waffensystemen eingesetzt, wenn ja, mit welchem Ergebnis?
Hat sich die Bundesregierung im Rahmen der PESCO für eine Regulierung teilautonomer Waffensysteme eingesetzt, wenn nein, wird sie sich künftig dafür einsetzen (bitte begründen)?
In welchen PESCO-Projekten spielen Waffensysteme mit Autonomie in den kritischen Funktionen (Zielauswahl und/oder Zielbekämpfung) eine Rolle, und wie werden diese reguliert?
Unterstützt die Bundesregierung private Firmen, die an Waffensystemen mit Autonomie in den kritischen Funktionen forschen, finanziell (bitte nach Firma sowie Höhe und Zeitraum der Unterstützung aufschlüsseln)?
Unterstützt die Bundesregierung den Vorschlag von VN-Generalsekretär Antonio Guterres, eine Regulierungsbehörde für KI-gestützte Waffensysteme nach dem Vorbild der Atomenergie-Organisation (IAEO) zu gründen, wenn ja, welche Schritte unternimmt die Bundesregierung, dieses Vorhaben voranzutreiben (www.deutschlandfunk.de/generalsekretaer-guterres-fuer-regulierungsbehoerde-zu-ki-100.html)?
Wie hoch ist die deutsche Beteiligung am NATO-Innovationsfonds (NIF) in den Jahren von 2022 bis einschließlich 2024?
Wie hoch ist nach Kenntnis der Bundesregierung der Anteil aus dem Budget des NATO-Innovationsfonds (NIF) für autonome Waffensysteme und KI-gestützte Technologie?
Erhalten die am Next Generation Weapon System (NGWS) im Future Combat Air System (FCAS) beteiligten Nationen Spanien und Frankreich den gleichen Informationszugang über die Software-Plattform („KI-Backbone“), wenn ja, erfolgt der Austausch auch direkt über die beauftragten Firmen IBM Deutschland, Helsing GmbH und/oder SSE (Rohde & Schwarz; vgl. /helsing.ai/de/newsroom/helsing-commissioned-for-ai-backbone-in-fcas)?
Wie hoch sind die Gesamtkosten für den Auftrag, der durch das Bundesamt für Ausrüstung, Informationstechnik und Nutzung der Bundeswehr (BAAINBw) an das HIS-Konsortium für das „KI-Backbone“ (bitte nach den Gesamtkosten sowie nach Jahren aufschlüsseln) erteilt wurde?
Wird die Auftragsvergabe an IBM Deutschland Auswirkungen auf den möglichen Export des NGWS im FCAS haben, und beeinträchtigt die Auftragsvergabe das erklärte Ziel, das NGWS im FCAS möglichst ITAR-frei (ITAR = International Traffic in Arms Regulations) zu halten?
Hält die Bundesregierung an der militärischen Kooperation mit Israel bei der Ausbildung an der Kampfdrohne Heron TP fest angesichts des laufenden Verfahrens am Internationalen Gerichtshof gegen das Land (www.icj-cij.org/case/192)?