Einsatz von IT-Assistenzsystemen und Künstlicher Intelligenz im Bundesamt für Migration und Flüchtlinge

Antwort der Bundesregierung auf die Kleine Anfrage der Abgeordneten Clara Bünger, Nicole Gohlke, Gökay Akbulut, weiterer Abgeordneter und der Fraktion DIE LINKE. – Drucksache 20/8586 – Einsatz von IT-Assistenzsystemen und Künstlicher Intelligenz im Bundesamt für Migration und Flüchtlinge V o r b e m e r k u n g d e r F r a g e s t e l l e r Seit 2017 setzt das Bundesamt für Migration und Flüchtlinge (BAMF) vermehrt IT-Assistenzsysteme im Rahmen des Asylverfahrens ein, die die Mitarbeiterinnen und Mitarbeiter des BAMF insbesondere bei der Feststellung der Identität und Herkunft von Asylsuchenden unterstützen sollen. Für das BAMF erweist sich der Einsatz dieser Systeme vor allem in den Fällen als relevant, in denen die Asylsuchenden bei der Antragstellung keine Identitätsdokumente vorlegen können. Sie umfassen u. a. eine Sprach- bzw. Dialekterkennungssoftware, eine Namenstransliteration- und Namensanalysesoftware, eine Software, die die Datenträger von Asylsuchenden automatisiert auswertet sowie eine Software, die den automatisierten Abgleich von aufgenommenen Lichtbildern ermöglicht. Die Sprach- bzw. Dialekterkennungssoftware soll anhand einer zweiminütigen Sprachaufnahme Rückschlüsse auf den Herkunftsstaat oder die Herkunftsregion der Asylsuchenden ermöglichen. Die Namenstransliteration- und Namensanalysesoftware soll einerseits arabische Namen einheitlich in die lateinische Schreibweise übersetzen und andererseits ausgehend von der Schreibweise des Namens Hinweise auf mögliche Herkunftsstaaten des Asylsuchenden liefern. Mittels der automatisierten Datenträgerauswertung sollen Hinweise über die Identität und Staatsangehörigkeit von Asylsuchenden erlangt werden. Der Lichtbildabgleich soll parallel zum Abgleich von Fingerabdrücken der Identitätssicherung und damit verbunden der Verhinderung von Mehrfachanträgen sowie Mehrfachidentitäten dienen (vgl. Bundestagsdrucksache 19/6647). Der Einsatz der genannten IT-Assistenzsysteme wird in den Medien (u. a. www.freiheitsrechte.org/ueber-die-gff/presse/pressemitteilungen-der-gesellsch aft-fur-freiheitsrechte/pm-handydatenauswertung; www.zeit.de/digital/interne t/2017-03/bamf-asylbewerber-sprach-analyse-software-computerlinguistik; ne tzpolitik.org/2018/die-it-tools-des-bamf-fehler-vorprogrammiert/; taz.de/Digit ale-Assistenten-beim-BAMF/!5470641/) und insbesondere auch in der juristischen Fachliteratur (u. a. Lehnert, in: Huber/Mantel (Hrsg.), AufenthG/AsylG, § 15a AsylG, Randnummer 4 und § 16 AsylG, Randnummer 3; Pelzer, in: Decker/Bader/Kothe (Hrsg.), BeckOK Migrations- und Integrationsrecht, § 15a AsylG, Randnummer 8 und § 16 AsylG, Randnummer 10 f.; Bruckermann, Deutscher Bundestag Drucksache 20/9419 20. Wahlperiode 17.11.2023 Die Antwort wurde namens der Bundesregierung mit Schreiben des Bundesministeriums des Innern und für Heimat vom 14. November 2023 übermittelt. Die Drucksache enthält zusätzlich – in kleinerer Schrifttype – den Fragetext. Auswertung von Datenträgern bei Migranten – Verfassungsrechtliche Bedenken bei § 48a AufenthG und § 15a AsylG im Spannungsfeld von Informationeller Selbstbestimmung und staatlichem Kontrollanspruch, SRa 2018, 133) zunehmend kritisiert. Es werden insbesondere Bedenken an der fehlerfreien Anwendung sowie an der Geeignetheit und Angemessenheit einiger dieser Systeme geäußert. Ferner hat das Bundesverwaltungsgericht in seinem Urteil vom 16. Februar 2023 (Az. 1 C 19.21) die Durchführung der Datenträgerauswertung im Asylverfahren in dem zugrunde liegenden Sachverhalt für rechtswidrig erklärt. Das genannte Urteil hat nach Auffassung der Fragestellenden auch jenseits des konkreten Sachverhaltes Ausstrahlkraft auf die Auswertung von mobilen Datenträgern von Asylsuchenden im Rahmen des Asylverfahrens. In Antworten auf frühere parlamentarische Anfragen kündigte die Bundesregierung eine wissenschaftliche Begleitung bzw. Evaluation einzelner IT- Assistenzsysteme an, die allerdings nach Kenntnis der Fragestellenden bislang nicht umgesetzt wurde (u. a. Antwort zu Frage 11c auf Bundestagsdrucksache 19/190,; Antwort zu Frage 14 auf Bundestagsdrucksache 20/3238). Neben den genannten determinierten IT-Assistenzsystemen setzt das BAMF nun auch Künstliche Intelligenz (KI) ein. Diese soll Entscheiderinnen und Entscheider dabei unterstützen, in Anhörungsprotokollen „sicherheitsrelevante Sachverhalte“ zu erkennen (vgl. Bundestagsdrucksache 20/6401, Anlage 1a). Das Ziel der automatisierten Analyse der Anhörungsprotokolle sei es, „den gesetzlichen Meldeverpflichtungen des BAMF an Sicherheitsbehörden leichter und schneller nachkommen zu können“ (netzpolitik.org/2019/asylbehoerd e-sucht-mit-kuenstlicher-intelligenz-nach-auffaelligen-gefluechteten/). Mit dem Einsatz von KI betritt das BAMF Neuland. Die Gefahren und Risiken, die mit dem Einsatz derartiger Systeme einhergehen, sind nach Auffassung der Fragestellenden vielfältig und reichen von ethischen und gesellschaftlichen Bedenken bis hin zu potenziellen Fehlinterpretationen bzw. zur unbeabsichtigten Voreingenommenheit in den algorithmischen Entscheidungen. Die Kleine Anfrage zielt auch darauf ab, in Erfahrung zu bringen, ob und inwieweit geeignete Maßnahmen sowohl in der Entwicklungsphase als auch bei der (flächendeckenden) Anwendung der KI in der Praxis vorgesehen sind, um potenziellen Gefahren und Risiken entgegenzuwirken.  1. Mit welchen nationalen und europäischen Datenbanken werden die aufgenommenen Lichtbilder von Asylsuchenden im Asylverfahren automatisiert abgeglichen? In welchen Datenbanken werden die aufgenommenen Lichtbilder gespeichert? Ist die Löschung der gespeicherten Lichtbilder in den einzelnen Datenbanken zu irgendeinem Zeitpunkt vorgesehen? Der automatisierte Lichtbildabgleich im Lichtbildassistenzsystem (LiBiAs) basiert auf dem Datenbestand zu Asylsuchenden und Asylantragstellenden aus dem BAMF (Bundesamt für Migration und Flüchtlinge) -Fachverfahren (MA- RiS). Innerhalb des Lichtbildbestandes von MARiS findet für alle neu hinzugekommenen Lichtbilder ein täglicher Abgleich statt. Die Löschung der Daten zur Feststellung und Überprüfung der Identität, zu denen das Lichtbild gehört, richtet sich nach § 16 Absatz 6 des Asylgesetzes (AsylG).  2. In wie vielen Fällen wurde der automatisierte Lichtbildabgleich im Jahr 2022 und im ersten Halbjahr 2023 im Rahmen des Asylverfahrens durchgeführt? Der Lichtbildabgleich erfolgt für alle Datensätze zu Asylsuchenden, sofern ein Lichtbild im BAMF-Fachverfahren gespeichert wurde. Eine weitergehende zahlenmäßige Erhebung findet nicht statt. a) In wie vielen dieser Fälle hat der Lichtbildabgleich dazu geführt oder maßgeblich dazu beigetragen, Mehrfachanträge bzw. Mehrfachidentitäten zu verhindern (bitte in absoluten und relativen Zahlen darstellen)? b) In wie vielen dieser Fälle war der Lichtbildabgleich zusätzlich zu dem Abgleich von Fingerabdrücken für das Erreichen des verfolgten Zieles, namentlich Identitätssicherung und Verhinderung von Mehrfachanträgen bzw. Mehrfachidentitäten, notwendig (bitte in absoluten und relativen Zahlen darstellen)? c) In wie vielen dieser Fälle führte der Lichtbildabgleich zu fehlerhaften bzw. zu unzutreffenden Ergebnissen (bitte in absoluten und relativen Zahlen darstellen)? d) In wie vielen dieser Fälle konnten mittels des Lichtbildabgleiches überhaupt keine Ergebnisse erzielt werden (bitte in absoluten und relativen Zahlen darstellen), und aus welchen Gründen konnten in den entsprechenden Fällen keine Ergebnisse erzielt werden? Aufgrund des Sachzusammenhangs werden die Fragen 2a bis 2d gemeinsam beantwortet. Der Lichtbildabgleich dient als komplementäres Verfahren zur Sicherung der Identität und zur Verhinderung von Verfahrensfehlern hinsichtlich der Erhebung von erkennungsdienstlichen Daten und damit auch dem Schutz der registrierten Personen. Eine zahlenmäßige Erhebung erfolgt nicht.  3. Erfolgt der automatisierte Lichtbildabgleich auch bei Minderjährigen, und wenn ja, unter welchen Voraussetzungen? Die Voraussetzung für die Aufnahme von Lichtbildern Minderjähriger ergibt sich aus § 16 Absatz 1 AsylG. Beim automatisierten Lichtbildabgleich wird keine Einschränkung hinsichtlich des Lebensalters vorgenommen.  4. Zu welchem Zeitpunkt innerhalb des Asylverfahrens kommt die Spracherkennungs- bzw. Dialekterkennungssoftware bei Asylsuchenden zum Einsatz? Die Sprach- und Dialekterkennung wird i. d. R. bei der Asylantragsannahme durchgeführt, wenn die Antragstellenden in einer Außenstelle des BAMF ihren Asylantrag stellen, d. h. zu Beginn des Asylverfahrens.  5. In wie vielen Fällen wurde die Spracherkennungs- bzw. Dialekterkennungssoftware im Jahr 2022 und im ersten Halbjahr 2023 im Rahmen des Asylverfahrens eingesetzt? Die Antwort kann der nachfolgenden Aufstellung entnommen werden. Einsatzzahlen gesamt 2022 29 632 Einsatzzahlen 01/23 bis 06/23 22 947 a) In wie vielen dieser Fälle konnten die Herkunftsangaben der betroffenen Asylsuchenden mittels der Spracherkennungs- bzw. Dialekterkennungssoftware bestätigt bzw. widerlegt werden (bitte in absoluten und relativen Zahlen darstellen und – sofern möglich – bitte zusätzlich separate Angaben zu den einzelnen Sprachen machen)? Die Antwort kann der nachfolgenden Aufstellung entnommen werden. Gesamt 2022: 78 Prozent: Report stützt die Angaben der Antragsteller 22 Prozent: Report stützt die Angaben der Antragsteller nicht 01/23 bis 06/23: 81 Prozent: Report stützt die Angaben der Antragsteller 19 Prozent: Report stützt die Angaben der Antragsteller nicht Auf die beschränkte Belastbarkeit der Daten wird hingewiesen, da es sich hierbei um händisch erfasste Daten handelt. Von der Nennung absoluter Zahlen wird daher abgesehen. Das DIAS-Ergebnis (Dialektidentifizierungsassistent) liegt den Entscheiderinnen und Entscheidern in der Verfahrensakte der Antragstellenden vor und dient dazu, in der Anhörung konkrete und gezielte Fragen zur Herkunft stellen zu können. Das Ergebnis der Spracherkennung ist dabei lediglich ein Hinweis unter vielen und wird als eines von mehreren Indizien zur Herkunftsklärung herangezogen. b) In wie vielen dieser Fälle lieferte die Spracherkennungs- bzw. Dialekterkennungssoftware fehlerhafte bzw. unzutreffende Ergebnisse (bitte in absoluten und relativen Zahlen darstellen)? Die Erkennungsquote der arabischen Dialekte wird in sog. Gesamttests gemessen. Im Jahr 2017 lag die Erkennungsquote für die arabischen Dialekte noch bei rund 80 Prozent. Durch Trainings der Sprachmodelle im Jahr 2023 erreichen die Sprachmodelle aktuell eine Erkennungsquote von rund 87 Prozent. Es ist davon auszugehen, dass sich die Erkennungsquote durch weitere geplante Trainings der Sprachmodelle noch erhöht. Eine „Fehlerquote“ im Sinne der Fragestellung liegt insoweit nicht vor. Die Ergebnisse aus DIAS stellen lediglich einen Hinweis bzgl. der Herkunft des Antragstellenden dar, welcher im Rahmen der Anhörung, die unter anderem auch der Klärung der Identität und Staatsangehörigkeit dient, berücksichtigt wird. c) In wie vielen dieser Fälle konnten mittels der Spracherkennungs- bzw. Dialekterkennungssoftware überhaupt keine Ergebnisse erzielt werden (bitte in absoluten und relativen Zahlen darstellen), und aus welchen Gründen konnten in den entsprechenden Fällen keine Ergebnisse erzielt werden? Die Sprach- und Dialekterkennung liefert immer eine Wahrscheinlichkeitsangabe für folgende gesprochenen Dialekte/gesprochenen Sprachen: Arabisch Maghrebinisch, Irakisch, Golf, Ägyptisch, Levantinisch, Dari oder Farsi. Falls es sich um einen anderen Dialekt bzw. eine andere Sprache handelt, erscheint im Ergebnisbericht „Andere Sprache“ bzw. „Anderer Dialekt“. Im Übrigen wird auf die Antwort zu Frage 5b verwiesen. d) In wie vielen dieser Fälle wurde ein separates Sprachgutachten veranlasst und durchgeführt? Sofern nach Durchführung der Anhörung erhebliche Zweifel bezüglich der Staatsangehörigkeit der Antragsstellenden verbleiben, besteht in Ausnahmefällen die Möglichkeit, ein separates Sprachgutachten zu veranlassen. Eine zahlenmäßige Erhebung findet nicht statt.  6. Ist der Einsatz der Spracherkennungs- bzw. Dialekterkennungssoftware weiterhin auf bestimmte Sprachmodelle beschränkt? Die Software kommt aktuell für die arabischen Großdialekte Irakisch, Maghrebinisch, Levantinisch, Golf und Ägyptisch sowie Dari und Farsi (Persisch) zum Einsatz.  7. Inwieweit werden die betroffenen Asylsuchenden darüber informiert, welche konkreten Auswirkungen die in dem automatisiert erstellten Ergebnisbericht enthaltenen Informationen bzw. Hinweise bei der Bestimmung des Herkunftsstaates und ggf. bei der Entscheidung über den Asylantrag im Einzelfall haben? Antragstellende werden vor Erhebung der Sprechprobe über den Ablauf und über den Sinn und Zweck der Maßnahme informiert. Dies umfasst die Information darüber, dass das Ergebnis der Sprechprobe (Report) zur Akte genommen wird. Falls die Ergebnisse im Widerspruch zu den Angaben des Antragstellers bzw. der Antragstellerin stehen bzw. sich daraus Klärungsbedarf ergibt, erfolgt eine entsprechende Aufklärung des Sachverhalts in der Anhörung.  8. Auf welche Rechtsgrundlage bzw. Rechtsgrundlagen werden die im Asylverfahren durchgeführten Namenstransliteration sowie Namensanalyse gestützt? Gemäß § 16 Absatz 1 Satz 1 AsylG ist die Identität eines Ausländers, der um Asyl nachsucht, durch erkennungsdienstliche Maßnahmen zu sichern. Entsprechend muss bei Nichtvorlage eines Passes oder Passersatzes, aus dem die lateinische Namensschreibweise hervorgehen würde, eine einheitliche Transkription von arabischen Namen aus Gründen der Datenqualität erfolgen.  9. In welchen Fällen kommt die Namensanalysesoftware im Asylverfahren zur Anwendung? Ist die einzige Voraussetzung für die Anwendung der Namensanalysesoftware, dass die Asylsuchenden keine Identitätsdokumente vorlegen (können)? Die Voraussetzung für die Durchführung der Namensanalysesoftware sind fehlende Pass- oder Passersatzdokumente, aus denen eine lateinische Namensschreibweise der Antragstellenden hervorgehen würde. Darüber hinaus kommt die Software nur bei arabischstämmigen Antragstellenden zum Einsatz, da die Software derzeit nur eine arabische Namenstranskription durchführen kann. 10. Wurden oder werden die Entwicklung und Anwendung der Namensanalysesoftware wissenschaftlich begleitet, und wenn ja, wie? Beruhen die im Ergebnisbericht angegebenen Prognosen über potenzielle Herkunftsstaaten auf wissenschaftlichen Erkenntnissen, und wenn ja, auf welchen? Die Transkriptionslogik der Software basiert auf wissenschaftlich fundierten und international gültigen Transkriptionsrichtlinien für modernes Hocharabisch. Die Ergebnisse der Herkunftslandprognostik beruhen auf einer breiten Datenbasis (ca. 1 Milliarde Namen) zum Vorkommen arabischer Namen in arabischsprachigen Ländern. Das Ergebnis der Herkunftslandprognostik kann lediglich einen Hinweis bzgl. der Herkunft des Antragstellenden darstellen, welcher im Rahmen der Anhörung berücksichtigt wird. 11. Wie kommen die im automatisiert erstellten Ergebnisbericht angegebenen Prognosen zustande (bitte die technische Funktionsweise der Namensanalyse detailliert darlegen)? Kenntnisse über die technische Funktionsweise der Namensanalyse unterliegen den geistigen Eigentumsrechten des Entwicklungsdienstleisters und dürfen daher nicht veröffentlicht werden. 12. In wie vielen Fällen wurde die Namensanalysesoftware im Jahr 2022 und im ersten Halbjahr 2023 im Rahmen des Asylverfahrens eingesetzt? Die Antwort kann der nachfolgenden Aufstellung entnommen werden. Einsatzzahlen gesamt 2022 27 385 Einsatzzahlen 01/23 bis 06/23 16 654 a) In wie vielen dieser Fälle konnten die Herkunftsangaben der betroffenen Asylsuchenden mittels der Namensanalysesoftware bestätigt bzw. widerlegt werden (bitte in absoluten und relativen Zahlen darstellen)? Die Antwort kann der nachfolgenden Aufstellung entnommen werden. Gesamt 2022 26 Prozent: Report stützt die Angaben der Antragsteller 25 Prozent: Report stützt die Angaben der Antragsteller nicht 49 Prozent: Hinweis nicht verifizierbar und kein Hinweis 01/23 bis 06/23 24 Prozent: Report stützt die Angaben der Antragsteller 27 Prozent: Report stützt die Angaben der Antragsteller nicht 49 Prozent: Hinweis nicht verifizierbar und kein Hinweis. Auf die beschränkte Belastbarkeit der Daten wird hingewiesen, da es sich hierbei um händisch erfasste Daten handelt. Von der Nennung absoluter Zahlen wird daher abgesehen. b) In wie vielen dieser Fälle lieferte die Namensanalysesoftware fehlerhafte bzw. unzutreffende Ergebnisse (bitte in absoluten und relativen Zahlen darstellen)? Eine „Fehlerquote“ im Sinne der Fragestellung liegt bei der Namenstranskriptionssoftware nicht vor. Es wird lediglich von der zuständigen Entscheiderin bzw. dem zuständigen Entscheider erfasst, ob die Hinweise die Angaben der Antragstellenden stützen oder nicht stützen. Die Ergebnisse aus der Namensanalyse stellen, wie bei der Sprach- und Dialekterkennungssoftware, lediglich einen Hinweis bzgl. der Herkunft der Antragstellenden dar, welcher im Rahmen der Anhörung, die unter anderem auch der Klärung der Identität und Staatsangehörigkeit dient, berücksichtigt wird. c) In wie vielen dieser Fälle konnten mittels der Namensanalysesoftware überhaupt keine Ergebnisse erzielt werden (bitte in absoluten und relativen Zahlen darstellen), und aus welchen Gründen konnten in den entsprechenden Fällen keine Ergebnisse erzielt werden? Die Namensanalysesoftware liefert eine Information darüber, ob ein Name im angegebenen Herkunftsland der Antragstellenden oft oder selten vorkommt. Insofern kommt der Fall „überhaupt kein Ergebnis“ nicht vor. Im Übrigen wird auf die Antwort zu Frage 12b verwiesen. 13. Inwieweit werden die betroffenen Asylsuchenden darüber informiert, welche konkreten Auswirkungen die in dem automatisiert erstellten Ergebnisbericht enthaltenen Informationen bzw. Hinweise bei der Bestimmung des Herkunftsstaates und ggf. bei der Entscheidung über den Asylantrag im Einzelfall haben? Die Antragstellenden werden im Zuge der Belehrung für Erstantragstellende über ihre Mitwirkungspflichten, die auch die Klärung von Identität und Staatsangehörigkeit betreffen, sowie über allgemeine Verfahrenshinweise im Asylverfahren informiert. 14. Welche ergänzenden Angaben zur Umsetzung des Urteils des Bundesverwaltungsgerichts vom 16. Februar 2023 (Az. 1 C 19.21) zur Auswertung von mobilen Datenträgern von Asylsuchenden im Rahmen des Asylverfahrens kann die Bundesregierung machen (vgl. Antwort zu Frage 14d auf Bundestagsdrucksache 20/8222)? a) Wurde das „zur Sicherstellung der Verhältnismäßigkeit der Maßnahme einzuhaltende Verfahren“ mittlerweile abgestimmt, und wenn ja, wie sieht dieses Verfahren im Einzelnen aus, und wenn nein, wann ist mit dem Abschluss der Abstimmung zu rechnen? Die Fragen 14 und 14a werden gemeinsam beantwortet. Das zur Sicherstellung der Verhältnismäßigkeit der Maßnahme einzuhaltende Verfahren wurde in den Weisungsinstrumenten des BAMF im Detail umfassend überarbeitet und ergänzt. Die Abstimmung der Maßnahmen wurde zwischenzeitlich abgeschlossen. Bei Nichtvorlage eines gültigen Passes oder Passersatzes wird der mobile Datenträger der Antragstellenden herausverlangt. Aus der in Bezug genommenen Entscheidung des Bundesverwaltungsgerichts haben sich keine Änderungen bezüglich der Regelung in § 15 Absatz 2 Nummer 6 AsylG ergeben. Anschließend prüft das BAMF, ob bereits bei einer anderen deutschen Behörde entsprechende Dokumente vorgelegt und ggf. auf Echtheit hin geprüft wurden. Sofern deren Echtheit bereits festgestellt wurde, erfolgt eine unverzügliche Rückgabe des mobilen Datenträgers an die Antragstellenden. In allen anderen Fällen erfolgt die Einbindung einer Volljuristin oder eines Volljuristen, um über das weitere Verfahren zu entscheiden. Diese prüfen die Erforderlichkeit und Verhältnismäßigkeit der Aufforderung zur Herausgabe der Zugangsdaten für den mobilen Datenträger zum Zwecke des Auslesens anhand des vorliegenden Sachverhalts. Soweit eine abschließende Entscheidung zu diesem Zeitpunkt nicht möglich sein sollte, zum Beispiel weil umfangreiche Unterlagen vorgelegt wurden, und der Zeitpunkt der Prüfung die Erstregistrierung ist, erfolgt die Rückgabe des mobilen Datenträgers an die Antragstellenden mit der Auflage, den mobilen Datenträger zum nächsten Termin (der Asylantragstellung) erneut mitzubringen. Im Zeitpunkt der Antragstellung erfolgt dann eine erneute Prüfung durch eine Volljuristin oder einen Volljuristen. In den Fällen, in denen entschieden wird, dass die Voraussetzungen für das Herausgabeverlangen der Zugangsdaten des mobilen Datenträgers nicht vorliegen, erfolgt dessen Rückgabe an die Antragstellenden. Sofern die Voraussetzungen für das Herausgabeverlangen vorliegen, werden die Zugangsdaten für den mobilen Datenträger erbeten und dieser ausgelesen. Die weiteren Abläufe haben sich nicht geändert, insbesondere wurde der Prozess zur Freigabe des Ergebnisberichts zu dessen Verwendung im Verfahren beibehalten, d. h. die Entscheiderinnen und Entscheider stellen in den entsprechenden Fällen einen Antrag, über den eine Volljuristin oder ein Volljurist nach Prüfung des vorliegenden Sachverhalts entscheidet. Mit dieser Vorgehensweise wird dem Umstand Rechnung getragen, dass sich der Sachverhalt im Vergleich zum Zeitpunkt des Herausgabeverlangen der Zugangsdaten des mobilen Datenträgers auf Grund des Zeitablaufs geändert haben könnte, zum Beispiel durch die nachträgliche Vorlage von Dokumenten. b) Ist die Annahme der Fragestellenden zutreffend, dass die Entscheidung über das Auslesen von Datenträgern nach wie vor erfolgt, bevor eine Anhörung der betroffenen Asylsuchenden stattgefunden hat, und wenn ja, wie wird dies begründet, vor dem Hintergrund, dass nach Auffassung der Fragestellenden im Rahmen der Anhörung durch entsprechende gezielte Fragen die Angaben der Betroffenen zu ihrer Herkunft und Identität überprüft werden könnten, was ein Auslesen ihrer Datenträger ggf. überflüssig machen könnte? Es ist zutreffend, dass die Anhörung gegenüber dem Herausgabeverlangen der Zugangsdaten nicht als milderes Mittel zu klassifizieren ist. Dies ergibt sich aus der Gesetzesbegründung zur Aufnahme der Regelungen in das Asylgesetz. Dort wird ausgeführt, dass der Zeitpunkt des Auslesens der mobilen Datenträger regelmäßig der Zeitpunkt der Registrierung als Asylsuchender ist, sofern sich die Maßnahme als erforderlich erweist. Mit seiner Vorgehensweise setzt das BAMF den Willen des Gesetzgebers um. Das Auslesen mobiler Datenträger dient insoweit neben weiteren Maßnahmen der Vorbereitung der persönlichen Anhörung und verfolgt das Ziel, in einem Termin den entscheidungsrelevanten Sachverhalt zu ermitteln und offene Punkte zu klären. Dabei kommt der Feststellung der Staatsangehörigkeit besondere Bedeutung zu, da durch diese bestimmt wird, welches Herkunftsland nebst den dort bestehenden Verhältnissen der vom BAMF vorzunehmenden asylrechtlichen Prüfung zugrunde zu legen ist. Diese Feststellung ist damit relevant für die im Rahmen der Anhörung gestellten Fragen. Eine Verlagerung des Prüfungszeitpunkts für das Herausgabeverlangen der Zugangsdaten des mobilen Datenträgers auf den Zeitraum nach der Anhörung würde dazu führen, dass in einer bestimmten Anzahl von Verfahren eine weitere Anhörung erforderlich werden und damit zu einer Verlängerung der Bearbeitungsdauer führen würde, was im Widerspruch zum Willen des Gesetzgebers stünde. c) Wie genau bzw. anhand welcher Kriterien wägen Volljuristinnen und Volljuristen ab, ob Asylsuchende ihre Geräte auslesen lassen müssen (vgl. ebd.)? Die Entscheidung der Volljuristinnen und Volljuristen erfolgt abhängig von den Umständen des im Einzelfall vorliegenden Sachverhalts. Rechtlicher Ausgangspunkt ist dabei, dass ein Mittel zur Identitäts- und Staatsangehörigkeitsfeststellung dann milder ist, wenn es gleich geeignet ist, aber eine geringere Eingriffsintensität aufweist. Das BAMF hat für diese individuelle Prüfung bestimmte Sachverhalte zur Orientierung in seine Weisungsinstrumente aufgenommen. Danach stellen abgelaufene und damit ungültige Personalpapiere oder Personenstandsdokumente mildere Mittel dar. Personalausweise (ID Karten) sind grundsätzlich ebenfalls als mildere Mittel anzusehen. Dies gilt auch für weitere Personaldokumente, die mit einem Foto der Antragstellenden versehen sind und von einer Behörde ausgestellt wurden, bspw. Führerschein oder Militärausweis. Sonstige Dokumente, die vom BAMF auf Echtheit hin geprüft werden können, wie etwa Geburts- oder Heiratsurkunden, können als milderes Mittel anzusehen sein. Die Eignung als milderes Mittel setzt bei allen genannten Dokumenten voraus, dass diese nicht erkennbar ge- oder verfälscht sind. Soweit konkrete Anhaltspunkte dafür vorliegen, dass es sich bei dem vorgelegten Dokument zwar um ein echtes Dokument handelt, mit dem aber ein unrichtiger Inhalt bescheinigt wird (bspw. Ausstellung aus Gefälligkeit, Ausstellung eines echten Dokuments in Folge der Vorlage ge-/verfälschter Dokumente), ist dieses Dokument ebenfalls nicht als milderes Mittel anzusehen. Im Asylverfahren vorgelegte Urteile und Zeitungsartikel werden regelmäßig nicht als mildere Mittel der Klärung der Identität und Staatsangehörigkeit anzusehen sein, da sie allenfalls einen textlichen Bezug zu einer namentlich genannten Person herstellen, deren Identität mit der vorlegenden Person aber ungeklärt ist. 15. Welche konkreten Daten werden im Kontext der Datenträgerauswertung ausgelesen und gespeichert? a) Werden jenseits der Metadaten auch die Inhalte der Daten, wie beispielsweise Textnachrichten, Bilder, Videos oder E-Mails, ausgelesen sowie (vorübergehend) gespeichert? b) Werden jenseits des automatisiert erstellten Ergebnisberichts weitere Daten in dem entsprechenden Datentresor gespeichert? d) Hat das BAMF – jenseits des automatisiert erstellten Ergebnisberichts – zu irgendeinem Zeitpunkt Zugriff auf die ausgelesenen (Roh-)Daten? Die Fragen 15a, 15b und 15d werden aufgrund des Sachzusammenhangs gemeinsam beantwortet. Die Auslesung erfolgt mittels eines vorgegebenen Profils, welches Video- und Audiodateien ausschließt. Welche Daten konkret im Einzelfall vom Datenträger extrahiert werden können, hängt stark von individuellen Faktoren ab. Sofern auslesbar, werden somit auch Textnachrichten, Bilder und E-Mails ausgelesen und (vorübergehend) gespeichert. Dabei werden die (Roh-)daten (ohne Bilder), wie auch der Ergebnisbericht, im Datentresor gespeichert. Das BAMF besitzt bis zur Löschung (gemäß den Löschfristen) Zugriff auf die (Roh-)daten. Der Zugriff auf die Daten ist auf einzelne Administratoren beschränkt. Dieser Zugriff ist für die Wartung (z. B. Fehleranalyse und - beseitigung) oder zur Herausgabe der Daten an Gerichte notwendig. Die Daten sind für die Nutzer des Ergebnisberichts im Rahmen des Asylverfahrens weder abrufbar noch nutzbar. c) Welche Informationen beinhaltet der automatisiert erstellte Ergebnisbericht? Die konkreten Inhalte des Ergebnisreports sind im Folgenden dargestellt: 1. Allgemeine Informationen: a. Informationen über die Extraktion, z. B. Zeit- und Datumsinformationen b. Personenbezogenen Daten: Aktenzeichen, Personenkennziffer, Name und Geburtsdatum c. Gerätebezogene Daten, z. B. Gerätename, Zeiträume in denen das Gerät nicht genutzt wurde 2. Herkunftsbezogene Informationen a. Top 5 der eingehenden und ausgehenden Anrufe/Nachrichten (nach Ländern) b. Sprachanalyse der eingehenden und ausgehenden Textnachrichten c. Adressbuch/Kontakte (ohne Personenbezug) d. Browserdaten e. Lokationsdaten 3. Identität: Accountinformationen, z. B. Accountname für Google Apps. 16. Zu welchem Zeitpunkt und in welchen Fällen ist die Löschung des automatisiert erstellten Ergebnisberichts aus der MARiS-Akte vorgesehen? Als Bestandteil des Asylverfahrens und damit der Asylverfahrensakte erfolgt die Löschung des Ergebnisberichts entsprechend § 7 Absatz 3 AsylG spätestens zehn Jahre nach dem unanfechtbaren Abschluss des Asylverfahrens. Unabhängig vom Ablauf der Frist ist eine Löschung der Asylverfahrensverfahrensakte auch für den Fall des Erwerbs der deutschen Staatsangehörigkeit vorgesehen. 17. Zu welchem Anteil verfügten im Jahr 2022 sowie im ersten Halbjahr 2023 Asylsuchende, deren Identität bzw. Herkunft nach Auffassung des BAMF nicht hinreichend sicher durch Identitätsdokumente geklärt werden konnte, über mobile Datenträger, und zu welchem Anteil wurden diese in dem genannten Zeitraum ausgelesen? Es wird auf die Antworten der Bundesregierung zu Frage 10a der Kleinen Anfrage der Fraktion DIE LINKE. auf Bundestagsdrucksache 20/5709 sowie Frage 14a der Kleinen Anfrage der Fraktion DIE LINKE. auf Bundestagsdrucksache 20/8222 verwiesen. a) In wie vielen Fällen wurde in den genannten Zeiträumen ein Ergebnisbericht automatisiert erstellt? In wie vielen dieser Fälle wurden die automatisiert erstellten Ergebnisberichte durch die jeweiligen Entscheider angefordert (bitte in absoluten und relativen Zahlen darstellen)? In wie vielen Fällen wurde diesem Antrag nach entsprechender Prüfung durch einen Volljuristen entsprochen bzw. erfolgte eine Ablehnung (bitte so differenziert wie möglich und in absoluten und relativen Zahlen darstellen)? Im Jahr 2022 wurden insgesamt 6 486 Ergebnisberichte erstellt. Im ersten Halbjahr 2023 wurden insgesamt 9 625 Ergebnisberichte erstellt. Im Übrigen wird auf die Antworten der Bundesregierung zu Frage 10b der Kleinen Anfrage der Fraktion DIE LINKE. auf Bundestagsdrucksache 20/5709 sowie Frage 14b der Kleinen Anfrage der Fraktion DIE LINKE. auf Bundestagsdrucksache 20/8222 verwiesen. b) In wie vielen der Fälle, in denen der Ergebnisbericht der Datenträgerauslesung für das Asylverfahren verwertet wurde, hat dieser dazu geführt oder maßgeblich dazu beigetragen, Angaben der betroffenen Asylsuchenden zu ihrer Identität bzw. Herkunft zu bestätigen bzw. zu widerlegen (bitte in absoluten und relativen Zahlen darstellen)? c) In wie vielen Fällen lieferte die Datenträgerauswertung in den genannten Zeiträumen fehlerhafte bzw. unzutreffende Ergebnisse (bitte in absoluten und relativen Zahlen darstellen)? d) In wie vielen Fällen konnten mittels der Datenträgerauswertung in den genannten Zeiträumen überhaupt keine Ergebnisse erzielt werden (bitte in absoluten und relativen Zahlen darstellen), und aus welchen Gründen konnten in den entsprechenden Fällen keine Ergebnisse erzielt werden? Die Teilfragen 17b bis 17d werden aufgrund der bestehenden Zusammenhänge gemeinsam beantwortet: Es wird auf die Antworten der Bundesregierung zu Frage 10c der Kleinen Anfrage der Fraktion DIE LINKE. auf Bundestagsdrucksache 20/5709 sowie Frage 14c der Kleinen Anfrage der Fraktion DIE LINKE. auf Bundestagsdrucksache 20/8222 verwiesen. Eine darüberhinausgehende Konkretisierung ist nicht möglich. e) In wie vielen Fällen wurden in den genannten Zeiträumen die Zugangsdaten von Datenträgern bei dem zuständigen Telekommunikationsdienstleister angefragt (bitte in absoluten und relativen Zahlen darstellen), und in wie vielen dieser Fälle wurden die entsprechenden Zugangsdaten übermittelt (bitte in absoluten und relativen Zahlen darstellen)? Es sind keine Fälle bekannt, bei denen Zugangsdaten bei einem Telekommunikationsdienstleiter angefragt wurden. f) Inwieweit sind Maßnahmen vorgesehen, um die Effektivität und Wirksamkeit der Datenträgerauswertung zu steigern? Es befinden sich Maßnahmen zur Steigerung der Effektivität und Wirksamkeit in Abstimmung. 18. Werden auch Datenträger von Minderjährigen im Asylverfahren ausgewertet, und wenn ja, in wie vielen Fällen wurden mobile Datenträger von Minderjährigen im Jahr 2022 sowie im ersten Halbjahr 2023 ausgewertet? Das Auslesen mobiler Datenträger erfolgt ohne Altersbeschränkung. Für begleitete Minderjährige gelten deshalb keine weiteren Vorgaben. Ist ein Minderjähriger im Familienverbund eingereist, soll – soweit vorhanden – zunächst der oder die mobilen Datenträger des/der Hauptantragstellenden ausgelesen werden. Bei unbegleiteten Minderjährigen gilt, insbesondere im Rahmen der Erstregistrierung, dass das durch das Achte Sozialgesetzbuch vorgesehene Inobhutnahmeverfahren dem Asylverfahren vorgeht. Die Vorschriften des AsylG können daher auf unbegleitete Minderjährige erst dann Anwendung finden, wenn ein Jugendamt oder ein gesetzlicher Vertreter einen Asylantrag stellt. Eine Anwendung der Regelungen in § 15 Absatz 2 Nummer 6, § 15a AsylG ist also davon abhängig, ob im Zeitpunkt eines möglichen Auslesens eines mobilen Datenträgers ein Vormund bestellt ist und ein wirksamer Asylantrag gestellt wurde. Im Jahr 2022 wurden 609 Datenträger von Minderjährigen erfolgreich ausgelesen. Im ersten Halbjahr 2023* wurden 360 Datenträger von Minderjährigen erfolgreich ausgelesen. 19. Inwieweit werden die betroffenen Asylsuchenden im Vorfeld über den Verfahrensablauf und über den Sinn und Zweck der Maßnahme belehrt und aufgeklärt? § 15 Absatz 2 Nummer 6 AsylG regelt, dass der Ausländer u. a. verpflichtet ist, im Falle des Nichtbesitzes eines gültigen Passes oder Passersatzes auf Verlangen alle Datenträger, die für die Feststellung seiner Identität und Staatsangehörigkeit von Bedeutung sein können und in deren Besitz er ist, den mit der Ausführung dieses Gesetzes betrauten Behörden vorzulegen, auszuhändigen und zu überlassen. Auf diese Mitwirkungspflicht werden die Antragstellenden bereits im Rahmen der Belehrung für die Erstantragstellung allgemein hingewiesen. Sofern die Antragstellenden keinen gültigen Pass oder Passersatz vorlegen, werden sie im Rahmen der Maßnahme erneut darüber belehrt. In diesem Zusammenhang werden ihnen zudem der Sinn und Zweck der Maßnahme, die Klärung von Identität und Staatsangehörigkeit, nochmals erläutert. 20. Auf welche Rechtsgrundlage wird die „Gefährderanalyse“ bzw. „Profilanalyse“ zur Untersuchung von Anhörungsprotokollen gestützt? Inwieweit sind in diesem Zusammenhang gesetzliche Änderungen und Anpassungen vorgesehen? Die in den Fragen 20 bis 29 in Bezug genommene IT-Anwendung wurde unter dem Projektnamen „Profilanalyse“ entwickelt. Seit dem Übergang in den Produktivbetrieb trägt die Anwendung den Namen „Assistenzsystem für Sicherheitsmeldungen“ (ASS). Nachfolgend wird daher der aktuelle Name der Anwendung verwendet. * keine Berücksichtigung der beiden noch nicht an das Verwaltungssystem angeschlossenen Außenstellen (vgl. Antwort der Bundesregierung auf die Kleine Anfrage der Fraktion DIE LINKE. auf Bundestagsdrucksache 20/8222, einleitende Erklärung zu Frage 14). Die „Profilanalyse“ zur Untersuchung von Anhörungsprotokollen stützt sich auf § 24 Absatz 1 Satz 1 AsylG. Hiernach ist das BAMF verpflichtet, den Sachverhalt aufzuklären und die erforderlichen Beweise zu erheben. Hierzu gehört auch die Prüfung von Asylausschlusstatbeständen. Zudem treffen das BAMF die Übermittlungspflichten nach § 18 Absatz 1 und 1a des Gesetzes über die Zusammenarbeit des Bundes und der Länder in Angelegenheiten des Verfassungsschutzes und über das Bundesamt für Verfassungsschutz (BVerfSchG), § 10 Absatz 1 des Gesetzes über den militärischen Abschirmdienst (MADG) und § 9 Absatz 5 des Gesetzes über das Bundeskriminalamt und die Zusammenarbeit des Bundes und der Länder in kriminalpolizeilichen Angelegenheiten (BKAG), wonach das BAMF sicherheitsrelevante Sachverhalte in Asylanhörungen weitergeben muss. 21. Findet die „Gefährderanalyse“ bzw. „Profilanalyse“ bereits flächendeckend Anwendung oder befindet sie sich noch in der Pilotphase? a) Sofern sie in der Praxis noch nicht flächendeckend Anwendung finden sollte, zu welchem Zeitpunkt ist der flächendeckende Einsatz geplant? Die Fragen 21 und 21a werden gemeinsam beantwortet. Das System befindet sich seit 2022 im produktiven Einsatz und wird derzeit in allen Außenstellen des BAMF ausgerollt. b) Wie findet die „Gefährderanalyse“ bzw. „Profilanalyse“ in der Praxis Anwendung bzw. wie soll sie in der Praxis Anwendung finden (bitte den Verfahrensablauf ausführlich darstellen underläutern)? Nachdem eine Asylanhörung im Asylverfahrenssystem des BAMF abgespeichert und fertiggestellt wurde, wird die Anhörung automatisch an ASS weitergeleitet, bei Bedarf in eine maschinenlesbare Form konvertiert und von ASS analysiert. Die Anwendung macht die Asylsachbearbeitenden per E-Mail darauf aufmerksam, falls eine potentiell sicherheitsrelevante Information in einer Asylanhörung identifiziert wurde. Es liegt – wie auch schon vor der Einführung des Systems – an den jeweiligen Sachbearbeitenden zu entscheiden, ob eine Meldung nach den Vorgaben der Dienstanweisung Asyl an das für die Zusammenarbeit mit den Sicherheitsbehörden zuständige Zentralreferat des BAMF weitergeleitet wird. Der eigentliche Meldevorgang ist ein zweistufiger Prozess und findet in einer Weboberfläche im Intranet des BAMF statt. In dieser Weboberfläche sehen die Asylsachbearbeitenden das gesamte Anhörungsprotokoll. Textstellen, die vom System als potenziell melderelevant klassifiziert wurden, sind dabei farblich markiert und werden von den Asylsachbearbeitenden bewertet. Textstellen können bewertet werden als „hilfreich und melderelevant“, „nicht hilfreich und nicht melderelevant“ oder „hilfreich, aber nicht melderelevant“ (beispielweise, weil der beschriebene Sachverhalt zu weit in der Vergangenheit liegt). Die Entscheidenden können in der Weboberfläche auch beliebige zusätzliche Textstellen als melderelevant markieren. Jede Entscheidung über die Melderelevanz eines Anhörungsprotokolls liegt in der Verantwortung der Asylsachbearbeitenden. Die automatisch erkannten Fundstellen dienen nur der Unterstützung, sind aber nie die alleinige Grundlage für eine Meldung. Die Meldungen der Entscheidenden gehen an das für die Zusammenarbeit mit den Sicherheitsbehörden zuständige Zentralreferat des BAMF und werden dort durch die Mitarbeitenden geprüft. Erst wenn diese Prüfung die Melderelevanz bestätigt, findet eine Meldung an die zuständigen Sicherheitsbehörden statt. c) In welchen Fällen wird die KI eingesetzt bzw. in welchen Fällen soll sie eingesetzt werden? ASS findet bei allen Arten von Asylanhörungen Verwendung. 22. Wird die „Gefährderanalyse“ bzw. „Profilanalyse“ zur Untersuchung von Anhörungsprotokollen mittels einer speziellen KI wissenschaftlich begleitet, und wenn ja, durch wen? Eine wissenschaftliche Begleitung findet nicht statt. 23. Welche Funktionsweise weist die im Zusammenhang mit der „Gefährderanalyse“ bzw. „Profilanalyse“ eingesetzte KI auf (bitte die technische Funktionsweise ausführlich darstellen und erläutern), und basiert sie auf dem sogenannten Deep-Learning-Verfahren? ASS verwendet ein zweistufiges Verfahren für die automatische Analyse der Anhörungsprotokolle. In der ersten Stufe werden semantische Regelungen sowie meldekriterienspezifische Wörterbücher verwendet, welche durch die Fachseite gepflegt werden. Um gefundene Schlüsselbegriffe herum wird ein Textfenster von wenigen Sätzen Länge aufgespannt, das in der Regel den Satz mit dem Schlüsselbegriff und je zwei Sätze davor und danach umfasst. In der zweiten Stufe werden die Textfenster durch meldekriterienspezifische KI- Modelle binär klassifiziert. Bei den Modellen handelt es sich um vortrainierte neuronale Sprachmodelle vom Typ Bidirectional Encoder Representations from Transformers (BERT), die mittels Finetunings an die Klassifikationsaufgabe angepasst wurden. 24. Wie viele Anhörungsprotokolle wurden zu Trainingszwecken in die KI eingeführt? Nach welchen Kriterien wurden die Trainingsdaten ausgewählt? Wie wurde die Anonymisierung der Trainingsdaten sichergestellt? Fließen zukünftige Anhörungsprotokolle ebenfalls als Trainingsdaten in die KI ein? Es wurden und werden keine Anhörungsprotokolle zu Trainingszwecken verwendet. Es wurden rund 50 000 anonymisierte Textausschnitte auf Basis von in der Vergangenheit durchgeführten Asylanhörungen verwendet. Eine Aktualisierung der KI-Modelle durch Textausschnitte findet fortlaufend in enger Abstimmung zwischen dem für Fachanalytik und Datenanalyse sowie dem für die Zusammenarbeit mit den Sicherheitsbehörden zuständigen Zentralreferat des BAMF statt. Personenbezogene Daten werden nicht zum Training herangezogen. Der Prozess zur Anonymisierung der Trainingsdaten wird fortlaufend durch den behördlichen Datenschutzbeauftragten des BAMF begleitet und überprüft. 25. Wie erkennt die Software in den Anhörungsprotokollen „sicherheitsrelevante Sachverhalte“ (vgl. Bundestagsdrucksache 20/6401), und welche konkreten Informationen in den Anhörungsprotollen werden hiervon erfasst (bitte „sicherheitsrelevanter Sachverhalte“ beispielhaft aufzählen)? Zur Funktionsweise der Software wird auf die Antwort auf Frage 23 verwiesen. Unter sicherheitsrelevanten Sachverhalten sind belastbare Informationen – also nicht nur potentielle Täter, sondern auch Opfer, Zeugen und sonstige Beweismittel – zu Straftaten, insbesondere solchen aus dem Bereich der schweren und organisierten Kriminalität sowie Staatsschutzdelikte und dem Völkerstrafrecht, zu verstehen. Melderelevant sind darüber hinaus Sachverhalte, an denen die Nachrichtendienste des Bundes ein Erkenntnisinteresse haben. 26. In wie vielen Fällen wurde ein „sicherheitsrelevanter Sachverhalt“ an die Sicherheitsbehörden weitergeleitet? Es wird nicht statistisch erfasst, ob bei einer Meldung des BAMF an die Sicherheitsbehörden das ASS einen sicherheitsrelevanten Sachverhalt identifiziert hat, oder nicht. Die nachfolgenden Zahlen stellen die Gesamtzahl an Meldungen des BAMF an die Sicherheitsbehörden dar. Zu weiter in der Vergangenheit liegenden Jahren sind aufgrund von Änderungen in der statistischen Erfassung der Meldungen keine belastbaren Daten mehr vorhanden. 2018 14.769 2019 11.563 2020 8.655 2021 6.274 2022 7.901 2023 (Stand: 30. September 2023) 7.225 27. Welche Erkenntnis- bzw. Fehlerquote weist die KI bislang auf, und wie wird die Effektivität der KI mit Blick auf das verfolgte Ziel bislang eingeschätzt? Das KI-System unterstützt die Asylsachbearbeitenden sowie die Mitarbeitenden des für die Zusammenarbeit mit den Sicherheitsbehörden zuständigen Zentralreferats des BAMF im Rahmen des Meldeprozesses. Das Melden relevanter Fundstellen obliegt weiterhin nur den genannten Personen. Eine Erkenntnis- bzw. Fehlerquote für die KI selbst wird daher nicht statistisch erfasst. 28. Werden die Asylantragstellerinnen und Asylantragsteller über die Anwendung sowie über die konkrete (technische) Funktionsweise der KI informiert und belehrt, und wenn ja, wie? Die Antragstellenden werden nicht über den Einsatz einer KI belehrt, sie werden aber belehrt, dass in Asylanhörungen gemachte Angaben an Sicherheitsbehörden weitergegeben werden können. 29. Soll die KI fortlaufend überwacht und evaluiert werden, und wenn ja, wie? a) Welche Intervalle sind dafür vorgesehen? Die Fragen 29 und 29a werden gemeinsam beantwortet: Eine Überwachung und Anpassung des KI-Systems erfolgt fortlaufend in enger Abstimmung zwischen dem für Fachanalytik und Datenanalyse sowie dem für die Zusammenarbeit mit den Sicherheitsbehörden zuständigen Zentralreferat des BAMF. b) Werden hierzu bereits konkrete Maßnahmen umgesetzt, und wenn ja, wie? Sind Maßnahmen angedacht, um eine potenzielle unbeabsichtigte Voreingenommenheit in den algorithmischen Entscheidungen zu vermeiden, und wenn ja, welche? Für das fortlaufende Monitoring der Modelle im produktiven Einsatz wurde eine Weboberfläche entwickelt, die es ermöglicht, die Anzahl der bearbeiteten und der tatsächlich gemeldeten Dokumente pro Meldekriterium oder pro Schlüsselbegriff zu überwachen. Um eine potenzielle unbeabsichtigte Voreingenommenheit in den algorithmischen Entscheidungen zu vermeiden, berücksichtigt ASS wie in der Antwort auf Frage 23 beschrieben, nur einen kleinen Ausschnitt des reinen Textes des Anhörungsprotokolls. Personenbezogene Daten der Antragstellenden wie Geschlecht, Herkunftsland usw. fließen zu keinem Zeitpunkt in das System ein. c) Wer ist für die Überwachung der KI zuständig? Auf die Antwort zu Frage 29a wird verwiesen. d) Ist die Einführung eines Risiko- und Qualitätsmanagementsystems vorgesehen? Ein Risiko sowie Qualitätsmanagement findet über die übergreifende Programm- und Projektsteuerung des BAMF statt. e) Werden Anpassungen und Änderungen an der KI dokumentiert, und wenn ja, wie? Die dem System zugrundliegende Produkt- und Systemdokumentation sowie zugehörige Nutzendenden- und Betriebshandbücher werden fortlaufend aktualisiert. f) Für wann ist die Flächeneinführung geplant? Die in der Antwort zu Frage 29b beschriebene Weboberfläche zum Monitoring der Modelle ist zeitgleich mit der gesamten Anwendung in den produktiven Einsatz gebracht worden. g) Wie geht das BAMF mit den Herausforderungen des sogenannten Confirmation bias sowie Automation bias um? Es findet eine Sensibilisierung der Entscheidenden durch dedizierte Schulungen statt. Der zweistufige Meldeprozess durch Menschen wirkt darüber hinaus blindem Vertrauen in KI entgegen. Gesamtherstellung: H. Heenemann GmbH & Co. KG, Buch- und Offsetdruckerei, Bessemerstraße 83–91, 12103 Berlin, www.heenemann-druck.de Vertrieb: Bundesanzeiger Verlag GmbH, Postfach 10 05 34, 50445 Köln, Telefon (02 21) 97 66 83 40, Fax (02 21) 97 66 83 44, www.bundesanzeiger-verlag.de ISSN 0722-8333