Auswirkungen von künstlicher Intelligenz auf den deutschen Arbeitsmarkt und Sozialstaat

[Antwort der Bundesregierung auf die Kleine Anfrage der Fraktion der CDU/CSU – Drucksache 20/6008 – Auswirkungen von künstlicher Intelligenz auf den deutschen Arbeitsmarkt und Sozialstaat V o r b e m e r k u n g d e r F r a g e s t e l l e r Die jüngsten Entwicklungen im Bereich der künstlichen Intelligenz (KI) haben nicht nur Optimismus hinsichtlich möglicher zukünftiger Anwendungen geschürt, sondern bei den Fragestellern auch Fragen zu den Auswirkungen auf Wirtschaft, Arbeitsmarkt und Sozialstaat aufgeworfen. Einer der Gründe dafür ist, dass immer mehr Tätigkeiten durch künstliche Intelligenz übernommen und vereinfacht werden können und alle Wirtschaftszweige davon betroffen sein können. Künstliche Intelligenz wird nach Auffassung der Fragesteller das Arbeitsumfeld vieler Menschen maßgeblich verändern. Das betrifft unter anderem veränderte Arbeitsinhalte, Arbeitsgestaltung, Interaktionen zwischen Arbeitnehmerinnen und Arbeitnehmern und Maschinen sowie Methoden zur Messung von Arbeitsleistung und Arbeitseffizienz. Die technologische Entwicklung im Bereich der künstlichen Intelligenz bietet aus Sicht der Fragesteller enorme Chancen für einen effizienteren, schnelleren und leistungsfähigeren Sozialstaat. Um die Chancen, die künstliche Intelligenz für den deutschen Arbeitsmarkt und Sozialstaat potenziell bietet, zu nutzen, müssen allerdings schon jetzt die Weichen richtig gestellt werden. V o r b e m e r k u n g d e r B u n d e s r e g i e r u n g Die Entwicklungen im Bereich Künstliche Intelligenz (KI) sind hochdynamisch. Gleichzeitig befinden wir uns trotz länderspezifischer Unterschiede weltweit insgesamt in einem frühen Stadium der Technologiediffusion, wie u. a. das Arbeitsprogramm der Organisation für wirtschaftliche Zusammenarbeit und Entwicklung (OECD) zu KI in Arbeit, Innovation, Produktivität und Kompetenzen zeigt. Weil die Technologie noch nicht in der Breite der Unternehmen und Branchen Anwendung findet, sind lediglich erste Signale zu beobachten. Die Auswirkungen von KI auf Arbeit, insbesondere auf einzelne Branchen, Berufe und Regionen sind deshalb oftmals noch nicht abschließend beurteilbar. Diese gilt es vielmehr kontinuierlich und international vergleichend zu analysieren, auch im Hinblick auf die Herausforderungen, die sich aus der Gleichzeitigkeit mit dem demographischen Wandel und der ökologischen Transformation ergeben. Zudem ist es notwendig, niedrigschwellige Transfer- Deutscher Bundestag Drucksache 20/6373 20. Wahlperiode 12.04.2023 Die Antwort wurde namens der Bundesregierung mit Schreiben des Bundesministeriums für Arbeit und Soziales vom 12. April 2023 übermittelt. Die Drucksache enthält zusätzlich – in kleinerer Schrifttype – den Fragetext. angebote zur Auseinandersetzung mit und Anwendung von KI in der betrieblichen, behördlichen und zivilgesellschaftlichen Praxis agil zu gestalten und daraus gewonnene Erkenntnisse in die kontinuierliche Weiterentwicklung von Befähigungsmaßnahmen und regulatorischen Rahmenbedingungen einzubringen. Zahlreiche Maßnahmen der Bundesregierung tragen dazu bei, beispielsweise das bereits 2020 von der Denkfabrik Digitale Arbeitsgesellschaft im Bundesministerium für Arbeit und Soziales (BMAS) initiierte Projekt „Observatorium Künstliche Intelligenz in Arbeit und Gesellschaft“ (KI-Observatorium).  1. Wie definiert die Bundesregierung „künstliche Intelligenz“? Der Rat der Europäischen Union hat sich am 6. Dezember 2022 auf eine Allgemeine Ausrichtung zum „Gesetz über künstliche Intelligenz“ (KI-Verordnung) geeinigt. Darin wird in Artikel 3 Nummer 1 ein Künstliche Intelligenz (KI)- System folgendermaßen definiert: „[…] ein System, das so konzipiert ist, dass es mit Elementen der Autonomie arbeitet, und das auf der Grundlage maschineller und/oder vom Menschen erzeugter Daten und Eingaben durch maschinelles Lernen und/oder -logik und wissensgestützte Konzepte ableitet, wie eine Reihe von Zielen erreicht wird, und systemgenerierte Ergebnisse wie Inhalte (generative KI-Systeme), Vorhersagen, Empfehlungen oder Entscheidungen hervorbringt, die das Umfeld beeinflussen, mit dem die KI-Systeme interagieren.“ Die Bundesregierung hat der Allgemeinen Ausrichtung zugestimmt und trägt damit auch die in Artikel 3 Nummer 1 enthaltene Definition im Kontext der KI- Verordnung mit.  2. Wie möchte die Bundesregierung den von künstlicher Intelligenz und kognitiven Technologien betroffenen Bereich des Arbeitsmarkts fördern? Durch den Einsatz von KI können sich Arbeitsinhalte und -plätze sowie Berufsbilder und Kompetenzanforderungen in fast allen Bereichen bzw. bestehenden Berufsfeldern verändern aber auch neue Arbeitsplätze und Berufsbilder entstehen. Zu den Maßnahmen wird auf die Antwort zu den Fragen 9 und 10 verwiesen.  3. Welche Herausforderungen sieht die Bundesregierung im Bereich KI, den Arbeitsmarkt betreffend?  4. Wie schätzt die Bundesregierung die Auswirkungen des Fortschritts in der künstlichen Intelligenz auf die Lohnentwicklung, Produktivität und Erwerbsbeteiligung auf dem deutschen Arbeitsmarkt ein?  5. Teilt die Bundesregierung die Einschätzung von Studien (u. a. Felten, Edward W., Raj, Manav und Seamans, Robert, The Occupational Impact of Artificial Intelligence: Labor, Skills, and Polarization (2019), NYU Stern School of Business), dass besonders die Arbeitsplätze hochqualifizierter Arbeitnehmerinnen und Arbeitnehmer von der Entwicklung der künstlichen Intelligenz bedroht sein werden? a) Wenn ja, warum? b) Wenn nein, warum nicht?  6. Wie wird sich aus Sicht der Bundesregierung der Fortschritt im Bereich der künstlichen Intelligenz auf die soziale und wirtschaftliche Ungleichheit in Deutschland auswirken?  7. Wie schätzt die Bundesregierung die Auswirkungen von technologischem Fortschritt im Bereich künstliche Intelligenz auf den Arbeits- und Fachkräftemangel in Deutschland ein? a) Sind der Bundesregierung Studien und/oder Einschätzungen bekannt, ob künstliche Intelligenz die Arbeits- und Fachkräftelücke in den kommenden 20 Jahren verkleinern wird, und wenn ja, in welchen Branchen? b) Plant die Bundesregierung, Studien über die Auswirkungen von künstlicher Intelligenz auf den deutschen Arbeitsmarkt in Auftrag zu geben? c) Welche Referate im Bundesministerium für Arbeit und Soziales befassen sich mit den Auswirkungen des technologischen Fortschritts im Bereich der künstlichen Intelligenz auf den deutschen Arbeitsmarkt (bitte mit Anzahl der Mitarbeiterinnen und Mitarbeiter auflisten)? d) Welche Erkenntnisse liegen diesen Referaten zum Zeitpunkt der Kleinen Anfrage vor?  8. Geht die Bundesregierung davon aus, dass der technologische Fortschritt im Bereich der künstlichen Intelligenz einen Einfluss auf die Arbeitslosenquote haben wird? a) Wenn ja, warum, und welche Einkommensschichten wären besonders betroffen? b) Wenn nein, warum nicht? Die Fragen 3 bis 8b werden gemeinsam beantwortet. Die Fragen werden im Zusammenhang beantwortet, da die Auswirkungen von KI Löhnen, Beschäftigungen, Kompetenzen und Ungleichheiten sowie auf Entwicklungen im Bereich des Arbeits- und Fachkräftebedarfs interdependent sind. Die Auswirkungen von KI auf den Arbeitsmarkt hängen zum einen vom Verbreitungsgrad von KI in Unternehmen, Verwaltungen und Organisationen ab. Laut einer aktuellen Studie des Bundesministeriums für Wirtschaft und Klimaschutz (BMWK) aus dem Jahr 2022 zu Kompetenzen und Kooperationen zu KI setzen bislang elf Prozent der deutschen Unternehmen KI-Anwendungen aktiv ein. Zum anderen hängt der Einfluss von KI auf den Arbeitsmarkt davon ab, in welchem Maße die eingesetzten Anwendungen die bisher von Menschen ausgeführten Tätigkeiten ersetzen oder unterstützen. Das von den Fragestellern zitierte Arbeitspapier stellt fest, dass die Nutzung von KI-Anwendungen einen positiven Effekt auf die Lohnentwicklung von Erwerbstätigen in höheren Qualifikations- und Einkommensbereichen hat. Diesen Befund stützen Ergebnisse im internationalen Vergleich der OECD (Lane, M. and A. Saint-Martin (2021), „The impact of Artificial Intelligence on the labour market: What do we know so far?”, OECD Social, Employment and Migration Working Papers, No. 256, OECD Publishing, Paris, https://www.oec d-ilibrary.org/social-issues-migration-health/the-impact-of-artificial-intelligenc e-on-the-labour-market_7c895724-en). Die Bundesregierung geht derzeit nicht davon aus, dass der Einsatz von KI die Arbeitslosenquote signifikant beeinflussen wird. Aufgrund eines möglichen disruptiven Anstiegs des Einsatzes von KI-Anwendungen ist es zwar möglich, dass zukünftig mehr Tätigkeiten durch KI substituiert werden können. Demgegenüber stehen jedoch durch den KI-Einsatz mögliche neu geschaffene Arbeitsplätze und Berufsbilder. Die Herausforderungen aus dem zunehmenden Einsatz von KI sieht die Bundesregierung in der Vermeidung von wachsender Ungleichheit am Arbeitsmarkt. Dies betrifft zum einen die Entwicklungen bei Produktivität und Wettbewerbsfähigkeit zwischen Unternehmen aufgrund unterschiedlicher Nutzungsgrade von KI-Anwendungen. Zum anderen entstehen auch Herausforderungen aus potentiell zunehmenden Ungleichheiten bei Arbeitsproduktivität und Lohnentwicklung der Beschäftigten. Der Arbeitsmarkt Deutschlands wird auf absehbare Zeit durch den demografischen Wandel geprägt sein. In einigen Berufsfeldern zeigen sich heute schon Fachkräfteengpässe. Engpässe könnten vermieden oder entschärft werden, indem Tätigkeiten in Berufen, die im Zuge des demografischen Wandels nicht mehr ausreichend besetzt werden können, – zumindest teilweise – mit Hilfe von KI-Anwendungen durchgeführt bzw. unterstützt werden. Wie sich der Arbeitsmarkt und das Arbeitsumfeld von Beschäftigten durch den Einsatz von KI ändert, wird derzeit in verschiedenen vom BMAS geförderten Projekten erforscht. Das BMAS finanziert beispielsweise das Arbeitsprogramm der OECD zu KI, Arbeit, Innovation, Produktivität und Kompetenzen, um die Auswirkungen des Einsatzes von KI auf den Arbeitsmarkt auch international vergleichend zu beantworten (https://www.ki-observatorium.de/rubriken/wisse n/zusammenarbeit-mit-der-oecd-ergebnisse-aus-dem-ai-wips-programm). Im BMAS befassen sich insbesondere die Abteilung Denkfabrik Digitale Arbeitsgesellschaft und die Zentralabteilung mit den Auswirkungen des technologischen Fortschritts im Bereich der KI auf den deutschen Arbeitsmarkt (ungefähr 25 Mitarbeiterinnen und Mitarbeiter). Im Übrigen wird darauf hingewiesen, dass KI querschnittlich und anteilig auch bei den Aufgaben anderer Beschäftigter relevant ist, ohne dass dies konkret beziffert werden kann.  9. Mit welchen Maßnahmen möchte die Bundesregierung einem möglichen Anstieg der Arbeitslosigkeit durch künstliche Intelligenz entgegenwirken? 10. Welche Berufsfelder auf dem deutschen Arbeitsmarkt sind aus Sicht der Bundesregierung besonders von den Entwicklungen in der künstlichen Intelligenz betroffen? Die Fragen 9 und 10 werden gemeinsam beantwortet. Die Auswirkungen von KI auf einzelne Berufsfelder und auf Beschäftigung hängen grundsätzlich von der Verbreitung von KI und ökonomischen Dynamiken wie beispielsweise der Nachfrageentwicklung ab. Wesentlich ist zudem die Wechselwirkung mit anderen Einflüssen wie dem demografischen Wandel. Qualifizierung und Weiterbildung nehmen Schlüsselrollen bei der Gestaltung der digitalen Transformation ein und sind wesentliche Hebel einer zukunftsfähigen Fachkräftesicherung. Die Nationale Weiterbildungsstrategie (NWS) bildet eine gesamtgesellschaftliche Leitlinie für die Stärkung und Entwicklung der beruflichen Weiterbildung in Deutschland, damit sich Menschen im Erwerbsleben beruflich zukunftssicher aufstellen können (siehe auch die Antwort der Bundesregierung auf die Kleine Anfrage der Fraktion der CDU/CSU auf Bundestagsdrucksache 20/5146). Lebensbegleitendes Lernen und eine kontinuierliche Kompetenzentwicklung im Lebensverlauf soll auch durch eine nutzergerechte Weiterbildungsreise digital unterstützt werden. Die Bundesagentur für Arbeit (BA) entwickelt im Rahmen der NWS und unter finanzieller Beteiligung des Bundes eine Nationale Online-Weiterbildungsplattform (NOW). Die Plattform ermöglicht es Ratsuchenden und Weiterbildungsinteressierten, schnell und unkompliziert passende Weiterbildungs- und Beratungsangebote sowie Fördermöglichkeiten zu finden und so neue Kompetenzen für die digitale und ökologische Transformation zu erwerben. Diese Fördermöglichkeiten bieten Unterstützung sowohl für Beschäftigte als auch für arbeitslose Arbeitnehmerinnen und Arbeitnehmer. Auch Unternehmen werden dabei unterstützt, passende Angebote zu finden, um die Qualifizierungsbedarfe ihrer Beschäftigten zu decken und sich so zukunftssicher aufzustellen. Zudem hat die Bundesregierung den Entwurf eines Gesetzes zur Stärkung der Aus- und Weiterbildungsförderung auf den Weg gebracht. Damit soll die Weiterbildungsförderung Beschäftigter verbessert und u. a. durch ein Qualifizierungsgeld ergänzt werden, um die Beschäftigten und die Betriebe bei den erforderlichen Anpassungsprozessen zu unterstützen und Beschäftigung zu sichern. Auch mit dem Bürgergeldgesetz wurde bereits ein starker Fokus auf Weiterbildung gesetzt, zum einen durch finanzielle Anreize zum anderen durch erleichterte Förderbedingungen. Die Neuregelungen im Bürgergeldgesetz kommen insbesondere arbeitslosen oder geringqualifizierten Arbeitnehmerinnen und Arbeitnehmern zugute und stellen sicher, dass auch diese Menschen ihren Platz in einem sich ändernden Erwerbsumfeld finden. Die Bundesregierung fördert darüber hinaus den menschenzentrierten und gemeinwohlorientierten Einsatz von KI in der betrieblichen Praxis, insbesondere im Rahmen der Umsetzung der KI-Strategie. Die Umsetzungsprojekte sind auf der Website der KI-Strategie dokumentiert (https://www.ki-strategie-deutschlan d.de/home.html). Des Weiteren wird auf die Antworten zu den Fragen 3 bis 8b, 23, 24 und 26 verwiesen. 11. Wie wird sich der Fortschritt der künstlichen Intelligenz aus Sicht der Bundesregierung auf die Betriebsratsarbeit und die betriebliche Mitbestimmung auswirken? Den Betriebsräten kommt bei der Einführung und bei der Anwendung von KI- Systemen im Betrieb eine wichtige Rolle zu. Bereits in der KI-Strategie der Bundesregierung der 19. Legislaturperiode wurde festgehalten: „Betriebliche Mitbestimmung und eine frühzeitige Einbindung der Betriebsräte stärken das Vertrauen und die Akzeptanz der Beschäftigten bei der Einführung und der Anwendung von KI.“ Auch die Arbeit der OECD bestätigt dies im internationalen Vergleich (Lane, M., M. Williams and S. Broecke (2023), „The impact of AI on the workplace: Main findings from the OECD AI surveys of employers and workers“, OECD Social, Employment and Migration Working Papers, No. 288, OECD Publishing, Paris, https://doi.org/10.1787/ea0a0fe1-en). Durch die fortschreitende Entwicklung der KI stehen Betriebsräte vor der Herausforderung, die Folgen von KI-Systemen als komplexe technische Systeme einschätzen und identifizieren zu müssen. Deshalb ist es wichtig, dass das im Juni 2021 in Kraft getretene Betriebsrätemodernisierungsgesetz die Hinzuziehung von Sachverständigen erleichtert hat, wenn der Betriebsrat zur Durchführung seiner Aufgaben die Einführung oder Anwendung von KI beurteilen muss. Außerdem wurde klargestellt, dass die Rechte des Betriebsrats bei der Planung von Arbeitsverfahren und Arbeitsabläufen sowie bei der Aufstellung von Personalauswahlrichtlinien auch dann gelten, wenn dabei KI eingesetzt wird. 12. Wie wird sich der Fortschritt der künstlichen Intelligenz auf die Verbesserung der Teilhabe von Menschen mit Behinderungen oder gesundheitlichen Beeinträchtigungen auswirken a) für den Bereich der Gesundheitsversorgung und medizinischen Rehabilitation, b) für den Bereich des Zugangs zum inklusiven Arbeitsmarkt, c) für den Bereich der sozialen Teilhabe, d) für den Bereich der Teilhabe an Bildung? Aus Sicht der Bundesregierung kann der Fortschritt der KI viele Chancen für Menschen mit Behinderungen oder gesundheitlichen Beeinträchtigungen mit sich bringen. Das gilt für alle vier in der Frage genannten Bereiche. So können etwa KI-gestützte Assistenzsysteme körperliche Beeinträchtigungen ausgleichen und bei sogenannten Lernbehinderungen Hilfestellung leisten. Zugleich ist es der Bundesregierung wichtig, dafür zu sorgen, dass KI nicht zu einer Benachteiligung von Menschen mit Behinderungen führt. KI kann dazu beitragen, die Diagnose und Behandlung von Erkrankungen zu verbessern, indem sie zum Beispiel präzisere und schnellere Analysen von Gesundheitsdaten ermöglicht. Dies kann dazu beitragen, Krankheiten frühzeitig zu erkennen, schneller und effektiver zu behandeln und eine hochwertige Versorgung sicherzustellen. Für den Zugang zum Arbeitsmarkt bietet KI viele Möglichkeiten für Menschen mit Behinderungen. Diese werden zum Teil in Projekten erprobt, die die Bundesregierung mit Mitteln aus dem Ausgleichsfonds fördert. 13. Mit welchen Maßnahmen fördert die Bundesregierung den Einsatz von künstlicher Intelligenz zur Verbesserung der Teilhabe von Menschen mit Behinderungen oder gesundheitlichen Beeinträchtigungen (bitte differenziert nach den in Frage 12 genannten Lebensbereichen, den konkreten Technologien und dem konkreten Ziel des Einsatzes dieser Technologien mit Blick auf die Förderung der Teilhabe darstellen)? KI ist als Querschnittsthema Bestandteil verschiedener Förderprogramme der Bundesregierung, deren Durchführung und Finanzierung in der Zuständigkeit der jeweiligen Ressorts liegen. Das Bundesministerium für Gesundheit etwa fördert aktuell 34 Projekte, um zu erfahren, wie KI sinnvoll und nutzbringend für Patientinnen und Patienten eingesetzt werden kann. Damit leistet die Forschungsförderung einen konkreten Beitrag für die Verbesserung der patientenzentrierten Versorgung, für die Nutzung von Gesundheitsdaten zur Anwendung von KI und der Optimierung der personalisierten Behandlung. Beispielhaft ist zum einen das Projekt „Smarte Sensorik bei Telepsychotherapie von Kindern und Jugendlichen mit Zwangsstörungen“ (Projektleitung: Universitätsklinikum Tübingen) zu benennen. Kinder und Jugendliche mit Zwangsstörungen haben ein hohes Risiko, chronisch zu erkranken. Das Projekt trägt dazu bei, dass die Versorgungsmöglichkeiten mithilfe telemedizinischer Lösungen und Sensorik verbessert werden. Auch der beim Gemeinsamen Bundesausschuss angesiedelte Innovationsfonds fördert Vorhaben zur Verbesserung der Versorgung in der gesetzlichen Krankenversicherung mit Bezug zu KI. Das BMAS wiederum fördert aus Mitteln des Ausgleichsfonds Projekte, bei denen KI genutzt wird. Zu diesen zählt z. B. „KI-Kompass Inklusiv“. In diesem Projekt werden existierende KI-gestützte Assistenzsysteme auf ihre Zweckdienlichkeit für die Unterstützung von Menschen mit Behinderungen bei ihrer Arbeit geprüft und eine Datenbank mit entsprechenden Systemen erstellt. Ein weiteres Projekt ist „TOP KI“. Es zielt darauf ab, Fachtexte in „Einfache Sprache“ zu übersetzen. Die entsprechende KI-basierte Software soll verwendet werden, um Prüferinnen und Prüfer bei der Formulierung von Prüfungsaufgaben in „Einfacher Sprache“ zu unterstützen, sodass mehr Menschen mit sogenannten Lernbehinderungen beim Erreichen eines Berufsabschlusses geholfen wird. Außerdem hat die Bundesregierung mit der Civic Innovation Platform eine Matching-Plattform eingerichtet, in der sich engagierte Personen finden können, um gemeinsam Ideen für gemeinwohlorientierte KI-Anwendungen zu entwickeln. 14. Wie werden Menschen mit Behinderungen und die sie vertretenden Organisationen einbezogen bei der Entwicklung von Fördermaßnahmen zum Einsatz von künstlicher Intelligenz zur Verbesserung der Teilhabe von Menschen mit Behinderungen? Die Beteiligung von Menschen mit Behinderungen bei der Entscheidung über Fördermaßnahmen, die zur Verbesserung der Teilhabe beitragen sollen, ist für die Bundesregierung selbstverständlich. Beispielsweise sind verschiedene Verbände im Beirat für die Teilhabe von Menschen mit Behinderungen vertreten, der über die Förderung von Projekten mit Mitteln aus dem Ausgleichsfonds entscheidet. Außerdem sitzen in den Beiräten der jeweiligen Projekte entweder Menschen mit Behinderungen oder aber Mitglieder ihrer Interessensvertretungen. Außerdem fördert die Bundesregierung das Vorhaben „Data Saves Lives“. Dieses Vorhaben ist eine Initiative mehrerer Interessengruppen, um bei Patientinnen und Patienten (insbesondere mit Behinderungen und chronischen Erkrankungen) sowie in der Öffentlichkeit mehr Bewusstsein dafür zu schaffen, wie wichtig Gesundheitsdaten für die Gesundheitsversorgung und medizinische Rehabilitation sind. Das Vorhaben informiert darüber, wie Gesundheitsdaten verwendet werden und eine vertrauensvolle Umgebung für einen offenen Dialog von Interessenvertreterinnen und Interessenvertretern geschaffen werden kann. Zudem sind die für die Wahrnehmung der Interessen der Patientinnen und Patienten und der Selbsthilfe chronisch kranker und behinderter Menschen maßgeblichen Organisationen auf Bundesebene am Aufbau des Forschungsdatenzentrums (FDZ) Gesundheit beteiligt und können Anträge auf Nutzung der Daten stellen. Das FDZ Gesundheit wird es Nutzungsberechtigten ab voraussichtlich Herbst 2023 ermöglichen, Abrechnungsdaten der gesetzlichen Krankenversicherung für bestimmte Zwecke, insbesondere für die wissenschaftliche Forschung und die Weiterentwicklung des Gesundheitswesens, auszuwerten. 15. Wie beurteilt die Bundesregierung den möglichen Einsatz von künstlicher Intelligenz in den Personalabteilungen des Bundeskanzleramtes, der Bundesministerien oder ihrer nachgeordneten Behörden? Ein Einsatz von KI im Sinne der Fragestellung muss im Einklang mit den einschlägigen Rechtsgrundlagen erfolgen. Dabei sind insbesondere grundrechtliche, datenschutzrechtliche und ethische Fragestellungen zu betrachten. Die Beurteilung dieser Fragestellungen ist von der konkreten Anwendung des jeweiligen Einsatzes eines Systems der Künstlichen Intelligenz und des damit einhergehenden möglichen Risikos abhängig. Eine pauschale Beantwortung der Frage ist daher nicht möglich. 16. Welches Ressort der Bundesregierung ist federführend zuständig für Fragen rund um den Einsatz von künstlicher Intelligenz in der öffentlichen Verwaltung? Der Einsatz von KI bietet enormes Potential für eine moderne, effiziente und krisenresiliente Verwaltung für die digitale Gesellschaft. Das Thema KI betrifft daher sämtliche Ressorts und dabei zahlreiche Bereiche. Aufgrund der Zuständigkeit des Bundesministeriums des Innern und für Heimat (BMI) für die IT der öffentlichen Verwaltung des Bundes und der Rolle des Beauftragten der Bundesregierung für Informationstechnik als zentraler Ansprechpartner für Länder und Wirtschaft bei der Zusammenarbeit mit der Bundesregierung in IT- Fragen, hat das BMI insoweit eine koordinierende Funktion. Im Übrigen wird auf die Antwort der Bundesregierung zu Frage 6 der Kleinen Anfrage der Fraktion DIE LINKE. auf Bundestagsdrucksache 20/3020 und die Antwort der Bundesregierung zu den Fragen 19 und 33 der Kleinen Anfrage der Fraktion der CDU/CSU auf Bundestagsdrucksache 20/1173 verwiesen. 17. Plant die Bundesregierung, das vom Bundesministerium für Arbeit und Soziales initiierte „Netzwerk Künstliche Intelligenz in der Arbeits- und Sozialverwaltung“ fortzusetzen und weiter auszubauen? 18. Welche konkreten Handlungsempfehlungen sind aus dem „Netzwerk Künstliche Intelligenz in der Arbeits- und Sozialverwaltung“ bereits an die Bundesregierung kommuniziert worden? Die Fragen 17 und 18 werden gemeinsam beantwortet. Die Arbeit des Netzwerks „KI in der Arbeits- und Sozialverwaltung“ wird fortgesetzt. Im Netzwerk tauschen sich Vertreterinnen und Vertreter des BMAS sowie aus 19 Behörden des Geschäftsbereichs des BMAS aus. Gemeinsam haben sie in einem partizipativen Prozess „Selbstverpflichtende Leitlinien für den KI- Einsatz in der behördlichen Praxis der Arbeits- und Sozialverwaltung“ entwickelt, die im November 2022 veröffentlicht wurden und seitdem auf der Website der Denkfabrik Digitale Arbeitsgesellschaft des BMAS unter https://www.bmas.de/ DE/Service/Publikationen/Broschueren/a862-leitlinien-ki-einsatz-behoerdliche- praxis-arbeits-sozialverwaltung.html und https://www.denkfabrik-bmas.de/ abrufbar sind. Die Leitlinien werden im Netzwerk regelmäßig überprüft und an neue technologische Entwicklungen, sich verändernde gesellschaftliche Anforderungen und rechtliche Vorgaben angepasst sowie um Lernerfahrungen aus der Anwendung in der Verwaltungspraxis ergänzt. 19. Wie bewertet das Bundesministerium für Arbeit und Soziales den Entwurf eines Gesetzes für künstliche Intelligenz (AI Act, Allgemeine Ausrichtung des Rats der Europäischen Union vom 6. Dezember 2022)? a) An welchen Stellen hält die Bundesregierung die im AI Act (Allgemeine Ausrichtung des Rats der Europäischen Union vom 6. Dezember 2022) vorgesehene Regelung im Bereich Arbeitsmarkt und Sozialstaat für nicht ausreichend? b) Welche Gespräche hat der Bundesminister für Arbeit und Soziales, Hubertus Heil, im Rahmen des Gesetzgebungsprozesses zum AI Act bislang geführt (bitte mit Gesprächspartnern auflisten)? Die Fragen 19 bis 19b werden gemeinsam beantwortet. Im Gesetzgebungsverfahren der EU zur KI-Verordnung hat der Rat am 6. Dezember 2022 einstimmig eine Allgemeine Ausrichtung beschlossen und damit das Gesetzgebungsverfahren in die Phase der Beratung mit dem Europäischen Parlament übergeleitet. Gleichzeitig setzt sich die Bundesregierung in ihrer Protokollerklärung zur Zustimmung zur Allgemeinen Ausrichtung dafür ein, dass eine Öffnungsklausel für spezifischere nationale Regelungen im Beschäftigungskontext geschaffen wird. Damit kann den Besonderheiten im Beschäftigungskontext in den einzelnen Mitgliedstaaten bei Bedarf angemessen Rechnung getragen werden. Der Bundesminister für Arbeit und Soziales Hubertus Heil ist in alle notwendigen politischen Abstimmungsprozesse eingebunden, im bisherigen Stadium des Gesetzgebungsprozesses zur KI-Verordnung waren jedoch noch keine Gespräche notwendig. 20. Sind die Gesetze und Vorschriften zum Datenschutz aus der Sicht der Bundesregierung ein Standortnachteil für die Entwicklung von künstlicher Intelligenz in Deutschland? Die Bundesregierung sieht in den bestehenden Vorschriften zum Datenschutz keinen Standortnachteil für die Entwicklung von KI in Deutschland. Ausgewogene, handhabbare Datenschutzvorschriften bilden einen wichtigen Baustein für eine nachhaltige und soziale Digitalisierung mit dem Einsatz von KI, die zum Schutze der Betroffenen stets zu berücksichtigen sind. Der aktuelle Koalitionsvertrag zwischen SPD, BÜNDNIS 90/DIE GRÜNEN und FDP sieht vor, Regelungen zum Beschäftigtendatenschutz zu schaffen, um Rechtsklarheit für Arbeitgeber sowie Beschäftigte zu erreichen und die Persönlichkeitsrechte effektiv zu schützen. Das BMAS und das BMI erarbeiten derzeit gemeinsam Regelungen zur Umsetzung dieser Vereinbarung. 21. Mit welchen Aufgaben und Kompetenzen möchte das Bundesministerium für Arbeit und Soziales das „Observatorium Künstliche Intelligenz in Arbeit und Gesellschaft“ zukünftig versehen, und plant die Bundesregierung einen Ausbau des KI-Observatoriums? 22. Wie hoch war der jährliche Haushaltsmittelabfluss für das „Observatorium Künstliche Intelligenz in Arbeit und Gesellschaft“ seit dessen Start (bitte nach Jahren aufschlüsseln), und wie wird dieser Haushaltsmittelabfluss begründet? Die Fragen 21 und 22 werden gemeinsam beantwortet. Die KI ist aufgrund ihrer Auswirkungen auf Beschäftigung und Kompetenzbedarfe auf absehbare Zeit eine Schlüsseltechnologie der Transformation von Arbeit. Das KI-Observatorium unterstützt die arbeits- und sozialpolitische Gestaltung des Themas KI im BMAS. Der Fokus des KI-Observatoriums ist es, die Auswirkungen von KI auf Arbeit und Gesellschaft zu analysieren, zu diskutieren und zu gestalten. Das KI-Observatorium wurde im März 2020 eröffnet und hat seitdem zahlreiche Projekte angestoßen und durchgeführt mit dem Ziel, den verantwortungsvollen und gemeinwohlorientierten Einsatz von KI zu fördern. Mit den bisherigen Projekten zur Gestaltung von KI in der betrieblichen Praxis erreicht das KI- Observatorium über 2 000 Unternehmen und setzt dabei inhaltlich sowie methodisch Maßstäbe. In Zukunft soll der Fokus des KI-Observatoriums noch stärker auf dem Gestalten von KI in Unternehmen, Verwaltung und Zivilgesellschaft liegen, basierend auch auf den Ergebnissen der bereits laufenden Analysen. Der Mittelabfluss 2019 bis 2022 war im Jahr 2020 aufgrund der COVID-19-Pandemie stark eingeschränkt, da betriebliche Praxisprojekte ins Folgejahr verlegt wurden. Im Jahr 2022 war der Mittelabfluss aufgrund der vorläufigen Haushaltsführung eingeschränkt, daher wurden betriebliche Praxisprojekte ins Jahr 2023 verschoben. 2019 6,15 Mio. EUR 2020 1,26 Mio. EUR 2021 8,1 Mio. EUR 2022 2,4 Mio. EUR 23. Welche Chancen und Herausforderungen bietet künstliche Intelligenz aus Sicht der Bundesregierung für den deutschen Sozialstaat? Der Einsatz von KI wird zukünftig das Bild des deutschen Sozialstaats immer stärker prägen. Die Entwicklung im Bereich KI schreitet sehr schnell voran. Dabei verschwimmen die Grenzen von Grundlagenforschung, anwendungsorientierter Forschung, Prototyping und fertigen Produkten. Digitale Trends beim Einsatz von KI zeigen sich beispielsweise in der Vereinfachung der Bereitstellung digitaler Dienstleistungen. Dies betrifft u. a. die Kommunikation mit Bürgerinnen und Bürgern, Unternehmen und Organisationen. Hier können Anwendungen helfen, Anliegen von Bürgerinnen und Bürgern schnell und gezielt zu erkennen und so effizient die gewünschten Verwaltungsleistungen bereitzustellen. Bereits in der KI-Strategie sowie in der Digitalstrategie der Bundesregierung wurde das Potential von KI erkannt. Die Bundesregierung hat hierin den Anspruch festgelegt, beim weiteren Einsatz von KI in der Verwaltung eine Vorreiterrolle einnehmen zu wollen und damit zur Verbesserung von Effizienz, Qualität und Sicherheit von Verwaltungsdienstleistungen beizutragen. Gleichzeitig kann der KI-Einsatz in der Verwaltung auch Risiken bergen, denen angemessen begegnet werden muss. 24. Welchen Einfluss hat nach Ansicht der Bundesregierung künstliche Intelligenz auf die Finanzlage der sozialen Sicherungssysteme (bitte nach Rentenversicherung, Krankenversicherung, Pflege- und Arbeitslosenversicherung aufschlüsseln)? Der Bundesregierung liegen keine Erkenntnisse bezüglich des (erwarteten) Einflusses von Technologien der KI auf die Finanzlage der sozialen Sicherungssysteme vor, da diese wesentlich von den Entwicklungen im Arbeitsmarkt beeinflusst sind (vgl. Vorbemerkung der Bundesregierung und Antwort zu den Fragen 3 bis 8b). 25. Wird nach Kenntnis der Bundesregierung im Bereich der Träger des sozialen Sicherungssystems bereits „künstliche Intelligenz“ genutzt, und a) wenn ja, wo, b) welchen Einfluss hat dies auf die Personalkultur, c) welchen Einfluss hat dies auf die Finanzlage? Beim überwiegenden Teil der Träger der Sozialversicherung wird KI derzeit noch nicht im Produktivbetrieb genutzt. Entsprechend können keine verlässlichen Aussagen hinsichtlich eines möglichen Einflusses auf die Personalkultur und die Finanzlage getroffen werden. Die Nutzung von KI im produktiven Betrieb der gesetzlichen Unfallversicherung findet bei der Berufsgenossenschaft Energie Textil Elektro Medienerzeugnisse aktuell in drei Bereichen statt. Es ist ein System zur Ermittlung von Unfalltendenzbetrieben im Einsatz, ein System zur Optimierung von Regressfallanalysen und ein System zur zeitnahen Identifikation von potenziellen Reha-Managementfällen. Verlässliche Aussagen zu Auswirkungen des KI-Einsatzes auf die Personalkultur oder die Finanzlage sind zum gegenwärtigen Zeitpunkt nicht möglich. Nach Auskunft der Deutschen Rentenversicherung Bund (DRV Bund) liegen keine Kenntnisse vor, dass KI in der Leistungserbringung der Rentenversicherung aktuell produktiv eingesetzt wird. Daher können auch keine verlässlichen Aussagen hinsichtlich eines möglichen Einflusses auf die Personalkultur und die Finanzlage gemacht werden. Es ist nicht auszuschließen, dass einzelne im Einsatz befindliche Softwareprodukte (z. B. im Bereich der IT-Sicherheit oder der Dokumentensuche) KI-Ansätze verwenden. Über die Auswirkungen dieses mittelbaren Einsatzes von KI auf die Personalkultur und die Finanzlage können keine Aussagen getroffen werden. Weitere Projekte zur Auslotung potentieller Anwendungsfelder bis hin zu ersten Pilotprojekten sind sowohl bei der DRV Bund als auch bei der Sozialversicherung für Landwirtschaft, Forsten und Gartenbau (SVLFG) angesiedelt. Der inzwischen erreichte hohe Grad der Digitalisierung erlaubt es der BA, einen stärkeren Fokus auf den Einsatz von KI zu legen. Die BA analysiert hierbei Anforderungen und Möglichkeiten für den Einsatz der KI, um neue innovative Ansätze im Umfeld der Automatisierung sowie für weitergehende Dienstleistungen zu erschließen. Dies erfolgt insbesondere in den Fällen, wenn deterministische Systeme an ihre Grenzen stoßen, im Kontext großer Datenmengen und insofern kontrolliert lernende Systeme die technologisch beste Lösung darstellen. Chancen und Risiken werden hierbei für jeden Einzelfall untersucht, bewertet und dokumentiert. Der Einsatz von KI-Methoden bedarf dabei insbesondere im Bereich der sozialen Sicherung der Beachtung von Vorgaben. Vorrangig betrifft dies die Einhaltung von Vorgaben der Zweckbindung erhobener Sozialdaten, von Datenschutz und Datensicherheit. Ziel ist es, dass sich Mitarbeiterinnen und Mitarbeiter der BA stärker auf mehrwertstiftende Tätigkeiten ihres Kerngeschäfts fokussieren können. Die Prinzipien der Human Friendly Automation werden konsequent berücksichtigt sowie die datenethischen Prinzipien der BA für jeden Anwendungsfall eingehalten, um unbeabsichtigte Diskriminierungen auszuschließen. Einfache Anwendungsfälle, wie die Klassifizierung (Vorstrukturierung) von Dokumenten, sind bereits gegenwärtig im Einsatz. Komplexe Anwendungen unter Verwendung von sogenannten „Unsupervised Machine Learning- Methoden“ werden derzeit in der BA noch nicht eingesetzt. Die BA unterscheidet beim Einfluss von KI auf die Personalkultur vier unterschiedliche Typen von Auswirkungen: Ersatz, Entlastung, Einschränkung sowie Entstehung neuer maschinell ausgeführter Arbeit. Der Einsatz von KI in der BA betrifft derzeit insbesondere die Auswirkungstypen Ersatz (Aufgaben oder Teilaufgaben fallen weg) sowie Entlastung (Aufgaben oder Teilaufgaben werden einfacher) und unterstützt die Wertschöpfung der BA positiv. Im Rahmen einer guten Personalkultur werden mögliche Vorbehalte des Personals im Umgang mit KI aufgegriffen und darauf hingewirkt, das Personal gut zu begleiten, zu unterstützen und mitzunehmen. Einen Einfluss auf die Finanzlage der BA ist derzeit nicht absehbar. Die BA, die DRV Bund, die Deutsche Rentenversicherung Knappschaft-Bahn- See, die SVLFG, die Deutsche Gesetzliche Unfallversicherung e. V. und die Träger der gesetzlichen Unfallversicherung sowie die Künstlersozialkasse waren im Netzwerk KI in der Arbeits- und Sozialverwaltung des BMAS an der Erarbeitung der selbstverpflichtenden Leitlinien für den KI-Einsatz in der behördlichen Praxis beteiligt und haben sich den Empfehlungen der Leitlinien angeschlossen. 26. Mit welchen Maßnahmen möchte die Bundesregierung, bei möglichen Mindereinnahmen durch künstliche Intelligenz, die Stabilität der Finanzen bei den Trägern des sozialen Sicherungssystems sicherstellen? Es wird auf die Antwort zu Frage 24 verwiesen. 27. Plant die Bundesregierung den Einsatz von künstlicher Intelligenz zur Bekämpfung von Sozialleistungs- und Steuerbetrug? Der Einsatz von KI zur Bekämpfung von Steuerbetrug ist in Planung. Die BA setzt aktuell keine KI zur Bekämpfung von Sozialleistungsmissbrauch ein. Es ist jedoch für das Jahr 2023 geplant, im Rahmen eines Proof of Concepts zwei Systeme mit jeweils einer KI-Komponente zu entwickeln. Beide Systeme werden im Jahr 2023 – auch bei erfolgreichem Konzeptionsabschluss – noch nicht im Echtbetrieb eingesetzt werden. Die BA wird Ende des Jahres 2023 entscheiden, ob und falls ja, in welcher Form und wann sie eingesetzt werden sollen. 28. Welche Anwendungen mit künstlicher Intelligenz nutzt die Deutsche Rentenversicherung Bund? Es wird auf die Antwort zu Frage 25 verwiesen. 29. Welche Anwendungen mit künstlicher Intelligenz nutzt die Bundesagentur für Arbeit? KI-Anwendungen im Sinne eines Unsupervised Machine Learning-Ansatzes sind bei der BA derzeit nicht im Einsatz. Nachfolgende Anwendungen sind unter der Prämisse aufgeführt, dass KI-Lösungen im Sinne der Anfrage auch Supervised Machine Learning-Ansätze und komplexe Regressionsanalysen miteinschließen. Im Online-Antragsprozess der Familienkasse wird eine Anwendung zur Erkennung bzw. Klassifikation von Studienbescheinigungen als Unterstützung der manuellen Bearbeitung von Kindergeldanträgen genutzt. Eine weitere Anwendung dient der Unterstützung des Einkaufsprozesses berufsvorbereitender Bildungsmaßnahmen. Hierfür wird ein Auslastungsforecast auf Basis historischer Daten als Unterstützungssystem bereitgestellt. 30. Welche Chancen und Risiken sieht die Bundesregierung im Umgang mit künstlicher Intelligenz im Bildungsbereich? Mögliche Chancen und Risiken des Einsatzes von KI im Bildungsbereich werden gegenwärtig vielfach diskutiert. Grundsätzlich kann KI dazu dienen, Lernprozesse individuell zu unterstützen und zu adaptieren. Entscheidend dabei ist, dass Lehrende und Lernende KI bewusst und informiert einsetzen und insbesondere automatisch generierte Inhalte kritisch hinterfragen. Schulen und Hochschulen haben für den Einsatz neuer technologischer Entwicklungen bisher immer konstruktive Strategien zur Nutzung entwickelt und erprobt. Dabei war und ist ein entscheidender Faktor, die im Bildungsprozess erworbenen Kompetenzen differenziert zu bewerten und die Vermittlung grundlegender Fähigkeiten nicht außer Acht zu lassen. Gesamtherstellung: H. Heenemann GmbH & Co. KG, Buch- und Offsetdruckerei, Bessemerstraße 83–91, 12103 Berlin, www.heenemann-druck.de Vertrieb: Bundesanzeiger Verlag GmbH, Postfach 10 05 34, 50445 Köln, Telefon (02 21) 97 66 83 40, Fax (02 21) 97 66 83 44, www.betrifft-gesetze.de ISSN 0722-8333]