Maßnahmen zur Bekämpfung des Rechtsextremismus und der Hasskriminalität - Effektivität des Netzwerkdurchsetzungsgesetzes

[Antwort der Bundesregierung auf die Kleine Anfrage der Abgeordneten Dr. Jürgen Martens, Stephan Thomae, Grigorios Aggelidis, weiterer Abgeordneter und der Fraktion der FDP – Drucksache 19/26398 – Maßnahmen zur Bekämpfung des Rechtsextremismus und der Hasskriminalität – Effektivität des Netzwerkdurchsetzungsgesetzes V o r b e m e r k u n g d e r F r a g e s t e l l e r Das Gesetz zur Verbesserung der Rechtsdurchsetzung in sozialen Netzwerken, Netzwerkdurchsetzungsgesetz (NetzDG), trat am 1. Oktober 2017 in Kraft. Es sieht unter anderem Berichtspflichten für die Betreiber sozialer Netzwerke (§ 2 NetzDG) sowie die Einrichtung von Beschwerdemechanismen (§ 3 NetzDG) vor. Das Gesetz verfolgt im Kern den Zweck, Anbieter sozialer Netzwerke zu einer aktiven Kontrolle von Inhalten auf ihren Plattformen zu verpflichten, indem sie etwa Nutzerbeschwerden entgegennehmen müssen und bei bestimmten Inhalten mit deren Löschung oder Sperrung beauftragt werden. Eine Pflicht zur Weiterleitung bestimmter Inhalte an das Bundeskriminalamt ist vorgesehen, das entsprechende Gesetz jedoch bisher noch nicht in Kraft getreten (vgl. Bundestagsdrucksache 19/17741). Berufliche Netzwerke, Fachportale, sowie E- Mail- und Messengerdienste, etwa Telegram, fallen nicht unter das Gesetz. Das NetzDG sieht sich seit seinem Inkrafttreten Kritik ausgesetzt. Diese Kritik bezieht sich auch immer wieder auf die verschärften Löschungen oder Sperrungen, die von Anbietern sozialer Netzwerke aufgrund der Verpflichtungen aus dem NetzDG vorgenommen werden. So wurden beispielsweise im Vorfeld des Europawahlen 2019 die unrechtmäßige Löschung von bzw. Sperrungen aufgrund von satirischen Tweets auf der Plattform Twitter kritisiert (https://net zpolitik.org/2019/twitter-muss-sich-im-bundestag-fuer-kontensperren-rechtfer tigen/). Auch das Beschwerdemanagement der Netzwerke selbst wird als nicht nutzerfreundlich beschrieben: User müssten Postings bei ihrer Meldung selbst rechtlich einordnen und ggf. die Konsequenzen bis hin zur Sperrung des eigenen Accounts tragen. Darüber hinaus seien Mechanismen zur Prävention missbräuchlicher Massenmeldungen nur unzureichend vorhanden, was gezielte Meldekampagnen gegen unliebsame Userinnen und User ermögliche. Opfer eines solchen Meldemissbrauchs würden nach Berichten von Nutzern (vgl. etwa den Hashtag #meldemissbrauch auf Twitter) unrechtmäßig gesperrt. Andererseits ist vermehrt zu beobachten, dass die durch das NetzDG vorgesehenen Mechanismen der sozialen Netzwerke leicht umgangen werden könn- Deutscher Bundestag Drucksache 19/26749 19. Wahlperiode 17.02.2021 Die Antwort wurde namens der Bundesregierung mit Schreiben des Bundesministeriums der Justiz und für Verbraucherschutz vom 17. Februar 2021 übermittelt. Die Drucksache enthält zusätzlich – in kleinerer Schrifttype – den Fragetext. ten. Dies geschieht einerseits durch das Neuanlegen von Accounts, andererseits durch vermehrten Zulauf alternativer sozialer Netzwerke wie vk.com und Parler oder aber die gezielte Nutzung von Messengerdiensten wie Telegram, welche nicht dem NetzDG unterfallen (https://www.deutschlandfunk.de/studi e-zu-online-plattformen-ein-biotop-fuer-rechtsextreme.2907.de.html?dram:arti cle_id=470534).  1. Welche konkreten Anbieter sozialer Netzwerke unterliegen nach Kenntnis der Bundesregierung aktuell den Pflichten des NetzDG? Ob ein Anbieter vom NetzDG erfasst wird, prüft das für die Durchsetzung des NetzDG zuständige Bundesamt für Justiz (BfJ) einzelfallbezogen im Rahmen eines konkreten Ordnungswidrigkeitenverfahrens oder wenn ein Anbieter einen Transparenzbericht unter Verweis auf § 2 NetzDG veröffentlicht hat. Ein Ordnungswidrigkeitenverfahren wird eingeleitet, wenn der Anfangsverdacht für einen Verstoß gegen eine bußgeldbewehrte Pflicht nach dem NetzDG vorliegt. Der Prüfungsmaßstab für die Anwendbarkeit des NetzDG ist in § 1 Absatz 1 NetzDG festgelegt. Sobald ein Anbieter einen Transparenzbericht vorlegt, erfolgt von Amts wegen eine entsprechende Prüfung. Seit Inkrafttreten des NetzDG am 1. Oktober 2017 sind Transparenzberichte mit Bezug auf das NetzDG zu folgenden Plattformen veröffentlicht worden: Facebook, Twitter, Google+, YouTube, Instagram, Reddit, TikTok, Change.org und SoundCloud. Der Veröffentlichung eines Berichts kommt dabei lediglich Indizwirkung für die Frage zu, ob ein Internetangebot dem NetzDG unterfällt, weil auch die Möglichkeit einer überobligatorischen Veröffentlichung besteht. Das BfJ führt im Übrigen keine abschließende Liste der Anbieter sozialer Netzwerke, welche den Pflichten des NetzDG unterliegen.  2. Welche der Anbieter unterhalten ihre europäische Hauptniederlassung außerhalb Deutschlands? Wie bereits in der Antwort zu Frage 1 dargestellt, hält das BfJ keine abschließende Liste von Anbietern sozialer Netzwerke, welche den Pflichten des NetzDG unterliegen, vor. Von den in der Antwort zu Frage 1 genannten Anbietern, welche Transparenzberichte mit Bezug auf das NetzDG veröffentlicht haben, verfügen ausweislich der auf der jeweiligen Plattform einsehbaren Angaben im Impressum die Anbieter von Facebook, Twitter, YouTube, Instagram und TikTok über eine europäische Niederlassung außerhalb Deutschlands. Die jeweiligen Niederlassungen befinden sich in Irland. Die Anbieter von Change.org sowie von Reddit verfügen nach ihren Angaben über Niederlassungen im außereuropäischen Ausland (USA). Der in der Antwort zu Frage 1 genannte Dienst Google+ hat im April 2019 den Betrieb eingestellt.  3. Wie viele und welche Anbieter sozialer Netzwerke haben nach Kenntnis der Bundesregierung Transparenzberichte nach § 2 NetzDG veröffentlicht (erstes bzw. zweites Halbjahr 2019, erstes bzw. zweites Halbjahr 2020; bitte nach jeweiligem Berichtszeitraum aufschlüsseln)? In den jeweiligen Zeiträumen wurden folgende Transparenzberichte unter Verweis auf § 2 NetzDG veröffentlicht: – bezogen auf das 1. Halbjahr 2019 (Berichtszeitraum 1. Januar bis 30. Juni 2019): Facebook, Twitter, Google+, YouTube, Change.org, Instagram und Reddit; – bezogen auf das 2. Halbjahr 2019 (Berichtszeitraum 1. Juli bis 31. Dezember 2019) Facebook, Twitter, YouTube, Change.org, Instagram, Reddit und TikTok; – bezogen auf das 1. Halbjahr 2020 (Berichtszeitraum 1. Januar bis 30. Juni 2020) Facebook, Twitter, YouTube, Change.org, Instagram, Reddit, TikTok und SoundCloud; – bezogen auf das 2. Halbjahr 2020 (Berichtszeitraum 1. Juli bis 31. Dezember 2020) Facebook, Twitter, YouTube, Change.org, Instagram, Reddit, Tik- Tok und SoundCloud. a) Wurde nach Kenntnis der Bundesregierung jeweils geprüft, ob die Anbieter zur Veröffentlichung eines Transparenzberichtes nach § 2 NetzDG verpflichtet sind? Alle veröffentlichten Transparenzberichte wurden daraufhin geprüft, ob die Anbieter der Berichtspflicht nach § 2 NetzDG unterliegen und soweit dies der Fall war, ob die Unternehmen ihre Pflichtangaben nach dem NetzDG erfüllt haben. Der Veröffentlichung eines Berichts kommt dabei lediglich Indizwirkung für die Frage zu, ob ein Internetangebot dem NetzDG unterfällt. b) Wurden gegen die verpflichteten Anbieter für die Berichtszeiträume, über die keine Transparenzberichte abgegeben wurden, Verfahren durch das Bundesamt für Justiz (BfJ) eingeleitet? Bislang musste ein solches Verfahren gegen einen Anbieter, der keinen Transparenzbericht vorgelegt hat und der der Berichtspflicht nach § 2 NetzDG unterliegt, noch nicht eingeleitet werden.  4. Wie viele Beschwerden über rechtswidrige Inhalte im Sinne des § 1 Absatz 1 und 3 NetzDG wurden im letzten Berichtszeitraum bei den der Berichtspflicht unterliegenden Netzwerken eingereicht? a) Welcher Anteil der Beschwerden entfiel auf Beschwerdestellen und welcher Anteil auf Beschwerden privater Nutzer? Die Fragen 4 und 4a werden wegen des Sachzusammenhangs gemeinsam beantwortet. Vorauszuschicken ist, dass einige Transparenzberichte nur NetzDG- Beschwerden ausweisen und nicht zu erkennen geben, ob eine Beschwerde mehrere Inhalte erfasst. Die Bundesregierung geht daher davon aus, dass sich die gestellten Fragen in Bezug auf diese Transparenzberichte auf die Anzahl der an die Anbieter übermittelten Beschwerden richtet, unabhängig davon, ob eine Beschwerde mehrere Inhalte zum Gegenstand hatte. Anhand der veröffentlichten Transparenzberichte für den letzten Berichtszeitraum (2. Halbjahr 2020 (Berichtszeitraum 1. Juli 2020 bis 31. Dezember 2020)) konnten folgende Zahlen ermittelt werden: Auf Facebook wurden insgesamt 4 211 NetzDG-Beschwerden eingereicht. 1 473 NetzDG-Beschwerden erfolgten durch Beschwerdestellen; dies entspricht einem Anteil von rund 35 Prozent am Gesamtbeschwerdeaufkommen. 2 738 NetzDG-Beschwerden erfolgten durch Nutzer; dies entspricht einem Anteil von 65 Prozent am Gesamtbeschwerdeaufkommen. Auf Twitter wurden insgesamt 811 469 NetzDG-Beschwerden eingereicht. 55 500 NetzDG-Beschwerden erfolgten durch Beschwerdestellen; dies entspricht einem Anteil von rund 7 Prozent am Gesamtbeschwerdeaufkommen. 755 969 NetzDG-Beschwerden erfolgten durch Nutzer; dies entspricht einem Anteil von rund 93 Prozent am Gesamtbeschwerdeaufkommen. Der Transparenzbericht von YouTube weist ausschließlich die Anzahl der gemeldeten Inhalte aus, d. h. solche, die in einer NetzDG-Beschwerde übermittelt wurden. Hiernach wurden insgesamt 323 792 Inhalte gemeldet. Die Meldung von 103 491 Inhalten erfolgte durch Beschwerdestellen; dies entspricht einem Anteil von rund 32 Prozent am Gesamtvolumen. 220 301 Inhalte wurden durch Nutzer gemeldet; dies entspricht einem Anteil von rund 68 Prozent am Gesamtaufkommen. Auf Instagram wurden insgesamt 3 366 NetzDG-Beschwerden eingereicht. 1 209 NetzDG-Beschwerden erfolgten durch Beschwerdestellen; dies entspricht einem Anteil von rund 36 Prozent am Gesamtbeschwerdeaufkommen. 2 157 NetzDG-Beschwerden erfolgten durch Nutzer; dies entspricht einem Anteil von rund 64 Prozent am Gesamtbeschwerdeaufkommen. Der Transparenzbericht von Reddit führt aus, dass 327 NetzDG-Beschwerden erhoben wurden, von denen einige mehrere Inhalte und / oder Verstöße gegen mehrere Bestimmungen des Strafgesetzbuchs betrafen. Alle Beschwerden seien von Nutzern erhoben worden. Auf TikTok wurden insgesamt 246 434 NetzDG-Beschwerden eingereicht. 66 749 NetzDG-Beschwerden erfolgten durch Beschwerdestellen; dies entspricht einem Anteil von rund 27 Prozent am Gesamtbeschwerdeaufkommen. 179 685 NetzDG-Beschwerden erfolgten durch Nutzer; dies entspricht einem Anteil von rund 73 Prozent am Gesamtbeschwerdeaufkommen. Auf Change.org wurden insgesamt 128 NetzDG-Beschwerden eingereicht. Es erfolgte keine NetzDG-Beschwerde durch eine Beschwerdestelle. Auf SoundCloud wurden insgesamt 99 NetzDG-Beschwerden eingereicht. Es erfolgte keine Beschwerde durch eine Beschwerdestelle. b) Wie viele Beschwerden wurden pro Nutzer durchschnittlich abgegeben? Die Transparenzberichte enthalten hierzu keine Angaben. Auch liegen dem BfJ keine weitergehenden Erkenntnisse vor, die eine Zuordnung einer NetzDG- Beschwerde zu einer bestimmten Nutzerin oder einem bestimmten Nutzer ermöglicht.  5. Wie viele Beschwerden über rechtswidrige Inhalte im Sinne des § 1 Absatz 1 und 3 NetzDG führten ausweislich der Transparenzberichte zu Löschungen und Sperrungen (bitte jeweils in absoluten Zahlen und relativ zur Zahl der eingegangenen Beschwerden angeben)? a) Anhand der veröffentlichten Transparenzberichte für das zweite Halbjahr 2020 (Berichtszeitraum 1. Juli 2020 bis 31. Dezember 2020) konnten für einzelne soziale Netzwerke folgende Zahlen ermittelt werden: Auf Facebook wurden 4 211 NetzDG-Beschwerden erhoben. Mit diesen Beschwerden wurden insgesamt 4 401 Inhalte gemeldet. 1 117 NetzDG- Beschwerden führten zu Löschungen oder Sperrungen von gemeldeten Inhalten (entspricht rund 27 Prozent des Gesamtbeschwerdevolumens), insgesamt wurden 1 276 Inhalte gelöscht oder gesperrt. Auf Twitter wurden insgesamt 811 469 NetzDG-Beschwerden erhoben. Es erfolgten 118 797 Löschungen und Sperrungen. Dies ergibt eine Quote an Beschwerden, die zu Löschungen oder Sperrungen geführt haben, von rund 15 Prozent. Eine Differenzierung zwischen Beschwerden und einzelnen gemeldeten Inhalten erfolgt im entsprechenden Transparenzbericht nicht. Auf YouTube wurden 323 792 Inhalte gemeldet. Es erfolgten 73 477 Löschungen oder Sperrungen von Inhalten. Dies entspricht einer Quote an Beschwerden, die zu Löschungen oder Sperrungen geführt haben von rund 23 Prozent. Auf Instagram wurden im Rahmen von 3 366 NetzDG-Beschwerden insgesamt 5 570 Inhalte gemeldet. 415 Beschwerden führten zu Löschungen oder Sperrungen von gemeldeten Inhalten (entspricht rund 12 Prozent des Gesamtbeschwerdevolumens), insgesamt wurden 884 Inhalte gelöscht oder gesperrt. Auf Reddit erfolgte im Rahmen von 327 NetzDG-Beschwerden die Meldung von insgesamt 687 Inhalten. Hierauf wurden 46 Inhalte gelöscht. Die Löschquote beträgt rund 7 Prozent. Die Anzahl der Beschwerden, welche zu Löschungen oder Sperrungen geführt haben, wird nicht separat im Transparenzbericht aufgeführt. Auf TikTok erfolgten insgesamt 246 434 NetzDG-Beschwerden. Nach dem Transparenzbericht erfolgte eine Löschung oder Sperrung auf 26 440 Beschwerden hin. Hieraus errechnet sich eine Löschquote von rund 11 Prozent. Eine Differenzierung zwischen Beschwerden und Inhalten erfolgt im Transparenzbericht nicht. Auf Change.org wurden 128 NetzDG-Beschwerden erhoben. Nach dem Transparenzbericht erfolgten 12 Löschungen. Hieraus errechnet sich eine Löschquote von rund 9 Prozent. Eine Differenzierung zwischen Beschwerden und Inhalten erfolgt im Transparenzbericht nicht. Auf SoundCloud erfolgten 99 NetzDG-Beschwerden, mit denen 183 Inhalte gemeldet wurden. Zu der Frage der gelöschten Inhalte differenziert Sound- Cloud in dem Bericht, der die Monate Juli bis Dezember 2020 abbildet, nicht nach einzelnen Monaten, sondern gibt nur das Volumen für das gesamte Jahr 2020 an. Insofern wurden die statistischen Angaben aus der Differenz der gemeldeten und gelöschten Inhalte abzüglich der im Bericht für das 1. Halbjahr 2020 (Januar bis Juni) enthaltenen Angaben ermittelt. Es erfolgten demzufolge 84 Löschungen von Inhalten. Die Löschquote beträgt somit rund 46 Prozent. Die Anzahl der dafür zugrundeliegenden Beschwerden wird nicht separat ausgewiesen. b) Anhand der veröffentlichten Transparenzberichte für das 1. Halbjahr 2020 (Berichtszeitraum 1. Januar 2020 bis 30. Juni 2020) konnten für einzelne soziale Netzwerke folgende Zahlen ermittelt werden: Auf Facebook wurden 4 292 NetzDG-Beschwerden erhoben. Mit diesen Beschwerden wurden insgesamt 6 038 Inhalte gemeldet. 1 344 NetzDG- Beschwerden (entspricht rund 31 Prozent des Gesamtbeschwerdevolumens) führten zu Löschungen oder Sperrungen von 2 308 gemeldeten Inhalten. Auf Twitter wurden insgesamt 765 715 NetzDG-Beschwerden erhoben. Es erfolgten 122 302 Löschungen und Sperrungen. Dies ergibt eine Quote an Beschwerden, die zu Löschungen oder Sperrungen geführt haben, von rund 16 Prozent. Eine Differenzierung zwischen Beschwerden und einzelnen gemeldeten Inhalten erfolgt im entsprechenden Transparenzbericht nicht. Auf YouTube wurden 388 824 Inhalte im Rahmen einer NetzDG- Beschwerde gemeldet. Es erfolgten 90 814 Löschungen und Sperrungen von Inhalten. Dies entspricht einer Quote von rund 23 Prozent. Auf Instagram wurden im Rahmen von 2 025 NetzDG-Beschwerden insgesamt 3 458 Inhalte gemeldet. 694 Beschwerden (entspricht rund 34 Prozent des Gesamtbeschwerdevolumens) führten zu Löschungen oder Sperrungen von 1 067 gemeldeten Inhalten. Auf Reddit erfolgte im Rahmen von 269 NetzDG-Beschwerden die Meldung von insgesamt 302 Inhalten. Hierauf wurden 153 Inhalte gelöscht. Die Löschquote beträgt rund 51 Prozent. Die Anzahl der NetzDG-Beschwerden, welche zu Löschungen oder Sperrungen geführt haben, wird nicht separat im Transparenzbericht aufgeführt. Auf TikTok erfolgten insgesamt 141 830 NetzDG-Beschwerden. Nach dem Transparenzbericht erfolgte eine Löschung oder Sperrung bei 14 579 Beschwerden. Hieraus errechnet sich eine Löschquote von rund 10 Prozent. Eine Differenzierung zwischen Beschwerden und Inhalten erfolgte im Transparenzbericht nicht. Auf Change.org wurden 147 NetzDG-Beschwerden erhoben. Nach dem Transparenzbericht erfolgten 15 Löschungen. Hieraus errechnet sich eine Löschquote von rund 10 Prozent. Eine Differenzierung zwischen Beschwerden und Inhalten erfolgte im Transparenzbericht nicht. Auf SoundCloud erfolgten im ersten Halbjahr 2020 84 NetzDG- Beschwerden. Sämtliche Beschwerden führten zu Löschungen bzw. Sperrungen von Inhalten. c) Anhand der veröffentlichten Transparenzberichte für das 2. Halbjahr 2019 (Berichtszeitraum 1. Juli 2019 bis 31. Dezember 2019) konnten für einzelne soziale Netzwerke folgende Zahlen ermittelt werden: Auf Facebook wurden 3 087 NetzDG-Beschwerden erhoben. Mit diesen Beschwerden wurden insgesamt 4 274 Inhalte gemeldet. 562 NetzDG- Beschwerden (entspricht rund 18 Prozent des Gesamtbeschwerdevolumens) führten zu Löschungen oder Sperrungen von 1 043 gemeldeten Inhalten. Auf Twitter wurden insgesamt 843 527 NetzDG-Beschwerden erhoben. Es erfolgten 137 171 Löschungen und Sperrungen. Dies ergibt eine Quote an Beschwerden, die zu Löschungen oder Sperrungen geführt haben, von rund 16 Prozent. Eine Differenzierung zwischen Beschwerden und einzelnen gemeldeten Inhalten erfolgt im entsprechenden Transparenzbericht nicht. Auf YouTube wurden 277 478 Inhalte gemeldet. Es erfolgten 71 907 Löschungen und Sperrungen von Inhalten. Dies entspricht einer Quote von rund 26 Prozent. Auf Instagram wurden im Rahmen von 365 NetzDG-Beschwerden insgesamt 468 Inhalte gemeldet. 169 Beschwerden (entspricht rund 46 Prozent des Gesamtbeschwerdevolumens) führten zu Löschungen oder Sperrungen von 221 gemeldeten Inhalten. Auf Reddit erfolgte im Rahmen von 166 NetzDG-Beschwerden die Meldung von insgesamt 166 Inhalten (der Transparenzbericht führt aus, dass jeder Inhalt als einzelne Beschwerde erfasst wird). Hierauf wurden 75 Inhalte gelöscht. Die Löschquote beträgt rund 45 Prozent. Auf TikTok erfolgten insgesamt 1 050 NetzDG-Beschwerden. Nach dem Transparenzbericht erfolgte eine Löschung oder Sperrung bei 50 Beschwerden. Hieraus errechnet sich eine Löschquote von rund 5 Prozent. Eine Differenzierung zwischen Beschwerden und Inhalten erfolgte im Transparenzbericht nicht. Auf Change.org wurden 414 NetzDG-Beschwerden erhoben. Nach dem Transparenzbericht erfolgten 37 Löschungen. Hieraus errechnet sich eine Löschquote von rund 9 Prozent. Eine Differenzierung zwischen Beschwerden und Inhalten erfolgte im Transparenzbericht nicht. d) Anhand der veröffentlichten Transparenzberichte für das 1. Halbjahr 2019 (Berichtszeitraum 1. Januar 2019 bis 30. Juni 2019) konnten für einzelne soziale Netzwerke folgende Zahlen ermittelt werden: Auf Facebook wurden 674 NetzDG-Beschwerden erhoben. Mit diesen Beschwerden wurden insgesamt 1 050 Inhalte gemeldet. 239 Beschwerden (entspricht rund 35 Prozent des Gesamtbeschwerdevolumens) führten zu Löschungen oder Sperrungen von 349 gemeldeten Inhalten. Auf Twitter wurden insgesamt 496 346 NetzDG-Beschwerden erhoben. Es erfolgten 46 702 Löschungen und Sperrungen. Dies ergibt eine Quote an Beschwerden, die zu Löschungen oder Sperrungen geführt haben, von rund 9 Prozent. Eine Differenzierung zwischen Beschwerden und einzelnen gemeldeten Inhalten erfolgte im entsprechenden Transparenzbericht nicht. Auf Google+ wurden 547 Inhalte im Rahmen einer NetzDG-Beschwerde gemeldet. Es erfolgten 285 Löschungen von Inhalten. Dies entspricht einer Löschquote von rund 52 Prozent. Bei den Zahlen ist zu berücksichtigen, dass Google+ im April 2019 den Betrieb eingestellt hat. Auf YouTube wurden 304 425 Inhalte im Rahmen einer NetzDG- Beschwerde gemeldet. Es erfolgten 71 168 Löschungen oder Sperrungen von Inhalten. Dies entspricht einer Quote von rund 23 Prozent. Auf Instagram wurden im Rahmen von 146 NetzDG-Beschwerden insgesamt 252 Inhalte gemeldet. 38 Beschwerden (entspricht rund 26 Prozent des Gesamtbeschwerdevolumens) führten zu Löschungen oder Sperrungen von 116 gemeldeten Inhalten. Auf Reddit erfolgte im Rahmen von 173 NetzDG-Beschwerden die Meldung von insgesamt 173 Inhalten (der Transparenzbericht führt aus, dass jeder Inhalt als einzelne Beschwerde erfasst wird). Hierauf wurden 110 Inhalte gelöscht. Die Löschquote beträgt rund 64 Prozent. Auf Change.org wurden 943 NetzDG-Beschwerden erhoben. Nach dem Transparenzbericht erfolgten 82 Löschungen. Hieraus errechnet sich eine Löschquote von rund 9 Prozent. Eine Differenzierung zwischen Beschwerden und Inhalten erfolgte im Transparenzbericht nicht. e) Anhand der veröffentlichten Transparenzberichte für das 2. Halbjahr 2018 (Berichtszeitraum 1. Juli 2018 bis 31. Dezember 2018) konnten für einzelne soziale Netzwerke folgende Zahlen ermittelt werden: Auf Facebook wurden 500 NetzDG-Beschwerden erhoben. Mit diesen Beschwerden wurden insgesamt 1 048 Inhalte gemeldet. 159 NetzDG- Beschwerden (entspricht rund 32 Prozent des Gesamtbeschwerdevolumens) führten zu Löschungen oder Sperrungen von 369 gemeldeten Inhalten. Auf Twitter wurden insgesamt 256 462 NetzDG-Beschwerden erhoben. Es erfolgten 23 165 Löschungen und Sperrungen. Dies ergibt eine Quote an Beschwerden, die zu Löschungen oder Sperrungen geführt haben, von rund 9 Prozent. Eine Differenzierung zwischen Beschwerden und einzelnen gemeldeten Inhalten erfolgt im entsprechenden Transparenzbericht nicht. Auf Google+ wurden 2 835 Inhalte im Rahmen einer NetzDG-Beschwerde gemeldet. Es erfolgten 1 502 Löschungen von Inhalten. Dies entspricht einer Löschquote von rund 53 Prozent. Auf YouTube wurden 250 957 Inhalte im Rahmen einer NetzDG- Beschwerde gemeldet. Es erfolgten 54 644 Löschungen oder Sperrungen von Inhalten. Dies entspricht einer Quote von rund 22 Prozent. Auf Change.org wurden 966 NetzDG-Beschwerden erhoben. Nach dem Transparenzbericht erfolgten 258 Löschungen. Hieraus errechnet sich eine Löschquote von rund 27 Prozent. Eine Differenzierung zwischen Beschwerden und Inhalten erfolgt im Transparenzbericht nicht. SoundCloud hat im Februar 2019 einen Transparenzbericht veröffentlicht, der das gesamte Jahr 2018 erfasst und nur teilweise Rückschlüsse auf die statistischen Angaben für das 1. bzw. 2. Halbjahr 2018 zulässt. Im Laufe des gesamten Jahres wurden 106 NetzDG-Beschwerden erhoben. Davon entfallen 17 NetzDG-Beschwerden auf das 1. Halbjahr 2018 und 89 NetzDG-Beschwerden auf das 2. Halbjahr 2018. Im Gesamtjahr 2018 führten 103 NetzDG-Beschwerden (entspricht rund 97 Prozent des Gesamtbeschwerdeaufkommens) zu Löschungen bzw. Sperrungen von Inhalten, wobei anhand des Transparenzberichts insofern keine Rückschlüsse auf die einzelnen Halbjahre möglich sind. f) Anhand der veröffentlichten Transparenzberichte für das 1. Halbjahr 2018 (Berichtszeitraum 1. Januar 2018 bis 30. Juni 2018) konnten für einzelne soziale Netzwerke folgende Zahlen ermittelt werden: Auf Facebook wurden 886 NetzDG-Beschwerden erhoben. Mit diesen Beschwerden wurden insgesamt 1 704 Inhalte gemeldet. 218 NetzDG- Beschwerden (entspricht rund 25 Prozent des Gesamtbeschwerdevolumens) führten zu Löschungen oder Sperrungen von 362 gemeldeten Inhalten. Auf Twitter wurden insgesamt 264 818 NetzDG-Beschwerden erhoben. Es erfolgten 28 645 Löschungen und Sperrungen. Dies ergibt eine Quote an Beschwerden, die zu Löschungen oder Sperrungen geführt haben, von rund 11 Prozent. Eine Differenzierung zwischen Beschwerden und einzelnen gemeldeten Inhalten erfolgte im Transparenzbericht nicht. Auf Google+ wurden 2 769 Inhalte im Rahmen einer NetzDG-Beschwerde gemeldet. Es erfolgten 1 277 Löschungen von Inhalten. Dies entspricht einer Löschquote von rund 46 Prozent. Auf YouTube wurden 214 827 Inhalte im Rahmen einer NetzDG- Beschwerde gemeldet. Es erfolgten 58 297 Löschungen oder Sperrungen von Inhalten. Dies entspricht einer Quote von rund 27 Prozent. Auf Change.org wurden 1 257 NetzDG-Beschwerden erhoben. Nach dem Transparenzbericht erfolgten 332 Löschungen. Hieraus errechnet sich eine Löschquote von rund 26 Prozent. Eine Differenzierung zwischen Beschwerden und Inhalten erfolgte im Transparenzbericht nicht.  6. Gegen wie viele dieser Löschungen und Sperrungen wurden Widersprüche von Nutzern eingelegt (bitte absolut und relativ, aufgeschlüsselt nach Netzwerken angeben)?  7. Wie viele dieser Widersprüche waren erfolgreich, d. h. führten zur Rückgängigmachung der Löschung bzw. Sperrung (bitte absolut und relativ, aufgeschlüsselt nach Netzwerken angeben)?  8. Wie viele Beschwerden über rechtswidrige Inhalte im Sinne des § 1 Absatz 1 und 3 NetzDG wurden von Anbietern sozialer Netzwerke von vornherein als missbräuchlich eingestuft? Die Fragen 6 bis 8 werden wegen des Sachzusammenhangs gemeinsam beantwortet. Die veröffentlichten Transparenzberichte enthalten keine Angaben zu den eingelegten Widersprüchen von Nutzern, zur Rückgängigmachung von Löschungen oder Sperrungen einzelner Inhalte oder zur Einstufung einzelner Meldungen als missbräuchlich. Das BfJ verfügt insofern auch über keine weitergehenden Erkenntnisse. Die Bundesregierung weist daraufhin, dass in dem Gesetzesentwurf zur Änderung des NetzDG vorgesehen ist, dass die Anbieter Gegenvorstellungsverfahren anbieten müssen und die Transparenzpflicht auf die Anzahl der beantragten Gegenvorstellungsverfahren erweitert wird. Dabei sollen die Anbieter getrennte Angaben machen zu Gegenvorstellungsverfahren durch Nutzerinnen und Nutzer, deren Inhalt gelöscht oder gesperrt wurde, und zu Gegenvorstellungsverfahren auf Antrag derjenigen, die den Inhalt gemeldet haben. Zudem sollen die Anbieter zukünftig auch angeben, ob im Hinblick auf die Gegenvorstellung der ursprünglichen Entscheidung abgeholfen wurde. Die entsprechenden Vorschläge zur Änderung des NetzDG befinden sich derzeit im parlamentarischen Verfahren.  9. Werden Beschwerden über rechtswidrige Inhalte im Sinne des § 1 Absatz 1 und 3 NetzDG nach Kenntnis der Bundesregierung stets von Menschen überprüft, oder kommt es auch zum Einsatz von Algorithmen bzw. Künstlicher Intelligenz (KI)? a) In welchem Schritt der Beschwerdeüberprüfung wird KI eingesetzt? Die Fragen 9 und 9a werden wegen des Sachzusammenhangs gemeinsam beantwortet. Es finden sich bei einzelnen Anbietern in den Transparenzberichten zum 2. Halbjahr 2020 (Berichtszeitraum 1. Juli bis 31. Dezember 2020) Angaben zum Einsatz von Technologien bei der Identifizierung von rechtswidrigen Inhalten. Die Angaben beziehen sich aber nicht auf die Bearbeitung von Beschwerden über rechtswidrige Inhalte im Sinne des § 1 Absatz 1 und 3 NetzDG. Diese werden nach den Transparenzberichten aller Anbieter nur von menschlichen Prüfteams geprüft. b) Wie bewertet die Bundesregierung die nicht-menschliche Überprüfung von Beschwerden? Basierend auf den o. g. Transparenzberichten werden nach Kenntnis der Bundesregierung Beschwerden über rechtswidrige Inhalte nach § 1 Absatz 1 und 3 NetzDG immer durch ein Mitglied der Prüfteams überprüft. Was den Einsatz nicht-menschlicher Überprüfungsmechanismen im Übrigen angeht, hält es die Bundesregierung für erforderlich, dass die Anbieter zukünftig in ihren Transparenzberichten auch ausdrückliche Angaben zu gegebenenfalls eingesetzten Verfahren zur automatisierten Erkennung von Inhalten, die entfernt oder gesperrt werden sollen, machen. Die entsprechenden Vorschläge zur Änderung des NetzDG befinden sich derzeit im parlamentarischen Verfahren. 10. Sieht die Bundesregierung Handlungsbedarf hinsichtlich der Möglichkeit, dass die Sperrung von Accounts problemlos durch das Neuanlegen eines Accounts umgangen werden kann? Das NetzDG sieht keine Vorgaben zur Sperrungen von Nutzerkonten vor, sondern betrifft die Entfernung von gemeldeten Inhalten bzw. die Sperrung des Zugangs zu diesen Inhalten. Sperrungen von Nutzerkonten werden durch die Anbieter unabhängig von den Compliance-Pflichten des NetzDG vorgenommen und beruhen auf der Anwendung des zwischen Anbietern und Nutzerin bzw. Nutzer bestehenden Vertragsverhältnisses. Die Bundesregierung weist darauf hin, dass der Vorschlag der Europäischen Kommission für eine Verordnung des Europäischen Parlaments und des Rates über einen Binnenmarkt für digitale Dienste (Gesetz über digitale Dienste) und zur Änderung der Richtlinie 2000/31/EG (Digital Services Act, DSA) in Artikel 20 Absatz 1 eine Vorschrift enthält, die eine zeitlich begrenzte Sperrung von Accounts regelt. Die Bundesregierung begleitet die Verhandlungen zum DSA konstruktiv. 11. Hat die Bundesregierung das Phänomen von missbräuchlichen, organisierten Massenmeldungen bewertet, die darauf abzielen, politisch unliebsame Nutzerinnen und Nutzer sperren zu lassen? Sieht die Bundesregierung hier Handlungsbedarf, um dem Phänomen vorzubeugen? Das NetzDG sieht keine Vorgaben zur Sperrungen von Nutzerkonten vor, sondern betrifft die Entfernung von gemeldeten Inhalten bzw. die Sperrung des Zugangs zu diesen Inhalten. Sperrungen von Nutzerkonten werden durch die Anbieter unabhängig von den Compliance-Pflichten des NetzDG vorgenommen und beruhen auf der Anwendung des zwischen Anbietern und Nutzerin bzw. Nutzer bestehenden Vertragsverhältnisses und sind für den Betroffenen gerichtlich überprüfbar. Der Bundesregierung ist nicht bekannt, dass Kontensperrungen nur aufgrund einer großen Anzahl von missbräuchlichen oder organisierten Meldungen ausgesprochen wurden. Die Bundesregierung weist darauf hin, dass der Vorschlag der Europäischen Kommission für einen Digital Services Act (DSA) in Artikel 20 Absatz 2 vorsieht, dass die Bearbeitung von Beschwerden bei deren missbräuchlicher Einreichung für einen angemessenen Zeitraum nach vorheriger Warnung ausgesetzt werden kann. Die Bundesregierung begleitet die Verhandlungen zum DSA konstruktiv. 12. Hat die Bundesregierung das Phänomen bewertet, dass satirische Tweets insbesondere im Vorfeld von Wahlen gelöscht werden, obwohl sie keinen rechtswidrigen Inhalt darstellen? a) Sieht die Bundesregierung hier die Gefahr eines Overblockings bzw. Chilling Effects? b) Sieht die Bundesregierung hier Handlungsbedarf, um dem Phänomen vorzubeugen? Die Fragen 12 bis 12b werden wegen des Sachzusammenhangs gemeinsam beantwortet. Zum Schutz vor Overblocking enthält das NetzDG verschiedene Sicherungsmechanismen. Der Katalog rechtswidriger Inhalte in § 1 Absatz 3 NetzDG ist auf bestimmte strafbare Inhalte begrenzt. Die Fristenvorgaben zum Entfernen oder Sperren von Inhalten hinsichtlich der Überschreitung der Regelfrist für schwierige Fälle sind ausdrücklich flexibilisiert. Es besteht die Möglichkeit der Übertragung der Entscheidung über die Rechtswidrigkeit von Inhalten an eine Einrichtung der Regulierten Selbstregulierung. Die Verfahren zum Umgang mit rechtswidrigen Inhalten können von einer durch das BfJ beauftragten Stelle überprüft werden. Nach § 4 Absatz 1 Nummer 2 NetzDG wurde der Ordnungswidrigkeitstatbestand bewusst darauf beschränkt, dass ein Anbieter kein oder kein ausreichendes Verfahren zum Umgang mit rechtswidrigen Inhalten gemäß § 2 Absatz 1 NetzDG vorhält. In der Gesetzesbegründung und in den Bußgeldleitlinien wird hierzu klargestellt, dass erst ein „systemisches Versagen“ zu Bußgeldern wegen „Nichtlöschens“ führt. Den Anbietern der sozialen Netzwerke droht daher kein Bußgeld für jede Fehlentscheidung im Einzelfall, sondern es kommt auf die Gesamtaufstellung des Systems des Anbieters an. Bislang lassen sich keine Anhaltspunkte für ein durch das NetzDG verursachtes Overblocking feststellen. Aus den Transparenzberichten ist ersichtlich, dass die Anbieter in den meisten Fällen nach der Prüfung eines Inhalts zu dem Ergebnis kamen, dass der Inhalt auf eine NetzDG-Beschwerde hin nicht zu löschen ist. In den hier bekannten Gerichtsverfahren, in denen es um die Rechtmäßigkeit von Maßnahmen der Anbieter sozialer Netzwerke gegen betroffene Nutzerinnen und Nutzer ging, waren Auslöser der streitigen Maßnahmen jeweils – soweit bekannt – entweder das eigeninitiative Handeln der Anbieter auf Basis ihrer Gemeinschaftsstandards oder Flagging-Beschwerden gegen diese Nutzungsbedingungen, nicht jedoch NetzDG-Beschwerden. Um weitere Sicherungsmaßnahmen einzuführen, sieht der Entwurf zur Änderung des NetzDG die Einführung einer Pflicht der Anbieter vor, ein Gegenvorstellungsverfahren zu ermöglichen: Nach § 3b NetzDG-E sind die Anbieter verpflichtet, ein Verfahren einzurichten, durch das gegen die Entscheidungen der Anbieter im Rahmen einer NetzDG-Beschwerde eine Überprüfung der Entscheidung beantragt werden kann. Die entsprechenden Vorschläge zur Änderung des NetzDG befinden sich derzeit im parlamentarischen Verfahren. 13. Ist die Praxis der sozialen Netzwerke in Bezug auf Beschwerden über rechtswidrige Inhalte im Sinne des § 1 Absatz 1 und 3 NetzDG aus Sicht der Bundesregierung nutzerfreundlich ausgestaltet? Die rechtliche Bewertung, ob die Meldewege der einzelnen Anbieter den Anforderungen des NetzDG entsprechen, obliegt dem BfJ im Rahmen der Durchsetzung der Vorgaben des NetzDG. Sofern Defizite bei den Meldewegen bestehen, wird dem BfJ neben der Möglichkeit, Bußgeldverfahren einzuleiten, durch den Gesetzesentwurf zur Änderung des NetzDG im Übrigen ein Eingreifen im Wege der verwaltungsrechtlichen Aufsicht ermöglicht. Die entsprechenden Vorschläge zur Änderung des NetzDG befinden sich derzeit im parlamentarischen Verfahren. a) Wie bewertet die Bundesregierung die Tatsache, dass Nutzer rechtswidrige Inhalte häufig selbst rechtlich einordnen müssen? Die Compliance-Pflichten des NetzDG sehen nicht vor, dass Nutzer verbindlich Inhalte nach ihrem rechtlichen Gehalt einordnen müssen. Vielmehr soll es den Nutzerinnen und Nutzern ermöglicht werden, die Anbieter sozialer Netzwerke zu einer Prüfung des Inhalts zu veranlassen, damit diese ihrer Verantwortung zur Prüfung und ggf. Löschung eines ihnen bekannt gewordenen rechtswidrigen Inhalts gerecht werden. Die Bundesregierung weist darauf hin, dass der Vorschlag der Europäischen Kommission für einen Digital Services Act (DSA) in Artikel 14 Absatz 2 im Vergleich zum NetzDG höhere Anforderungen an Nutzermeldungen stellt, wonach bei der Meldung begründet werden muss, warum der gemeldete Inhalt rechtswidrig ist. b) Sieht die Bundesregierung diesbezüglich Bedarf zur gesetzgeberischen Standardisierung der Beschwerdeseiten? Das NetzDG legt aus Sicht der Bundesregierung für Meldewege grundsätzlich angemessene Vorgaben fest. Nur klarstellend wurde im Gesetzesentwurf zur Änderung des NetzDG ergänzend in den Tatbestand des § 3 Absatz 1 aufgenommen, dass die Verfahren zur Übermittlung von Beschwerden vom Inhalt aus leicht erkennbar und unmittelbar erreichbar sowie leicht bedienbar sein müssen. Die entsprechenden Vorschläge zur Änderung des NetzDG befinden sich derzeit im parlamentarischen Verfahren. Weitergehenden gesetzgeberischen Handlungsbedarf sieht die Bundesregierung nicht. 14. Zu wie vielen Neuanmeldungen bzw. Registrierungen aus Deutschland kam es im Jahr 2020 auf den Plattformen Telegram, vk.com, 4chan, Gab, Discord, Parler und PragerU? Hierzu liegen der Bundesregierung keine eigenen Erkenntnisse vor. 15. Sieht die Bundesregierung die Gefahr, dass Nutzerinnen und Nutzer sich nach der Sperrung ihres Accounts alternativen Plattformen wie Telegram, vk.com, 4chan, Gab, Discord, Parler und PragerU zuwenden? Die Bundesregierung beobachtet, dass die Verbreitung extremistischer und volksverhetzender Inhalte oder Morddrohungen mittlerweile auch über sog. alternative Plattformen erfolgt. Die Bundesregierung ist der Auffassung, dass auch auf diesen Plattformen gegen strafbare Inhalte vorgegangen werden muss und setzt sich hierfür in den Verhandlungen über den Vorschlag der Europäischen Kommission für einen Digital Services Act (DSA) von Dezember 2020 ein. Gesamtherstellung: H. Heenemann GmbH & Co. KG, Buch- und Offsetdruckerei, Bessemerstraße 83–91, 12103 Berlin, www.heenemann-druck.de Vertrieb: Bundesanzeiger Verlag GmbH, Postfach 10 05 34, 50445 Köln, Telefon (02 21) 97 66 83 40, Fax (02 21) 97 66 83 44, www.betrifft-gesetze.de ISSN 0722-8333]