Maßnahmen zur Bekämpfung des Rechtsextremismus und der Hasskriminalität – Effektivität des Netzwerkdurchsetzungsgesetzes
der Abgeordneten Dr. Jürgen Martens, Stephan Thomae, Grigorios Aggelidis, Renata Alt, Nicole Bauer, Jens Beeck, Dr. Jens Brandenburg (Rhein-Neckar), Mario Brandenburg (Südpfalz), Dr. Marco Buschmann, Dr. Marcus Faber, Daniel Föst, Otto Fricke, Thomas Hacker, Reginald Hanke, Peter Heidt, Katrin Helling-Plahr, Markus Herbrand, Torsten Herbst, Katja Hessel, Manuel Höferlin, Reinhard Houben, Ulla Ihnen, Olaf in der Beek, Pascal Kober, Carina Konrad, Konstantin Kuhle, Ulrich Lechte, Alexander Müller, Hagen Reinhold, Dr. Wieland Schinnenburg, Matthias Seestern-Pauly, Dr. Hermann Otto Solms, Dr. Marie-Agnes Strack-Zimmermann, Benjamin Strasser, Katja Suding, Linda Teuteberg, Manfred Todtenhausen, Gerald Ullrich, Nicole Westig, Katharina Willkomm und der Fraktion der FDP
Vorbemerkung
Das Gesetz zur Verbesserung der Rechtsdurchsetzung in sozialen Netzwerken ,Netzwerkdurchsetzungsgesetz (NetzDG), trat am 1. Oktober 2017 in Kraft. Es sieht unter anderem Berichtspflichten für die Betreiber sozialer Netzwerke (§ 2 NetzDG) sowie die Einrichtung von Beschwerdemechanismen (§ 3 NetzDG) vor.
Das Gesetz verfolgt im Kern den Zweck, Anbieter sozialer Netzwerke zu einer aktiven Kontrolle von Inhalten auf ihren Plattformen zu verpflichten, indem sie etwa Nutzerbeschwerden entgegennehmen müssen und bei bestimmten Inhalten mit deren Löschung oder Sperrung beauftragt werden. Eine Pflicht zur Weiterleitung bestimmter Inhalte an das Bundeskriminalamt ist vorgesehen, das entsprechende Gesetz jedoch bisher noch nicht in Kraft getreten (vgl. Bundestagsdrucksache 19/17741). Berufliche Netzwerke, Fachportale, sowie E-Mail- und Messengerdienste, etwa Telegram, fallen nicht unter das Gesetz.
Das NetzDG sieht sich seit seinem Inkrafttreten Kritik ausgesetzt. Diese Kritik bezieht sich auch immer wieder auf die verschärften Löschungen oder Sperrungen, die von Anbietern sozialer Netzwerke aufgrund der Verpflichtungen aus dem NetzDG vorgenommen werden. So wurden beispielsweise im Vorfeld des Europawahlen 2019 die unrechtmäßige Löschung von bzw. Sperrungen aufgrund von satirischen Tweets auf der Plattform Twitter kritisiert (https://netzpolitik.org/2019/twitter-muss-sich-im-bundestag-fuer-kontensperren-rechtfertigen/).
Auch das Beschwerdemanagement der Netzwerke selbst wird als nicht nutzerfreundlich beschrieben: User müssten Postings bei ihrer Meldung selbst rechtlich einordnen und ggf. die Konsequenzen bis hin zur Sperrung des eigenen Accounts tragen. Darüber hinaus seien Mechanismen zur Prävention missbräuchlicher Massenmeldungen nur unzureichend vorhanden, was gezielte Meldekampagnen gegen unliebsame Userinnen und User ermögliche. Opfer eines solchen Meldemissbrauchs würden nach Berichten von Nutzern (vgl. etwa den Hashtag #meldemissbrauch auf Twitter) unrechtmäßig gesperrt.
Andererseits ist vermehrt zu beobachten, dass die durch das NetzDG vorgesehenen Mechanismen der sozialen Netzwerke leicht umgangen werden könnten. Dies geschieht einerseits durch das Neuanlegen von Accounts, andererseits durch vermehrten Zulauf alternativer sozialer Netzwerke wie vk.com und Parler oder aber die gezielte Nutzung von Messengerdiensten wie Telegram, welche nicht dem NetzDG unterfallen (https://www.deutschlandfunk.de/studie-zu-online-plattformen-ein-biotop-fuer-rechtsextreme.2907.de.html?dram:article_id=470534).
Vor diesem Hintergrund fragen wir die Bundesregierung:
Fragen15
Welche konkreten Anbieter sozialer Netzwerke unterliegen nach Kenntnis der Bundesregierung aktuell den Pflichten des NetzDG?
Welche der Anbieter unterhalten ihre europäische Hauptniederlassung außerhalb Deutschlands?
Wie viele und welche Anbieter sozialer Netzwerke haben nach Kenntnis der Bundesregierung Transparenzberichte nach § 2 NetzDG veröffentlicht (erstes bzw. zweites Halbjahr 2019, erstes bzw. zweites Halbjahr 2020; bitte nach jeweiligem Berichtszeitraum aufschlüsseln)?
a) Wurde nach Kenntnis der Bundesregierung jeweils geprüft, ob die Anbieter zur Veröffentlichung eines Transparenzberichtes nach § 2 NetzDG verpflichtet sind?
b) Wurden gegen die verpflichteten Anbieter für die Berichtszeiträume, über die keine Transparenzberichte abgegeben wurden, Verfahren durch das Bundesamt für Justiz (BfJ) eingeleitet?
Wie viele Beschwerden über rechtswidrige Inhalte im Sinne des § 1 Absatz 1 und 3 NetzDG wurden im letzten Berichtszeitraum bei den der Berichtspflicht unterliegenden Netzwerken eingereicht?
a) Welcher Anteil der Beschwerden entfiel auf Beschwerdestellen und welcher Anteil auf Beschwerden privater Nutzer?
b) Wie viele Beschwerden wurden pro Nutzer durchschnittlich abgegeben?
Wie viele Beschwerden über rechtswidrige Inhalte im Sinne des § 1 Absatz 1 und 3 NetzDG führten ausweislich der Transparenzberichte zu Löschungen und Sperrungen (bitte jeweils in absoluten Zahlen und relativ zur Zahl der eingegangenen Beschwerden angeben)?
Gegen wie viele dieser Löschungen und Sperrungen wurden Widersprüche von Nutzern eingelegt (bitte absolut und relativ, aufgeschlüsselt nach Netzwerken angeben)?
Wie viele dieser Widersprüche waren erfolgreich, d. h. führten zur Rückgängigmachung der Löschung bzw. Sperrung (bitte absolut und relativ, aufgeschlüsselt nach Netzwerken angeben)?
Wie viele Beschwerden über rechtswidrige Inhalte im Sinne des § 1 Absatz 1 und 3 NetzDG wurden von Anbietern sozialer Netzwerke von vornherein als missbräuchlich eingestuft?
Werden Beschwerden über rechtswidrige Inhalte im Sinne des § 1 Absatz 1 und 3 NetzDG nach Kenntnis der Bundesregierung stets von Menschen überprüft, oder kommt es auch zum Einsatz von Algorithmen bzw. Künstlicher Intelligenz (KI)?
a) In welchem Schritt der Beschwerdeüberprüfung wird KI eingesetzt?
b) Wie bewertet die Bundesregierung die nicht-menschliche Überprüfung von Beschwerden?
Sieht die Bundesregierung Handlungsbedarf hinsichtlich der Möglichkeit, dass die Sperrung von Accounts problemlos durch das Neuanlegen eines Accounts umgangen werden kann?
Hat die Bundesregierung das Phänomen von missbräuchlichen, organisierten Massenmeldungen bewertet, die darauf abzielen, politisch unliebsame Nutzerinnen und Nutzer sperren zu lassen?
Sieht die Bundesregierung hier Handlungsbedarf, um dem Phänomen vorzubeugen?
Hat die Bundesregierung das Phänomen bewertet, dass satirische Tweets insbesondere im Vorfeld von Wahlen gelöscht werden, obwohl sie keinen rechtswidrigen Inhalt darstellen?
a) Sieht die Bundesregierung hier die Gefahr eines Overblockings bzw. Chilling Effects?
b) Sieht die Bundesregierung hier Handlungsbedarf, um dem Phänomen vorzubeugen?
Ist die Praxis der sozialen Netzwerke in Bezug auf Beschwerden über rechtswidrige Inhalte im Sinne des § 1 Absatz 1 und 3 NetzDG aus Sicht der Bundesregierung nutzerfreundlich ausgestaltet?
a) Wie bewertet die Bundesregierung die Tatsache, dass Nutzer rechtswidrige Inhalte häufig selbst rechtlich einordnen müssen?
b) Sieht die Bundesregierung diesbezüglich Bedarf zur gesetzgeberischen Standardisierung der Beschwerdeseiten?
Zu wie vielen Neuanmeldungen bzw. Registrierungen aus Deutschland kam es im Jahr 2020 auf den Plattformen Telegram, vk.com, 4chan, Gab, Discord, Parler und PragerU?
Sieht die Bundesregierung die Gefahr, dass Nutzerinnen und Nutzer sich nach der Sperrung ihres Accounts alternativen Plattformen wie Telegram, vk.com, 4chan, Gab, Discord, Parler und PragerU zuwenden?