Wir erinnern uns: Endlose Weiten, in denen nationale Schranken aufgehoben sind, freie Angebote, für die die Gesetze des Marktes nicht gelten, und virtuelle Netzwerke, die sich der staatlichen Kontrolle entziehen. Das war die Perspektive, die das Internet vielen Menschen noch zur Jahrtausendwende bot. Mittlerweile jedoch ist es von unternehmerischen Verwertungsprinzipien durchdrungen und von nationalen Netzpolitiken eingekerbt worden. Verstärkt im politischen Fokus stehen mittlerweile auch die sozialen Medien, denen eine zersetzende Kraft für den sozialen Frieden nachgesagt wird. Während autoritäre Staaten bereits zu drastischen Regulationen jener Netzwerke gegriffen haben, unternehmen die liberalen Demokratien erste Schritte in diese Richtung.
Schon länger wird nicht bloß diskutiert, ob die sozialen Medien ein Herd der Radikalisierung seien, der politisch eingedämmt werden müsse. Die Debatten über problematische Inhalte im Netz haben tatsächlich schon erste Regulationen desselbigen gezeitigt. Das deutsche Netzwerkdurchsetzungsgesetz oder die EU-Richtlinie zu Upload-Filtern, die zumindest mittelbar die Meinungsfreiheit betrifft, zeugen davon. Mit dem Massaker an Muslimen in Neuseeland, in dem – wie auch beim Anschlag in Halle – die Online-Dimension des neuen Rechtsterrorismus besonders deutlich wurde, haben diese Bemühungen weiteren Auftrieb erhalten. So hatte der Pariser „Christchurch-Gipfel“ im Mai zur Folge, dass sich diverse Internetkonzerne und Staatschefs zu weiteren Maßnahmen gegen extremistische Inhalte im Netz verpflichteten. Als Folge davon möchte etwa Youtube stärker gegen rassistische und verschwörungstheoretische Videos vorgehen. Auch der aktuelle Neun-Punkte-Plan der Bundesregierung gegen Rechtsextremismus sieht eine härtere Gangart gegen Hetze in den sozialen Medien vor.
Anfänge einer restriktiven Digitalpolitik?
Womöglich stellen diese Schritte erst den Anfang einer restriktiven Digitalpolitik dar. Denn über die bisherigen Maßnahmen hinaus sind noch ganz andere Eingriffe denkbar. Vorschläge wie die des deutschen Bundestagspräsident Wolfgang Schäuble, Klarnamen in den sozialen Medien verpflichtend zu machen, des deutschen Innenministers Horst Seehofer, Messenger-Dienste zur Entschlüsselung zu zwingen, oder von Politikern unterschiedlicher Couleur, den Internetgiganten Facebook zu zerschlagen, zeigen an, wohin die Reise gehen könnte: Es sollen die Betreiber sozialer Medien nicht mehr nur stärker in die Verantwortung für die dort gestreuten Inhalte genommen werden – es soll deren Funktionsweise selbst verändert werden.
Allerdings haben die Wildwest-Zeiten des Internets Fakten geschaffen, die nicht so einfach zu beseitigen sind. Im Netz anonym und diskret agieren zu können, ist ebenso eine Norm liberaler Gesellschaften geworden wie der Umstand, Inhalte ohne selektive Instanzen (z.B. Redaktionen oder Verlage) verbreiten und beziehen zu können. Einschränkungen der Anonymität und der Informationsmobilität verbindet man eher mit autoritären Staaten, die Oppositionelle überwachen und die Meinungsfreiheit verachten. Gerade bei jüngeren Menschen werden diese Freiheiten als selbstverständlich, ihre Beschneidung als regressiv wahrgenommen. Einen Vorgeschmack liefert etwa die Empörung über Artikel 13, also jene EU-Richtlinie, die Onlineplattformen bei Urheberrechtsverletzungen haften lassen will – und insbesondere aus der Youtuber-Szene als „Zensur“ kritisiert wurde.

Berlin gegen 13 – Demo gegen die EU-Urheberrechtsreform am 23. März 2019, Quelle: berlingegen13.files
Mit Versuchen der Regulation riskiert man also, die vermeintlich fortschrittliche Wählerschaft zu verprellen. Wenngleich diese auch anerkennen mag, dass es eines Vorgehens gegen Hass und Hetze im Netz bedarf, gilt ihr doch derjenige, der etwa Verantwortung für die Inhalte bei den sogenannten „Intermediären“ zentrieren möchte, als illiberaler Zuchtmeister, der sich mit den Freiheiten der digitalen Welt schwertue, zumindest aber als überforderter Gestriger, der das Netz nicht verstanden habe. Und obendrein kollidieren solche Versuche mit den markliberalen Prinzipien, die einigen politischen Akteuren noch immer heilig sind. Mit derartigen Eingriffen in das Geschäftsmodell von Internetunternehmen werden sie daher nicht sonderlich warm. Und so verwundert es in dieser Gemengelage auch nicht, dass Vorschläge zur Regulation immer noch recht zaghaft daherkommen.
Die Freiheit, gegen Freiheit zu sein
Ändern könnte sich diese Zurückhaltung aber, je mehr sich unter Liberalen die Ansicht durchsetzt, dass die Freiheiten, die soziale Medien bieten, Entwicklungen ermöglichen, die letztlich die liberale Demokratie selbst untergraben. Dieses Paradox ist nicht neu. Es ist eben die Achillesferse von offenen Gesellschaften, dass ihre Freiheiten auch von denen genutzt werden, die eine illiberale Politik anstreben. Der Philosoph Karl Popper leitete daraus, im Umkehrschluss, einst das „Paradox der Toleranz“ ab: die tolerante Gesellschaft müsse intolerant gegenüber Intoleranz sein. Im digitalen Zeitalter zeigt sich dieses Problem in erneuerter Form. Denn mit den erweiterten Möglichkeiten der Meinungsäußerung erweitern sich auch die Möglichkeiten intoleranter Kräfte.
Tatsächlich ist es kaum zu übersehen, dass die extreme Rechte von den sozialen Medien bisher profitiert hat. Fraglich ist dabei aber, ob rechte Akteure diese digitalen Strukturen nur besonders intensiv und strategisch clever nutzen, wie etwa die überproportionale Präsenz rechter Akteure in den sozialen Medien nahelegt – oder ob deren Funktionsweise für die rechte Agenda auch noch besonders vorteilhaft ist. Die drastischste Vermutung besagt sogar, dass die sozialen Medien selbst für illiberale Ansichten förderlich seien. So ließe sich zumindest die provokante These des Schweizer Historikers Antoine Acker verstehen. Der „digitale Faschismus“, so Acker, zeichne sich dadurch aus, dass sich nun die Massen stärker selbst manipulierten – und weniger von Parteien und Führern fehlgeleitet würden.
Von dem Grad, in dem soziale Medien förderlich für illiberale Ansichten sind, hängt aber die Sinnhaftigkeit aller Regulationen ab. Was etwa, wenn die Funktionsweise sozialer Medien tatsächlich Wahrnehmungen fördert, die anfälliger für autoritäre Problemlösungen sind? Dann stünde man vor dem Problem, dem Rechtsextremismus online nicht nur mit inhaltlichen Filtern und digitaler Zivilcourage begegnen zu können. Es würde nämlich bedeuten, dass illiberale Tendenzen den Vorteil genießen, durch das technische Design sozialer Medien verstärkt zu werden. Um sich zu schützen, müsste die liberale Demokratie also Eingriffe in die Strukturen sozialer Medien vornehmen – und damit selbst in gewissem Maße illiberal handeln. Es versteht sich, dass so eine zweischneidige Angelegenheit wohl begründet sein müsste.
Angenommen, das Netz tickt rechts
Welche Mechanismen vorteilhaft für digitalen Faschismus sind, wurde bereits an anderer Stelle dargelegt. Zentral für ein Verständnis dieser Mechanismen ist der Umstand, dass die extreme Rechte heute, wie auch der klassische Faschismus, ihre Dynamik vor allem aus Mythen der nationalen Bedrohung (z.B. „Bevölkerungsaustausch“ oder „Messermigration“) zieht, mit denen sich außerordentliche und illiberale Maßnahmen begründen lassen. Zupass kommt ihr dabei etwa, dass Informationen, die zuvor nicht über die Lokalpresse hinausgekommen sind, nun frei im globalen Netz kursieren. Nicht nur können dadurch rechtsextreme Akteure effektiv Ängste verstärken, indem sie gezielt die Newsfeeds mit dramatischen Lokalereignissen fluten. Die Funktionsweise der sozialen Medien wirkt sogar selbst als Verstärker von Angst, da mit der geographischen Entgrenzung von Informationen die Konsumentenneigung zu schlechten Nachrichten stärker bedient wird.

Quelle: archiv.berliner-zeitung.de
Zugleich können die klassischen gatekeepers des öffentlichen Diskurses, die an journalistische und ethische Standards, aber auch presserechtliche Verantwortung gebunden sind, nun effektiv umgegangen werden, so dass rechtsextreme fake news gezielt gestreut werden, während post-faktische Inhalte generell durch Algorithmen gepusht und gesellschaftlich anerkannte Wahrheiten relativiert werden. Nicht zuletzt ermöglichen die sozialen Medien, dass die extreme Rechte mit fake accounts, bots und online armies metrische Manipulationen betreiben kann, um Inhalte sichtbarer zu machen und eine bestimmte Sichtweise als weit verbreitet erscheinen zu lassen. Der berüchtigte Matthäus-Effekt, der durch die Interaktionsökonomie der sozialen Medien nochmal verstärkt wird, tut dabei sein Übriges, so dass viele Nutzer scheinbar beliebte Inhalte durch likes, shares und Kommentare mit promoten. Sogar negative Reaktionen tragen unfreiwillig zur besseren Sichtbarkeit rechtsextremer Inhalte bei.
Diese Beispiele zeigen, dass ein digitaler Anti-Faschismus, welcher der Propaganda der extremen Rechten mit organisierter Gegenrede entgegentreten möchte, schnell an Grenzen stößt. Um zum digitalen Faschismus aufzuschließen, müsste er selbst von den neuen Manipulationsmöglichkeiten Gebrauch machen, welche die sozialen Medien eröffnen – und damit seine eigenen Werte unterminieren. Und selbst dann wäre er vermutlich noch im Hintertreffen, da das technische Design der sozialen Medien Wahrnehmungen zu fördern scheint, die kompatibel mit der rechtsextremen Rationalität sind, Ängste zu schüren, intersubjektive Standards der Wahrheitsfindung aufzulösen und öffentliche Diskurse zu emotionalisieren. Dabei stellt sich auch die Frage, ob eine Art digitales Wettrüsten, in dem sich politische Akteure im Online-Aktivismus zu überbieten versuchen, überhaupt eine wünschenswerte Perspektive wäre. Es ist daher davon auszugehen, dass mit dem Fortschreiten der Debatte über Demokratie in Zeiten sozialer Medien zunehmend die Frage nach strukturellen Reformen und politischer Regulierung eben dieser in den Vordergrund drängen wird.
Ansatzpunkte der Regulation
Es gibt also durchaus Anlass, die sozialen Medien als förderlich für illiberale Bewegungen zu begreifen. Damit stellt sich aber auch für liberale Demokratien die Frage, wie soziale Medien politisch zu regulieren sind, ohne selbst liberale Prinzipien (zu sehr) zu untergraben. Als kaum gangbar erscheinen dabei schon mal Versuche, die geografische Entgrenzung von Informationen, die angstverstärkend wirkt, wieder zurückzudrehen. Wie schon bei früheren Innovationen der Medien – seien es Buchdruck und Massenpresse, seien es Radio und Fernsehen – muss sich die Gesellschaft daran gewöhnen, dass Informationen mobiler über geografische Grenzen hinweg strömen können. Medienpolitische Aufklärung bleibt hier unerlässlich, damit mehr Menschen die neue Flut an schlechten Nachrichten besser einordnen können.

Quelle: https://www.lexology.com
Durchaus zu diskutieren wäre hingegen, bei der Haftung für Inhalte anzusetzen. Zwar scheinen diverse Internetkonzerne nun mehr gewillt, gegen extremistische Inhalte vorzugehen. Fraglich ist aber, ob dies hinreichend sein wird, lässt sich mit deren dramatischen Gehalt doch viel Geld machen. Nicht nur deswegen sollte eine Verantwortungszentrierung erwogen werden, die sich nicht in Upload-Filtern erschöpft. Es stellt sich auch ganz grundsätzlich die Frage, ob Plattformen wie Youtube für die Inhalte haften sollten, die von ihnen veröffentlicht werden. Denn momentan wird das Presserecht ad absurdum geführt, wenn klassische Medien redaktionell für die Inhalte von Autoren haften, viel einflussreichere Medien aber die Verantwortung auf die einzelnen Beitragenden abwälzen können. Das mag die individuellen Ausdrucksmöglichkeiten erweitern, öffnet aber auch der postfaktischen Dynamik das Tor, auf der illiberale Bewegungen reiten. Zu klären wäre hier also, ob letztere Gefahr mehr wiegt als der Nutzen des Ersteren.
Besonders dringlich aber wäre, der metrischen Manipulation Einhalt zu gebieten. Auch hier sind – neben Debatten über die „Demetrifizierung“ sozialer Medien – erste Schritte der Konzerne zu erkennen. Falsche Profile werden etwa bei Facebook zurzeit verstärkt gelöscht. Doch ohne Verbindlichkeit kann sich das schnell wieder ändern. Und generell werden nur ein Teil der fake accounts erfasst. Cybertechnisch gut organisierte Akteure – insbesondere einmischungswillige Staaten – können sich dem Raster entziehen und Wege finden, um die Erkennung von Fake-Profilen zu umgehen. Dagegenwirken würde zweifellos eine Klarnamenpflicht, vor allem in Verbindung mit einer zentralen Nutzerregistrierung, die jeder Person nur einen Account ermöglicht. Das wäre aber in der Umsetzung sehr heikel. Zum einen wäre es ein Ausbau von Überwachungsmöglichkeiten, die selbst Quelle illiberaler Entwicklung sein können. Zum anderen würde es auch zivilgesellschaftliche Akteure exponieren, die über Extremisten aufklären und mit deren Gewalt rechnen müssen. Und so drängt sich, bei aller Dringlichkeit, eine freiheitsverträgliche Lösung erstmal nicht auf.
Einschränkungen, die Freiheit schützen?
Mögliche Regulationsversuche müssen daher genau bedacht sein, wenn sie keine unerwünschten Nebeneffekte hervorrufen sollen. Das gilt insbesondere auch, weil jeder Ansatz vor dem Problem der digitalen Globalisierung steht. So zweckmäßig man auch eine presserechtliche Reform halten mag, nur national umgesetzt würde sie ihren Zweck verfehlen, da postfaktische und extremistische Inhalte, die aus dem Ausland stammen (und sei es nur von der digitalen Signatur her), weiter frei in die sozialen Medien einfließen würden. Dasselbe gilt für Maßnahmen im Bereich der Nutzerregistrierung. Von einer solchen Einschränkung auf nationalem Level würden eher noch die Akteure profitieren, die aus dem Ausland Accounts betreiben oder die technischen Umwege zu gehen bereit sind: professionalisierte Manipulatoren eben.
Ein anderes Dilemma bringt die Macht der Internetkonzerne mit sich. Unter marktwirtschaftlichen Prämissen kann man ihnen nicht einfach vorschreiben, wie ihre Funktionsweise gestrickt sein soll, obwohl sie mittlerweile die politische Wahrnehmung ganzer Gesellschaften strukturieren. Zugleich können die Nutzer nicht einfach zu Anbietern wechseln, die auf alternative Weise funktionieren. Der große Nutzen von Facebook etwa besteht ja darin, soziale Kontakte universal zu vernetzen. Deswegen tendieren die Nutzer dazu, sich dort zu konzentrieren. Es ist daher – wie auch Youtube als universales Netzwerk von Videos – ein „natürliches Monopol“, das der Staat nicht so einfach zerschlagen kann. Damit gibt es aber auch keinen Markt, in dem Wettbewerb regulierend wirkt. Weswegen der Staat eben doch Veranlassung hat, eine politische Regulation zu forcieren.

Karikatur von Sergei Elkin über „Souveränes Internet“ in Russland, Quelle: dw.com
Greift der Staat jedoch zu Regulationen, riskiert er Widerstand auch von liberaler Seite. Gerade die Netzgeneration empfindet das als Eingriff in selbstverständliche Freiheiten. Plattformen für Inhalte haftbar zu machen, gelten ihr etwa als Angriff auf die Meinungsfreiheit. Da jedoch verwechselt sie etwas. Denn in Wirklichkeit reklamiert sie damit nicht das Recht, dass Meinung frei geäußert werden darf, sondern dass jede Meinung ungefiltert veröffentlicht werden darf. Eine Plattform ist eben nicht, wie mancher Youtuber es darstellt, ein Dienstleister wie die Post, der private Nachrichten übermittelt, deren Inhalt ihn nichts angeht. Sie stellt vielmehr in einer Weise Öffentlichkeit her, wie es über private Webseiten – die digitale Entsprechung des Selbstverlags – kaum machbar wäre, und fungiert so quasi als Verleger. Nur dass sie eben kaum selektiert und ihre Autoren die Inhalte selbst einstellen lässt. Die damit geschaffene Veröffentlichungsfreiheit kann sich letztlich gegen die Meinungsfreiheit richten.
Eine Zentrierung von Verantwortung bei den Quasi-Verlegern könnte jedenfalls ein Anschub sein, um die journalistischen und ethischen Standards wiederherzustellen, die Demokratien einst aus gutem Grund für Medien entwickelt haben, die Einfluss auf die öffentliche Meinung haben. Es muss die Frage erlaubt sein, ob ihr kollektiver Nutzen für die demokratische Verständigung wirklich weniger wiegen soll als das Interesse Einzelner, eine stets brüchige Gesellschaft ungehemmt beeinflussen zu dürfen – ob mit arglosem Influencertum oder brauner Propaganda. Fürwahr, viele Politiker haben Youtube noch nicht verstanden, wie zahlreiche Youtuber zu beklagen wissen. Doch genauso haben viele Youtuber das politische Problem nicht verstanden, dass manche Einschränkungen auch nützlich sein können, um Freiheiten zu bewahren. Das mag ein heißes Eisen sein, das man lieber nicht anfasst. Aber es bloß als Zensur abzutun, könnte ebenso negative Folgen haben wie unbedachte Lösungsversuche, die letztlich auch illiberalen Kräften von Nutzen sind.