Das defekte Web: Werden wir Querdenker und Hate Speech jemals wieder los?

Fake News und Propaganda waren stets ein essentieller Bestandteil von sozialen Medien - man kann sie quasi als Erfolgsindikator für ein Netzwerk ablesen: Etabliert ist man, wenn erst die Werbetreibenden und dann die Verschwörungstheoretiker, Querdenker und Nazis bei einem auf der Matte stehen. Schon vor fast zehn Jahren befasste sich iBusiness mit dem Phänomen der Fälschungen in sozialen Medien (in Fälschungssturm Sandy: Wie Fakes die Online-News unterwandern) und prognostizierte für die Zukunft: "Die Nachrichtenportale fungieren weiter als Durchlauferhitzer für Nachrichten aus Social Media. Immer öfter machen Blogger oder die Community den Job der Redakteure und identifizieren Fälschungen: Während sich die sozialen Netze auf diese Weise selbst reinigen und die Fake-Kultur herausmendeln, plumpst bei den Nachrichtenportalen die Richtigstellung hintenüber: Die nächste Topmeldung löst den Fake schon ab, bevor es zur Empörung der Leser kommt."

Im Prinzip könnte das auch für 2022 so stehenbleiben: Propagandistische Verzerrungen des Sturms auf das US-Kapitol am 6. Januar 2021 und gefährlich falsche Gesundheitsinformationen rund um das Corona-Virus sind aktuell die drängendsten Probleme, aber im Prinzip nur neue Themen bei gleichgebliebenem Systemfehler. Strukturell neu hinzugekommen sind zwei Aspekte: Die Pandemie hat zu einer Verlagerung sozialer Teilhabe und Betätigung in Social Media geführt - analog dazu steigt auch die Aktivität radikaler Gruppen in den sozialen Medien. Und vor allem zeigt sich ein verstärktes Bemühen von Seiten der Portale, der Masse an zum Teil gefährlichen Falschinformationen Herr zu werden. Dieses Bemühen geht weniger auf eigene Initiativen zurück, sondern die Politik hat sich hier wie in Übersee als Treiber entsprechender Eindämmungsmaßnahmen in Stellung gebracht: Facebooks Whistleblowerin Frances Haugens Schilderungen der Konzernpraktiken hat in den USA Rufe nach Regulierungen laut werden lassen, in Deutschland tritt in der neugewählten Regierung vor allem Innenministerin Nancy Faeser als Unterstützerin von Maßnahmen auf, die gegen Fake News, Hate Speech und Verschwörungstheorien sich radikalisierender Gruppen in Social Media zielen.

Damit sind der politische und soziale Rahmen und das Ziel gleichermaßen abgesteckt: Fake News und Hate Speech in Social Media sollen stärker reguliert werden, das fordert die Politik und viele BürgerInnen unterstützen es: So gab in einer Umfrage nur gut eine/r von zehn NutzerInnen an, die Regierung kümmere sich genug um Hate Speech (siehe Campact  ). Nun stellt sich die Frage: Wie können aber Maßnahmen gegen Fake News und Hate Speech aussehen - welche Szenarien gibt es und wie wahrscheinlich sind sie? Kann man Hass und kriminelle Inhalte aus dem sozialen Web entfernen und wenn ja, wie? Per Hand? Per Gesetz? Per Algorithmus?

Der rechtliche Rahmen: Alles da, was man zum Kampf gegen Hater braucht

Rechtlich sieht der Fall so aus, wie es juristisch betrachtet eben meistens aussieht: Einerseits ziemlich klar, andrerseits ziemlich schwammig. "Geht es beispielsweise um Mordaufrufe ist die Lage klar - das ist verboten. Aber was stellt man mit Grauzonen der Meinungsäußerung an?", gibt Rechtsanwalt Martin Bahr von der Kanzlei Dr. Bahr   zu bedenken: "Wenn ich sage, alle Menschen dunkler Hautfarbe sind kriminell? Wenn ich poste, dass alle Soldaten Mörder sind? Fragen Sie fünf Juristen, sie werden fünf Meinungen bekommen."

Hier stellt sich also eine Weiche, die in zwei Richtungen führen kann: Entweder man ruft klar zu Verbrechen wie Mord oder Staatsstreich auf, dann ist der Fall klar: Man kann dagegen vorgehen. Ist man dagegen in einer Grauzone, die eventuell vom hohen Gut der freien Meinungsäußerung abgedeckt wird, wenn also "die Frage offen ist, ob etwas wirklich rechtswidrig ist, dann steigen selbst qualifizierte Juristen bei der Frage aus, wie konkret man dagegen vorgehen kann", sagt Bahr.

Konzentrieren wir uns also auf die Fälle, in denen Posts klare Rechtsverstöße darstellen, so lautet die Anschlussfrage: Was kann man tun, um dagegen konkret vorzugehen - also sie aus den sozialen Medien entfernen zu lassen. Hier ist es dann das Netzwerkdurchsetzungsgesetz  , das greift und konkrete, sogar ziemlich drastische Maßnahmen für die Netzwerke spezifiziert, so etwa die Entfernung der Inhalte binnen 24 Stunden (!), und bei Zuwiderhandlung bis zu fünf Millionen Euro Strafe als Hammer fallen lassen kann. Darüber hinaus müssen die Netzwerke (sobald sie eine Größe von mehr als zwei Millionen NutzerInnen in Deutschland erreicht haben) regelmäßig Berichte über eingegangene Beschwerden abliefern und einen deutschen Verantwortlichen nennen.

Welche praktischen Erfahrungen aber hat man in mittlerweile vier Jahren NetzDG gesammelt? Zum einen, dass "so viele Beschwerden offenbar nicht anfallen, wie man meinen sollte", sagt Bahr. Zum anderen, dass sich Firmen im Abmahnungsfall auch mit Händen und Füßen gegen die verhängten Bußgelder wehren - da vergehen schon mal Jahre, bis nach Ausschöpfung aller Rechtsmittel endlich bezahlt wird. Die Zahl der Fälle ist überschaubar, aber Facebook musste in 2019 durchaus zwei Millionen Euro zahlen, weil sie die geforderten, transparenten Beschwerdeberichte nicht ablieferten.

Lange Rede, kurzer Sinn: Juristisch lässt sich durchaus mühsam und in jahrelanger Einzelarbeit etwas ausrichten, doch insgesamt ist "eher eine technische Lösung die Antwort", prognostiziert Martin Bahr.

Der technologische Rahmen: Algorithmen als Hate Killer

Künstliche Intelligenz ist eines der großen gehypten Themen unserer Zeit und gilt als Universalproblemlöser in diversen Bereichen der Interaktivbranche. Die Fortschritte auf dem Gebiet gehen mit massiver Geschwindigkeit voran, so dass Aufgaben, die den Horizont von AI heute noch übersteigen, in einem Jahr schon lösbar sind. Dies vorausgeschickt, erscheint es schwierig einzuschätzen, ob KI ein adäquates Tool ist, um Hate Postings oder Fake News in den Griff zu bekommen.

Denn einerseits machen die Technologien Fortschritte, die illegale oder manipulative Inhalte aufspüren sollen, ebenso aber die Technologien im Waffenarsenal der Hate Poster und Trolle. Beim Beispiel Bots beispielsweise sind die Erkennungsstrategien automatischer Lösungen weit vorangeschritten, doch die Gegenseite nimmt am technischen Wettrüsten mit nicht minder großem Eifer teil: "Es gibt für Botfarmen mittlerweile Lösungen, die auf einem Instagram-Account bewusst menschliche Aktivität vorgaukeln, etwa durch die Posts scrollen, die Profile ausfüllen, damit es nach einem menschlichen Nutzer aussieht", sagt Joubin Rahimi, Geschäftsführer des Kölner Digital-Experience-Service-Unternehmens Synaigy   .

Das Beispiel der Bots zeigt: Es ist fraglich, ob Erkennungslösungen jemals einen Stand erreichen, der besser als grob unzureichend ist, denn die Gegenseite macht die gleichen Fortschritte. Es ist so als würde man fragen, wann endlich das letzte und endgültige Update für eine Virensoftware herauskommt. Zum anderen produzieren Algorithmen haufenweise falsche Positive oder sind oft außerstande, konkrete Gründe mitzuteilen, wieso ein an sich unbedenklicher Inhalt gesperrt wurde. So ist es Youtuber-Alltag, dass Videos wegen Verstößen gegen Richtlinien gesperrt werden und dann das muntere Raten losgeht, wieso nun ein Video bedenklich war und um welche Stelle es konkret geht.

Andrerseits kann Künstliche Intelligenz einen wichtigen Beitrag leisten, solange sie mit menschlichen Agenten kombiniert wird: "Anhand von Triggerwörtern kommt man auf Erkennungsraten bis zu 80 Prozent (was unerwünschte Inhalte angeht)", sagt Joubin Rahimi. "Da muss gar kein Mensch mehr draufsehen, bei 20 Prozent haben wir keine absolute Sicherheit, ob wir richtig identifiziert haben, da schaut dann noch ein Mensch drüber."

Die Frage ist also, wie groß sind die 20 Prozent und lassen sie sich mit menschlichen Ressourcen stemmen. Zum Teil geraten die Algorithmen wegen banaler Probleme ins Stolpern: Etwa wegen der in rechten Kreisen beliebten hundsmiserablen Grammatik, die zu wenig dem Deutsch ähnelt, das die Algorithmen erlernt haben. Bei einem Firmen-Channel mag es also eine gangbare Lösung sein, die KI drüberschauen zu lassen und die un-eindeutigen Posts von einer Mitarbeiterin oder einem Mitarbeiter lesen zu lassen. Doch wie läuft das bei einem Netzwerk mit weltweit mehreren Milliarden täglich aktiver NutzerInnen? Bei nur einer Milliarde Posts pro Tag blieben hier schon 200 Millionen händisch zu durchwühlende Beiträge übrig.

Die Realität: Wohin die Reise der Fake und Hate Posts in sozialen Netzen gehen wird

Jurist Martin Bahr prognostiziert eine ernüchternde Prognose für die Zukunft des Kampfes gegen bösartige Inhalte in sozialen Medien: "Man wird damit leben müssen." Immerhin scheint bei den Netzwerken etwas zu geschehen, unter dem kombinierten Druck von Eklats in der Nutzerschaft und den Erwägungen gesetzlicher Konsequenzen in der Politik. So hat Facebook  immerhin Sommer 2021 massenweise Querdenker aus seinem Netzwerk geworfen (siehe Zeit Online  ). Doch werden die Netzwerke niemals progressiv gegen Inhalte vorgehen, da es der DNA ihres Geschäftsmodells widerspricht, für die jede Aktivität gute Aktivität ist. So wird sich der Kampf gegen gefährliche Inhalte stets auf einem Feld bewegen, dessen Grenzen abgesteckt werden von schwer umsetzbaren Gesetzen, unzureichenden Algorithmen, zu wenig menschlichen Ressourcen und häppchenweise fortschreitenden Netzwerkbetreibern.

Konsequent durchgesetztes Deplatforming scheint sich dabei durchaus als ein probates Mittel zu erweisen: Zwar steht das Hinauswerfen von prominenten Meinungsführern etwa antidemokratischer Bewegungen oftmals in der Kritik (so etwa auch bei iBusiness selbst), doch de facto verlieren rechte InfluencerInnen mit jedem Hausverbot bei einer Plattform so nachhaltig an Reichweite, dass sie nicht selten in der Bedeutungslosigkeit versinken (siehe hierzu eine entsprechende Studie der Amadeu-Antonio-Stiftung  ).

So erscheint das wahrscheinlichste Szenario für den Umgang mit Fake News und Hate Speech für soziale Medien am besten mit einem sprichwörtlich gewordenen Status auf Facebook betitelt: Es ist kompliziert. Und das wird es bleiben. Alle Parteien sind gefragt: Politik, Recht, die zaudernden Plattformen selbst, die endlich mehr tun müssen, die NutzerInnen und algorithmische Lösungen kombiniert - nur sie gemeinsam werden es hinbekommen, das Problem einzudämmen. Abschaffen werden sie es nicht.