Wege gegen Gewalt im Livestream

Deutsche Welle: Der Attentäter von Christchurch hat seine Tat mit einer Helmkamera live über Facebook Live gestreamt. Erst nach einem Hinweis der Polizei verschwand das Video. Hätte Facebook das verhindern können?

Felix Freiling: Die Frage ist, wie. Auf Facebook und anderen Plattformen erscheinen jeden Tag Tausende Livestreams. Es ist unmöglich, das alles manuell auszuwerten. Auch eine automatische Bilderkennung ist eher schwierig. Der Algorithmus muss da zwischen realer Gewalt, wie im Fall von Christchurch, und fiktionaler Gewalt, zum Beispiel aus einem Spielfilm, unterscheiden. Sogar für Menschen ist es manchmal schwierig zu erkennen, ob Videos echt sind oder nicht. Und Algorithmen sind immer nur so gut, wie die Daten, die man reinsteckt. Es gibt, zum Glück, nicht genug Bilder von realer Gewalt, um sie eindeutig zu klassifizieren.

Gibt es andere Ansätze?

Ein Ansatz wäre, dass Plattformen genauer hingucken, welche Nutzer da eigentlich Inhalte streamen. Das bedeutet, dass vorher überprüft wird, wer das eigentlich in echt ist. Und wenn dann tatsächlich etwas Strafbares gesendet wird, weiß man, an wen man sich wenden muss. Das hilft zwar auch nicht dabei, diese Übertragungen von vornherein auszuschließen. Aber man kann im Nachhinein dann relativ schnell aufklären, wer dafür verantwortlich ist. Außerdem hat es eine abschreckende Wirkung auf jeden, der vorhat, Gewalttaten im Internet zu streamen.

Der zweite Aspekt: Wenn man weiß, wer einen Zugang haben möchte, kann man ihnen diesen auch im Voraus ablehnen. Da geht es um Leute, die vielleicht schon mal auffällig geworden sind, bei der Plattform selbst oder auch bei Behörden, wie der Polizei.

Wie könnte eine solche Überprüfung im Voraus ablaufen?

Diese Art der Identifizierung gibt es jetzt schon, zum Beispiel beim Online-Banking. Da gibt es stärkere und schwächere Verfahren. Manche Banken verlangen zum Beispiel einen Live-Chat mit einem Kundenberater. Der Kunde muss dann seinen Pass in die Kamera halten und bestimmte Fragen beantworten. Bei den Banken ist klar reguliert, dass sie sich davon überzeugen müssen, wer die Person ist. Da funktioniert das. Warum sollte das nicht auch für besondere Funktionen wie dem Live-Streamen auf Facebook funktionieren?

Facebook hat vor dem  Christchurch-Gipfel in Paris neue Regeln angekündigt: Nutzer können bei schweren Verstößen gegen die Richtlinien eine Zeit lang von Facebook Live ausgeschlossen werden. Reicht das aus?

Da müsste Facebook ein bisschen proaktiver sein. Natürlich ist es erst mal ein guter Ansatz, dass man Nutzer, die gegen die Regeln verstoßen, ausschließt. Das verhindert aber auch nicht, dass jemand, der Gewalt übertragen möchte, das auch macht. Da hilft auch nicht die Abschreckung durch diese Verbote. Den Attentäter von Christchurch hätte das auch nicht aufgehalten. Solche Extremisten sind aber oft schon polizeibekannt. Solchen Personen sollte man dann von vornherein nicht akzeptieren. Dafür braucht es vorher aber eine Identifikation.

Facebook hat angekündigt, Millionen in die Bilderkennung zu stecken und auffällige Konten nur "für eine gewisse Zeit" zu sperren. Das hört sich nicht gerade konsequent an.

Nutzer für immer zu sperren, entspricht nicht dem Geschäftsmodell der großen Konzerne. Ihr Ziel ist es natürlich, dass möglichst viele Personen möglichst lange auf der Seite bleiben. Es ist auch kein Geheimnis, dass gerade sensationelle Inhalte viele Klicks bringen. Facebook und Co. haben somit auch ein Interesse daran, möglichst viel durchzulassen.

Auch die Investition in die Bilderkennung ist für Facebook eine Investition in ihr Geschäftsmodell. Nutzer sollen möglichst viel Freiheit haben. Die überzeugendsten Maßnahmen sind die, die nicht Facebooks Geschäftsmodell entsprechen. Das sind Maßnahmen, die auch Facebook wehtun. Was der Konzern jetzt angekündigt hat, tut nicht wirklich weh.

Wie wahrscheinlich ist es, dass Facebook Ideen wie eine vorherige Identifizierung umsetzen wird?

Ich sehe nicht, warum Facebook das aktuell machen sollte, weil es sich für sie nicht rechnet. Effektiver wäre eine Regulierung durch die Politik. Strafzahlungen könnten da zum Beispiel sehr motivierend sein.

Wie weit sollte die Regulierung gehen?

Regulierung ist immer ein zweischneidiges Schwert. Aber Regulierung ist auch etwas, womit man Erfahrungen sammeln muss. Und eine Regulierung, die man einsetzt, kann auch wieder überdacht werden. Dafür haben wir zum Glück die Organe, die Recht durchsetzen und es wieder ändern können. Ich denke, man muss jetzt aber auch mal den Schritt zu mehr Regulierung machen. Nur so kann man solche Exzesse, die es im Internet gibt, eindämmen.

Wie kann und sollte jeder Nutzer auf Gewalt in sozialen Netzwerken reagieren?

Auf den Plattformen kann jeder Nutzer mit wenigen Klicks anstößige und illegale Inhalte melden. Im Zweifel gibt es auch die sogenannte Internet-Beschwerdestelle, bei der man so etwas melden kann. Da arbeiten auch die Internet-Provider zusammen, um anstößige Inhalte schnell aus dem Netz zu nehmen. Und zuletzt sollte man auch die Polizei darüber informieren, wenn man zum Beispiel einen solchen Stream, wie den des Christchurch-Attentäters, findet.

Prof. Dr. Felix Freiling leitet den Lehrstuhl für IT-Sicherheit an der Friedrich Alexander Universität Erlangen-Nürnberg. In seiner Forschung beschäftigt sich Freiling hauptsächlich mit offensiver IT-Sicherheit, wie zum Beispiel Hacking. Zu Freilings Fachgebieten gehört auch die Aufklärung von IT-Sicherheitsvorfällen in der Strafverfolgung.

Das Gespräch führte Patrick Große.