Ein roter Button auf dem "Fake melden" steht
Bild © picture-alliance/dpa

Social Bots manipulieren in sozialen Netzwerken die Meinungen von Usern. Die Bundesregierung will nun ein Gesetz erlassen, das diese Fake-Accounts besser kennzeichnet. Unsere Multimedia-Redakteurin erklärt, wie Social Bots funktionieren.

Wie funktionieren diese Social Bots?

Die Social Bots geben sich tatsächlich in den sozialen Netzwerken als echte User aus und posten Kommentare. Meistens um eine gewisse politische Meinung im Internet zu verbreiten. Dazu scannen sie das Netz nach Schlagwörtern und Hashtags ab, vor allem bei Twitter und Facebook – also dort, wo viel kommentiert wird. Und wenn sie dann fündig werden, setzen sie ihre gezielten Kommentare automatisiert ab. Damit sollen die User in ein fiktives Gespräch verwickelt und beeinflusst werden.

Das geht so weit, dass sie sogar eigene Antworten schreiben können. Dazu suchen sich die Social Bots Texte aus dem Internet zusammen oder übernehmen einfach ganze Aussagen, die sie dort finden. Damit wollen sie den Nutzern vortäuschen, es gäbe eine bestimmte Meinung zu einem Thema im Internet. In Deutschland sind das vor allem rechte oder islamfeindliche Aussagen.

Wie schaffen es Social Bots, Meinungen zu beeinflussen?

Dazu gibt es verschiedene Formen. Erstens: Sie können ganze Seiten überfluten. Äußert sich zum Beispiel eine Nachrichtenseite zu einem bestimmten Thema, dann posten Social Bots immer wieder die gleiche Gegenaussage. Dadurch verschwinden echte Kommentare im Hintergrund. Und so wird eine ausgewogene Diskussion über ein Thema unmöglich gemacht.

Zweitens: Können sie aber auch die Themen-Agenda bestimmen. Unterhalten sich beispielsweise tausende Bots auf Twitter über ein Thema, dann kann sich das schnell zu einem Topthema entwickeln. Also ein Thema, das von Maschinen verbreitet wird und nicht von vielen Menschen, die einer Meinung sind.

Drittens: Sie lenken User im Internet ab, die gerne diskutieren. Das machen sie, indem sie die User mit gewissen Kommentaren provozieren oder beleidigen. Die vergessen dann schnell, worüber sie eigentlich diskutieren wollten. Wem das nicht auffällt, der ist dann stundenlang beschäftigt mit einem Bot zu schreiben, anstatt sich zu einem Thema zu äußern.

Die Bundesregierung will strengere Regelungen, die Fake-Accounts zu kennzeichnen. Ist es überhaupt möglich, die Social Bots technisch zu kontrollieren beziehungsweise zu verbieten?

Da sich Social Bots als normale Nutzer tarnen, ist es sehr schwer, sie zu identifizieren. Auch, weil deren Entwickler die Social Bots immer besser tarnen können. Da entstehen dann Fake-Accounts, die total authentisch aussehen. Aber es gibt bereits einige Methoden, um sie ausfindig zu machen. Man kann prüfen, welche Follower ein Account hat. Bei vielen Bots sind das nämlich andere Bots.

Des Weiteren kann man schauen, ob die Kommentare immer wieder das gleiche Muster nutzen. Auffällig ist, wenn ein Nutzer viele Gespräche gleichzeitig führt und das zu immer wieder denselben Themen. Dann kann man auch noch gucken, wie viel diese vermeintliche Person postet. Gibt es da Posts zu jeder Tages- und Nachtzeit, ist das schon auffällig. Auch kann man auf die Reaktionszeit der vermeintlichen User schauen. Denn die Social Bots können blitzschnell auf Kommentare antworten, also viel schneller, als wir Menschen das tun könnten. Und am Ende hilft es auch, ihnen komplexe Fragen zu stellen, die sie nicht mehr logisch beantworten können.

Letztendlich muss jeder einzelne Bot genau nach diesen gewissen Kriterien geprüft werden und das ist schon sehr aufwendig.

Sendung: hr-iNFO, 17.12.2018, 15.10 Uhr

Jetzt im Programm