Anleitung: Tipps um Fake Tweets zu entlarven

Selbst Twitter-Mitbegründer Ev Williams gibt zu, dass dort eine regelrechte Fake News-Epidemie herrscht. Das Toolkit von Melanie Smith, Chloe Colliver, Alexey Kozlov und mir, Henk van Ess, wird für Forschungszwecke vom Institute for Strategic Dialogue und vom Arena Programme an der London School of Economics genutzt, wo auch Daten zur russischen Einflussnahme auf den deutschen Wahlkampf in sozialen Netzwerken ausgewertet wurden. So gibt es etwa eine interessante Verbindung der rechtspopulistischen Partei AfD zum Kreml. (PDF-Dokument)

Wir haben auch eine zwielichtige nicht börsennotierte Firma in Nischni Nowgorod, Russland, aufgedeckt, die Pro-AfD-Tweets mit Hilfe von Bots verbreitete (s. BuzzFeed-Artikel). Im Folgenden wird erläutert, wie wir diese russischen Meinungsmacher mit Hilfe von Validierungstools ausfindig machen konnten.

Doch zuerst: Warum löscht Twitter nicht einfach alle Bots?

Um diese Frage zu beantworten, habe ich das Darknet besucht und mir dort eine Software beschafft, von der behauptet wird, dass sie in nur wenigen Stunden Twitter-Bots herstellen kann. Ich habe dieses höchst illegale Programm nur ein paar Minuten genutzt - zu Anschauungszwecken.  

Diese Software benutzt falsche Namen und Anschriften, um im Handumdrehen hunderte neuer E-Mail-Accounts anzulegen. Sie füttert dann das Twitter-Anmeldeportal mit jeder einzelnen E-Mail-Adresse und spuckt zufallsgenerierte Benutzernamen aus. Falls ein Benutzername schon besetzt ist, wird einfach ein neuer generiert. Die Software erkennt auch, dass Twitter zusätzliche Informationen verlangt wie etwa eine Telefonnummer.

Nach nur zwei Minuten habe ich abgebrochen und bereits meine ersten zehn Twitter-Bots erschaffen. Das würde bedeuten, dass die Software wohl 300 Bots pro Stunde oder 7.200 am Tag generieren könnte. Die so erschaffene Bot-Armee kann man dann auf bestimmte Städte, Länder oder Kontinente loslassen, indem man auf Tweets von existierenden Nutzern antwortet. Oder man lässt sie nur auf eine Handvoll Hashtags los, bis man auf Twitter bekannt ist wie ein „bunter Hund“ - also zum Trending Topic geworden ist.

Wie aber lässt sich mit diesen Millionen Fake-Accounts Geld machen? Spams generieren Einkünfte aus Onlinewerbung. Und politische Tweets werden von Interessenvertretern gekauft, nicht nur in der Form von offizieller Werbung, sondern auch über Kooperationen mit illegalen Bot-Farmen, die Aufmerksamkeit generieren sollen.

Während einer virtuellen Tour durch solch eine kommerzielle Hacking- und Bot-Farm (s. BuzzFeed), versicherte mir ein Mitarbeiter namens "Alexander", dass sie mich in die Top Ten der Trending Topics auf Twitter in Deutschland am Wahltag bringen könnten; mit dem Hashtag #AfD - eben jener nationalkonservativen Partei, die zum ersten Mal in den Bundestag einziehen wird. Die Kosten waren mit nur 180 US-Dollar relativ überschaubar.

Der Hacker sagte mir, dass professionelle Spammer es bevorzugen, ihre Bot-Armee von Grund auf selbst zu schreiben, in der Programmiersprache „c+“. Twitter habe zunehmend Probleme die "handgeschriebenen" Bots aufzuspüren. Diese auf „c+“ basierende Software zu kaufen, wäre sehr teuer gewesen: mehr als 10.000 US-Dollar.

Schlagen Sie zurück! Mit den richtigen Werkzeugen ist es möglich, mehr über jeden Twitter-Account in Erfahrung zu bringen und dubiose Accounts als Bots zu entlarven. Hier folgen zehn Video-Tipps:

In diesem Artikel ist Nikolai Kusnjezow (Николай Кузнецов), Twitter-Name adjust_ps, unsere Zielperson. Wenn Sie alle zehn Tipps gelesen haben, werden Sie wissen, warum er ein Bot sein muss. Der Account stammt von einer Bot-Farm mit einem Team von 31 Programmierern und sechs Managern. Aber immer der Reihe nach:

Wenn Sie auf die Profilseite eines beliebigen Twitter-Nutzers gehen, Ihren Mauszeiger über das Datum platzieren und warten, wird Ihnen die exakte Zeit angezeigt, an dem der Account eröffnet wurde. Diese Information ist sehr nützlich, denn oft melden sich nach gewissen Vorfällen "Augenzeugen" zu Wort. Bei näherer Betrachtung kommt aber heraus, dass die Accounts erst in den Minuten nach dem Vorfall eröffnet wurden und in Wirklichkeit Spam verbreiten.

Jetzt wissen Sie, wann die Person angefangen hat zu twittern. Die zweite Frage ist, womit?

Ein Bot kommt zur Welt und fängt sofort schamlos damit an, Ideen oder Produkte zu vermarkten. Darum ist es bei einem verdächtigen Account interessant, in der Zeit zurück zu gehen. Das geht ganz leicht mit der fortgeschrittenen Twitter-Suchfunktion, wie im Video zu sehen ist. In ihrem ersten Jahr vertwitterte unsere Zielperson nur Links zu YouTube-Videos. Das kommt schon mal vor, ist aber auch dem Verhalten von Bots nicht unähnlich.

Wenn Sie die etwas technischere Variante nicht scheuen, können Sie auch diese Formel in die Suchmaske eingeben: from: (1) gefolgt von dem Benutzernamen und einem Leerzeichen, dann since: (2) gefolgt von Anfangsdatum im Format Jahr-Monat-Tag.

Komischerweise hat Twitter den Dienst #firsttweet dieses Jahr dicht gemacht.

Lassen Sie uns Tipp 1 und 2 in einer richtigen Suche anwenden. Ein Twitter-Account war in den letzten Stunden der Wahl besonders aktiv. Die Userin deutete Unregelmäßigkeiten bei der Wahl an und der Tweet wurde geteilt.

Die Userin behauptet, dass AfD-Stimmen ungültig gemacht werden würden. Glauben Sie das? Die deutschen Behörden nahmen es ernst und antworteten, dass Wahlbetrug strafbar sei.

Das ist der Grund, warum man sich immer das Entstehungsdatum (Tipp 1) und den ersten Tweet anschauen sollte (Tipp 2). Folgt man diesen Tipps, erfährt man bei unserem Beispiel etwas über scheinbare Vorlieben der Userin.

Für die Meisten verliert sie damit als Quelle für möglichen Wahlbetrug an Glaubwürdigkeit.

Es macht also Sinn, sich die früheren Tweets anzuschauen, um den Kontext zu verstehen. Ein schlechter Bot wird versuchen, Ihnen gleichzeitig Viagra und eine politische Idee zu verkaufen.

Die Follower eines Twitter-Accounts zu analysieren, kann oft Hinweise zutage fördern. Es hängt vor allem davon ab, was man von einem Account erwarten sollte. Wenn man zum Beispiel einer deutschsprachigen Bewegung folgt, die sich zum Ziel macht, Angela Merkel als Kanzlerin abzusetzen, wäre es nur logisch, wenn die meisten Follower auch aus Deutschland kämen (wie im Video zu sehen).

Aber wie sieht es für unseren vermeintlichen Bot aus? Ein russischer Typ, der eine komische Mischung aus Werbung, YouTube-Links und AfD-Unterstützung veröffentlicht?

Hier ist ein Tipp: Professionelle Bots (nicht die gesichtslosen Bots ohne Namen und Biografie, die ständig nur spammen) haben Profilbilder, Biografien und oft auch Links zu anderen sozialen Netzwerken. Um Spamfilter zu umgehen, suchen sie sich ihre automatisierten "Follower" sehr genau aus und verteilen sie über alle Kontinente (wie im Video zu sehen). Unser russischer Freund passt genau in dieses Schema, also sollten wir ihn uns noch näher anschauen. Es ist ein erster Hinweis, aber wir brauchen noch weitere.

Ortsgebundene User, die in ihrer Muttersprache twittern, haben meistens keine Anhängerschaft, die gleichmäßig über den Globus verteilt ist. Falls das plötzlich der Fall sein sollte, dann ist dies ein Grund, etwas genauer nachzuschauen.

Ein weiteres Muster, das professionelle Bots erkennbar macht, ist, dass der Twitter-Benutzername und die E-Mail-Adressen oft sehr ähnlich sind, weil sie automatisiert erstellt wurden. Für soziale Netzwerke benutzen Bots oft E-Mail-Adressen, die auf dem Benutzernamen des Twitter-Bots basieren.

Bleiben wir bei dem Beispiel des russischen Accounts adjust_ps. Hier kann man etwas experimentieren und versuchen, mögliche E‑Mail-Adressen zu erraten: adjust_ps@yahoo.com, adjust_p@hotmail.com oder adjust.p@gmail.com sind wahrscheinliche Kandidaten.

Diese E-Mail-Adressen kann man direkt in das Suchfeld bei Facebook eingeben und nach Personen suchen. Wenn ein User die Suche über E-Mail-Adresse gestattet, wird man ihn auch finden. Wie im Video zu sehen, ist adjust.p@gmail.com die richtige Adresse und sie führt uns direkt zum Facebook-Account unserer Zielperson. Er benutzt das gleiche Foto bei Facebook und bei Twitter. (Anm. der Red.: Der Besitzer hat das Mail-Checking bei Facebook deaktiviert, nachdem dieser Artikel publiziert wurde.)

Was halten Sie von seinem Facebook-Account? Fast jeder Beitrag ist ein Link, nie etwas Persönliches. Er ist Mitglied in tausenden kommerziellen Gruppen aus aller Herren Länder, was sehr auf Bot-Verhalten hindeutet.

Dieses Tool erleichtert das Suchen nach Stichwörtern in der Twitter-Timeline. Einfach den Twitter-Namen der Zielperson eingeben und man bekommt eine Zusammenstellung aller Tweets mit diesem Stichwort sowie die genaue Zeit der Veröffentlichung.

Unsere Zielperson adjust_ps postet über die AfD. Warum?

Die Datenanalyse zeigt zwei Knotenpunkte, die Tweets aus Russland über die Bundestagswahl verbreiteten.

In der ersten Grafik sehen Sie alle Tweets, die sich für die AfD aussprechen und wahrscheinlich aus Russland stammen. Adjust_ps und gyroscope999 sind die Meinungsführer. In der zweiten Grafik kann man die Ähnlichkeiten zwischen diesen beiden Meinungsführern erkennen. Der große Account und der etwas kleinere, unsere Zielperson, werden von denselben Accounts gefolgt.  Das ist typisches Bot-Verhalten. In einer Armee von Bots folgt jeder jedem.

Wir haben sogar die russische Bot-Farm direkt kontaktiert und gefragt, ob wir gyroscope999  und adjust_ps nutzen könnten, um politische Informationen zu verbreiten. Sie gaben zu, beide zu besitzen. Das war ein weiterer wichtiger Hinweis.

Universitäten und Nachrichtenmedien bevorzugen kostenpflichtige Tools, um versteckte Verbindungen zwischen Twitter-Accounts aufzudecken. Wir nutzten ebenfalls Scraawl und Graphika.de:

Microsoft hat eine Menge Daten aus ihren verschiedenen Diensten wie Hotmail und Live zusammengetragen und sie mit dem Suchfeld von Skype zugänglich gemacht. Bei Skype unter "Kontakt hinzufügen" einfach die E-Mail-Adresse eingeben, um zu sehen, wer dahinter steckt – wie bei dem Beispiel oben.

Hat dieser Twitter-Account (unten) wirklich etwas mit den Kardashians zu tun? Wahrscheinlich nicht, aber wie kann man sichergehen?

Die meisten Menschen benutzen oft den gleichen Benutzernamen in verschiedenen sozialen Netzwerken. Um mehr über diese Personen herauszufinden, kann man folgende Methode anwenden: Einfach twitter.com/ahcarolina durch foursquare.com/ahcarolina ersetzen und man bekommt den Link zu ihrem Facebook-Profil mit ihrem echten Namen.

Wenn man auf klout.com/ahcaroline geht, findet man den Online-Einfluss dieser Userin, der Aufschluss darüber geben kann, ob ein Account echt ist oder nicht.

Zwar ist Klout nicht perfekt, aber es kann Aufschluss über den Einfluss einer Person auf Twitter geben. Die Skala geht von 0 bis 100 Punkte. Wenn Ihre Lieblingsquelle einen Punktestand von 0 bis 10 hat, sollten Sie zumindest etwas misstrauisch werden, besonders wenn sie große Behauptungen macht. Wenn der Punktestand 60 oder höher ist, handelt es sich um eine bewährte Quelle, die ziemlich oft retweetet wird. Haben Sie übrigens gewusst, dass manche Telefonanbieter Sie über den Twitter-Helpdesk besser behandeln, wenn Ihr Klout-Score über 60 ist?

Professionelle Bots versuchen ihren wahren Existenzgrund zu verschleiern, indem sie sich über Monate oder sogar Jahre völlig normal verhalten, in der Hoffnung so einen hohen Social-Score zu erlangen. Früher oder später werden sie sich aber wieder wie Bots verhalten und wahlloses Zeug von sich geben. Glücklicherweise lässt sich das über Klout auch nachprüfen, siehe adjust_ps.

Für unseren letzten Tipp möchten wir Ihnen ein generisches Tool vorstellen, mit dem man Details über User in sozialen Netzwerken finden kann. Es zeigt an, ob ein Nutzer aktiv ist oder nicht.

Adjust_ps spricht nur mit einem gewissen Alexander (über ein Fake-Profil) - und ja, Alexander ist einer der 31 Mitarbeiter eben jener russischen Bot-Farm. Damit wäre es also geklärt. Zwar benötigten wir eine Menge Tools, um Fake-Tweets als solche zu entlarven, unmöglich ist es aber nicht.

Ein Teil dieses Artikels ist mit Zustimmung von poynter.org veröffentlicht worden.

Redaktion für Frontal 21: Andreas Seibert und Iris Wohsmann