Disput mit Maschinen

Fast jeder, der im Alltag soziale Netzwerke wie Facebook nutzt, dürfte folgende Situation schon erlebt haben: Im Postfach blinkt ein neue Freundschaftsanfrage auf. Eine Person im ungefähr gleichen Alter, vielleicht aus derselben Region und sogar mit ähnlichen Interessen möchte sich mit dir verbinden. Was sich im ersten Augenblick wie der Beginn einer neuen Bekanntschaft liest, müsste jedoch stutzig machen. Keine gemeinsamen Freunde, ein lückenhaftes Profil. Doch egal, anders als im echten Leben sind virtuelle Bekanntschaften schnell geschlossen, eine Bestätigung kann schließlich genauso leicht mit einem Klick erfolgen wie die etwaige Trennung. Was kann da schon schief gehen?

Eine ganze Menge: Der geheimnisvolle Unbekannte muss keine real existierende Person sein. Möglicherweise ist er oder sie kein Mensch, sondern ein sogenannter Social Bot. Bot (von Roboter) nennt man spezielle Computerprogramme, die selbstständig die von ihrem Programmierer festgelegten Aufgaben erfüllen.

In dem beschriebenen Facebook-Szenario dürfte es sich in den meisten Fällen um einen Datenstaubsauger handeln. Ist erst mal die Freundschaftsanfrage bestätigt, erhält der Bot Zugriff auf sämtliche privaten Daten eines Users, sammelt Informationen über dessen Interessen, greift wahrscheinlich sogar die hochgeladenen Bilder ab. Am Anfang seines virtuellen Lebens ist der Software eines aber fast noch wichtiger: Die Freundeslisten seiner neuen Bekanntschaften. Denn diese dienen als Einfallstor zu noch mehr Bekanntschaften und verbessern gleichzeitig die eigene Tarnung. Verschickt der Bot eine Anfrage an einen Bekannten aus der Freundschaftsliste seines ersten Opfers, wird es für alle Nachfolgenden immer schwerer, das Programm als solches zu erkennen. Schließlich tummeln sich in dessen Freundesliste nach kurzer Zeit nun nicht mehr nur andere Fake-Profile, sondern auch Personen, die der Nutzer vielleicht aus dem realen Leben kennt.

Die rasante Ausbreitung von Social Bots hat allerdings nicht allein mit Naivität oder Gutgläubigkeit einzelner Nutzer zu tun, wie Forscher von der University of British Columbia in Vancouver (Kanada) bereits 2011 in ihrer Studie »The Socialbot Network« zeigten. Mit nur 102 auf Facebook eingeschleusten Robotern gelang es innerhalb weniger Wochen, Tausende realer Nutzer als Freunde zu gewinnen und deren Daten abzugreifen.

Da den Programmierern des bekanntesten sozialen Netzwerks die Bot-Problematik schon damals bekannt war, gab es bereits frühzeitig Sicherheitsvorkehrungen, weshalb sich die Forscher an einige Spielregeln halten mussten, um einer Enttarnung zu entgehen. So durfte jeder Bot täglich lediglich 25 Anfragen versenden, weitere versuchte Kontaktaufnahmen hätte der Algorithmus von Facebook nach kurzer Zeit als problematisch erkannt und das Profil wahrscheinlich gesperrt. Doch trotz dieser Hürde war das Ergebnis des Experimentes beachtlich: Nach nur zwei Wochen hatten die Bots 976 reale Kontakte geknüpft, nach acht Wochen kamen weitere 2079 Nutzer hinzu. Letztlich nutzen die Wissenschaftler den sogenannten »triadischen Effekt«, wonach zwei Nutzer mit einem gemeinsamen Freund dreimal häufiger bereit sind, eine neue Verbindung einzugehen.

Beinahe hilflos stand das soziale Netzwerk der Infiltrierung durch Roboter damals gegenüber, obwohl es mit dem »Facebook Immune System (FIS)« längst ein System gab, um Bots und andere Spam-Programme zu erkennen. Doch in dem kanadischen Experiment wurden lediglich 20 Prozent der Social Bots enttarnt und dies auch nur, weil einige reale Nutzer stutzig geworden waren und die Accounts als auffällig meldeten.

Fünf Jahre später haben sowohl die Betreiber sozialer Netzwerke als auch Bot-Programmierer aufgerüstet. Doch die Probleme bleiben die gleichen, wie das Beispiel der netzpolitischen Sprecherin der Linksfraktion im Bundestag, Halina Wawzyniak, von Anfang 2016 zeigt. Die Linke war eine der ersten Politikerinnen in Deutschland, die das Potenzial der sozialen Netzwerke in der politischen Auseinandersetzung erkannte und deshalb den Kurznachrichtendienst Twitter bereits seit 2009 ebenso intensiv nutzt wie Facebook. Doch im Januar war zwischenzeitlich Schluss. »das ist wirklich ganz groß @facebook. in debatte mit den leuten einfach mitteilen account sei jetzt gesperrt, identitätsprüfung nötig«, schrieb sie erbost in einer Kurznachricht.

Offensichtlich handelte es sich in diesem Fall um eine Verwechslung: Ein Suchalgorithmus stufte Wawzyniaks Facebookprofil als Social Bot ein, die emsig im Netz agierende Politikerin wirkte auf eine Maschine als wäre sie selbst eine.

Längst läuft die Suche nach echten und Fake-Accounts in den sozialen Netzwerken größtenteils automatisiert. Anders wäre den Heerscharen an Bots auch kaum Einhalt zu gebieten. Konkrete Zahlen, wie viele Bots sich im Internet tummeln, sind kaum zu ermitteln. Simon Hegelich, Professor mit dem Schwerpunkt Digitalisierung an der Hochschule für Politik in München, schätzt, dass Bots im Internet zwischen 50 Prozent und zwei Dritteln des gesamten Datenaufkommens erzeugen. Allerdings tummeln sich in dieser Schätzung auch die »guten« Roboter, also etwa jene Programme von Suchmaschinen wie Google, die im Netz permanent nach neuen Inhalten suchen. In den sozialen Netzwerken findet dagegen eine permanente Verschiebung statt, worauf sich Social Bots konzentrieren.

Dabei ist die Programmierung von Social Bots kein undurchsichtiges Hexenwerk, wozu ein Informatikstudium notwendig wäre. Frei zugängliche Websites erleichtern die Generierung Tausender Profile innerhalb weniger Stunden. So lassen sich auf fakenamegenerator.com fast vollständige falsche Identitäten erschaffen, nebst Namen, Beruf, Wohnort, Geburtsjahr und fiktiver Kreditkartennummer. Bei randomuser.me gibt es Millionen geeigneter Profilbilder, oft selbst mittels Bots aus dem Internet gefischt. Beide Anwendungen miteinander kombiniert und mit Hilfe kleiner Programme automatisiert, lassen sich so Zehntausende Fake-Profile erstellen.

Inzwischen gibt es Programmierer, die sich auf einzelne soziale Netzwerke spezialisieren, denn die Anforderungen, um nicht mit einer falschen Identität aufzufliegen, sind bei jeder sozialen Plattform unterschiedlich. Sogar verifizierte Accounts, also Profile, deren Echtheit etwa von Twitter mittels einer SMS an die bei der Registrierung angegebene Telefonnummer überprüft wird, sind nicht mehr vor einer Fälschung sicher. Anbieter für falsche Mobilfunknummern sind auf einschlägigen Websites zu finden.

Und wie reagiert das Silicon Valley? Facebook und Co. lassen ihrerseits Bots durch die sozialen Netzwerke laufen, um Auffälligkeiten in den Profilen ausfindig zu machen. Als Hinweis dient neben dem massenhaften Versenden von Freundschaftsanfragen innerhalb kurzer Zeit auch die Zahl an Interaktionen eines Profils. Statistisch ist es so, dass die Aktivität durchschnittlicher realer Nutzer am Wochenende und in der Nacht sinkt, während viele Bots keine Pausen kennen. Anhand solcher Indikatoren lassen sich Wahrscheinlichkeiten berechnen, ob ein Profil echt oder nur eine Fälschung ist. Doch auch hier reagieren die Programmierer auf der Gegenseite. Inzwischen gibt es Bots, die in ihrem Interaktionsverhalten reale Nutzer nachahmen und sich eben nicht wie eine permanente Nachrichtenschleuder auf einem Drogentrip verhalten.

Social Bots auf Facebook oder Twitter sind in der Lage, nicht nur fremde Beiträge weiterzuverbreiten, sondern eine eigene Konversation zu betreiben. In den meisten Fällen sind die Muster dieser Reaktionen noch simpel, reichen aber aus, in der Schnelllebigkeit der sozialen Netzwerke und deren schierer Masse zu bestehen. In der Regel reagieren die Bots auf eine Kombination zuvor festgelegter Schlagworte, woraufhin die Fake-Profile hinterlegte Antworten in den digitalen Äther entlassen.

Mag einem einzelnen Social Bot keine Bedeutsamkeit zukommen, ist eine ganze Armee umso einflussreicher. Eindrücklich zeigte dies der letzte US-Präsidentschaftswahlkampf. In einer Studie am Information Sciences Institute der University of Southern California sammelten Forscher in der Zeit vom 16. September bis zum 21. Oktober mehr als 20 Millionen Kurznachrichten bei Twitter, die sich dem Duell zwischen Hillary Clinton und Donald Trump widmeten. Bei der anschließenden Auswertung deckten die Wissenschaftler schließlich auf, dass etwa 3,8 Millionen Tweets von Social Bots stammten. Bei rund 400 000 von 2,8 Millionen erfassten Profilen handelte es sich um fiktive Benutzer-Accounts. »Die Präsenz dieser Bots kann sich auf die Dynamik der politischen Diskussion auswirken«, warnte Studienleiter Emilio Ferara im Internet-Fachjournal »First Monday«. Die Lager von Trump und Clinton verfolgten zudem unterschiedliche Strategien: Während die Social Bots im Auftrag des Republikaners primär positive Nachrichten über den eigenen Kandidaten verbreiteten, waren die Roboter der Demokraten zur Hälfte auch dafür zuständig, Kritik am Konkurrenten im Netz bekannt zu machen. In wessen Auftrag die Bots letztlich handelten, konnte die Studie »Social Bots Distort the 2016 U.S. Presidential Election Online Discussion« allerdings nicht nachweisen.

Im Interview mit der »Wirtschaftswoche« warnte der Politologe Hegelich, Bots könnten den politischen Diskurs in den sozialen Netzwerken verzerren. Dabei gehe es nicht nur darum, die eigenen Botschaften möglichst breit zu streuen und damit letztlich eine größere Aufmerksamkeit zu generieren. Hegelich wies im Frühjahr 2014 nach, wie Tausende Social Bots auf Twitter den Hashtag Ukraine mit Propaganda fluteten - Algorithmen in der Weltpolitik.

2015 ließ Darpa, die Forschungsorganisation des US-Verteidigungsministeriums, Wissenschaftler gezielt die Tätigkeit von Social Bots untersuchen. Die Studie kam zu dem Schluss, wonach »Werbetreibende, Kriminelle, Politiker, Staaten und Terroristen« sich zunehmend der Meinungsmache durch Bots bedienten. Als hierzulande die Problematik vor wenigen Wochen hochkochte, erklärten mit Ausnahme der AfD unisono alle großen Parteien, auf den Einsatz digitaler Propagandaschleudern zu verzichten. Nach einem Aufschrei erklärten inzwischen auch die Rechten, keine Social Bots einzusetzen. In den USA sind die Meinungsroboter längst üblich.

Allem Alarmismus zum Trotz sind Social Bots nicht per se böse, sofern ihr Einsatz transparent und für den Nutzer nachvollziehbar erfolgt. Große Unternehmen arbeiten daran, einige ihrer Dienstleistungen über virtuelle Roboter abwickeln zu lassen. So arbeitet der Versicherungskonzern »Ergo Direkt« an einem Chatbot, der Kundenfragen beantworten soll und den Abschluss einer Police ermöglicht. Ganz vorne mit dabei ist wieder einmal Facebook. Im Frühjahr erklärte der Internetgigant, seine Chatfunktion für andere kommerzielle Anbieter öffnen zu wollen. Erste Tests mit exklusiven Partnern gab es zuvor bereits. Wer sich also demnächst fragend an einen Kundenservice wendet, kann sich nicht mehr sicher sein, ob sein Gegenüber aus Fleisch und Blut oder Bits besteht.