Bist du sicher, dass alle deine Online-Freunde Menschen sind?
Die Bots sind unter uns. Automatische Programme können Kommentare schreiben und dir antworten. Als Netzwerk betreiben sie moderne Propaganda. So können wir uns davor schützen.
Sie
So etwa stellt sich das Bild von Bots dar, wenn man nur nach den reißerischen Überschriften des vergangenen Jahres zu diesem Thema geht. Bots garantieren Schlagzeilen. Tatsächlich
Doch wie das bei vielen Neuerungen im Digitalen Zeitalter ist: Der Effekt wird häufig überbewertet. Wie gefährlich sind diese Bots also wirklich? Und was sollten und können wir gerade gegen sie tun?
Das sind Bots wirklich
Ein »Bot« ist ein Computerprogramm, das automatisch Aufgaben abarbeitet.
Der Begriff
Stufe 1: Der Chatbot: Stelle dir vor, du bist im Internet auf der Suche nach Informationen zum Thema »Geflüchtete«. Das kannst du seit Januar 2017 auch bei
Du willst mehr darüber wissen, wo Chatbots eingesetzt werden? Klick
hier!
Chatbots werden heute vermehrt im Dienstleistungssektor eingesetzt, etwa bei Krankenkassen oder Versicherungen, um Personal zu sparen. Nachrichten-Chatbots sollen vor allem junge Menschen erreichen und mit Nachrichten versorgen. Dass es sich dabei nicht um Menschen am anderen Ende der Leitung handelt, ist klar. Es soll nur das Gefühl erzeugt werden, man interagiere mit einer Person – ohne zu täuschen. Sie können etwa häufige Fragen beantworten und sollen das
Stufe 2: Der Soziale-Medien-Bot: Über das Thema »Geflüchtete« diskutierst du auch auf Facebook. Kurz darauf erhältst du eine Freundschaftsanfrage von
Hey, ich habe gesehen, du ärgerst dich auch über Flüchtlingspolitik? Lass uns mal quatschen.
Ein Klick auf ihr Profil zeigt ein hübsches Foto, Hobbys und Hunderte Freunde. »Nett von ihr!«, du nimmst an. Das ist ja auch der Sinn von sozialen Medien: sich zu vernetzen. Maria hat auch eine klare Meinung zum Thema und postet regelmäßig Links zu kritischen Artikeln und klickt bei Kommentaren gegen Geflüchtete auf »Gefällt mir«. Doch auch Maria ist kein Mensch, sondern ein sogenannter Social Bot, ein Programm, das in sozialen Medien vorgibt, ein Mensch zu sein. Dass Maria nicht zugibt, ein Bot zu sein, und ahnungslose Menschen täuscht, ist Teil des Konzepts. Wer Maria betreibt und zu welchem Zweck, bleibt dabei im Dunkeln.
Du willst mehr darüber wissen, wo Social Bots herkommen? Klick
hier!
Die Software, um solche Bots zu betreiben, ist nicht schwer zu programmieren. Auf
Stufe 3: Das Propaganda-Bot-Netz: Nach einigen Tagen stellst du fest, dass deine Facebook-Zeitleiste voll mit kritischen Anti-Geflüchteten-Beiträgen ist. Nicht nur Maria postet sie, sondern auch eine neue Gruppe, der du plötzlich und ungefragt angehörst. Maria hat dich einfach hinzugefügt. Dabei fällt auf, dass Maria und andere Mitglieder zeitgleich dieselben Beiträge teilen,
Du willst mehr über die Funktionsweise von Bot-Netzwerken wissen? Klick
hier!
Bot-Netzwerke posten über mehrere Social-Bot-Accounts dieselben Nachrichten und Links. Sie bestärken sich dabei auch gegenseitig durch die »Like« oder »Gefällt mir«-Option der sozialen Netzwerke. Dies manipuliert den Facebook-Algorithmus, denn der bevorzugt Beiträge mit hoher Interaktionsrate. Durch diese Strategie erhält der von einem Netzwerk geteilte Beitrag eine höhere Reichweite. Bei der Fernsehdebatte von Angela Merkel waren im Anschluss Bot-Netzwerke auf Twitter aktiv. Analysten schätzen: Jeder zehnte Beitrag zu Angela Merkel stammte von einem Bot. Dass viele Bot-Netzwerke vor allem politische Inhalte haben und
Das Ganze stammt nicht aus einem dystopischen Zukunftsroman, sondern passierte im Vorfeld der Bundestagswahl 2017 – obwohl
Aufgedeckt wurde das durch den Satiriker
Die politische Lösung: Warum verbieten wir Bots nicht einfach?
Bots als Service sind nützlich, doch bei Täuschung und Propaganda hört der Spaß auf. Das findet auch Christian Grimme vom Verbundprojekt PropStop. An der Universität Münster forscht er zum Thema Bots und verdeckter Propaganda im Internet. Er beschreibt den psychologischen Effekt auf alle Nutzer in sozialen Medien:
Social Bots erzeugen Unsicherheit und Angst. Denn ich kann mir mit Social Bots nicht mehr sicher sein, ob mein Gegenüber ein Mensch ist oder eine Maschine.
Die einfachste Lösung liegt auf der Hand: Bots per Gesetz verbieten und damit die Propaganda im Netz reduzieren. Was aber könnte ein neues Gesetz wirklich ändern und wen könnte es betreffen?
- Soziale Netzwerke? Bots verstoßen bereits gegen die AGBs von sozialen Netzwerken wie Facebook und diese
- Bot-Master? Obwohl die politische Richtung eines Propaganda-Bot-Netzwerks meist glasklar ist, lassen sich die Verantwortlichen kaum ermitteln. Über Fake-Profile und anonymisierte Internetverbindungen bleiben sie geheim. Oft werden sie aus dem Ausland betrieben und entziehen sich damit deutscher Gerichtsbarkeit.
- Programmierer? Die Programmierer von Social Bots lassen sich noch schlechter ermitteln. Sie verkaufen die Software im Darknet. Dort lässt sich zwar polizeilich mit hohem Aufwand verdeckt ermitteln. Doch »jeder mit Grundwissen in Informatik kann einen einfachen Bot programmieren«, sagt Christian Grimme.
- Alle Nutzer? Eine radikale Umsetzungsmöglichkeit eines Bot-Verbots wäre, alle Nutzer sozialer Medien dazu zu zwingen, sich auszuweisen. Doch das würde
Ein Bot-Verbot wäre also vor allem eine symbolische Handlung ohne klare Umsetzbarkeit. Es würde viele Fragen aufwerfen und eben jenen politischen Kräften in die Hände spielen, die das Internet stärker kontrollieren, regulieren und überwachen wollen. Am Ende könnte ein politischer Schnellschuss stehen – wie etwa das heftig kritisierte und im Oktober 2017 in Kraft getretene
Auch Christian Grimme hält bei allem Gefahrenpotenzial ein schnelles Gesetz gegen Bots für schwierig und übereilt.
Diese Diskussion gab es schon beim Thema Spam-Mails. Wir sind aktuell noch nicht sicher, ob Bots gesellschaftliche Auswirkungen haben. Dazu fehlt uns die Datengrundlage. Was sie können, ist polarisieren, wie bei der US-Wahl. Hillary oder Trump. Ja oder nein. In Deutschland haben wir diese Art von Entscheidungen aber selten.
Christian Grimme hält die Angst vor »bösen, gefährlichen Bots« für zu einfach und wirbt für einen Perspektivenwechsel, denn die öffentliche Meinung zu beeinflussen, sei auch mit einer Twitter-Bot-Armee nicht leicht. Das sei eine »zu simple Vorstellung.«
Grimmes Team versuchte in eigenen Experimenten mit Bot-Netzwerken soziale Medien zu beeinflussen – mit mäßigem Erfolg. Nach seiner Einschätzung erfüllen Bots
»Twitter ist eben nicht die Bundesrepublik. Das soziale Netzwerk bildet nur einen kleinen Teil aller Deutschen ab.«
Die eigentliche Gefahr besteht darin, dass vor allem Politiker und Journalisten soziale Medien als Abbild der Gesamtbevölkerung missverstehen und
Die individuelle Lösung: Warum bringen wir nicht jedem bei, Bots zu erkennen?
Verbot oder nicht – sie überhaupt zu erkennen, ist der Schlüssel, um gegen Bots vorzugehen. Simpel programmierte Social Bots zu erkennen, ist einfach. Bots aufzuspüren, ist schwierig. Vor allem Social Media-Accounts mit einer hohen Frequenz stehen unter Bot-Verdacht.
- Frequenz: Postet der Account
- Reaktionszeit: Menschen müssen tippen, Bots nicht. Reagiert ein Account innerhalb unwahrscheinlich kurzer Zeit?
- Regelmäßigkeiten: Postet der Account regelmäßig zu immer denselben Zeiten?
- Menschliche Details: Hat der Account kein realistisches Profilbild, keine Freunde oder ist erst seit kurzer Zeit aktiv?
- Zusammenschaltung: Postet der Account zur selben Zeit denselben Inhalt wie andere Accounts?
- Anschlussfehler: Postet der Account unpassende Antworten auf Fragen in den Kommentaren, sodass der Anschluss unlogisch wirkt?
- Logikfehler: Argumentiert ein Account grob am Thema vorbei oder lässt er sich nicht auf Gespräche und Nachfragen ein?
»Auch der Twitter Account des Papstes ist wahrscheinlich automatisiert – das macht Franziskus doch nicht selbst. Und das weiß man auch.«
Das große Aber: Diese Indikatoren reichen heute nicht mehr aus. Bot-Netzwerke, die nur »Likes« verteilen, bleiben leicht unbemerkt. Moderne, gut programmierte Bots ahmen sogar menschliches Verhalten nach: Sie begehen absichtlich Tippfehler, halten
Diese modernen und hochentwickelten Bots sind aufwendig zu programmieren und deutlich seltener als ihre »dummen« Verwandten. Um sie aufzuspüren, werden wiederum Computerprogramme eingesetzt, die auf maschinellem Lernen basieren – gute Bots jagen böse Bots als Katz-und-Maus-Spiel.
Ein Hindernis bei der Bot-Suche entsteht durch den Menschen: Moderne Bots unterscheiden sich kaum von politischen
Die 4 wirksamsten Maßnahmen gegen Bots
Die Sorge um Bots ist durchaus nachvollziehbar – und die wissenschaftliche Forschung zu dem Thema steckt noch in den Kinderschuhen. Doch es ist auch keine Lösung, die Hände in den Schoß zu legen. So können wir es in Zukunft mit den Bots aufnehmen:
- Medien – mehr Aufklärung: Angst vor Propaganda-Bots gibt nur fragwürdigen Gesetzesvorhaben Rückenwind, die die Meinungsfreiheit bedrohen. Hier hilft unaufgeregte Aufklärung bei der Einschätzung der wirklichen Gefahr. Klar, dystopische Szenarien von der Weltherrschaft der Bots machen Spaß und bringen Klicks, doch Social Bots sind vor allem eines: automatisierte Propaganda. Und diese wird zumindest in Deutschland aktuell
- Politik – öffentliche Ächtung und Cyberabwehr: Politiker und Parteien müssen klare Bekenntnisse gegen automatisierte Propaganda abgeben und sollten zur Rede gestellt werden, wenn sie nachweislich von Bot-Netzwerken profitieren.
- Soziale Netzwerke – mehr Transparenz: Soziale Netzwerke wie Facebook suchen und löschen heute schon Social Bots. Doch sie ermöglichen mit ihren Plattformen gleichzeitig deren Einsatz. Zudem erschweren sie die Entwicklung einer technischen Lösung unnötig, weil sie ihre auf Bots bezogenen Daten nicht mit der Wissenschaft teilen oder nur verkaufen. Eine technologische Lösung kann zumindest helfen, Bots einzudämmen – wie bereits bei Spam-Mail. Deshalb lautet die wichtigste
- Wir alle – mehr Medienkompetenz: Wir müssen lernen, mit Informationen und ihren Quellen in sozialen Medien kritischer umzugehen. In der heutigen Cyber-Welt ist es eine Schlüsselfähigkeit, das Gesehene zu hinterfragen: Die in sozialen Medien geteilten Beiträge sind eben nicht unbedingt die Perspektive eines anderen Menschen. Ein einfacher Schritt in die richtige Richtung ist es schon einmal, nicht nur soziale Medien als Informationsquelle zu nutzen und sich genau anzuschauen, wen man als Freund bestätigt.
Die ideale Lösung gegen Bots wäre allerdings kein neues Gesetz oder Technologien, sondern eine aufgeklärte, politische Diskussionskultur, in der Maschinen keine Chance haben. Denn Social Bots werden erst mal Teil unseres digitalen Lebens bleiben.
Mit Illustrationen von Lucia Zamolo für Perspective Daily
Weitere Artikel für dich
