Ist Orwells größter Albtraum gerade wahr geworden?
Ein Tech-Start-up macht jetzt genau das, was der Autor des berühmten Romans »1984« befürchtet hat.
Er war einer der großen Autoren des 20. Jahrhunderts. Der Engländer mit den wachen Augen und freundlichem Lächeln war einer der schärfsten Kritiker totalitärer Staaten, ihrer Propaganda und Überwachungsapparate. Er prägte die Begriffe »Big Brother« sowie »Gedankenpolizei« und seine
Diese Woche jährt sich sein 70. Todestag. Und ausgerechnet jetzt zerrten Journalisten der New York Times ein Start-up ans Licht der Öffentlichkeit, das genau das technisch umsetzt, wovor Orwells
Denn die Technologie von Clearview, so der Name des Start-ups, ist nicht weniger als ein Meilenstein, der staatliche Überwachung auf eine neue Stufe hebt. Und nicht nur die US-Polizei nutzt es schon …
Dieses Start-up ist alles, wovor Orwell sich fürchtete
Automatische Gesichtserkennung (englisch »face recognition«) ist eigentlich nichts Neues. Anhand von einzigartigen Merkmalen im Bereich des Kopfes lernt eine Künstliche Intelligenz, Menschen zu identifizieren. Eingesetzt wird diese Technologie bisher vor allem zur Computersicherheit (Apples FaceID) oder als Unterstützung bei der Verfolgung von Straftätern. Das FBI besitzt sogar eine eigene
Doch was das New Yorker Start-up Clearview in den letzten Jahren entwickelte – und dann damit machte – geht weit über alles Bekannte hinaus. Es sammelte nach eigenen Angaben eine gewaltige Datenbank von über 3 Milliarden Fotos – und zwar von ganz normalen Menschen, auch ohne Polizeiakte. Die Daten dafür sammelte Clearview bei öffentlichen Plattformen wie Facebook, Instagram, Twitter oder Youtube. Dass dies gegen die Nutzungsbedingungen der Plattformen verstößt, scheint die Macher nicht zu interessieren.
Wer steckt hinter »Clearview«?
Nach Recherchen der »New York Times« stehen der bisher unbekannte Programmierer Hoan Ton-That und Richard Schwartz hinter der Software. Schwartz war enger Mitarbeiter des ehemaligen New Yorker Bürgermeisters Rudolph Giuliani, der nun Donald Trump als Anwalt zur Seite steht. Ton-That und Schwartz begegneten sich bei der konservativen Denkfabrik »The Manhattan Insitute«. Zu den Investoren von »Clearview« gehört auch der US-Milliardär und Unternehmer Peter Thiel, der »Paypal« mitgründete und für seine libertären Ansichten bekannt ist.
Anhand dieser Datenbank lernte die
Auch friedliche Demonstranten. Auch unbescholtene Bürger. Auch dich.
Hat Clearview AI eine Person identifiziert, spielt es weitere Bilder und persönliche Daten aus: zum Beispiel Wohnort, Freunde, Interessen, Adresse – alles, was online zur Verfügung steht. Damit leistet die Software genau das, wovor Entwickler und Technologieexperten bisher zurückschreckten und wozu sie
Das Start-up Clearview hat diese Bedenken nun über Bord geworfen und neue Realitäten geschaffen. Große Probleme dabei sind mangelnde Transparenz und Aufsicht. Denn wie genau die Software dabei arbeitet und was das Unternehmen mit den Daten sonst noch macht, ist unbekannt. Genauso unbekannt, wie die Sicherheitsmaßnahmen, die diese Datenbank gegen Datendiebe und Datenlecks schützen. Externe Einsicht oder Kontrolle lässt Clearview bisher nicht zu.
Stattdessen betont Clearview
Dass das nicht stimmt und jeder plötzlich ins Fadenkreuz geraten kann, sobald ein umfassendes System zur Überwachung wie Clearview einmal aktiv ist, wusste George Orwell genau. Eine interaktive Graphic Novel lässt diese Kritik nun auch für Nutzer erlebbar werden. Ihr treffender Name: Orwell.
Hier lernst du, wie einfach man ins Fadenkreuz des Überwachungsstaates gerät
Bei Orwell schlüpfst du in die Rolle des Ermittlers einer Strafverfolgungsbehörde in einem fiktiven Staat. Als auf dem »Freedom Plaza« eine Bombe explodiert, sollst du die Täter schnappen – nur mithilfe deines Computers und des freigeschalteten Überwachungsapparates. Der setzt unter anderem auf eine Massengeschichtserkennungssoftware wie Clearview AI. Blitzschnell werden anhand einer Videokameraaufzeichnung kurz vor dem Anschlag alle anwesenden Personen auf dem Platz identifiziert. Dabei fällt besonders eine Frau anhand der vom System ausgespuckten Daten auf: Cassandra Watergate. Sie ist eine unangepasste Künstlerin, politisch interessiert und antiautoritär, außerdem auch schon polizeilich bekannt.
Anhand einiger öffentlicher Informationen und Einsicht in ihre Chatverläufe – einer Überwachungstechnologie, die der US-Nachrichtendienst
Dumm nur, dass sie völlig unschuldig ist. Genauso wie ihr auf den ersten Blick zwielichtiger Lebensgefährte oder ihr Freund, der in einer Rockband spielt und mal auf einem anarchistischen Blog gepostet hat.
Sie alle kannst du bei der Suche nach dem wahren Täter verdächtigen, ausspitzeln und in eine Verhörzelle verfrachten. Und selbst wenn sie am Ende wieder freigelassen werden, so erzählt das digitale Spiel Orwell ganz genau, welchen zerstörerischen Einfluss die Überwachung, Verfolgung und Befragung auf ihre Leben hatte.
Der Irrtum ist zu glauben, dass man unter einer diktatorischen Regierung im Inneren frei sein kann. –
Natürlich sind Orwell (das Spiel) genauso wie der Roman
Doch es besteht Grund zur Hoffnung. Denn mit der Kritik an wachsender Überwachung, ihren Verlockungen zum Missbrauch und ihrer Fehleranfälligkeit mehrt sich auch die Forderung nach politischer Regulierung. So forderte zuletzt der Bundesbeauftragte für den Datenschutz und die Informationsfreiheit, Ulrich Kelber (SPD),
Hier findest du die beiden anderen aktuellen Dailys:
Mit Illustrationen von Tobias Kaiser für Perspective Daily
Weitere Artikel für dich
