Wie du täglich für Google und Co. schuftest, ohne es zu merken
Ja, auch du hilfst mit, Megakonzerne wie Google reicher und ihre künstlichen Intelligenzen schlauer zu machen. Wir enthüllen ihr heimliches Geschäftsmodell und erklären, was KI mit Macht zu tun hat – und was du jetzt dagegen tun kannst.
Kleiner Test: Erkennst du alle Bilder mit Katzen?
Herzlichen Glückwunsch, dann bist du kein Roboter. Du hast soeben eine Captcha-Abfrage gemacht, ein gängiges Verfahren im Internet, um deine Identität zu überprüfen – etwa beim Registrieren einer E-Mail-Adresse oder dem Eintragen in ein Internetforum.
Dabei müssen Menschen kryptische Buchstabenfolgen entziffern oder eben aus einer Handvoll kleiner Fotoausschnitte bestimmte Bildelemente identifizieren. So können wir zeigen, dass wir
Allerdings trainieren
Was viele Menschen nicht wissen: Seit 2009 werden reCAPTCHA-Felder mit schwer zu entziffernden Buchstabenabfolgen genutzt, um Bücher für »Google Books« zu digitalisieren. So kann der Dienst anhand deiner Angaben unscharf eingescannte oder zerknickte Seiten auslesen. Menschen auf der ganzen Welt helfen dabei, ohne es zu wissen.
Und auch die Katzenbilder haben einen Nebenzweck: Mit ihnen etikettiert das Unternehmen bestimmte Fotos auf »Google Images«. Andere Kacheln helfen dabei, Hausnummern für
Du wusstest nicht, dass du für solche Dienste eingesetzt wirst? Da bist du nicht allein. Denn weltweit brauchen führende Techunternehmen nach wie vor menschliche Zuarbeiter:innen.
Und was gibt es Besseres für ein Unternehmen als kostenlose Arbeiter:innen, die nicht einmal wissen, dass sie gerade für Google arbeiten? Willkommen im modernen Plattformkapitalismus – in dem du konsumierst und zugleich unfreiwillig arbeitest.
Der unaufhaltsame Aufstieg der KI
Um zu verstehen, wie viel Macht Plattformkapitalismus besitzt, hilft ein Blick auf seine Grundvoraussetzung: die künstliche Intelligenz.
Die ist heute überall. Von Amazons Sucheingabefeld und den vorgeschlagenen Einkäufen bis zum Smartphone im Schulranzen jedes Kindes, das in Echtzeit Französischhausaufgaben übersetzt.
All das wäre ohne moderne Algorithmen nicht möglich. Künstliche Intelligenz und Digitalisierung sind heute nicht mehr auseinanderzudenken. Dabei ist bereits der Ursprung der künstlichen Intelligenz ausbeuterisch.
Der Siegeszug der KI begann Anfang der 2000er-Jahre bei einem jungen Doktoranden im amerikanischen Pittsburgh. Wie schon Hunderte Informatiker:innen vor ihm stand Luis von Ahn vor dem Problem, dass Computer zwar sehr schlau sind, wenn es um
»Im Jahr 2003 wurden über 9 Milliarden Stunden ›Solitaire‹ gespielt […]. Ich möchte Ihnen zeigen, wie wir diese verschwendeten menschlichen Zyklen sinnvoll nutzen können […]. Wir werden die gesamte Menschheit als eine extrem hochentwickelte und riesige dezentrale Recheneinheit betrachten, die gewaltige Probleme lösen kann, die von Computern noch nicht gelöst werden können.«
Von Ahn verkauft seine Idee unter der Aufschrift »Human Computation« (auf Deutsch in etwa »menschenbasierte Informationsverarbeitung«). Anders als seine Kolleg:innen stellt er nicht die Frage, wie wir Computer so programmieren können, dass sie Schrift und Bilder besser erkennen können. Stattdessen fragt er: Was wäre die Mensch-Maschine-Schnittstelle, die es ermöglicht, dass Menschen diese Probleme für den Computer lösen?
»Anstatt Menschen dafür zu bezahlen, Bilder für mich zu beschreiben, bringe ich sie dazu, die Bilder kostenlos zu benennen.« – Luis von Ahn, 2006
»Ich werde Ihnen jetzt eine Methode vorstellen, mit der alle Bilder im Internet beschrieben werden können, [...] und zwar schnell und billig. Wie soll das gehen? Wir benutzen Menschen [...]. Normalerweise, wenn Sie Menschen bitten, Bilder für Sie zu beschreiben, müssten Sie sie dafür bezahlen [...]. Mein Ansatz ist viel besser: Anstatt Menschen dafür zu bezahlen, Bilder für mich zu beschreiben, bringe ich sie dazu, die Bilder kostenlos zu beschreiben.«
Anders gesagt: Im Zentrum der künstlichen Intelligenz, die von Ahn entwickelt hat, stand bereits die Ausbeutung ahnungsloser Menschen, also der moderne Plattformkapitalismus.
Darüber kann auch das von ihm zur Bildbeschreibung programmierte ESP-Spiel
Von Ahn hatte damit eindrucksvoll gezeigt, dass er Menschen dazu bringen konnte, für ihn kostenlos Leistungen zu erbringen. Kein Wunder, dass Google noch im selben Jahr eine Lizenz für das ESP-Spiel erwarb – um seine Bildersuche zu verbessern. In der Folge waren von Ahn und
Moment, was ist denn so schlimm daran, ab und zu für eine KI zu arbeiten?
Der Kern aktueller KI-Geschäftsmodelle ist, dass sie 2 Ebenen miteinander verbinden – zum Beispiel einen Internetservice (wie die Sicherheitsdienste von reCAPTCHA) mit dem eigentlichen, heimlichen Zweck der Software: dem Training von künstlicher Intelligenz.
Für Rainer Mühlhoff, Professor für Ethik der künstlichen Intelligenz an der Universität Osnabrück, hat das etwas Zynisches: »Der Zynismus entsteht, wenn am vordergründigen Geschäftsmodell etwas stattfindet, das menschliche Bedürfnisse ausnutzt, und im Hintergrund der eigentliche Profit generiert wird. Das vordergründige Geschäftsmodell hat immer etwas damit zu tun, die Nutzer:innen an das Produkt zu fesseln. Deshalb arbeiten auch so viele Verhaltenspsycholog:innen im Silicon Valley.«
Das ESP-Spiel nutzt den Spieltrieb des Menschen, reCAPTCHA das Bedürfnis nach Sicherheit und Facebook macht sich unsere sozialen Bedürfnisse zunutze. Sie alle beruhen auf der Idee von »Human Computation«.
»Das findet ja heute nicht nur beim Benennen von Bildern statt«, erklärt Mühlhoff, »sondern letztlich bei jeder Bewegung, die du im Internet machst: Wenn du auf Facebook etwas ›likest‹ oder in der Google-Suche bestimmte Seiten anklickst, ist das für die Plattform ein Feedback, ob das Suchergebnis oder der gelikte Inhalt für dich relevant ist oder nicht. Dieses Feedback wird dann mit anderen Parametern, die über dich gesammelt wurden, korreliert. Und je mehr Daten zur Verfügung stehen, desto genauer wird ihr psychologisches Profil von dir, was dann an den Höchstbietenden verkauft wird –
Wie du von KIs im Internet durchleuchtet wirst
Wie bei den Bilderkennungs-KIs wird im Internet von jede:r Nutzer:in auch ein psychologisches Profil erstellt. Und wieder sind es künstliche Intelligenzen, die die Daten sammeln.
Wie sieht das ganz konkret aus? Ein Beispiel:
- Du hörst gerade eher traurige Musik auf Spotify.
- Du schaust Selbsthilfevideos auf Youtube.
- Du suchst nach »Wie erkennt man eine Depression?« bei Google.
Dann ist die Wahrscheinlichkeit hoch, dass die KI dich als »depressiv« kategorisiert. Bereits eine
Doch Likes waren erst der Anfang. Seit 2010 ermöglicht Facebook seinen Nutzer:innen, hochgeladene Fotos mit den Namen der abgebildeten Personen zu markieren – und nutzt diese Daten im Hintergrund dafür, eine Gesichtserkennungs-KI zu trainieren, erklärt Mühlhoff: »Hier werden die ethischen Probleme sehr viel deutlicher als beim ESP-Spiel oder dem reCAPTCHA, denn Gesichtserkennungssoftware wird auch in der Polizei- und Sicherheitsarbeit eingesetzt. Das könnte Menschen etwa davon abschrecken,
Und genau hier liegen problematische Tendenzen und Missbrauchspotenzial, die uns alle aufhorchen lassen sollten.
Was passiert, wenn künstliche Intelligenz zu falschen Zwecken eingesetzt wird
Aktuell werden künstliche Intelligenz und KI-gestützte Gesichtserkennungssoftware vor allem in westlichen Demokratien erforscht und gewinnbringend von Megakonzernen verwendet. Auch wenn das Potenzial der KI für Politiker:innen verlockend ist, kann sie gefährlich werden.
Als Beispiel kann der aktuelle Entwurf der EU zur »Chatkontrolle« gelten. Der klingt erst mal konstruktiv, schließlich geht es um die Bekämpfung von Kinderpornographie. Er sieht allerdings konkret vor, dass künstliche Intelligenz dazu eingesetzt wird, die Chats von Menschen zu durchsuchen und sie bei Verdacht automatisch anzuzeigen. Dass dabei Fehler passieren und unschuldige Menschen unter Verdacht geraten, nehmen die beteiligten Politiker:innen in Kauf. Nebensächlich scheint auch, dass diese Regelung quasi das Recht auf Privatsphäre in der digitalen Kommunikation aushebeln würde,
Man muss nicht viel Fantasie haben, um zu ahnen, was beispielsweise Autokrat:innen mit solchen Mitteln anfangen würden, sagt der Politikwissenschaftler Žilvinas Švedkauskas. Denn diese setzen sie mit Sicherheit »zur Zensur oder Überwachung zivilgesellschaftlicher Akteure ein«. Die Möglichkeiten der Technologie und die Ahnungslosigkeit vieler Menschen ihr gegenüber sind zu verlockend. Auf einem Tübinger Kongress zum Thema »KI und Demokratie« berät sich Švedkauskas mit anderen Wissenschaftler:innen über
Švedkauskas zufolge ist künstliche Intelligenz »ein Gegenstand technopolitischer Konflikte zwischen demokratischen und autokratischen Ländern«. Dazu könnte der Einsatz von künstlicher Intelligenz den Informationsvorsprung zugunsten von Autokratien verschieben, da diese viel reibungsloser mit großen Technologieunternehmen zusammenarbeiten können und sich weniger Sorgen um Datenschutz machen müssen.
Und das ist alles keine Zukunftsmusik, sondern passiert im Hier und Jetzt. Umso dringender brauchen wir eine öffentliche Debatte zu diesem Thema, meint Mühlhoff:
Momentan machen wir KI- und Datenpolitik im Blindflug – das gilt für zahlreiche professionelle Politiker:innen wie auch die meisten Nutzer:innen. Das aktuelle Motto ›Du kümmerst dich um deine Daten‹ ist ja eine sehr liberalistische Idee: Jede:r hat die Freiheit, mit seinen Daten zu machen, was er oder sie will. Aber diese Idee stößt bei dem Geschäftsmodell der großen Datenkonzerne an ihre Grenzen.
Denn: Facebook und Google verkaufen mitunter gar nicht die persönlichen Daten einzelner Nutzer:innen, erklärt Mühlhoff: Stattdessen verkaufen sie eine auf deinen Daten trainierte künstliche Intelligenz, welche im Zweifel gar keine Daten mehr über dich enthält. Das bedeutet: Die Daten, die du über dich preisgibst, haben Auswirkungen darauf, dass jemand anderes gezielt beeinflusst werden kann.«
Švedkauskas und seine Kolleg:innen versuchen, diese Erkenntnisse in die Öffentlichkeit zu tragen. Auf einer
Du bist nicht hilflos – was du jetzt tun kannst
- Du hast keine Lust, dich von Großkonzernen für das Training ihrer KI ausbeuten zu lassen?
- Du möchtest nicht, dass Plattformen Milliarden mit Daten verdienen, die sie heimlich über Menschen gesammelt haben?
- Du findest es fahrlässig, wie Politiker:innen auch hierzulande mit dem flächendeckenden Einsatz von KI liebäugeln?
Dann solltest du handeln, raten Expert:innen wie Švedkauskas oder Mühlhoff. Denn, so Mühlhoff, »künstliche Intelligenz wäre nichts ohne die Millionen von Nutzer:innen, die jeden Tag einen kleinen Datenbeitrag dazu leisten. Die Macht von Google, Facebook und Co. erwächst aus der globalen Medieninfrastruktur, die diese Unternehmen in den letzten 20 Jahren geschaffen haben, und deren Gewinne sie jetzt abschöpfen. Sie sind quasi in der Erntephase angekommen.«
»Künstliche Intelligenz spielt die Rolle einer Technologie, die auf eine neue Art und Weise unser Denken, Fühlen und Handeln strukturiert. In diesem Sinne übt sie strukturelle Macht auf uns aus.« – Rainer Mühlhoff, Professor für Ethik der KI
Aus diesem Grund setzen diese Unternehmen auch alles daran, dass ihre Nutzer:innen nichts gegen diese Strukturen unternehmen, sagt Mühlhoff: »Das Narrativ der hilflosen Nutzer:innen, die entweder über sich denken, nichts zu verbergen zu haben, oder die es möglichst bequem haben wollen, wird ganz entscheidend von Google, Facebook und Co. mitkonstruiert.« Mühlhoff zufolge ist dies eine Machtdynamik,
Und ja,
Konkret könnte das bedeuten:
- Wechsele die Plattform: Nicht mehr Google als Suchmaschine nutzen, sondern zum Beispiel Metager; nicht mehr Whatsapp als Messenger verwenden, sondern Signal; nicht mehr Google Chrome als Browser nutzen, sondern Mozilla Firefox.
- Nimm Datenschutz ernst: Sich bei jedem neuen Account zuerst um die Datenschutzeinstellungen kümmern; Ad- und Trackingblocker nutzen; alte Daten, die nicht mehr benötigt werden, regelmäßig löschen.
- Hinterfrage deine eigene Internetpräsenz: Wie viel nützt es mir wirklich, Payback-Punkte zu sammeln, meine Freund:innen auf Facebook zu verlinken, mein Leben in den sozialen Medien zu teilen?
Und darüber hinaus?
»Ich würde mir wünschen«, meint Mühlhoff, »dass in den Programmen der demokratischen politischen Parteien noch mehr Kompetenz dafür aufgewendet wird, strukturelle Effekte der KI- und Datenindustrie umfassend und wirkungsvoll zu regulieren.«
Damit bleibt nur, das Thema stärker in die Aufmerksamkeit möglichst vieler Menschen zu rücken: Von Demonstrationen (etwa gegen die Chatkontrolle der EU) über die Diskussion mit Politiker:innen bis zur allgemeinen Aufklärung in der Bevölkerung.
Denn künstliche Intelligenz wird nicht so einfach verschwinden. Wir sollten uns schnellstmöglich von ihr emanzipieren.
Titelbild: Mockup: Freepik - copyright