Nervös und verunsichert nehmen sie Platz vor der Kamera und nennen ihre alten Arbeitgeber: Facebook, Google, Instagram, YouTube, Twitter. Die mittelalten weissen Männer (und zwei Frauen) versuchen in der neuen Netflix-Doku die Welt vor dem Monster zu warnen, das sie selbst geschaffen haben. «Wir waren naiv in Bezug auf die Kehrseite der Medaille», räumt Facebooks ehemaliger Chef für Monetisierung ein. «Als ich dabei war, dachte ich, es sei eine Macht des Guten. Doch solche Dinge nehmen ein Eigenleben an. Sie werden anders genutzt, als man gedacht hat», hört man einen weiteren desillusionierten Engineer klagen.
Die angebliche Naivität dieser ehemaligen Entwicklerinnen und Entwickler von Web 2.0 Applikationen erstaunt. Der Informatiker und ehemalige Gmail Mitarbeiter Tristan Harris hinterfragte seine Arbeit erst, als ihm seine zunehmende Sucht nach E-Mails auffiel. Zwanghaft aktualisierte Harris auch nach Feierabend immer wieder seine Inbox. Doch seine Bemühungen, ethische Überlegungen in den Designprozess zu integrieren, um den potenziellen Suchtfaktor zu verringern, versandeten im Nichts. Denn die Sucht gehört zum Geschäftsmodell von Google.
Die Aufmerksamkeitsökonomie
Plattformen wie Google und Facebook verdienen ihr Geld nicht direkt mit ihren Usern, sondern auf dem Werbemarkt und mit Datenanalyse. Ihre Kunden sind die Werbetreibenden. Das Produkt: die Aufmerksamkeit der Userinnen und User. Deshalb setzen viele Plattformbetreiber sogenannte Habit-Forming Techniken ein, damit Nutzerinnen und Nutzer möglichst viel Zeit am Bildschirm verbringen. In vier Schritten wird gezielt ein Gewohnheitskreislauf geschaffen: Trigger (Bsp. Push-Nachricht) – Aktion (Bsp. Feed aktualisieren) – variable Belohnung (Bsp. stets neuer Content, Like) – Investment (Bsp. kommentieren). Der Mechanismus ist eine intermittierende Verstärkung: Wichtig ist, dass die Aktion und die Belohnung nicht vorhersehbar sind, wie Nir Eyal in seinem Buch «Hooked» erklärt. Wenn die Userinnen und User nicht wissen, was sie erwartet, haben sie stets einen Drang immer weiter in den Kaninchenbau zu stürzen.
Was die Dokumentation offenbart, ist nichts neues. Doch mit der bedrohlichen Musik im Hintergrund erhalten die Worte des ehemaligen Twitter Managers Jeff Seibert eine neue Dringlichkeit: «Die Leute müssen wissen, dass alles, was sie online tun, beobachtet, nachverfolgt und gemessen wird. Jede deiner Handlungen wird gewissenhaft überwacht und aufgezeichnet. Welches Bild du dir ansiehst, wie lange du es ansiehst.»
Diese Überwachung geschieht vor allem mittels Tracking Cookies, welche die Internet-Nutzerinnen und Nutzer kennzeichnen und identifizieren. Die gesammelten Profildateien werden anschliessend mit Hilfe von Algorithmen ausgewertet, um Modelle zu entwickeln, die unsere Handlungen vorhersagen. Ziel einer Plattform wie YouTube ist es dann, zu wissen auf welches Video eine Userin als nächstes klickt, um sie so für Stunden zu binden. In der Netflix-Doku werden die Algorithmen als Personifikation eineiiger Drillinge dargestellt, die alles kontrollieren und manipulieren. Sie fesseln einen Teenager so lange an sein Handy, bis er gleichzeitig seine Liebe und sein Leben verpasst. Die Inszenierung wirkt leider wie ein schlechter Sci-Fi Thriller.
Die Personalisierung des Internets
Medien reproduzieren nie einfach die Realität, sondern erzeugen immer auch eine eigene Medienwirklichkeit. So entscheidet Google, das zum Eponym für das Suchen im Netz und so zum wichtigsten Fenster der Welt wurde, welche Dinge wir sehen und welche nicht. Seit 2009 spielt nicht mehr nur die Verlinkungsstruktur der verschiedenen Webseiten («PageRank») eine Rolle, die Suchergebnisse werden seither auch personalisiert. Jedem Nutzer und jeder Nutzerin werden auf ihre jeweilige Datenspur zugeschnittene Ergebnisse vorgeschlagen. Das bedeutet, dass eine Klimaaktivistin und ein strammer SVP-Wähler unterschiedliche Ergebnisse zur gleichen Suchanfrage betreffend Klimawandel erhalten. Wie der Suchalgorithmus genau funktioniert, bleibt jedoch Firmengeheimnis.
Nach diesem Geschäftsmodell des Microtargeting funktionieren viele Plattformen. Die Nutzerinnen und Nutzer werden zu homogenen Gruppen gebündelt, um ihnen so gezielt Werbebotschaften unterbreiten zu können. Diese Personalisierung macht die Doku verantwortlich für die Polarisierung der politischen Landschaft in den USA. Auf den sozialen Netzwerken würden sich Stimmbürgerinnen und -bürger in Filterblasen voller Gleichgesinnten abkapseln. Die Wählerinnen und Wähler würden sich dadurch radikalisieren und liessen sich von Fake News in die Irre führen.
Die Wirklichkeit ist wohl komplexer als in der Dokumentation dargestellt. Denn die Entstehung von Filterblasen ist nicht nur technisch bedingt, sondern auch sozial. Bereits 1957 beschrieb der Sozialpsychologe Leon Festinger in seiner Theorie der kognitiven Dissonanz, dass Menschen versuchen, Ordnung in ihre Welt zu bringen. Sie streben «nach Konsistenz und Widerspruchsfreiheit in ihrem Gedanken- und Glaubenssystem.» Die Algorithmen der sozialen Netzwerke, welche die einströmenden Beiträge anhand unseren vermeintlichen Präferenzen filtern, bieten zwar einen optimalen Nährboden für die Entstehung einer Filterblase. Doch wer auf Social Media nur Gleichgesinnten folgt und Websites abonniert, die ihm politisch zusagen, kreiert sich letztendlich die Blase selbst.
Regulieren – aber wie?
Die ersten 80 Minuten von «The Social Dilemma» zeichnen ein düsteres Bild: Die sozialen Medien machen uns gezielt süchtig, verschlechtern unsere mentale Gesundheit und können politische Diskurse systematisch beeinflussen und manipulieren. Die ehemaligen Mitarbeiterinnen und Mitarbeiter der Techkonzerne fordern deswegen Regulierungen für die Branche. Doch konkrete Vorschläge haben sie nicht. Denn Regulierungen werden stets den neuen KI-Entwicklungen hinterherhinken. Aus diesem Grund schlägt Thomas Beschorner, Professor für Wirtschaftsethik an der Universität St. Gallen, in seinem Buch «In schwindelerregender Gesellschaft» ein Zulassungsverfahren vor: «Die Unternehmen haben den Nachweis zu erbringen, dass ihre Technologien gesellschaftlich nützlich und unbedenklich sind.» In eine ähnliche Richtung appelliert der ehemalige Google-Informatiker Tristan Harris, als er sich am Ende der Netflix-Doku fragt, «was ist der eigentliche lebensdienliche Beitrag unserer Technologie und wie können wir die Welt verbessern?»