Überwachungskapitalismus und der Weg zum Bösen
Mit Apps, Internetbrowsern und Messengerdiensten persönliche Informationen zu teilen, ist, so könnte man sagen, ein notwendiges Element der Kommunikation in der digitalen Welt. Doch wenn man sich der vollen Reichweite des „Überwachungskapitalismus“ bewusst wird, ist kaum zu bestreiten, dass die Nutzung unserer Daten hinterrücks geschieht und weit geht. So sollte es ursprünglich nicht sein.
Zu Beginn unseres Jahrhunderts steckte Google noch in den Kinderschuhen. Es hätte viele verschiedene Wege nehmen können, um sich zu etablieren, aber es wählte – wenigstens am Anfang – eine ungewöhnliche Variante. Paul Buchheit, der später Gmail schuf, war daran beteiligt, die Werte des Unternehmens zu kodifizieren. Er war es, der zusammen mit seinem Kollegen Amit Patel den erstaunlichen Slogan „Don’t be evil“ vorschlug – „Sei nicht böse“.
„Ich saß da und suchte nach etwas, das wirklich anders wäre und nicht eines von diesen üblichen Mottos wie ,Strive for Excellenceʻ (Strebe nach Exzellenz)“, sagte er der Investorin Jessica Livingston, die ihn für Founders at Work: Stories of Startups’ Early Days interviewte. „Außerdem wollte ich etwas, das schwer rauszunehmen sein würde, wenn es einmal drin war.“
Es wurde der allererste Satz in Googles Verhaltenskodex, ganz anders als die gewöhnlichen, hohlen Phrasen der Firmenspreche. „Strive for Excellence“ könnte irgendwelche nebulösen Bestrebungen bezeichnen, aber auch ein Deckmantel für Profitstreben sein. „Don’t be evil“ klingt dagegen nach Selbstbeschränkung und Wohlwollen. Und das schien die Absicht zu sein. Der Kodex erklärte, was „Don’t be evil“ für Google bedeutete: „Unseren Nutzern unvoreingenommenen Zugang zu Informationen bieten, ihre Bedürfnisse in den Mittelpunkt stellen und […] allgemein das Richtige tun – das Gesetz befolgen, ehrenhaft handeln und Kollegen mit Höflichkeit und Respekt begegnen.“
Außerdem sah Buchheit diese moralische Haltung als Wettbewerbsvorteil. Zu Frau Livingston sagte er, es sei „ein kleiner Seitenhieb gegen eine Menge von den anderen Firmen, besonders unsere Konkurrenten, die damals unserer Meinung nach die Nutzer in einem gewissen Maß irgendwie ausbeuteten“. Es ist wichtig, festzustellen, dass „Nutzer ausbeuten“ ein zentrales Element dessen war, was für ihn „böse“ ausmachte.
Gepflastert mit guten Vorsätzen
In den nachfolgenden Jahren kehrte der Slogan in vielen Dokumenten wieder, z. B. 2004 in einem Brief von den Google-Gründern: „Sei nicht böse. Wir sind fest überzeugt, dass wir auf lange Sicht – als Anteilseigner und in jeder anderen Weise – mit einem Unternehmen, das Gutes für die Welt tut, besser fahren werden, selbst wenn wir auf einige kurzfristige Gewinne verzichten.“
„Google ist kein konventionelles Unternehmen. Wir haben nicht vor, eines zu werden. […] Unseren Endnutzern zu dienen, ist das Herzstück dessen, was wir tun, und bleibt unsere Priorität Nummer eins.“
Sie präsentierten sich als wohlmeinendes Unternehmen, gründend auf festen Prinzipien, konzentriert darauf, die Welt besser zu machen. Eine bemerkenswerte moralische Haltung, wenn man bedenkt, dass sie an einem Punkt in der Geschichte kam, den man als einen Gipfel des Vertrauens in den säkularen Materialismus des Westens bezeichnen kann.
Mit der Zeit wurde „Don’t be evil“ ein informelles Motto für Google, doch was damit gemeint ist, hat im Lauf der Firmengeschichte unterschiedlich nachgeklungen. In Bezug auf künstliche Intelligenz (KI) verpflichtete sich Firmenchef Sundar Pichai 2018 in einem Blog-Beitrag, dass Google keine Technologien weiterführen werde, die „insgesamt wahrscheinlich Schaden anrichten“ oder deren Zweck sei, „eine Schädigung von Menschen zu bewirken oder direkt zu unterstützen“. Als Konsequenz zog es sich aus der KI-Entwicklung für Waffen zurück.
Google war nicht das einzige neu gegründete Technologieunternehmen, das sich als Wohltäter für die Gesellschaft darstellte. In den frühen 2000er-Jahren gab es eine Welle neuer Onlinenetze für persönliche Kommunikation, allen voran Facebook. Sein Gründer Mark Zuckerberg sagte später: „Facebook wurde ursprünglich nicht geschaffen, um ein Unternehmen zu sein. Es wurde aufgebaut, um eine soziale Mission zu erfüllen – die Welt offener und verbundener zu machen.“ Die moralische Absicht war von Anfang an zentral, behauptete er, und darauf ausgerichtet, Menschen die oberste Priorität zu geben: „Persönliche Beziehungen sind die Grundeinheit unserer Gesellschaft. Beziehungen sind die Art, wie wir neue Gedanken entdecken, unsere Welt verstehen und letztlich langfristig glücklich werden. […] Wir erweitern die Fähigkeit von Menschen, Beziehungen aufzubauen und zu pflegen.“
Als Facebook als internationales Netz startete (und man seine etwas zwielichtigeren Anfänge ignorierte), schien es in der Tat möglich, dass es unsere soziale Welt verwandeln konnte. Viele von uns nahmen wieder Verbindung mit Schulfreunden oder entfernten Verwandten auf, gratulierten Leuten zu Geburtstagen, an die wir sonst nie denken würden, und blieben mühelos in Verbindung mit Bekannten in aller Welt. Zuckerberg fuhr fort: „Uns ging es immer primär um unsere soziale Mission, die Dienste, die wir erschaffen, und die Menschen, die sie nutzen.“
Apple hat sich seinerseits mehr auf Produkte und Innovation konzentriert, aber es vertritt auch eine moralische Haltung. Seine Grundsatzerklärung behauptet derzeit: „Wir sind entschlossen, zu demonstrieren, dass Business eine Kraft für das Gute sein kann und sollte. […] Es bedeutet auch, mit unseren Werten zu führen – in der Technologie, die wir machen, der Art, wie wir sie machen, und der Art unseres Umgehens mit Menschen und dem Planeten, den wir miteinander teilen. Wir arbeiten stets daran, die Welt besser zu hinterlassen, als wir sie vorgefunden haben, und leistungsstarke Instrumente zu erschaffen, die es anderen ermöglichen, das Gleiche zu tun.“
„Wir glauben, dass Business im besten Fall dem Allgemeinwohl dient, Menschen in aller Welt stärkt und uns miteinander verbindet wie nie zuvor.“
Man könnte all dies leicht als hohle Firmenspreche oder PR-Sprechblasen von der Hand weisen. Aber solche Worte hatten eine Wirkung. Seit Beginn unseres Jahrhunderts herrschte allgemein die Wahrnehmung, dass es IT-Riesen (wie Google, Facebook [jetzt Meta] und Apple) bei ihrem Handeln vor allem um den Kunden ging. Als Bestandteil einer größeren digitalen Revolution erklärten sie, sie folgten einer Mission, die Welt besser und sicherer zu machen, Beziehungen zu verbessern und anderen zu ermöglichen, das Gleiche zu tun. Ihre Hilfsmittel haben vielen Unternehmen in aller Welt Auftrieb gegeben. Das „cleane“ minimalistische Design des Apple iPhone, die weltweite Erreichbarkeit durch Facebook und die Palette kostenloser Dienste, die Google bot: Sie alle schienen eine bessere Welt zu verheißen.
Es dürfte viele überraschen, dass nicht alles so war, wie es schien, aber die Geschichte ist voller Warnzeichen – wenn wir sie nur sehen könnten.
Die Geschichte wiederholt sich
Im 19. Jahrhundert begannen Saloons in den USA, besonders in Industriestädten des Mittleren Westens, ihren Gästen kostenloses Mittagessen anzubieten. Die Ursprünge dieser Praxis sind unklar, aber der Deal war (auf den ersten Blick) simpel: Wenn man ein Getränk bestellte, bekam man ein kostenloses Mittagessen. Das war ein raffiniertes – und populäres – Mittel, Leute in den Saloon zu locken. Damals taten Saloons alles, was sie konnten, damit die Gäste blieben (und weitertranken), von Unterhaltungsprogrammen bis zu Getränkemarken. Oft waren die Speisen stark gesalzen, sodass die Gäste durstig wurden und weitere Getränke bestellten.
Von dieser Praxis rührt das Sprichwort „There’s no such thing as a free lunch“ – so etwas wie ein kostenloses Mittagessen gibt es nicht. Gemeint ist: Nichts ist wirklich kostenlos.
Das Gleiche könnte man über den Aufstieg der IT-Riesen sagen. Ihre Geschenke hatten einen Haken: „eine Büchse der Pandora, deren Inhalt wir gerade erst zu verstehen beginnen“, so die Sozialpsychologin Shoshana Zuboff, die den Begriff Überwachungskapitalismus populär gemacht hat.
Die generell positive öffentliche Meinung über Google, Apple und Facebook etablierte deren Produkte rasch als wichtige Hilfsmittel für Milliarden von Menschen. Wir nutzten sie, um unser Leben effizienter und angenehmer zu machen. Doch den Technologieriesen wurde bald klar, dass all diese Nutzung ein interessantes Nebenprodukt abwarf: Daten. Von Fotos über Kontaktdaten bis zu Suchanfragen, von GPS-Standortdaten über Internetverläufe bis zu Familiennetzen versorgten wir Google, Apple und Facebook (unter anderen) mit einem Berg persönlicher Informationen.
Diese Daten boten eine Lösung für ein kritisches Problem. Nicht lange nach seiner Gründung und trotz seines schwungvollen Anfangs war Google mit einer existenziellen Gefahr konfrontiert. Der Risikokapitalgeber Michael Moritz stellt fest: „Die ersten zwölf Monate von Google waren kein Spaziergang. […] In den ersten sechs, sieben Monaten flog Cash wie wild aus dem Fenster.“
In dem Berg persönlicher Daten, die sie sammelten, fanden sie die Lösung für ihre Finanznot. In einem Interview mit der Harvard Gazette bestätigt Zuboff: „Es war Google, das als Erstes lernte, zusätzliche Verhaltensdaten zu gewinnen – mehr als es für die Dienste brauchte –, und sie dazu nutzte, um Prognoseprodukte zu erstellen, die es an seine Firmenkunden verkaufen konnte, in diesem Fall Werbefirmen.“ Das Abfischen personen- und verhaltensbezogener Daten für Profitzwecke ist das, was Zuboff Überwachungskapitalismus genannt hat. Das Konzept war zunächst der Motor für Googles Werbung, aber die Praxis wurde rasch ausgeweitet.
„Mit Googles einzigartigem Zugriff auf Verhaltensdaten würde es nun möglich sein, zu wissen, was eine bestimmte Person zu einer bestimmten Zeit und an einem bestimmten Ort dachte, fühlte und tat.“
Die Idee ist, dass dieser Berg von Informationen – sei es, was Sie im Urlaub gern essen, wo Sie letzten Dienstagmittag waren oder welche Haarfarbe Ihr Kind hat – unglaublich wertvoll für Firmen ist, die Ihnen ihre Produkte verkaufen möchten. Das ist umfassender, detaillierter und genauer als jede Kundenumfrage. Darüber hinaus ist es stärker personalisiert, was bedeutet, wenn Sie das nächste Mal am Dienstag in Ihrer Mittagspause bei jenem Café vorbeikommen, kann man Sie mit Angeboten bepfeffern, die Sie hereinlocken sollen. Deshalb finden Sie in Ihrem Browser Anzeigen für Dinge, nach denen Sie kürzlich gesucht haben oder von denen Sie vielleicht nur gesprochen haben. Wie immer bei Werbung ist das Grundmotiv Profit. Über kostenlos zugängliche Hilfen wie die Google-Suchmaschine und die Timeline von Facebook haben Unternehmen die Informationen, die sie brauchen, um Sie zu überreden, mehr auszugeben. So etwas wie ein kostenloses Mittagessen gibt es in der Tat nicht.
Aber, so könnte man fragen, fiele diese heimliche Nutzung von Daten nicht unter den Begriff „Ausbeutung von Nutzern“? Ohne unsere Zustimmung mit unseren persönlichen Informationen Profit zu machen? Zuboff zufolge war es das Risiko der unmittelbar bevorstehenden Pleite, das Google bewegte, seine Prinzipien zu ändern. „Außergewöhnliche Gefahren für ihren finanziellen und sozialen Status weckten offenbar einen Überlebensinstinkt“, schreibt sie. „Die Reaktion der Google-Gründer […] erklärte effektiv einen ,Ausnahmezustand‘, in dem es für notwendig befunden wurde, die Werte und Prinzipien, die Googles Gründung und frühe Praktiken geleitet hatten, auszusetzen.“
Eine altbekannte menschliche Reaktion. Der Wunsch nach Gewinn und Stabilität siegte über ihre Moralprinzipien bei der Gründung.
Wer zahlt die Zeche?
Finanziell hat es sich allerdings ausgezahlt, aus Nutzerdaten Kapital zu schlagen – sogar außerordentlich gut. Ende 2002, als Google diese Techniken zu trainieren begann (und gerade zwei Jahre nach Einführung seines Verhaltenskodex „Don’t be evil“), stiegen seine Nettoerträge um 400 % und es fuhr seinen ersten Gewinn ein. 2004, so Zuboff, als das Unternehmen an die Börse ging, hatte die Entdeckung des „Verhaltensüberschusses“ ihm eine Steigerung des erfassten Ertrags um über 3.500 % eingebracht.
Auf den ersten Blick mag man diese Praxis vernünftig finden – oder wenigstens nicht bösartig. Unternehmen müssen Wege finden, um zu überleben, und was Google getan hat, war geschickt. Man könnte es sogar begrüßen. Vielleicht wollten Sie schon immer zum Mittagessen an einem Dienstag jenes Café ausprobieren und ein gezieltes Sonderangebot könnte genau die Anregung sein, die Sie brauchen. Aber was uns bedenklich machen sollte, ist die Art, in der die IT-Riesen vorgegangen sind. Die Nutzung dieses Materials hat weit größeres und unheilvolleres Potenzial, als wir uns vorstellen konnten. Obgleich ihre Konsequenzen harmlos scheinen mögen, ist die heimliche Nutzung unserer Daten so uneingeschränkt und allgegenwärtig, dass sie auf eine Weise, die uns vielleicht nicht bewusst ist, schon jetzt unser Leben bestimmt.
Für Google war klar, dass das Sammeln dieser Daten heimlich gemacht werden musste. Zuboff schreibt: „Von Anfang an ging man bei Google davon aus, dass die Nutzer dieser einseitigen Inanspruchnahme ihres Erlebens und seiner Übersetzung in Verhaltensdaten wahrscheinlich nicht zustimmen würden. Man ging davon aus, dass diese Methoden unerkennbar sein mussten.“
Sie erwarteten, dass die Praxis auf Ablehnung stoßen würde, und sie hatten recht. Als herauskam, dass sie persönliche E-Mails scannten, um Werbefirmen mit Daten zu beliefern, erregte dies eine solche Empörung, dass sie 2017 versprachen, damit aufzuhören – allerdings war ihr Versprechen, gelinde gesagt, begrenzt. Die Einführung von Google Glass (2012–2014), ihrer innovativen „smarten“ Brille, stieß auf enormen Widerstand, als bekannt wurde, dass das Produkt dafür ausgelegt war, Daten aus Standort, Audio, Video und Fotos zu sammeln – nicht nur von dem Nutzer, sondern auch von seiner Umgebung. Es hieß sogar, in Ländern, die unauffälliges Ausspionieren verbieten, könnte das Gerät illegal sein.
Dass solche Unternehmen es für nötig hielten, ihre Aktivitäten zu verstecken, ist natürlich ein Warnzeichen. „Die Rhetorik der Pioniere des Überwachungskapitalismus und praktisch aller, die ihnen gefolgt sind, ist ein Lehrbuch der Irreführung, Beschönigung und Verdunkelung“, behauptet Zuboff. Als Nutzer wissen wir vielleicht nicht von diesen Praktiken und der ungezügelten Ausbeutung dessen, von dem wir natürlicherweise annehmen könnten, dass es uns allein gehört (Name, Telefonnummer, Internetaktivitäten, Stimme, Gesichtsmerkmale usw.).
„Es ist wichtig, anzuerkennen, dass ,smart‘ in diesem Kontext ein Euphemismus für Wiedergabe ist: Intelligenz, die dafür konzipiert ist, eine winzige Ecke gelebter Erfahrung als Verhaltensdaten wiederzugeben.“
Google hat oft mit Erfolg Territorien in Anspruch genommen, indem es einfach davon ausging, der Eigentümer zu sein. Wie Zuboff bemerkt, ist das in seiner Kühnheit wirklich staunenswert. Es beginnt damit, alles zu nehmen, was nicht gesetzlich verteidigt wird: Ihren Computer, Ihr Telefon, Ihr Gesicht, Ihre täglichen Gewohnheiten, Fotos Ihrer Kinder, Ihre Stimme. Im Fall von Google Street View geht es davon aus, dass Bilder, Videos und Daten von Außenräumen (ob öffentlich oder privat) frei verfügbar sind. Dann werden diese flugs zusammengetragen, in dem Vertrauen, dass etwaiger anfänglicher Widerstand der Gewöhnung weichen wird – oder wenigstens allgemeiner Resignation.
Lukrative Zukunft gesichert
Street View – und seine Verwandten Google Maps und Google Earth – taten genau das: durch die Welt streifen und ohne Erlaubnis Daten sammeln. Die Daten, die sie sich holten, waren nicht nur Bilder von Häusern und sonstigen Bauten. Wie spätere Ermittlungen bewiesen haben, fischten sie obendrein unverschlüsselte Informationen von privaten WLAN-Netzen ab – einschließlich Namen, Kreditinformationen, Telefonnummern, Nachrichten, E-Mails, Aufzeichnungen von Onlinedating, Suchmaschinenverläufe, medizinische Informationen sowie Video- und Audiodateien. Sie leugneten, diese Daten in irgendeinem Google-Produkt zu nutzen, aber dies konnte nicht verifiziert werden; US-Fahnder berichteten, das Unternehmen habe „vorsätzlich und wiederholt gegen Anordnungen der Kommission verstoßen, bestimmte Informationen und Dokumente vorzulegen, die die Kommission für ihre Untersuchung benötigte“.
Wenn IT-Riesen mit juristischen Anfechtungen konfrontiert sind, stellen sie ihre Aktivitäten oft als „unvermeidlich“ in dem unaufhaltsamen Vormarsch technischen Fortschritts dar (und wer wollte den nicht?!) und bieten dann widerwillig Anpassungen an, die sie haarscharf außerhalb der juristischen Schusslinie bringen. Mit gutem Grund gehen Technologieriesen davon aus, dass sie jede rechtliche oder staatliche Anfechtung, die auf sie zukommen kann, überstehen können. Die Mühlen der Justiz mahlen langsam. Mit der digitalen Welt kann sie nicht Schritt halten – das wissen diese Konzerne und betreiben ihre Ausbeutung in einer Vielzahl von Bereichen, für die es nie zuvor Anlass gab, Gesetze zu erlassen. Das Ergebnis ist, dass sich die Landschaft unwiderruflich zum Vorteil der IT-Riesen verändert. Street View, Google Maps und Google Earth haben die rechtlichen Präzedenzen umgeformt und riesige Einkommensströme für ihre Gründer geschaffen.
Um juristischem Gegenwind weiter aus dem Weg zu gehen, arbeiten IT-Riesen mit ellenlangen Nutzungsbedingungen in Juristensprache, um Nutzer dahin zu manipulieren, dass sie ihrem Datensammeln zustimmen. Man sieht sie ständig, und die meisten von uns lesen sie selten, bevor sie „Alle akzeptieren“ anklicken. Diese Vereinbarungen bieten oft keine Möglichkeit, etwas abzulehnen, und werden in Kleindruck präsentiert. Das ist eine bewusste – und erfolgreiche – List, um uns zu gedankenloser oder resignierter Zustimmung zu zwingen. Ein Bericht von 2008 gab an, es würde 25 volle Arbeitstage in Anspruch nehmen, all die Texte über Privatsphäre, denen wir in einem Jahr begegnen, vernünftig zu lesen. Bei der Zunahme der Internetnutzung seit damals ist diese Zahl heute unbezweifelbar höher. Zuboff berichtet über eine Studie von 2018, bei der 74 % der Befragten sich für „Alle akzeptieren“ entschieden, ohne die Vereinbarungen überhaupt anzusehen. Diejenigen, die sie ansahen, taten dies im Durchschnitt 14 Sekunden lang. Die Forscher schätzten, es hätte etwa 45 Minuten gedauert, zu verstehen, wozu sie sich verpflichteten.
Noch schlimmer ist, dass die Texte der Nutzungsbedingungen jederzeit von der Firma rechtswirksam geändert werden können – ohne Zustimmung der Nutzer. Darüber hinaus kann ein solcher Vertrag andere Unternehmen implizieren, ohne anzugeben, was deren Verantwortung oder Verpflichtungen sind oder was der Nutzer mit ihnen vereinbart hat, ohne es zu wissen. Und wenn man nicht zustimmt? Nun, dann wird das betreffende Produkt oder die App wahrscheinlich nicht funktionieren – oder nur in so eingeschränkter Weise, dass man nicht viel davon hat. Das ist jetzt überall das Leitprinzip der IT-Riesen.
Der Überwachungskapitalismus beherrscht die gesamte digitale Welt. Ihre Schlaf-App, Ihre virtuelle Assistentin (z. B. Amazons Alexa), Ihr „smarter“ Staubsauger und selbst Ihr Auto sammeln wahrscheinlich Daten von Ihnen. Es könnten Details sein, die Sie selbst hochgeladen haben, oder Informationen, die das Gerät sammelt, während es nicht genutzt wird oder sogar eingeschaltet ist (z. B. Aufnahmen von Ihrer Stimme). Diese Daten werden gepackt und an Versicherer, Produktentwickler, Gastrounternehmen, KI-Entwickler und viele andere verkauft.
„Wir müssen unsere Unternehmen und uns selbst daran hindern, wie Psychopathen zu agieren, weil wir von der Einfachheit, komplexe Themen auf Geld zu reduzieren, verführt worden sind.“
Das Internet hat unser Leben verändert, sei es durch Filterblasen, soziale Medien oder KI. Die Auswirkungen von sozialen Medien auf unsere psychische Gesundheit und kulturelle wie politische Spaltung sind breit dokumentiert. Der Überwachungskapitalismus verändert auch uns, und meistens können wir das nicht sehen. Zuboff schreibt: „Das Gerät lernt, den Strom persönlichen Erlebens zu unterbrechen, um unser Verhalten zu beeinflussen, zu verändern und zu lenken“ – alles mit dem Ziel, dem Unternehmen Geld einzubringen. Die Suchergebnisse aus dem Internet, von denen Sie vielleicht glaubten, dahinter steckten unvoreingenommene Algorithmen, sind in Wirklichkeit Ergebnisse von Geschäftsinteressen und gesponsorter Reklame. Ihre persönlichen Details und Suchverläufe formen und modulieren diese Ergebnisse; aufgrund von Verallgemeinerungen durch Daten über ihr Alter, Ihren Standort und Ihr Geschlecht bekommen Sie dann andere Resultate als Ihre Nachbarin.
An der Schwelle zum Bösen
Wenn Sie sich – wie viele von uns – auf das Internet als Informationsquelle verlassen, sollte dies Sie bedenklich stimmen. Bewaffnet mit Details, zu denen sie nie zuvor Zugriff hatten, können Autoversicherer jetzt über forschungsbasierte Risikofaktoren hinausgehen, um Ihre Prämie anzupassen, wenn sie (ihrer subjektiven Beurteilung nach) meinen, dass Ihre Fahrweise auf das Risiko eines Versicherungsfalls hindeutet. Darlehensgeber können verhindern, dass Ihr Auto startet (und es dann beschlagnahmen), wenn Ihre Rate nicht pünktlich bezahlt wurde. Private Krankenkassen können Daten aus Ihrer persönlichen Fitness- oder Schlaf-App nutzen, um zu ermitteln, ob Sie für den Versicherungsschutz infrage kommen. Vielleicht finden Sie, dass das gerecht klingt; und es könnte gerecht sein, wenn es um Gerechtigkeit ginge. Aber das tut es nicht. Es geht ausschließlich um Gewinnmaximierung. Solange der Profit König ist – und alles deutet darauf hin, dass er bei den IT-Riesen herrscht –, gibt es keine Veranlassung, sich um Gerechtigkeit für Verbraucher zu scheren.
Das ist eine enorme Verlagerung der Macht vom Verbraucher zum Big Business. Heute sind Technologiekonzerne im Besitz riesiger Datenbasen mit Informationen, die sie eifersüchtig hüten und die für den Verbraucher undurchsichtig sind. Sollten Sie einmal Ihrer neuen Versicherungsprämie widersprechen, lautet die Antwort wahrscheinlich einfach: Der Computer sagt Nein. Wie wir leben und wie wir die Welt wahrnehmen, ist immer mehr von Systemen bestimmt, deren Grundlage Profitstreben ist – und das ist eine beängstigende Perspektive. Solche Veränderungen sind nie zu unserem Vorteil, außer durch Zufall; dem Überwachungskapitalismus geht es um seinen Profit.
Diese Realität scheint weit entfernt von dem anfänglichen Idealismus des „Don’t be evil“. Buchheit wollte etwas, das „schwer rauszunehmen“ sein würde. Aber es sieht danach aus, dass sehr fleißig daran gearbeitet wurde, genau das zu tun. Einst war es die erste Zeile des Verhaltenskodex – jetzt ist es die letzte, und Googles Versprechen, Forschung für KI zum Zweck der Schädigung oder Verletzung von Menschen zu meiden, wurde kürzlich zurückgezogen. Damit ist Google nicht allein; auch andere KI-Entwickler erkennen das Gewinnpotenzial ihrer Programme für die Rüstung.
Unsere Daten sind bereits bösen Akteuren zugänglich geworden – Leuten, die sie nutzen, um Passwörter und Log-ins für Bankkonten zu knacken oder Lösegeld von Unternehmen zu erpressen, deren Systeme sie hacken. IT-Riesen machen nur minimale Versprechungen darüber, was mit unseren Daten geschieht, nachdem sie abgefischt worden sind.
Zu spät zum Abbiegen?
Man könnte annehmen, dass es bereits zu spät ist, um hiergegen etwas zu tun. Die Technikriesen haben eine außerordentliche Macht, und unser Leben ist so tief mit ihren Systemen verflochten, dass es schwerfällt, zu sehen, wie man sich wirksam daraus lösen kann. Diese Konzerne verhalten sich, als seien sie nichts und niemandem untertan – eine Haltung, die von den Fakten bestätigt wird. Zuboff stellt all dies kritisch infrage: „Was weiß ein smartes Produkt, und wem sagt es das? Wer weiß Bescheid? Wer entscheidet? Wer entscheidet, wer entscheidet?“ Man könnte der konventionellen Auffassung sein, dass Rechtssysteme oder nationale und internationale Regierungen diese Macht haben sollten. Aber die IT-Riesen haben ihre eigene Antwort: Sie haben die Macht, und sie entscheiden.
„Es gibt eine Flut von Beispielen für Produkte, die dazu bestimmt sind, Verhaltensdaten wiederzugeben, zu überwachen, aufzuzeichnen und weiterzuleiten – von smarten Wodkaflaschen bis zu internetfähigen Rektalthermometern und ziemlich wörtlich allem dazwischen.“
Es ist schwer, die Auswirkungen des Überwachungskapitalismus vollkommen zu begreifen, denn das Ausmaß seiner Nutzung ist nicht vollkommen klar. Mit Recht zeigt Zuboff auf, dass er eine Gefahr für demokratische Institutionen, für Grundprinzipien von Privatsphäre und Zustimmung und für internationale Machtgleichgewichte ist. Das Verhalten der IT-Riesen stimmt nicht mit ihren anfänglichen Versprechungen überein – eine Tendenz, die nicht speziell die digitale Welt (oder selbst Großkonzerne) kennzeichnet, sondern sehr menschlich ist.
Trotz der Ansprüche der Riesen auf Innovation und Neuheit ist der Kurs, den sie eingeschlagen haben, nur allzu vertraut. Dennoch war er schwer vorhersehbar. Dies wird jeder aus seiner eigenen Perspektive sehen. Sicher waren viele von uns zunächst sehr angetan von Googles Verheißungen und kostenlosen, nutzerfreundlichen Hilfsmitteln. Wir gingen zu Facebook, liebten unsere Smartphones und vertrauten ihnen vielleicht sogar. Rückblickend mag es selbstverständlich scheinen, dass jede angebliche soziale Mission zur Verbesserung der Welt durch diese Technologien eine Masche war; aber damals fühlte es sich für viele nicht so an. Vielleicht wussten wir in der Theorie, dass es so etwas wie ein kostenloses Mittagessen nicht gibt, aber wir griffen trotzdem zu.
Das Scheitern menschlichen Bestrebens, moralischen Prinzipien oder hoffnungsvollen Verheißungen gerecht zu werden, ist ein sehr verbreitetes Phänomen, aber oft erkennt man es nur aus der Rückschau. Die historischen Belege sprechen eine deutliche Sprache. Ob es großartige neue Projekte sind, politische Versprechungen oder einfach Hoffnung auf die menschliche Erfindungsgabe: Oft steht am Ende die Enttäuschung. 1914 marschierten viele Männer an die Westfront und besangen die Glorie des Kriegs, doch sie wurden bald desillusioniert. In den frühen Jahren der Sowjetunion glaubten viele an die Verheißungen des Kommunismus, doch sie wurden bald desillusioniert. 1933 fühlten sich viele durch den nationalistischen Stolz des verheißenen Dritten Reichs ermutigt, doch sie wurden bald desillusioniert. Viele bejubelten das demokratische „Ende der Geschichte“, das das Ende des Kalten Kriegs einläutete, doch sie wurden bald desillusioniert. Von 2010 bis 2013 glaubten viele an den Optimismus des über das Internet organisierten Arabischen Frühlings, doch sie wurden bald desillusioniert.
Auch diejenigen, die der Verheißung trauten, dass eine digitale Welt das Leben besser machen würde, scheinen der Desillusionierung inzwischen recht nah, wenn sie nicht schon angekommen sind.
„Wir müssen dringend unsere Unternehmenskultur ändern, nicht nur fragen, was wir tun können oder wie viel Geld wir machen können, sondern was wir tun sollten.“
Ohne es zuzuspitzen – das Muster ist klar. Was wahr und rechtschaffen und unumgänglich scheint, stellt sich oft als eigennützige Propaganda heraus. Google, Facebook, Apple – ganz zu schweigen von Microsoft, Amazon und vielen anderen – haben die hohen Moralprinzipien, die sie am Anfang beanspruchten, seit Langem aufgegeben. Versprechungen, etwas zu ändern, werden immer wieder gemacht und immer wieder enttäuscht. Die Menschheitsgeschichte ist ein Kreislauf von enttäuschenden oder ungenügenden Lösungen zu schlechten Situationen.
Es hätte anders sein können, wenn die IT-Riesen sich an Recht und Gesetz gehalten hätten – oder daran mitgearbeitet hätten, eine gesetzliche Landschaft zu schaffen, die allen gegenüber gerecht und großzügig wäre. Wenn sie bei dem Prinzip geblieben wären, Menschen nicht auszubeuten, und dafür gearbeitet hätten, für die Bereitstellung unvoreingenommener Informationen zu sorgen und sie zu überwachen. Wenn sie ehrenhaft gehandelt hätten. Wenn sie der Verlockung kurzfristiger Gewinne widerstanden hätten. Wenn die Bedürfnisse anderer ihr Hauptanliegen gewesen wäre statt eines Nebenprodukts eines Geschäfts mit dem Zweck des Geldverdienens. Wenn sie dem Reiz des Profits zugunsten von Großzügigkeit, Fürsorge für andere und gesellschaftlichem Nutzen widerstanden hätten.
Wenn sie sich entschieden hätten, eben nicht böse zu sein.
Die größten Technologiekonzerne sind durch Überwachungskapitalismus unfassbar reich geworden und haben dabei viele Millionen Menschen ausgebeutet. Sie haben die Welt auf unzähligen Wegen dramatisch verändert, manchmal zum Positiven, aber oft zum Negativen. Wenn man das gesamte Bild betrachtet, ist die Frage angebracht: Hat es sich gelohnt? Ist die Bereicherung einer kleinen Minderheit den Schaden für Milliarden andere Menschen wert? Letztlich muss man eingestehen, dass es Wege gibt, moralisch zu handeln – mit Großzügigkeit und Ehrlichkeit und Güte –, und dass sie weit größeren Nutzen für weit mehr Menschen bieten als jede Gewinn- und Verlustrechnung. Die IT-Riesen wussten dies, oder zumindest behaupteten sie es. Aber sie setzten diese bewundernswerten Prinzipien in entmutigend vertrauter Weise rasch außer Kraft, um nach kurzfristigen Profiten zu jagen. Der Reputationsschaden, den sie dadurch erlitten haben, ist nicht leicht zu heilen.
Dieses Beispiel kann vielleicht für uns alle nützlich sein. Das Erbe und der Einfluss der IT-Riesen sind klar, aber wie sie in den kommenden Jahren vorgehen werden, bleibt abzuwarten. Wer wird sich unterdessen Zeit nehmen, um darüber nachzudenken, welchen unauslöschlichen und bleibenden Wert es hat – größer als jede Gewinnspanne –, nicht böse zu sein?