Le capitalisme de surveillance et la voie du mal

Cette formule est devenue la toute première phrase du Code de conduite de Google, se démarquant nettement du vide habituel du discours d'entreprise. «Viser l’excellence» peut évoquer des aspirations floues, voire servir de paravent à la recherche du profit. «Don’t be evil», en revanche, suggère la retenue et la bienveillance, et cela semblait être l’intention. Le Code expliquait ce que «Don’t be evil» signifiait pour eux: «fournir à nos utilisateurs un accès impartial à l'information, se concentrer sur leurs besoins et […] faire ce qui est juste de manière plus générale, c'est-à-dire respecter la loi, agir honorablement et traiter les collègues avec courtoisie et respect.»

De plus, Buchheit considérait cette position morale comme un avantage concurrentiel. Il a déclaré à Livingston que c'était «une petite pique à l'encontre de nombreuses autres entreprises, en particulier nos concurrents, qui, à l'époque, selon nous, exploitaient en quelque sorte les utilisateurs». Il est important de noter que «l'exploitation des utilisateurs» constituait, à ses yeux, un élément clé de ce qui constituait le «mal».

Pavée de bonnes intentions

Cette phrase a été reprise dans de nombreux documents au cours des années suivantes, notamment dans une lettre de 2004 rédigée par leurs fondateurs: «Ne soyez pas méchants. Nous sommes convaincus qu'à long terme, nous serons mieux servis, en tant qu'actionnaires et à tous les autres égards, par une entreprise qui fait le bien dans le monde, même si cela implique de renoncer à certains gains à court terme.»

« Google n’est pas une entreprise conventionnelle. Nous n’avons pas l’intention de le devenir… Servir nos utilisateurs finaux est au cœur de ce que nous faisons et demeure notre priorité absolue. »

Google se présentait ainsi comme une entreprise bienveillante, fondée sur des principes solides et résolument tournée vers l’amélioration du monde. Il s’agissait d’une position morale remarquable, d’autant plus qu’elle émergeait à une période de l’histoire qui marque sans doute l'apogée de confiance dans le matérialisme séculier occidental.

Avec le temps, «Don’t be evil» est devenu la devise officieuse de Google, même si le sens et la portée de cette formule ont résonné différemment au cours de l'histoire de l’entreprise. En ce qui concerne l'intelligence artificielle (IA), le PDG Sundar Pichai a promis dans un billet de blog publié en 2018 que Google ne développerait pas de technologies «susceptibles de causer un préjudice général» ni de systèmes dont le but serait «de causer ou de faciliter directement des dommages aux personnes». En conséquence, l'entreprise s'est retirée du développement de l'IA liés à l'armement.

Google n’était pas la seule, parmi les jeunes entreprises technologiques, à se présenter comme porteuse d’un bénéfice social. Le début des années 2000 a vu l’essor des réseaux interpersonnels en ligne, au premier rang desquels figurait Facebook. Son fondateur, Mark Zuckerberg a déclaré, par la suite, que «Facebook n’avait pas été créé à l’origine comme une entreprise. Il a été conçu pour accomplir une mission sociale: rendre le monde plus ouvert et plus connecté». L’intention morale était, selon lui, centrale dès le départ, l'accent étant mis sur la primauté des personnes: «Les relations personnelles constituent l’unité fondamentale de notre société. Ce grâce à elles que nous découvrons de nouvelles idées, que nous comprenons notre monde et que nous trouvons, en fin de compte, le bonheur à long terme. [...] Nous élargissons la capacité des gens à établir et à entretenir des relations.»

Il est certain qu’une fois que Facebook s'est lancé comme réseau international (si l'on fait abstraction de ses origines quelque peu douteuses), il semblait possible qu'il puisse transformer notre monde social. Beaucoup d’entre nous ont renoué avec des amis d’école ou des membres de leur famille éloignée, ont félicité des proches pour des anniversaires que nous n’aurions autrement jamais retenus, et ont pu rester facilement en contact avec des personnes aux quatre coins du monde. Mark Zuckerberg a par la suite réaffirmé: «Nous avons toujours accordé la priorité à notre mission sociale, aux services que nous développons et aux personnes qui les utilisent.» 

Apple, pour sa part, s’est toujours davantage concentrée sur les produits et l’innovation, tout en promouvant elle aussi une posture morale. Sa déclaration de valeurs affirme actuellement: «Nous nous engageons à démontrer que les entreprises peuvent, et doivent, être une force au service du bien. […] Cela signifie également agir selon nos valeurs dans la technologie que nous développons, dans la manière dont nous la concevons et la fabriquons, ainsi que dans la façon dont nous traitons les personnes et la planète que nous partageons. Nous nous efforçons en permanence de laisser le monde dans un meilleur état que celui dans lequel nous l’avons trouvé, et pour créer des outils puissants qui permettent aux autres d’en faire autant.»

« Nous croyons que, dans le meilleur des cas, les entreprises servent l'intérêt général, autonomisent les populations à travers le monde et nous unissent comme jamais auparavant. »

Il serait facile de rejeter l’ensemble de ces déclarations comme de simples formules creuses ou des éléments de langage destinés aux communiqués de presse. Pourtant, ces paroles ont eu un impact réel. Depuis le début du siècle, une perception largement répandue s’est installée selon laquelle les grandes entreprises technologiques — notamment Google, Facebook (désormais Meta) et Apple — agissaient principalement dans l’intérêt de leurs utilisateurs. Dans le cadre d’une révolution numérique plus vaste, elles se sont présentées comme investies d’une mission visant à rendre le monde meilleur et plus sûr, à améliorer les relations humaines et à donner aux autres les moyens d’en faire autant. Leurs outils ont stimulé de nombreuses entreprises à travers le monde. Le design épuré et minimaliste de l’iPhone d’Apple, la portée interpersonnelle mondiale de Facebook et la multitude de services gratuits offerts par Google semblaient tous promettre un avenir meilleur.

Beaucoup seront peut-être surpris d’apprendre que tout n’était pas aussi vertueux qu’il y paraissait. Pourtant, les signes avant-coureurs étaient abondants dans l’histoire, encore fallait-il savoir les reconnaître.

La même vieille voie

Aux États-Unis du XIXᵉ siècle, en particulier dans les villes industrielles du Midwest, les saloons ont commencé à offrir des déjeuners gratuits à leurs clients. L’origine de cette pratique reste floue, mais le principe était (à première vue) simple: en achetant une boisson, on recevait un repas gratuit. C’était un moyen ingénieux — et populaire — d’attirer les gens dans les saloons. Ceux-ci faisaient ensuite tout leur possible pour retenir les clients (et les inciter à continuer de boire), en proposant des divertissements ou en distribuant des jetons pour acheter des boissons supplémentaires. Les repas consistaient souvent des plats riches en sel, destinés à provoquer la soif et, par conséquent, à encourager l’achat de nouvelles boissons.

De cette pratique est née l’expression: «Il n’existe pas de repas gratuit.»

Tout a un prix, en fin de compte… 

Existe-t-il vraiment quelque chose de gratuit ? Tout coûte forcément quelque chose quelque part à quelqu’un.

Cette maxime peut également s’appliquer à l’essor des géants de la technologie. Leurs cadeaux comportaient une contrepartie: «une boîte de Pandore dont nous commençons à peine à comprendre le contenu», selon la psychologue sociale Shoshana Zuboff, qui a popularisé le terme capitalisme de surveillance.

Le sentiment généralement positif du public à l’égard de Google, Apple et Facebook a rapidement établi leurs produits comme des outils essentiels pour des milliards de personnes. Nous les avons utilisés pour rendre nos vies plus efficaces et plus agréables. Mais les grandes entreprises technologiques ont vite compris que cette utilisation massive produisait un sous-produit particulièrement intéressant: les données. Des photos aux coordonnées personnelles, des requêtes de recherche aux localisations GPS, des historiques de navigation aux réseaux familiaux, nous avons fourni à Google, Apple et Facebook — entre autres — une montagne d’informations personnelles.

Ces données ont apporté une solution à un problème critique. Peu de temps après sa création, malgré son élan initial, Google a été confronté à une menace existentielle. Le capital-risqueur Michael Moritz souligne que «les douze premiers mois de Google ont été loin d'être une partie de plaisir… Les liquidités sortaient à un rythme effréné durant les six ou sept premiers mois».

La solution à ces difficultés financières se trouvait précisément dans la masse de données personnelles qu'ils collectaient. Dans un entretien accordé au Harvard Gazette, Zuboff explique que «Google a été la première entreprise à apprendre à capter un surplus de données comportementales — bien au-delà de ce qui était nécessaire pour fournir ses services, et à les utiliser pour élaborer des produits de prédiction qu’elle pouvait vendre à ses clients commerciaux, en l’occurrence des annonceurs». L’exploitation des données personnelles et comportementales à des fins lucratives est ce que Zuboff a qualifié de capitalisme de surveillance. Ce concept a initialement propulsé le modèle publicitaire de Google, mais la pratique s’est rapidement étendue à l’ensemble du secteur.

« Grâce à l'accès unique de Google aux données comportementales, il serait désormais possible de savoir ce qu'une personne en particulier pensait, ressentait et faisait à un moment et à un endroit donnés. »

L’idée est que cette masse d’informations, qu’il s’agisse de ce que vous aimez manger en vacances, de l’endroit où vous vous trouviez mardi dernier à l’heure du déjeuner, ou de la couleur des cheveux de votre enfant, possède une valeur immense pour les entreprises qui cherchent à vous vendre leurs produits. Elle est plus complète, plus détaillée et plus précise que n’importe quelle enquête auprès des consommateurs. Elle est également plus personnalisée, ce qui signifie que, la prochaine fois que vous passerez devant ce café pendant votre pause déjeuner du mardi, vous pourrez être bombardé d’offres destinées à vous inciter à y entrer. C’est aussi la raison pour laquelle apparaissent, dans votre navigateur, des publicités pour des articles que vous avez récemment recherchés, ou parfois simplement évoqués à haute voix. Comme toujours en matière de publicité, la recherche du profit est fondamentale. Grâce à des outils largement accessibles comme Google Search ou Facebook timeline, les entreprises disposent des informations nécessaires pour vous persuader de dépenser davantage. Il est vrai qu'il n'existe pas de repas gratuit.

Mais on peut se demander si cette utilisation clandestine des données ne relève pas précisément de «l’exploitation des utilisateurs». Autrement dit, du fait de tirer profit de nos informations personnelles sans notre consentement éclairé. Selon Zuboff, c’est la menace d’un échec imminent qui a conduit Google à modifier ses principes. «Des menaces exceptionnelles pesant sur leur statut financier et social semblent avoir éveillé leur instinct de survie», écrit-elle. «La réaction des fondateurs de Google [...] a effectivement déclaré un “état d’exception” dans lequel il a été jugé nécessaire de suspendre les valeurs et les principes qui avaient guidé la fondation et les premières pratiques de Google.» 

Il s’agissait d’une réaction humaine bien connue. Le désir de profit et de stabilité a fini par prendre le pas sur les principes moraux fondateurs.

Qui paie le prix ?

Sur le plan financier, l’exploitation des données des utilisateurs s’est avérée extrêmement rentable. À la fin de l’année 2002, alors que Google commençait à déployer ces techniques, et seulement deux ans après l’adoption de son code de conduite «Don’t be evil », son chiffre d’affaires net a augmenté de 400%, et l’entreprise a enregistré son premier bénéfice. Zuboff note qu’en 2004, au moment de son introduction en bourse, la découverte du «surplus comportemental» avait entraîné une augmentation de plus de 3 500 % des revenus déclarés.

À première vue, cette pratique peut sembler raisonnable, ou du moins inoffensive. Les entreprises doivent trouver des moyens de survivre, et ce que Google a fait était ingénieux. On pourrait même l'approuver. Peut-être aviez-vous justement envie d’essayer ce café un mardi midi, et une réduction ciblée constitue exactement l’incitation qu’il vous fallait. Mais ce qui devrait nous amener à réfléchir, c’est la manière dont les grandes entreprises technologiques ont procédé. L’utilisation de ces données recèle un potentiel bien plus vaste, et bien plus sinistre que nous ne l’imaginions. Même si ses conséquences peuvent paraître anodines, l’exploitation clandestine de nos données est si débridée et omniprésente qu’elle façonne déjà nos vies d’une manière dont nous n’avons pas toujours conscience.

Il était clair pour Google que la collecte de ces données devait se faire en secret. Zuboff écrit: «Dès le départ chez Google, on comprenait que les utilisateurs n’accepteraient probablement pas cette appropriation unilatérale de leur expérience, ni sa transformation en données comportementales. Il était admis que ces méthodes devaient être indétectables.»

Ils s’attendaient à ce que les gens s’y opposaient, et ils avaient raison. La révélation selon laquelle Google analysait des courriels personnels afin de fournir des données aux annonceurs a suscité une telle indignation qu’en 2017 l’entreprise a promis d’y mettre fin, même si leur promesse était, au mieux, limitée. Entre 2012 et 2014, l’introduction de Google Glass, leurs lunettes «intelligentes» innovantes a rencontré une forte résistance lorsque le public a compris que le produit était conçu pour recueillir des données de localisation, d’audio, de vidéo et de photographies, non seulement de l’utilisateur, mais aussi des personnes qui l’entouraient. Il a même été suggéré que l’appareil pouvait être illégal dans les pays interdisant l’espionnage discret.

Le fait que de telles entreprises aient jugé nécessaire de dissimuler leurs activités constitue, à l’évidence, un signal d’alarme. «La rhétorique des pionniers du capitalisme de surveillance, et de presque tous ceux qui leur ont emboîté le pas, relève d’un véritable manuel de diversion, d’euphémismes et d’obscurcissement », affirme Zuboff. En tant qu’utilisateurs, nous pouvons ignorer ces pratiques ainsi que l’exploitation massive de ce que nous présumons naturellement nous appartenir: notre nom, notre numéro de téléphone, nos activités sur Internet, notre voix, nos traits du visage, etc.

« Il est important de reconnaître que dans ce contexte, le terme “ intelligent ” est un euphémisme pour désigner un rendu : des informations conçues pour restituer une infime partie de l'expérience vécue sous forme de données comportementales. »

Google est souvent parvenu à s’approprier des territoires en présumant simplement en être propriétaire. Comme l’observe Zuboff, l’audace dont fait preuve l'entreprise est tout à fait stupéfiante. Elle commence par s’emparer de tout ce qui n’est pas encore juridiquement protégé : votre ordinateur, votre téléphone, votre visage, vos habitudes quotidiennes, les photos de vos enfants, votre voix. Dans le cas de Google Street View, l’entreprise présume que les images, les vidéos et les données relatives aux espaces ouverts, qu’ils soient publics ou privés, peuvent être librement collectées. Elle agit ensuite avec rapidité pour les rassembler, convaincue que toute résistance initiale finira par céder à l'accoutumance, ou du moins à une résignation générale.

Cartographier un avenir lucratif

Street View, ainsi que ses cousins Google Maps et Google Earth, a procédé exactement de cette manière, parcourant le monde pour collecter des données sans autorisation. Les informations extraites ne se limitaient pas à des images de maisons et de bâtiments. Comme l’ont démontré des enquêtes ultérieures, ces systèmes captaient également des données personnelles non chiffrées provenant de réseaux Wi-Fi domestiques, notamment des noms, des informations de crédit, des numéros de téléphone, des messages, des courriels, des échanges liés aux sites de rencontres en ligne, des historiques de navigation, des données médicales, ainsi que des fichiers audio et vidéo. Google a nié avoir utilisé ces données dans ses produits, mais il était impossible de le vérifier. Des enquêteurs fédéraux ont indiqué que l’entreprise avait «sciemment et à plusieurs reprises violé les injonctions de la Commission visant à produire certaines informations et documents requis pour l’enquête».

Face aux contestations juridiques, les grandes entreprises technologiques présentent souvent leurs activités comme «inévitables» dans la marche inexorable du progrès technologique, (et qui n’en voudrait pas?) avant de consentir, à contrecœur, à des ajustements destinés à les maintenir juste hors de portée des attaques judiciaires. Les géants de la tech partent du principe, à juste titre, qu’ils peuvent résister à toute contestation légale ou gouvernementale susceptible de surgir. Le droit évolue lentement. Il ne peut suivre le rythme du monde numérique, et ces entreprises le savent, exploitant une multitude de zones que la loi n’avait encore jamais eu à encadrer. Le résultat est une transformation irréversible du paysage juridique en faveur du Big Tech. Street View, Google Maps et Google Earth ont ainsi contribué à redéfinir les précédents légaux, générant d’énormes flux de revenus pour leurs fondateurs.

Afin de prévenir toute résistance juridique supplémentaire, les grandes entreprises technologiques recourent à de longs accords de conditions d’utilisation (Terms of Service, TOS), saturés de jargon juridique, pour amener les utilisateurs à consentir à la collecte de leurs données. Nous y sommes confrontés en permanence, et la plupart d’entre nous les lisent rarement avant de cliquer sur «J’accepte». Ces accords n’offrent souvent aucune possibilité réelle de refus et sont présentés en caractères minuscules. Il s’agit d’une stratégie délibérée, et efficace, destinée à obtenir notre consentement irréfléchi ou résigné. Un rapport de 2008 suggérait qu’une lecture raisonnable de l’ensemble des politiques de confidentialité rencontrées en une année nécessiterait vingt-cinq journées complètes de travail. Compte tenu de l’augmentation de l’utilisation d’Internet depuis lors, ce chiffre est aujourd’hui incontestablement plus élevé. Zuboff rapporte que, dans une étude menée en 2018, 74% des participants ont choisi l’option «inscription rapide», contournant ainsi toute lecture des contrats. Ceux qui les ont lus y ont consacré en moyenne quatorze secondes. Les chercheurs ont estimé qu’il faudrait environ quarante-cinq minutes pour comprendre réellement ce à quoi ils consentaient.

Pour aggraver les choses, la formulation des conditions d’utilisation peut être modifiée légalement par l’entreprise à tout moment, sans le consentement de l’utilisateur. Le contrat peut également impliquer d’autres sociétés sans préciser leurs responsabilités ni leurs engagements, ni ce à quoi l’utilisateur a, à son insu, consenti à leur égard. Et si vous n’êtes pas d’accord? Dans ce cas, le produit ou l’application ne fonctionnera probablement pas, ou alors de manière si limitée qu’il en deviendra pratiquement inutile. C'est désormais le principe directeur des grandes entreprises technologiques partout dans le monde.

Le capitalisme de surveillance imprègne l’ensemble de la sphère numérique. Une application de suivi du sommeil, un assistant vocal (par exemple Alexa, d’Amazon), votre aspirateur «intelligent» et même votre voiture sont très probablement en train de collecter des données personnelles. Il peut s’agir d’informations que vous avez vous-même fournies, ou de données recueillies lorsque l’appareil n’est pas activement utilisé, voire lorsqu’il est éteint (par exemple, des enregistrements de votre voix). Ces données sont ensuite regroupées et vendues à des compagnies d’assurance, à des concepteurs de produits, à des entreprises du secteur hôtelier, à des développeurs d’intelligence artificielle, et à bien d’autres encore.

« Nous devons empêcher nos entreprises et nous-mêmes d’agir comme des psychopathes, sous prétexte que nous avons été séduits par la simplicité qui consiste à réduire des questions complexes à une question d'argent. »

Internet a transformé nos vies, que ce soit par le biais des bulles de filtrage, des réseaux sociaux ou de l’intelligence artificielle. L’impact des réseaux sociaux sur la santé mentale ainsi que sur les divisions culturelles et politiques est désormais largement documenté. Le capitalisme de surveillance nous transforme lui aussi, mais d’une manière que nous percevons rarement. Comme le note Zuboff, «l’appareil apprend à interrompre le flux de l’expérience personnelle afin d’influencer, de modifier et d’orienter notre comportement», le tout dans l’intérêt de générer des profits pour l’entreprise. Les résultats de recherche sur Internet, que l’on pourrait supposer produits par des algorithmes impartiaux, sont en réalité façonnés par des intérêts commerciaux et par la publicité sponsorisée. Les données personnelles et les historiques de recherche façonnent et modulent ces résultats; des généralisations établies à partir de données liées à l’âge, au lieu de résidence ou au sexe produisent ainsi des résultats différents d’un utilisateur à l’autre.

Aux portes du mal

Si vous, comme beaucoup d’entre nous, comptez sur l’Internet comme source d’information, cela devrait susciter une réelle inquiétude. Armés de données auxquelles ils n’avaient jamais eu accès auparavant, les assureurs automobiles peuvent aller au-delà des facteurs de risque fondés sur la recherche pour ajuster votre prime s’ils estiment (selon leur jugement subjectif) que votre manière de conduire laisse présager un risque de sinistre. Les prêteurs peuvent empêcher votre voiture de démarrer (puis la confisquer) si vous êtes en retard dans un paiement. Les assureurs santé pourraient utiliser les données d’une application de suivi de l’activité physique ou du sommeil pour déterminer votre éligibilité à une couverture. Cela peut sembler juste; et cela pourrait l’être, si la motivation sous-jacente était l’équité. Mais ce n’est pas le cas: il s'agit uniquement de maximiser les profits. Tant que le profit demeure roi, et tout indique qu’il règne sans partage dans le secteur des grandes technologies, rien n'incite à se soucier de l'équité envers les consommateurs.      

Il s’agit là d’un transfert colossal de pouvoir du consommateur vers les grandes entreprises. Les entreprises technologiques détiennent désormais d’immenses bases de données d’informations, qu’elles protègent jalousement et qui restent opaques pour le consommateur. Si, ou lorsque, vous contestez votre nouvelle prime d’assurance, la réponse sera probablement lapidaire: l’ordinateur a dit «non». Nos vies et notre vision du monde sont de plus en plus façonnées par des systèmes fondés sur la recherche du profit, et c’est une perspective pour le moins inquiétante. De tels changements ne sont presque jamais conçus dans notre intérêt, sauf par accident; le capitalisme de surveillance est, par nature, essentiellement motivé par le profit.   

Cette réalité semble bien éloignée de l’idéalisme initial du «Don’t be evil». Buchheit voulait une formule qui serait «difficile à retirer». Pourtant, tout porte à croire que des efforts considérables ont été déployés pour y parvenir. Autrefois placée en tête du Code de conduite, la formule figure désormais en dernière position, et la promesse de Google d’éviter les recherches en intelligence artificielle susceptibles de causer des «dommages» ou des «préjudices» a récemment été retirée. Google n’est pas un cas isolé : d’autres développeurs d’IA reconnaissent eux aussi le potentiel lucratif de leurs technologies dans le domaine de l’armement militaire.

Nos données ont déjà été exposées à des acteurs malveillants, ceux qui les utilisent pour pirater des mots de passe et des identifiants de connexion à des comptes bancaires, ou pour rançonner des entreprises en piratant leurs systèmes. Les géants de la technologie offrent peu de garanties quant au devenir de nos données une fois qu’elles ont été collectées.

Au-delà du carrefour ?

On pourrait supposer qu’il est déjà trop tard pour agir. Les géants de la technologie détiennent un pouvoir extraordinaire, et nos vies sont si profondément imbriquées dans leurs systèmes qu’il est difficile d’imaginer comment s’en détacher efficacement. Ces entreprises se comportent comme si elles n’étaient soumises à aucune autorité, une attitude que les faits tendent à corroborer. Zuboff formule à cet égard des questions fondamentales: «Qu’est-ce qu’un produit intelligent sait, et à qui le dit-il ? Qui sait? Qui décide? Qui décide de qui décide? » Traditionnellement, on considérerait que ce pouvoir devrait relever des systèmes judiciaires, ou des gouvernements nationaux et internationaux. Mais le géants de la technologie ont leur propre réponse: ce sont eux qui détiennent le pouvoir, et ce sont eux qui décident.

« Les exemples de produits conçus pour collecter, surveiller, enregistrer et communiquer des données comportementales se multiplient, allant des bouteilles de vodka “ intelligentes ” aux thermomètres rectaux connectés à Internet, en passant par tout ce qui se trouve entre les deux. »

Les conséquences du capitalisme de surveillance sont difficiles à appréhender pleinement, tant l’ampleur de son déploiement demeure imparfaitement comprise. Zuboff souligne à juste titre la menace qu’il fait peser sur les institutions démocratiques, sur les principes fondamentaux de la vie privée et du consentement, ainsi que sur l'équilibre des pouvoirs à l’échelle internationale. Le comportement des géants du numérique ne correspond plus à leurs promesses initiales, une tendance qui n’est ni propre au monde digital, ni même aux grandes entreprises, mais qui renvoie plus largement à certains traits récurrents de la nature humaine.    

Malgré les discours insistant sur l’innovation et la nouveauté, la trajectoire empruntée par les entreprises technologiques apparaît, rétrospectivement, tristement familière. Elle n’en demeurait pas moins difficile à anticiper. Chacun portera son propre jugement à cet égard. Il est toutefois indéniable que nombre d’entre nous ont été, à l’origine, sincèrement séduits par les promesses de Google et par ses outils gratuits, simples et efficaces. Nous nous sommes inscrits sur Facebook, nous avons chéri nos smartphones, et, dans bien des cas, nous leur avons accordé notre confiance. Avec le recul, il peut sembler inévitable que toute mission sociale proclamée visant à « améliorer le monde » se soit révélée illusoire. Pourtant, à l’époque, cela ne paraissait pas évident pour beaucoup. Peut-être savions-nous, en théorie, qu’il n’existe pas de repas gratuit ; mais nous l’avons tout de même consommé.

L’incapacité des institutions humaines à se montrer à la hauteur de principes moraux ambitieux ou de promesses porteuses d’espoir est un thème récurrent de l’histoire, un thème que nous ne reconnaissons souvent qu’après coup. Les exemples historiques abondent. Qu’il s’agisse de grands projets, de promesses politiques ou d’une foi naïve dans l’ingéniosité humaine, la déception revient fréquemment: En 1914, beaucoup ont marché vers le Front Occidental en chantant la gloire de la guerre, avant d’être brutalement désillusionnés. Aux débuts de l’Union soviétique, nombreux ont été ceux qui ont cru aux promesses du communisme, avant d’être rapidement détrompés. En 1933, beaucoup ont été encouragés par la fierté nationaliste promise par le Troisième Reich, avant d’en mesurer le coût. Beaucoup ont célébré la prétendue «fin de l’histoire» démocratique annoncée à la fin de la guerre froide, avant d’en constater les limites. Beaucoup ont cru à l’optimisme du Printemps arabe soutenu par les technologies numériques entre 2010 et 2013, avant de céder la place à la désillusion.

Ceux qui ont placé leur confiance dans la promesse selon laquelle le monde numérique rendrait la vie fondamentalement meilleure semblent, eux aussi, bien engagés sur la voie de la désillusion, s’ils n’y sont pas déjà.

« Nous avons désespérément besoin de changer la culture des entreprises, afin d’introduire des questions qui ne portent pas seulement sur ce que nous pouvons faire ou sur combien d’argent nous pouvons gagner, mais sur ce que nous devrions faire. »

Sans en faire trop, la tendance est claire. Ce qui semble vrai, vertueux et inéluctable se révèle fréquemment n’être qu’une propagande égoïste. Google, Facebook, Apple, sans parler de Microsoft, Amazon et de bien d'autres, ont depuis longtemps abandonné les principes moraux élevés qu'ils revendiquaient à leurs débuts. La promesse de changement est répétée à l’envi et, tout aussi souvent, déçue. L'histoire humaine est un cycle de solutions décevantes ou inadéquates face à des situations difficiles.   

Les choses auraient pu être différentes si les géants de la technologie avaient respecté la loi ou s’ils avaient travaillé avec les autorités judiciaires pour créer un environnement juridique équitable et généreux pour tous. Elles auraient pu l’être s’ils avaient respecté le principe consistant à ne pas exploiter les individus, et s’étaient attachés à fournir et à encadrer la diffusion d’informations impartiales. Si ces entreprises avaient agi honorablement. Si elles avaient résisté à l’attrait des gains à court terme. Si les besoins d’autrui avaient constitué leur priorité, plutôt qu’un simple sous-produit d’une activité lucrative. Si elles avaient rejeté la recherche du profit au profit de la générosité, de l’attention portée aux autres et du bien commun.

Si, en définitive, elles avaient réellement décidé de ne pas faire le mal.

Les grandes entreprises technologiques sont incroyablement riches grâce au capitalisme de surveillance, exploitant au passage des millions de personnes. Elles ont radicalement transformé le monde de multiples façons, parfois de manière positive, mais souvent de manière préjudiciable. Dans cette perspective, une question s’impose: cela en valait-il la peine? L’enrichissement d’une minorité restreinte justifie-t-il les dommages causés à des milliards d’autres? En fin de compte, il faut reconnaître qu’il existe des manières d’agir moralement, avec générosité, honnêteté et bienveillance, et qu’elles procurent des bénéfices bien supérieurs, à un bien plus grand nombre de personnes, que n’importe quel tableau de profits et pertes. Les géants de la technologie le savaient, ou du moins l’affirmaient. Mais, de façon tristement familière, ils ont rapidement mis ces principes de côté afin de poursuivre des profits à court terme. Les atteintes portées à leur réputation ne se réparent pas aisément.

C’est un exemple qui peut sans doute servir à chacun d'entre nous. L’héritage et l’influence des géants de la technologie sont manifestes, mais la manière dont ils évolueront dans les années à venir demeure incertaine. En attendant, qui prendra le temps de considérer la valeur durable et indélébile, supérieure à toute marge bénéficiaire, du fait de ne pas être méchant?