Le règles de l’IA
Alors que les progrès des technologies d'intelligence artificielle ne cessent de prendre de l'ampleur, il est clair qu'elles peuvent être utilisées aussi bien de manière positive que négative. Existe-t-il un code moral auquel nous puissions nous fier pour guider notre usage personnel de ces technologies ?
Nvidia, l'entreprise californienne spécialisée dans la conception de puces avancées, a connu une croissance exponentielle en 2023. Elle a affiché un chiffre d'affaires de 22 milliards de dollars américains pour son dernier trimestre fiscal de 2023, soit une hausse de 265 % par rapport au quatrième trimestre de 2022. Cette société fournit 70 % des puces destinées au secteur de l'intelligence artificielle (IA). Parmi les autres entreprises qui se disputent de plus en plus ce marché figurent Amazon, Google, Meta et Microsoft. Selon Joseph Fuller, professeur de pratiques managériales à la Harvard Business School, « pratiquement toutes les grandes entreprises disposent désormais de plusieurs systèmes d'IA et considèrent le déploiement de l'IA comme faisant partie intégrante de leur stratégie. » Ces facteurs, conjugués à l'essor des centres de données dédiés à l'IA aux côtés des entreprises manufacturières et de services, témoignent clairement de l'élan que prend le recours à l'IA dans de nombreux secteurs.
L'utilisation pionnière par Nvidia de processeurs graphiques (GPU) pour le calcul intensif dans les domaines du machine learning, de l'automobile, de la médecine, de la santé, de la pharmacie, de l'aérospatial, de l'enseignement, de l'industrie, de la banque, du commerce de détail et de bien d'autres secteurs encore est en train de révolutionner la vie à l'échelle de la planète. Quelques exemples tirés du secteur médical suffisent à illustrer l'immense potentiel de bienfaits. En 2023, le New York Times a rapporté que des médecins hongrois avaient utilisé un outil d'IA pour détecter un cancer du sein quatre ans avant qu'il ne soit suffisamment développé pour être repéré par un radiologue. L'IA joue également un rôle dans la découverte de nouveaux médicaments, à un coût bien inférieur à celui des méthodes classiques de développement pharmaceutique. Selon le blog Bill of Health de la Harvard Law School, l'IA promet non seulement d'accélérer la découverte de médicaments du début à la fin, mais aussi de trouver des traitements pour des maladies jusqu'alors incurables.
Cependant, tout avancée technologique positive s'accompagne également d'inconvénients.
Au XVe siècle, par exemple, l'imprimerie de Gutenberg a permis une plus large diffusion des connaissances bibliques, tout en menaçant les institutions religieuses qui en assuraient le filtrage. Les Bibles imprimées en langues vernaculaires ont affranchi l’homme du peuple des restrictions imposées par l'Église catholique. Du point de vue de l'Église, cette liberté remettait en cause son autorité. Mais l'imprimerie a aussi facilité, pour cette même Église, le recours à l'écrit pour défendre sa position.
Au début du XXe siècle, la fission de l'atome a ouvert la voie à la production d'énergie propre, tout en faisant peser la menace des armes nucléaires et de l'anéantissement de l'humanité. Cette technologie à double usage, à la fois bénéfique et dangereuse, est une caractéristique propre à ce type d'innovation, précisément parce que les motivations et les actes humains ne peuvent pas être complètement isolés des mauvaises intentions.
Au cours des dernières décennies, nous avons pu constater que l'Internet des objets — le nombre croissant d'objets physiques pouvant être surveillés ou contrôlés numériquement — a rendu la vie à la fois merveilleuse et néfaste pour la société humaine. Nous nous réjouissons d'un accès illimité et instantané à l'information, tout en pâtissant de notre vulnérabilité face aux acteurs malveillants et des dommages causés à l'esprit de nos enfants. Nous observons aujourd'hui un potentiel similaire avec l'IA. Malgré son impact positif déjà considérable, des craintes réelles existent quant à ses détournements malveillants. Il suffit de penser à la création d'images trompeuses et de fichiers vocaux falsifiés dans des messages politiques ou des demandes de rançon.
Certains observateurs ont affirmé que le risque posé par l'IA est existentiel, et qu'il est extrêmement difficile d'anticiper et de contrôler la généralisation de ses mésusages. Le neuroscientifique Anders Sandberg a déclaré à Vision : « En général, les gens disent que si une machine se comporte mal, il suffit de la débrancher. Mais avez-vous déjà essayé de débrancher Internet ? Avez-vous déjà essayé de débrancher le marché boursier ? Il existe déjà de nombreuses machines qu'il est tout simplement impossible d'arrêter, parce qu'elles sont trop répandues ou trop essentielles. »
Pour l'heure, la crainte que les machines finissent par supplanter leurs créateurs humains et devenir incontrôlables semble infondée. Quant à un avenir plus lointain où « l'intelligence artificielle générale » pourrait devenir possible, Seán Ó hÉigeartaigh, directeur exécutif du Centre d’études sur les risques existentiels [Centre for the Study of Existential Risk, CSER], a fait remarquer lors d'un entretien accordé à Vision : « Si nous devons introduire dans ce monde une intelligence — que ce soit sous forme d'outils ou d'entités indépendantes — qui nous permette de changer encore davantage le monde, nous devons réfléchir très attentivement aux objectifs que nous lui assignons et au niveau d'autonomie que ces systèmes futurs pourraient avoir, car il pourrait s'avérer très difficile pour nous de revenir en arrière. »
« On peut imaginer une telle technologie surpasser les marchés financiers, dépasser les chercheurs humains en matière d'invention, manipuler les dirigeants humains et développer des armes que nous ne sommes même pas en mesure de comprendre. Si l'impact à court terme de l'IA dépend de qui la contrôle, son impact à long terme dépend, purement et simplement, de sa capacité à être contrôlée. »
Ce qui est plus préoccupant à l'heure actuelle, c'est la menace croissante que représente l'intrusion des gouvernements et des entreprises dans la vie privée, grâce à l’IA, comme la Chine le fait déjà. Avec 700 millions de caméras déployées pour la reconnaissance faciale et de la démarche, pratiquement chaque personne en Chine peut être suivie à la trace. À cela s'ajoute le fait que la vie des résidents chinois est à la merci des scores sociaux individuels, fondés sur le respect traçable des normes gouvernementales, et la nature insidieuse d’une société de surveillance autoritaire, néolibérale et pilotée par les données devient évidente. La désobéissance peut être sanctionnée par des taux hypothécaires plus élevés, des tarifs de transports publics, plus chers ou encore des vitesses Internet réduites, parmi d'autres pénalités « sociales ». Ainsi, le contrôle social et idéologique devient possible grâce à une autorégulation organisée par les pouvoirs publics.
Ce qui se passe aujourd'hui dans la Chine à parti unique menace désormais les démocraties de marché du monde entier, où, selon la psychologue sociale Shoshana Zuboff, ce phénomène a déjà franchi un seuil décisif. Elle a écrit que le nouvel ordre économique — que nous connaissons à travers les algorithmes qui tracent chacune de nos recherches, préférences et achats en ligne — est en réalité l'œuvre du capitalisme de surveillance, qui menace de dominer l'ordre social et de façonner l'avenir numérique si l'on n'y résiste pas.
En raison de la toxicité que les plateformes de médias sociaux ont encouragée, l'inventeur du World Wide Web, Sir Tim Berners-Lee, a appelé à remettre à l’endroit le monde numérique diviseur que nous avons laissé se développer. Chacun de nous, déclare-t-il, doit conserver ses droits sur ses propres informations personnelles. Mais, comme le web ne cesse d’évoluer, il prédit que beaucoup d’entre nous auront un assistant personnel intelligent dans le futur. Ces assistants travailleront pour nous, nous libérant ainsi pour retrouver des relations authentiques en face à face. Cela résoudrait un problème que sa collègue en sciences sociales au sein du Massachusetts Institute of Technology (MIT), Sherry Turkle, a identifié. Cette dernière nous appelle à rejeter l’idée selon laquelle nos appareils numériques pourraient nous apporter des relations authentiques. Du fait que désormais « nous avons plus d’attentes envers la technologie et moins envers les autres personnes », elle est convaincue que, ce faisant, nous nous priverons, nous et nos enfants, de ces interactions humaines, ainsi que de la réalité et de l’émotion qui les accompagnent.
Les défis moraux et éthiques que pose le développement de l'IA sont souvent laissés par les innovateurs aux spécialistes des sciences sociales, des philosophes et des éthiciens. Comme pour les autres nouvelles technologies, notre capacité à prévenir leurs effets néfastes est limitée. Pour autant que l’IA contribue à l’amélioration de l’humanité, le manque de régulations de sécurité engendre de sérieuses menaces. Sir Martin Rees, directeur du CSER à l’Université de Cambridge, a déclaré à Vision : « Je pense que nous allons essayer de réguler toutes ces technologies pour des motifs de prudence et d’éthique, mais nous serons inefficaces dans cette régulation, puisque tout ce qui peut être réalisé sera réalisé quelque part par quelqu’un. » Lorsque des intérêts commerciaux, idéologiques ou même irresponsables entrent en jeu, les préoccupations éthiques passent rapidement au second plan.
« Les finalités que l’IA est censée servir sont-elles des fins dignes, ou l’IA n’est-elle qu’un moyen extraordinairement amélioré pour atteindre des fins qui, elles, n’ont pas été améliorées ? »
Des entreprises comme Google et Microsoft ont publié des lignes directrices éthiques régissant leur propre utilisation de l’intelligence artificielle, tandis que le Parlement européen a adopté en 2024 a législation sur l’intelligence artificielle, ce qui représente « la première loi contraignante au monde sur l’intelligence artificielle, visant à réduire les risques, à créer des opportunités, à combattre la discrimination et à apporter de la transparence ». Bien que les Nations Unies, avec le consensus de leurs 193 États membres, aient adopté une résolution au sujet de l’IA promouvant le développement de « systèmes d’intelligence artificielle sûrs, sécurisés et dignes de confiance », cette résolution n'est pas contraignante et ne dispose d’aucun instrument exécutoire, ce qui laisse subsister des inquiétudes. Rees a aussi déclaré à Vision : « L’enjeu est mondial, avec des pressions commerciales intenses, et chercher à contrôler effectivement l’usage de ces nouvelles technologies est, à mon sens, aussi illusoire que les tentatives de contrôle mondial de la législation sur les stupéfiants ou sur la fiscalité. Je suis vraiment pessimiste sur ce point. » Bien entendu, Rees fait allusion aux niveaux national et international. En revanche, pouvons-nous agir de manière morale ou éthique à notre propre niveau pour contrôler notre usage personnel de ces nouvelles technologies ?
Il est peut-être ironique que les réponses à ce niveau personnel ne se trouvent pas dans des sources modernes, mais dans la sagesse ancienne. La morale a longtemps croisé la littérature de sagesse, une catégorie qui peut sembler sans pertinence à l'ère de l'IA. Mais en écrivant sur l'IA et la foi chrétienne, John Wyatt et Stephen N. Williams expliquent : « Le mot "créé" exprime notre engagement envers la croyance en un Dieu Créateur qui a placé les êtres humains au sein d'un ordre. C'est un ordre altéré et bouleversé par les fautes humaines, mais propice au bien-être et à l'épanouissement de l'humanité, si nous pouvons trouver le chemin de la sagesse et le suivre. » Considérons alors le livre biblique des Proverbes, qui prétend offrir à la fois la sagesse humaine et divine, des principes moraux et des conseils pratiques pour la vie quotidienne. Il aborde notamment l'argent, le leadership, les relations et la prise de décisions éclairées, entre autres sujets. Ce livre commence par une déclaration d’intention : « Pour connaître la sagesse et l’instruction, pour comprendre les paroles de l’intelligence ; pour recevoir des leçons de bon sens, de justice, d’équité et de droiture ; pour donner aux simples du discernement, au jeune homme de la connaissance et de la réflexion. Que le sage écoute, et il augmentera son savoir, et celui qui est intelligent acquerra de l’habileté » (Proverbes 1 : 2–5, NEG). Voici un conseil moral et éthique applicable au niveau individuel et provenant d’une source supérieure : « La crainte de l’Éternel est le commencement de la science ».
Comprendre, d’un point de vue biblique, ce que sont les êtres humains et quelle est leur vocation donne un sens à l'existence dans un monde qui a été privé de cette connaissance. Vous pouvez en savoir plus sur cette ressource dans notre série la Loi, les Prophètes et les Écrits.