L’intelligence artificielle (IA) est-elle capable d’échapper à notre contrôle et de nous réduire en esclavage ? Nous rendra-t-elle plus sages ou plus manipulables ? Les positions les plus extrêmes s’affrontent. À l’heure de l’IA, est-il possible de raison garder ?
Par Thierry Boutet
Le débat agite les grands patrons de la tech, les politiques, les intellectuels et jusqu’aux autorités morales et religieuses. Le Pape lui-même, dans son discours au corps diplomatique le 9 janvier dernier, s’est inquiété que l’intelligence artificielle puisse être utilisée « comme moyen de manipulation des consciences à des fins économiques, politiques et idéologiques ». Pour lui, elle peut contribuer « au rétrécissement des perspectives mentales, à la simplification de la réalité, au risque d’abus, à l’anxiété et, paradoxalement, à l’isolement, en particulier par l’utilisation des réseaux sociaux et des jeux en ligne ». Il craint que « la technologie alignée sur des intérêts commerciaux et financiers engendre une culture de plus en plus consumériste. » Il n’est pas le seul à mettre en garde contre l’IA. Il se trouve des Cassandre dans tous les milieux. Elon Musk lui-même a mis en garde sur le risque d’une destruction de la civilisation humaine par l’intelligence artificielle. Il appelle, lui aussi, avec sans doute d’autres idées en tête, à une régulation. Geoffrey Hilton, considéré comme le grand-père de l’IA, Prix Nobel de physique 2024 « pour ses découvertes fondamentales et inventions qui ont permis l’apprentissage automatique grâce aux réseaux des neurones artificiels », considère lui aussi que l’IA fait peser sur l’humanité un risque existentiel. Il avait été précédé par Stephen Hawking, cité par Hariri dans son dernier livre Nexus, qui mettait en garde déjà en 2014, douze ans avant l’invention de ChatGPT, sur la possibilité d’une fin de l’humanité organisée par une IA super-intelligente. Certains vont même jusqu’à dire qu’elle annoncerait le transhumanisme ou une fin de l’humanité rendue totalement dépendante de lobbies aux mains de quelques hommes richissimes.
Là contre, d’autres comme Satya Nadella, PDG de Microsoft, nous promettent l’avènement d’un monde meilleur grâce à l’utilisation généralisée des agents en intelligence artificielle (agents IA). Elle promet, comme Aristote le disait déjà quatre siècles avant Jésus-Christ, qu’un jour peut-être « les navettes marcheront toutes seules ». Sans parler de la médecine et de la science, le travail des entreprises sera profondément modifié. L’intelligence artificielle générative pourra rechercher des candidats, les sélectionner et les embaucher. Elle analysera les dossiers, rédigera les contrats, prendra des notes dans les réunions, conduira des recherches complémentaires. Elle enverra des factures et des mails et gérera de A à Z le compte client, y compris pour une réclamation ou un problème de réception. Au téléphone, une voix leur répondra, dont il ne sera pas possible de discerner si c’est un humain ou un robot vocal (bot). Une immense réorganisation de l’emploi nous attend.
Dans nos familles, l’IA générative pourra gérer à peu près tout: sans parler des travaux domestiques qui commencent déjà à être robotisés à partir d’un smartphone, elle fera nos courses en ligne et commandera au livreur ce dont nous avons besoin. Dans les bouleversements à venir, il ne faut pas oublier l’éducation. C’est un sujet à part entière. Mais il faut savoir que l’IA est d’ores et déjà capable de passer avec brio des examens de médecine, avec de meilleurs résultats que les humains. Ces « progrès », certains en rêvent – Marc Andreessen par exemple. Ce grand patron de l’industrie technologique affirme dans The Techno-Optimist Manifesto que l’intelligence artificielle viendra enfin résoudre tous les maux de l’humanité: « Le développement de l’IA […], loin d’être un risque que nous devrions craindre, est une obligation morale que nous devons envers nous-mêmes et nos enfants. »
Cette intrusion dans le quotidien de nos vies professionnelles, familiales et personnelles soulève évidemment de graves inquiétudes éthiques. Vis-à-vis du système qui collecte la quasi-totalité des informations qui apparaissent sur la toile, nous serons transparents, comme nus.
Par ailleurs, l’intelligence artificielle pose – et ce ne sont pas les pires – d’improbables problèmes juridico-commerciaux. En effet, elle pille gratuitement tout ce qui est publié. Pour donner des réponses pertinentes, elle fabrique des synthèses sans donner ses sources. Les éditeurs de contenu é c r i t o u audiovisuel ne manquent pas de s’en émouvoir.
Enfin, des risques aussi existent dans le domaine politique. Marietje Schaake ancienne député européen d’origine néerlandaise, qui est depuis octobre 2019 directrice de la politique internationale au Cyber Policy Center de l’Université Stanford et travaille notamment sur la régulation des grandes entreprises du numérique, met en garde contre l’influence incontrôlée des GAFAM sur les institutions démocratiques. Pour cette chercheuse, ces grandes entreprises privées interviennent de plus en plus dans des fonctions normalement régaliennes comme la cybersécurité, les infrastructures militaires et même les processus électoraux.
Elon Musk lui-même a mis en garde sur le risque d’une destruction de la civilisation humaine par l’intelligence artificielle.
Meilleur des mondes ou apocalypse ?
Il est vrai que l’impact de l’intelligence artificielle et ses conséquences sur nos sociétés seront probablement beaucoup plus importants que ce que nous avons connus au moment de la première révolution industrielle au dix-neuvième siècle. Celle-ci a totalement déstructuré
les sociétés agricoles traditionnelles et réduit des masses énormes de petits salariés, hommes, femmes et enfants, à un quasi-esclavage. Car l’IA ne va pas seulement bouleverser nos modes de vie et nos manières de travailler; elle va simuler une forme de présence humaine à nos côtés et se comporter selon les codes « éthiques » de l’amour humain.
Elle pourra, si nous nous laissons abuser et en devenons addicts, nous déconnecter par une forme de projection anthropomorphique de la réalité, modifier en profondeur notre perception du réel et nous habituer à des relations qui ne seront plus marquées par les imperfections et les difficultés propres aux interactions h u m a i n e s . Car l’IA avec laquelle nous dialoguerons et à qui nous demanderons des services divers et variés, en raison des objectifs à long terme pour lesquels elle aura été programmée et entraînée, sera toujours « gentille », « serviable », « utile », « honnête » et jamais fatiguée !
Cette intrusion dans le quotidien de nos vies professionnelles, familiales et personnelles soulève évidemment de graves inquiétudes éthiques.
Elle pourra, après nous avoir fait la synthèse de la presse du jour et mis à chauffer notre repas, nous inviter poliment à table. L’intelligence artificielle peut ainsi devenir, comme l’écrit Hariri, « une sorte de super moi numérique ».
Il existe donc un risque réel d’asservissement de l’humain par l’IA. Comme l’écrivait dans Le Monde du 30 décembre 2021 Serge Tisseron, membre de l’Académie des technologies, du Conseil national du numérique et du conseil scientifique du centre de recherche psychanalyse médecine et société (CRPMS) de l’Université Paris-Diderot, par ailleurs responsable du Diplôme Universitaire « Cyberpsychologie » à la même université: « Les capacités d’auto-régulation, qui permettent à l’être humain d’organiser ses choix, risquent d’être elles aussi fortement impactées par la révolution des machines parlantes. La machine “sujetisée”, c’est-àdire partiellement perçue comme un sujet parce qu’elle est dotée d’une subjectivité artificielle, peut rapidement acquérir des pouvoirs de suggestion. Google, Amazon, Facebook et Apple – les fameux GAFA – ne cachent d’ailleurs pas leur ambition de faire de leurs enceintes connectées un cheval de Troie capable, non seulement de capturer nos données les plus intimes, mais aussi de nous faire accepter, à terme, d’autres technologies plus invasives encore, utilisant des avatars numériques, puis des robots physiques dotés de capacités “empathiques”. Au fur et à mesure que la voix de ces machines pourra être adaptée aux attentes et aux fantasmes de leurs utilisateurs, il deviendra de plus en plus difficile de leur résister. Ces machines pourraient alors se révéler non seulement de redoutables instruments pour manipuler les émotions, mais au-delà, les pensées et même les comportements d’une personne. »
Face à ces risques réels, sommes-nous, comme le pense Jonathan, à la veille de voir « un nouveau régime totalitaire réussir là où Hitler et Staline ont échoué et créer un réseau tout puissant capable d’empêcher toute tentative de la part des générations futures de ne serait-ce qu’essayer de dénoncer ses mensonges et ses fictions » (cité par Yuval Noah Harari dans Nexus, p. 15, Albin Michel)? Ou bien, peut-on encore espérer que nous maîtriserons l’intelligence artificielle, même si elle nous demande d’adapter nos
comportements et nos lois. Sans tomber dans un optimisme béat ni méconnaître les dangers de l’intelligence artificielle, est-il possible de raison garder?
Le pire n’est pas toujours certain
Comme l’écrit Hariri dans Nexus (déjà cité), « l’erreur, c’est de croire que plus on aura engrangé d’informations, plus ce stock nous mènera à la vérité et donc au pouvoir et à la sagesse vraie ».
Hariri parle de « vision naïve de l’information », c’est-à-dire celle qui soutient qu’en collectant et en traitant bien plus d’informations que ne pourraient le faire des individus, les grands réseaux permettent d’accéder à une meilleure compréhension de la médecine, de la physique, de l’économie et de nombreux autres domaines, ce qui les rendrait non seulement puissants mais sages.
L’idée que combat Hariri est que, « lorsque l’on recueille en quantité suffisante l’information, celle-ci mène à la vérité, laquelle mène à son tour au pouvoir et à la sagesse ». Pour lui, il ne suffit pas de collecter plus d’informations pour éviter les erreurs dans le traitement de l’information. Certes, un smartphone permet d’accéder à plus d’informations que la bibliothèque d’Alexandrie dans l’Antiquité et la capacité de disposer d’une multitude d’informations a permis aux hommes de mieux comprendre le monde et, dans bien des cas, de faire un meilleur usage de leur pouvoir: « Pourtant, écrit Hariri, malgré l’abondance des informations, nous continuons de déverser des gaz à effet de serre dans l’atmosphère, de polluer rivières et océans, de raser des forêts, de détruire des habitats entiers, de pousser d’innombrables espèces vers l’extinction et de mettre en péril les fondements écologiques de notre propre espèce, sans parler de la fabrication des armes de destruction massive. » L’outil, aussi fascinant soit-il, peut donc conduire au meilleur comme au pire par la manipulation qu’il permet et l’illusion qu’il peut susciter.
Il existe donc un risque réel de l’asservissement de l’humain par l’IA.
L’homme est la mesure de toutes choses
Cela posé, l’intelligence artificielle dont nous allons dépendre de plus en plus pour l’ensemble de nos activités nous réduira-telle à l’esclavage? C’est peu probable, car ce serait ignorer les caractéristiques p é r e n n e s de la nature humaine. Aucun ChatGPT et aucun modèle massif de langage (LMM) du monde ne pourra jamais acquérir la seule compétence qui soit propre à l’homme et qui dérive de son esprit. Une machine pourra trouver dans sa mémoire numérique que l’un d’entre nous, au XVIIe siècle, a écrit « Je pense donc je suis », mais elle ne pourra jamais admirer, s’interroger, douter, poser des questions. Ces dispositions natives de l’esprit humain, nous sommes seuls à les avoir. L’IA peut augmenter certaines de nos facultés cognitives, suppléer et augmenter nos mémoires défaillantes. Elle peut effectuer des tâches répétitives; elle peut même effectuer des opérations qui relèvent de cette faculté dite « cogitative » qui permet, en puisant dans la mémoire, de faire des rapprochements et d’anticiper des processus de façon quasi automatique. Là où l’intelligence artificielle nous augmente, c’est en réalité dans le domaine de la sensorialité. En revanche, elle n’accédera jamais à l’esprit qui est le propre de l’homme. L’intelligence artificielle ne peut être qu’une sorte de super-animal – et encore, elle ne ressentira rien. Elle ne pourra faire que semblant. L’esprit n’est pas que l’intelligence, c’est aussi le cœur et le cœur n’est pas que sensible. La liberté est une qualité de la volonté, comme l’enseignaient les Anciens, et en particulier Aristote. Cette liberté, pour de bonnes ou de mauvaises raisons, pourra toujours éteindre l’ensemble des serveurs du monde. Ce sera toujours l’être humain qui décidera où et comment utiliser les fonctions numériques qui seront dans l’avenir à sa disposition.
Bien entendu, certains chercheront grâce à l’intelligence artificielle à générer des superprofits ou des armes de destruction pour dominer le monde. La maîtrise de l’intelligence artificielle comme celle de l’atome conduira inévitablement à des conflits économiques, politiques et peut-être pires. Mais, parallèlement, tous ceux qui conçoivent des programmes d’intelligence artificielle ou qui les utilisent ne seront pas nécessairement mus par un esprit de lucre ou de domination.
L’esprit n’est pas que l’intelligence, c’est aussi le cœur et le cœur n’est pas que sensible.
Il est absurde de prétendre, comme Éric Sadin le disait dans Le Figaro du 9 février 2023, que les ingénieurs à l’origine des innovations et infrastructures qui portent l’intelligence artificielle « ne font que se soumettre à des cahiers des charges définis dans le seul objectif de générer des profits. ». Affirmer que la mentalité de ceux qui font fortune dans le numérique « procède d’une haine du genre humain, et ne vise qu’à substituer à nos corps et à nos esprits – de facto lacunaires – des technologies conçues pour assurer une organisation prétendument parfaite et hygiéniste de la marche générale et particulière du monde » est une généralisation outrancière (cité par Guy Mamou-Mani dans Pour un numérique humain, p. 149, Hermann éditeur).
Il est vrai que les immenses bases de données sur lesquelles repose l’intelligence artificielle vont nous surveiller et nous connaître individuellement, mieux parfois que nos proches. Ce n’est pas pour autant que nous serons soumis « au totalitarisme de l’industrie numérique capitaliste ». L’intelligence artificielle permettra aussi de mieux nous soigner, de mieux nous instruire et d’alléger encore davantage les fardeaux de la vie quotidienne. Mais c’est nous qui déciderons d’aller chez le médecin, c’est nous qui aurons ou non la rage de nous instruire, de lutter ou de rester couchés. Pour Yann Le Cun, professeur à l’université de New York, ancien professeur au collège de France, l’un des cerveaux de Meta, « une majorité de l’opinion craint que l’homme finisse dominé par les robots comme dans Terminator ou Black Mirror, mais c’est oublier ce qu’est l’homme: ce n’est pas l’intelligence qui se trouve au fondement du désir de domination. » Et il n’y a pas que des salauds sur terre ou des gentils sauvages pervertis pas la société, comme le croyait Rousseau.
Bâtir des systèmes informatiques ultraperformants ne signifie pas engendrer des volontés supérieures. Un grand patron ou un grand homme politique ne se définit pas seulement par sa mémoire, sa capacité de traiter des informations, mais par sa capacité à utiliser son intelligence pratique et spéculative et par sa volonté de la mettre au service de celle des autres, d’un Bien commun. Les machines, aussi performantes soient-elles, n’auront jamais l’intuition des situations, la capacité d’interpréter la prosodie humaine, de saisir une opportunité. Elles peuvent nous éviter des biais de raisonnement, nous aider dans nos décisions, nous rendre de multiples services. Les machines ne liront jamais entre les lignes ; e l l e s n e liront rien dans un regard ou dans un geste. En revanche, elles nous permettront peut-être d’éviter des erreurs et même de lutter contre les conséquences de celles-ci. Pour conclure, rappelons-nous qu’une guerre atomique peut détruire la planète et que l’explosion d’une centrale peut causer d’innombrables dégâts. Mais qui dira, en dehors de quelques écolo-utopiques que les bienfaits de la maîtrise de l’atome ne l’emportent pas sur les risques qu’il nous fait courir?
Les machines, aussi performantes soient-elles, n’auront jamais l’intuition des situations, la capacité d’interpréter la prosodie humaine, de saisir une opportunité.
L’IA peut être un outil d’asservissement; il peut être aussi mis au service du Bien commun, si nous le voulons. Le meilleur ennemi de l’homme sera toujours l’homme. La technologie, l’outil technologique sont dans sa main pour le bien ou pour le mal.
L’usage à venir de l’intelligence artificielle nous appartient. Mais ce n’est pas elle qui décidera de l’avenir de l’homme.
