Le phénomène ChatGPT et l'intelligence artificielle : l'Homme en évolution ou en révolution
Titre : Le phénomène ChatGPT et l'intelligence artificielle : l'Homme en évolution ou en révolution ?
Intervenants : Emmanuel Grimaud - Asma Mhalla
Lieu : CyberPouvoirs - France Inter
Date : 23 juillet 2023
Durée : 34 min 48
Page de présentation du podcast
Licence de la transcription : Verbatim
Illustration : À prévoir
NB : transcription réalisée par nos soins, fidèle aux propos des intervenant·e·s mais rendant le discours fluide.
Les positions exprimées sont celles des personnes qui interviennent et ne rejoignent pas nécessairement celles de l'April, qui ne sera en aucun cas tenue responsable de leurs propos.
Description
Asma Mhalla aborde le concept d’IA pour mieux démystifier nos paniques préfabriquées, pour sortir cette technologie d’une pensée trop souvent binaire. Accompagnée d'Emmanuel Grimaud, ils posent une question simple : à l'avenir, où se logera notre singularité d’humain face à la machine ?
Transcription
Asma Mhalla : Aujourd’hui on va parler intelligence artificielle, révolution ou évolution ?, sous forme de questions d’ailleurs, avec l’anthropologue Emmanuel Grimaud.
Emmanuel Grimaud, voix off : Ce qui est compliqué c’est de se projeter dans un monde où en fait il va y avoir autour de nous, ou qui vont rentrer dans nos cerveaux si vous voulez, des intelligences sans subjectivité, qui n’ont pas l’intelligence au sens où on l’entend et c’est strate-là qu’il va falloir accepter.
Asma Mhalla : Bonjour. Je suis Asma Mhlalla et mon job consiste à décrypter les nouvelles formes de pouvoir et de puissance qui sont en train de se recomposer actuellement autour de la question technologique. Chaque semaine nous allons nous plonger dans une grande affaire pour tirer méticuleusement le fil de cette histoire, lever le voile sur ce qui est en train de se jouer en coulisses, déchiffrer ensemble les enjeux politiques, géopolitiques qui s’affrontent et qui nouent le cœur de ces nouveaux jeux de pouvoir et de puissance de ce début de 21e siècle.
Aujourd’hui, la grande affaire c’est le phénomène mondial ChatGPT et les enjeux politiques invisibles de l’intelligence artificielle.
CyberPouvoirs sur France Inter, c’est parti.
Voix off : On arrive à faire des choses très intéressantes dans des domaines très particuliers : on fait du machine learning, du deep learning, des moteurs de règles, mais ce n’est pas de l’intelligence, en gros, on ne devrait pas appeler ça de l’intelligence artificielle parce que ça n’a rien d’intelligent.
Voix off : France Inter. Asma Mhalla. CyberPouvoirs.
Asma Mhalla : Fin 2022 le lancement de ChatGPT provoque un séisme mondial, ou presque.
Voix off : Cette technologie payante, 22 euros par mois, décrypte les textes mais aussi bientôt les images. Certaines professions l’utilisent déjà comme un super assistant, mais le risque n’est-il pas de remplacer nos ingénieurs, nos médecins ? Toutes les filières devraient bientôt être bouleversées par ce développement de l’intelligence artificielle.
[1]
Meta, anciennement Facebook, et Google lancent chacun leur intelligence artificielle, c’est pour eux le marché prioritaire. Le grand public a désormais un accès facile à une technologie complexe, mais surtout peu transparente.
Asma Mhalla : Quel est l’arbre technologique que l’arbre ChatGPT cache ? C’est en me posant cette question et, en fait, cette obsession que j’ai pour la démystification de mes objets d’étude, que j’ai préparé cette émission. Commençons par le commencement.
C’est par le prisme du phénomène mondial ChatGPT que l’intelligence artificielle est revenue par la grande porte dans le débat public. Elle est d’ailleurs souvent présentée comme une perspective, quelque chose à venir, à craindre, un fantasme. Or, d’après moi, le fantasme c’est précisément de croire qu’il y en a un, de fantasme donc. En fait, l’IA n’est pas un horizon, elle est une réalité matérielle, palpable, déjà omniprésente dans nos quotidiens avec parfois des moments d’accalmie, où on en parle moins, et parfois des pics, comme en ce moment, où on en parle beaucoup. Mais en fait, de quoi parle-t-on quand on parle d’intelligence artificielle ?
L’intelligence artificielle n’est pas une technologie à proprement parler, mais plutôt un domaine scientifique qui va prendre son envol à la fin de la Seconde guerre mondiale avec cette question lancinante qui va être posée par Alan Turing, l’un des grands chercheurs de cette question-là, qui est : est-ce qu’une machine peut penser ? En bref, l’IA est une discipline scientifique qui va avoir deux grands volets : d’abord son volet en termes de recherche fondamentale, c’est-à-dire comprendre le fonctionnement de l’intelligence humaine pour, peut-être, la reproduire, et un deuxième volet, celui de la recherche appliquée, c’est-à-dire trouver des usages, des cas d’applications pour résoudre des problèmes spécifiques à la place de l’homme. Et là vous avez pléthore de systèmes, d’outils, qui sont dopés à l’intelligence artificielle, par exemple ce qu’on appelle les IA génératives qui vont générer du contenu – texte, voix, code, images, musique ; vous avez des systèmes prédictifs qui vont prédire des résultats, par exemple des logiciels de police ou de justice prédictive ; vous avez aussi des systèmes de recommandation, c’est ce que vous allez retrouver par exemple sur les moteurs de recherche ou sur les réseaux sociaux ; vous allez avoir tout un tas d’outils d’aide à la décision, mais aussi ce qu’on appelle de la domotique intelligente, ces systèmes que vous allez mettre un peu partout chez vous pour vérifier que la nounou est rentrée à l’heure ou pour baisser votre chauffage quand vous êtes à distance ; et enfin vous avez les fameuses IA militaires, par exemple les armes autonomes, semi-automatiques, les drones, etc.
L’IA, en réalité, qu’on se le dise, est équivalente à ce qu’à été l’électricité en son temps. Elle est omni-usages, omniprésente, incontournable. Elle définit les nouveaux critères de production, de consommation, d’information, d’éducation, même de pratiques démocratiques. Elle est partout, elle est système.
Mais le point sur lequel je veux vraiment insister c’est que la question technologique a en fait toujours sous-tendu les luttes de pouvoir, elle a toujours été un véhicule de puissance, même le papyrus, en son temps, l’était ; pour notre époque ce sera l’IA.
Voix off : Coup de projecteur sur l’intelligence artificielle. L’homme en évolution ou en révolution ?
Asma Mhalla : La lutte se joue sur trois grands fronts, d’abord sur le plan géopolitique : la rivalité aujourd’hui entre États-Unis et Chine se joue notamment sur la question technologique et en particulier la domination de l’intelligence artificielle surtout à des fins militaires. Ces fameuses luttes de pouvoir se jouent aussi dans le champ idéologique. La technologie n’a de réelle valeur – à mon sen en tout cas parce que j’ai un prisme politique davantage que technique – en cela qu’elle encapsule des normes, donc une vision du monde. En gros, si je résume, celui qui détient la technologie en contrôle l’intention politique. Et enfin, le troisième champ de cette fameuse lutte des pouvoirs se pose sur une question philosophique qui est universelle. Je vous la soumets et je vous laisse d’ailleurs y réfléchir : qu’est-ce qu’un être humain face à des machines anthropomorphes, c’est-à-dire qui semblent simuler le comportement humain, qui semblent humaines ? Où se loge alors notre singularité d’Humains, avec un grand « H », et surtout, comment préparer cet avenir qui est par nature imprévisible ? Vous voyez le glissement : la question philosophique devient alors fondamentalement politique et tout le sens de mon travail est celui-là : déconstruire la propagande de l’intelligence artificielle et de la technologie en général pour mieux en mesurer l’impact, les promesses, les limites.
D’après moi, il nous faut vraiment calmer toutes ces paniques qu’on a préfabriquées autour du discours et des narratifs de l’intelligence artificielle qui, un coup, détruirait l’homme, un coup serait totalement l’avenir unique possible de notre progrès, parce que potentiellement la vérité se situera entre les deux. Il nous faut donc calmer ces paniques-là pour trier les vrais sujets des faux problèmes.
À travers l’IA, c’est nous-mêmes, nos choix, notre société que, dans le fond, on interroge. L’intelligence artificielle risque bien, en fait, de signer la résurrection du Politique avec un grand « P », mais à une condition et, pour cela, j’aimerais citer le philosophe Paul Virilio qui m’a beaucoup inspirée sur ces questions-là et qui disait que le progrès est devant nous à condition de dépasser sa propagande. Chiche ?
Face à ces nouveaux pouvoirs, ces cyberpouvoirs, que restera-t-il d’humain dans l’homme finalement ? C’est à cette question extraordinaire que nous allons nous attaquer avec Emmanuel Grimaud, chercheur au CNRS et anthropologue, qui est mon invité dans CyberPouvoirs aujourd’hui, sur Inter, et qu’on retrouve dans quelques instants.
Voix off : Les enjeux technologiques d’aujourd’hui, les enjeux politiques de demain. CyperPouvoirs sur France Inter.
Pause musicale : Dreams par Nuages.
Asma Mhalla : C’était le magnifique titre Dreams de Nuages sur France Inter. On continue notre exploration de l’intelligence artificielle dans CyberPouvoirs.
Voix off : CyberPouvoirs. Asma Mhalla sur France Inter.
11’ 55
Asma Mhalla : Je suis très heureuse de recevoir Emmanuel Grimaud dans CyberPouvoirs. Je suis d’autant plus heureuse de le recevoir qu’Emmanuel est anthropologue, directeur de recherche au CNRS ; sa discipline, essentielle, n’est pratiquement jamais convoquée pour participer au débat public quand on parle d’intelligence artificielle. Je trouvais donc essentiel de réparer cette erreur, d’avoir ce regard-là .
Emmanuel Grimaud, bonjour.
Emmanuel Grimaud : Bonjour.
Asma Mhalla : Je disais que l’anthropologie est très peu convoquée, a été très peu convoquée quand on parle d’intelligence artificielle avec toute cette hystérie autour du sujet au cours de ces derniers mois. Est-ce que vous pouvez commencer par nous expliquer ce qu’est l’anthropologie ?
Emmanuel Grimaud : L’anthropologie c’est un vaste programme. En fait, c’est une science humaine qui porte sur l’être humain et tout ce qui l’entoure, tout ce qui entoure l’être humain et qui rend possible la vie en société. Elle porte un regard global, elle essaie de faire l’inventaire des possibilités expérimentées par les humains, elle le fait dans le temps, elle le fait à l’échelle de l’évolution et aussi dans l’espace. Elle va regarder ce qui se passe dans la diversité des écosystèmes culturels.
Je dirais qu’elle est aujourd’hui dans une position qui est un peu une sorte de position de passerelle, qui est très intéressante, entre la Préhistoire, les neurosciences, l’histoire, la sociologie. C’est presque une position de synthèse. Pour penser ce qui se passe et c’est intéressant.
Asma Mhalla : Justement, appliquée à cette question qui nous a tous tellement mobilisés ces derniers mois, l’intelligence artificielle, avec tous ces débats auxquels moi-même j’ai pu participer beaucoup, qui étaient tournés toujours de façon simpliste et binaire – la fin de l’humanité, l’homme ou la machine, le progrès, la fin du monde, etc., tous ces enfermements-là – comment vous, de votre position d’anthropologue, comprenez-vous cette question de l’IA ? Est-ce que c’est, comme d’aucuns disent d’ailleurs, une rupture anthropologique, ou est-ce que c’est encore autre chose ?
Emmanuel Grimaud : Un paléoanthropologue, qui s’appelait Leroi-Gourhan, disait : « Chaque fois que l’humanité change d’outil, elle change un peu d’espèce ». Je crois qu’il avait raison. On est un peu dans ce moment-là qui est un moment, je pense, de grande expérimentation collective, un moment assez anxiogène pour les raisons que tout le monde connaît, crise écologique et tout ça, même vis-à-vis de la technologie. Je dirais qu’on entretient beaucoup d’anxiété par rapport à ça et c’est vrai qu’il faut regarder ça un peu sur la longue durée.
C’est une évolution, c’est vrai que c’est une révolution dans plein de domaines, mais si on regarde sur le temps long, si on regarde les choses depuis le silex jusqu’à l’ordinateur, on s’aperçoit qu’on externalise les capacités. C’est encore Leroi-Gourhan qui s’inquiétait beaucoup, à la fin de sa vie il faisait un peu de la futurologie, quasiment, il se demandait à quoi allait ressemblait l’homme futur, il disait : « Il y a un moment, si on externalise trop, comme ça, les capacités, en fait la technologie va se développer pour elle-même. La technique ne sera plus simplement un prolongement du corps, mais elle va se développer toute seule ».
Asma Mhalla : C’est-à-dire ?
Emmanuel Grimaud : Il prenait l’exemple des ordinateurs. Il disait « à un moment les machines vont se développer pour elles-mêmes, on va chercher à développer leurs propres capacités », indépendamment d’une véritable réflexion sur, je dirais, les machines comme extension de notre humanité.
Asma Mhalla : En gros, c’est un peu tout ce débat qu’on a et qui a été complètement, disons faussé, de l’innovation pour l’innovation, alors qu’initialement l’innovation était au service du progrès. Est-ce que ce sont un peu ces termes du débat que vous êtes en train de souligner, qu’on a perdu le sens de la finalité de ces développements technologiques ?
Emmanuel Grimaud : Oui. Une vision très positive de la technologie c’est d’y voir un outil d’émancipation et c’est effectivement un outil d’émancipation. Si on se place du point de vue des capacités, pour les capacités de mémoire, pour la recherche d’informations, l’intelligence artificielle c’est effectivement formidable.
Asma Mhalla : Ça permet de traiter des masses de données extraordinaires.
Emmanuel Grimaud : Ça permet de traiter des masses de données incroyables.
Après, est-ce que l’homme s’y retrouve dans tout ça ?, c’est une vraie question. Dans quelle mesure est-ce que ça peut devenir une forme d’aliénation aussi, créer de l’aliénation ?, c’est aussi une autre question. Il y a plein de questions, mais j’insiste là-dessus, je crois que c’est un grand moment d’expérimentation collective. On est à la fois tous un peu expérimentés, on le voit avec nos téléphones mobiles et tout, on fait tous les jours l’expérience de savoir ce que c’est que d’avoir une mémoire externalisée. Je ne sais pas si vous utilisez des générateurs d’images comme il y en a beaucoup aujourd’hui, même l’art se redéfinit, est obligé de se redéfinir. En fait partout où l’intelligence artificielle, d’une certaine façon, va pénétrer, tout va se réinitialiser, quelque part.
Voix off : France Inter. CyberPouvoirs. Coup de projecteur sur l’intelligence artificielle. L’homme, en évolution ou en révolution ?
Asma Mhalla : Nous sommes toujours accompagnés d’Emmanuel Grimaud, anthropologue pour continuer à explorer la question de l’intelligence artificielle.
Voix off : Des chercheurs ont branché GPT-3 sur un des robots les plus réalistes au monde. Grâce à GPT-3, le robot peut répondre aux questions qu’on lui pose : « The happy day of your life, do you remember that? — The happy day of my life was the day I was activated ». [2]
Asma Mhalla : Au sein de la communauté des grands technologues, notamment de la Silicon Valley, il semblerait qu’on veuille toujours continuer à essayer de faire rapprocher, ou converger, la machine de l’homme. Si jamais on y arrivait, quelle serait non pas la singularité de la machine, mais que-ce resterait-il de la singularité de l’homme ?
Emmanuel Grimaud : C’est vrai que cette singularité est un peu en train d’être bousculée, aussi bien du côté des recherches animales, parce que là il y a quand même une explosion de travaux qui montrent que les chats rêvent, que les plantes ont des formes de sensibilité, est-ce qu’il faut ça appeler sensibilité, on appelle ça la cognition végétale aujourd’hui.
Asma Mhalla : Végétale.
Emmanuel Grimaud : Cognition végétale, oui. Je dirais que dans tous les domaines il y a énormément de travaux qui, au contraire, contribuent, je dirais, à dé-singulariser l’humain, en tout cas à le repenser autrement, parce que nous nous sommes peut-être trompés à penser l’humain comme étant un étalon de mesure absolu de tout, au centre de tout, on sait quelles catastrophes ça a donné. Là on est train de changer de conception, c’est-à-dire qu’on regarde moins l’humain comme espèce singulière qu’on irait contraster par rapport à d’autres que comme un milieu. C’est important de le voir comme ça. Même les ingénieurs en intelligence artificielle considèrent que le cerveau est un milieu et que, d’une certaine façon, on nourrit les machines, on en est les hôtes, on abrite de l’intelligence qui va circuler, etc. Dans notre intelligence il y a des tas de mécanismes qui peuvent s’externaliser, s’exporter, on le découvre aujourd’hui avec les machines, c’est un grand moment de révélation. On se dit « ah, en fait l’intelligence ce n’est pas ce qu’on croyait, etc. ». Dans ce qu’on appelait intelligence il y a énormément de choses qui sont, en fait, des choses qui peuvent être automatisées, externalisées et puis il y a des choses qui ne le peuvent pas du tout.
Asma Mhalla : Comme quoi par exemple ?
Emmanuel Grimaud : Là où il faudrait peut-être situer la singularité humaine.
Dans l’histoire de l’intelligence artificielle il y a un grand moment d’espérance avec Alan Turing dans les années 50/60, je pense que les auditeurs connaissent un peu le test de Turing.
Asma Mhalla : Pouvez-vous nous l’expliquer rapidement, si d’aventure certains ne connaissent pas ?
Emmanuel Grimaud : On met une machine dans une pièce, un expérimentateur dans l’autre, et ils s’échangent des messages. Le but de la machine c’est de tromper l’expérimentateur sur le fait qu’elle est une machine ou qu’elle est un homme ou une femme. Le but de la personne c’est de deviner si elle a à faire à un être humain ou pas. La machine passe le test si, dans le dialogue, d’une certaine façon, la personne est trompée sur le fait que c’est une machine.
Avec Turing, dans les années 50, on croit à l’idée qu’on va pouvoir simuler un cerveau humain dans toute sa complexité, ses capacités, dans ses capacités symboliques de réflexion, de compréhension, etc. Après il y a un retour en arrière, un recul parce qu’on s’aperçoit que c’est totalement impossible, qu’il faut donc travailler à partir d’objectifs beaucoup plus simples. Tout ce qui émerge aujourd’hui jaillit de cette deuxième phase de l’IA, on est en fait dans la vraie vie, pas dans les médias ou les déclarations des ingénieurs de la Silicon Valley où on n’est pas forcément sur ce qu’on appelait de la symbolique. On est plus sur des objets concrets, plus simples qu’on peut automatiser, etc. En fait, quand on réfléchit, ChatGPT c’est très simple, c’est justement ça qu’il faut arriver à accepter. Ce qui est compliqué c’est de se projeter dans un monde où, en fait, il va y avoir autour de nous ou qui vont entrer dans nos cerveaux des intelligences sans subjectivité, des formes d’entités artificielles, mécaniques, qui n’ont pas de sensibilité, qui n’ont pas d’intelligence au sens où on l’entend, qui sont donc dépourvues de plein de choses. Je ne sais pas comment appeler ça, ce n’est ni humain, ni machine, en tout cas ce sont des intelligences sans subjectivité et c’est cette strate-là qu’il va falloir accepter.
Asma Mhalla : On continue cette exploration tout de suite sur France Inter.
Pause musicale : Maddy<3 par Yoa.
Asma Mhalla : C’était Yoa sur Inter. On continue la discussion super anthropologique avec Emmanuel Grimaud, anthropologue, dans CyberPouvoirs.
Voix off : CyberPouvoirs. Asma Mhalla sur France Inter.
25’ 58
Asma Mhalla : Vous étiez en train
