ChatGPT dans le texte

Titre : ChatGPT dans le texte

Intervenants : Alexandre Gefen - Yann Le Cun - Italo Calvino - Xavier de La Porte

Lieu : Émission Le code a changé - France Inter

Date : 9 juin 2023

Durée : 60 min

Podcast

Licence de la transcription : Verbatim

Illustration : À prévoir

NB : transcription réalisée par nos soins, fidèle aux propos des intervenant·e·s mais rendant le discours fluide.
Les positions exprimées sont celles des personnes qui interviennent et ne rejoignent pas nécessairement celles de l'April, qui ne sera en aucun cas tenue responsable de leurs propos.

Transcription

Xavier de La Porte : Dans l’épisode précédent, qui traitait de tout autre chose d’ailleurs, j’ai émis, en passant, l’hypothèse que la littérature nous avait préparés à ChatGPT. Il faut reconnaître que ça ne reposait pas sur grand-chose.
Et puis, voici que début mai, est paru un livre qui s’intitule ChatGPT et nous. Ce que ce titre ne dit pas, et qui fait toute l’originalité de ce livre, c’est que son auteur est un littéraire, un très respectable directeur de recherche au CNRS, du nom d’Alexandre Gefen, qui officie au Centre d'études de la langue et des littératures françaises. Il se trouve qu’Alexandre Gefen s’intéresse depuis longtemps au numérique, il code en plusieurs langages, dès 1999 il a créé le site fabula.org, dédié à la recherche littéraire, il dirige des thèses qui portent sur ces questions, et il suit depuis longtemps ce qui se fait dans ce champ vaste qu’on appelle les humanités numériques.
Là, j’ai compris que c’est exactement ce que je cherchais depuis novembre, depuis que ChatGPT a fait irruption dans nos vies, que des millions de gens se sont mis à converser chaque jour avec ce programme et que tout le monde s’est mis à se poser des questions sur les progrès réalisés par l’IA.
Je cherchais quelqu'un qui sache comment marchent ces IA génératives, mais qui regarde aussi ChatGPT pour ce qu’il est : une machine qui produit du texte, une machine mathématique qui se nourrit du langage humain et qui donne à lire du langage humain.
Parce que, au fond, beaucoup de ces questions qu’on se pose avec angoisse au sujet de l’IA – est-ce que ces machines pensent ? Est-ce que ces machines connaissent le monde mieux que nous ? Est-ce qu’elles sont capables de créer ? Est-ce qu’elles vont nous remplacer y compris dans des tâches qu’on croyait proprement humaines ? – eh bien la plupart de ces questions sont liées au langage. D’ailleurs, si on y regarde bien, les métiers qui sont directement menacés par les performances de GPT – depuis l’écriture de communiqués de presse, jusqu’à la programmation informatique, en passant par le sous-titrage par exemple – sont des métiers qui ont directement à voir avec le langage. Si on est ébéniste ou assistante maternelle, on est encore peinard quelque temps.
C’est donc avec cette idée en tête que j’ai demandé à Alexandre Gefen de venir passer un moment dans les studios de Radio France. Comment un spécialiste de la littérature et de son histoire regarde ces machines textuelles avec lesquelles nous allons devoir vivre ?
D’ailleurs, c’est comme ça que j’ai commencé la discussion, un peu abruptement, en lui demandant comment il vit l’arrivée de ChatGPT.

Alexandre Gefen : Moi, ça ne me surprend pas beaucoup parce que ça fait longtemps que mon métier c’est de faire parler des corpus, de faire parler le langage par le langage. L’idée que tout d’un coup la connaissance se mette à parler par elle-même, c’est un truc que j’ai vu venir. J’ai vu venir les outils en linguistique, j’ai vu venir les premiers outils statistiques qui permettaient d’interpréter des choses qui, autrement, étaient lisibles, j’ai vu venir les premiers réseaux de neurones qui permettaient de donner l’équivalent sémantique d’un mot à un autre, j’ai vu les premiers outils qui donnaient une sorte de synthèse des documents, de manière absolument spectaculaire, il y a déjà cinq/six ans. Tout cela est arrivé très progressivement, j’ai vu GPT, j’ai vu GPT-2, j’ai vu GPT-3, je me suis accoutumé, je me suis familiarisé. C’est aussi le moment où on a vu ces premiers assistants personnels qui vous parlaient, c’est le moment où on a vu les premiers GAN [Generative Adversarial Networks], les intelligences artificielles qui créaient les premières œuvres ; tout cela est donc arrivé assez progressivement.

Xavier de La Porte : Il a raison de le rappeler, Alexandre. Quiconque a suivi les évolutions de l’IA ces dernières années a plus ou moins vu venir ChatGPT. C’est important de se souvenir que tout cela ne vient pas de nulle part. D’ailleurs, ça permet d’expliquer certaines réactions qui, sinon, pourraient paraître un peu bizarres. Je pense, par exemple, à Yann Le Cun quand il était interrogé, en avril dernier, dans la Matinale d’Inter, lui, responsable de l’IA chez Meta, c’est-à-dire Facebook, lui qui est pionnier du réseau de neurones et un des papes de la discipline depuis 2012 au moins, quand on lui demande ce qu’il pense de ChatGPT, il ne trouve pas ça ouf.

Yann Le Cun, voix off : Au niveau de la science et de la technologie sous-jacente ce n’est pas du tout révolutionnaire, non. C’est facile pour des gens comme mes collègues et moi qui voyons ça des tranchées, pour nous c’est une évolution un petit peu naturelle. Ces systèmes de deep learning sont ce qu’on appelle des réseaux de neurones artificiels de très grande taille, on peut les entraîner sur des quantités de textes absolument énormes, mais le principe sur lequel ils sont basés c’est purement essayer de prédire la continuation d’un texte. Dans le texte avec lequel ils ont été entraînés il y a beaucoup de connaissance humaine mais qui est très superficielle. Ça ne comprend pas, par exemple, la connaissance du monde physique, du monde réel. Donc ces systèmes, d’une certaine manière, ont beaucoup moins de connaissance du monde réel que votre chat.

Xavier de La Porte : Je suis convaincu que Le Cun dit cela pas seulement parce qu’il est chez Facebook et que Facebook s’est fait voler la mise par OpenAI, la boîte qui a développé ChatGPT. Il le dit parce qu’il sait d’où ça vient et qu’il connaît les limites du truc. D’ailleurs, note pour plus tard, il faudra qu’on revienne sur cette question de l’ignorance que GPT a du monde physique et tout ça ; c’est rigolo cette histoire de chat.

Donc, je comprends le ton un peu blasé d’Alexandre, mais il y a autre chose dans ce qu’il dit, quelque chose qui n’est pas un propos d’ingénieur et qui m’interpelle. Au tout début de sa réponse, Alexandre a dit qu’il était d’autant moins surpris par GPT que son métier de chercheur sur la littérature c’est de faire, je cite, « parler le langage par le langage ». Je lui demande de préciser ce qu’il entend par là.

Alexandre Gefen : Pour nous, le fait de connaître le monde comme le fait ChatGPT non pas avec des concepts, mais d’abord avec du langage, avec des mots, des séquences de mots, des enchaînements de mots, c’était au cœur de notre métier, c’était totalement naturel.

Xavier de La Porte : Connaître le monde non par des concepts mais par des enchaînements de mots, c’est une très bonne définition de la manière dont fonctionnent ces IA comme GPT, mais qu’est-ce que ça veut dire vraiment ? Ça veut dire que si je demande à GPT, par exemple, qui est le général De Gaulle, il ne va pas aller chercher dans une base de données où seraient classés les grands personnages de l’histoire en fonction de leur rôle, de leur époque, etc., quand je lui demande qui est le général De Gaulle, GPT va chercher, dans l’immensité des données qu’il a accumulées, les mots et les groupes de mots qui, statistiquement, sont les plus probables d’apparaître en lien avec cette question. Évidemment je caricature, mais c’est quand même ça le principe. À aucun moment on ne passe par des concepts, à aucun moment on ne fournit à la machine un découpage du monde. On lui fournit juste des données textuelles en masse que ces modèles statistiques très complexes vont mouliner pour produire, en sortie, un autre texte.
J’ai du mal à comprendre comment Alexandre peut dire que pour des littéraires ce processus est, je reprends son expression, « totalement naturel ». Encore une fois je lui demande de préciser.

Alexandre Gefen : La génération de textes c’est un vieux rêve en littérature. La première machine à écrire automatique est dans Les Voyages de Gulliver de Swift, au début du 18e siècle.

Xavier de La Porte : Il en dit quoi ?

Alexandre Gefen : Il invente une sorte de truc qui s’appelle the machine qui va fabriquer des réponses sur tous les sujets, il le dessine, il y a un schéma, dans Les Voyages de Gulliver, de cette machine à écrire. C’est un mythe qui est encore plus ancien. À la fin du Moyen Âge, il y a cette légende, cette tête enchantée d’Albert le Grand, un philosophe scolastique qui avait l’habitude de répondre à toutes les questions de manière un petit peu formelle. Il y a l’idée de cette machine qui va répondre automatiquement aux questions et son disciple, Saint-Thomas d’Aquin, casse la machine.

Xavier de La Porte : Alors là, je ne sais pas du tout à quoi fait référence Alexandre. Renseignements pris, au 13e siècle, en Allemagne, a vécu un type auquel on a donné le nom d’Albert le Grand. C’était un moine dominicain mais c’était aussi savant total – philosophe, théologien, alchimiste, naturaliste – comme on pouvait l’être à l’époque. Albert a écrit d’immenses traités visant à recenser les savoirs de son temps. Dans un de ses livres, De Anima, De l’âme, il décrit une sorte d’automate de bois qui aurait été capable de répondre à tous les ordres. Dans les récits ultérieurs, il est raconté qu’Albert aurait essayé de construire cette machine, mais qu’elle aurait été détruite par un de ses disciples, Thomas d’Aquin dit-on, qui y voyait, dit-il, une diabolique.
On se fout un peu de la dimension légendaire de cette histoire, ce qui importe ici c’est que le rêve d’un automate savant est très vieux rêve, déjà présent au 13e siècle et qui a traversé ensuite les époques en passant donc par plein de trucs, dont le Gulliver de Swift.
Si GPT semble naturel à quelqu’un qui vit dans la littérature c’est parce que la machine à textes c’est un thème qui traverse les textes depuis longtemps. OK, mais est-ce qu’il n’y a pas un rapport plus théorique ? Là, Alexandre enchaîne.

Alexandre Gefen : Moi je suis né dans une culture critique qui était aussi celle du structuralisme, du formalisme dans lequel l’idée que le langage était un code était absolument naturelle. Je me souviens d’avoir lu des articles de Calvino sur littérature et cybernétique, déjà les métaphores passaient d’un champ à l’autre.

Xavier de La Porte : Là encore, il faut que j’arrête avec Alexandre. Italo Calvino je connais, auteur notamment de très beaux contes Le Baron perché et Le Vicomte pourfendu et d’un roman magnifique, Si par une nuit d'hiver un voyageur, qui est une sorte de jeu littéraire complexe où le lecteur se perd dans plein de débuts de romans dont il ne connaîtra jamais la fin. De Calvino je me souviens de ça. Mais qu’il se soit intéressé à la cybernétique, alors là, j’ignorais complètement. En effet, en cherchant un peu, les liens apparaissent. Dans Si par une nuit d'hiver un voyageur, Calvino parle d’une machine qui pourrait lire et écrire à partir de ce qu’elle a lu. C’est vrai que, sur le principe, ça ressemble vachement à ChatGPT et il écrit cela en 1979.

Italo Calvino, voix off : J’aime beaucoup monter des machines. Dans mes derniers romans je monte des machines très compliquées. J’espère qu’elles restent compliquées pour moi mais pas pour le lecteur.

Xavier de La Porte : Ce qui est plus intéressant encore c’est pourquoi Calvino pense à une machine comme ça. C’est parce que, depuis les années 60, il s’intéresse de près à tout ce que produit l’informatique à la fois matériellement mais aussi théoriquement. On voit ça dans une conférence qu’il a donnée à Turin en 1967 dans laquelle il cite les pionniers de l’IA et aussi les théoriciens de la cybernétique, Shannon, Wiener, von Neumann, Turing, etc.
Mais pourquoi cela intéresse-t-il un mec qui écrit de la littérature ? Parce que Calvino, comme beaucoup d’autres écrivains et théoriciens de son époque, voit la littérature comme un art de la combinatoire. Écrire un texte, c’est combiner avec des composants linguistiques. Et, s’il y a un truc que les machines permettent de faire, eh bien c’est la combinatoire. Donc, il n’y a aucune opposition théorique à ce que les machines puissent produire de la littérature.
Là, je commence à percevoir les liens fondamentaux entre littérature et ChatPT.
Il y a donc des écrivains qui, dans les années 60, avaient déjà réfléchi aux questions qu’on se pose aujourd’hui et y avaient même répondu. Et, pour quelqu’un comme Alexandre qui connaît cette histoire, tout cela est assez familier.
Il y a quand même une question : peut-être que les gens qui pensaient comme Calvino dans les années 60 étaient-ils particulièrement en avance sur la technique de leur époque ? Là encore, Alexandre me douche un peu.

Alexandre Gefen : Les méthodes fondamentales de ChatGPT datent des années 60. Le principe linguistique qui permet d’enchaîner un mot après un autre d’après un contexte, de comprendre que le sens d’un mot ce n’est pas une ontologie abstraite, ce sont d’abord les mots avec lesquels il apparaît, c’est un truc qu’on connaît, c’est un principe de linguistique statistique hyper-établi, dont on se servait tout le temps en fait.

Xavier de La Porte : C’est important ce que dit Alexandre : à la base de ces IA génératives de texte il y a un principe linguistique. À la base de ces machines mathématiques super sophistiquées, il y a une idée de la langue et cette idée c’est que le sens d’un mot n’est pas un truc clos, donné une fois pour toutes, une ontologie pour reprendre le terme d’Alexandre, mais le sens d’un mot dépend avant tout d’un contexte. Dès les années 60, certains sentent bien que c'est la statistique qui va permettre aux machines de déduire le sens d’un mot à partir de son contexte. Sauf qu’on n’a pas les machines pour le faire et que, jusque dans le milieu des années 2010, on patauge. On voit bien que tout cela n’est pas sans lien avec l’idée que Calvino, et plein d’autres, se font de la littérature : un art de la combinatoire que des machines vraiment puissantes pourraient pratiquer aussi bien que nous.
En fait, tout cela va ensemble et c’est super important de le rappeler pour amortir un peu le choc produit par ChatGPT et consorts. Tout cela a une histoire qui n’est pas seulement liée à l’histoire des maths mais qui est aussi liée à l’histoire de la littérature. On pourrait donc défendre l’idée que la littérature et son histoire nous ont préparés, de différentes manières, à la possibilité d’accueillir sans angoisse un truc comme ChatGPT.

Néanmoins, il s’est quand même passé plein de choses depuis les années 60 et il s’est passé plein de choses notamment ces dernières années. J’aimerais qu’Alexandre me dise si ChtGPT n’a quand même pas marqué une étape dans tout cela.

13’ 30

Alexandre Gefen : Il y a un progrès vraiment qualitatif qui tient, d’une part, au fait que son corpus d’entraînement soit si grand qu’il ait une capacité à parler de beaucoup de choses, donc qu’il donne l’impression d’avoir réponse à tout.
Il y a aussi un énorme saut qui tient au fait qu’il a été entraîné sur un modèle de questions et réponses et ça c’est un vieux truc : la questions/réponses, le dialogue, c’est un truc qui date de l’humanisme voire plus loin, du dialogue socratique. Il y a donc cette fausse convivialité, en tout cas cette projection qu’on fait vis-à-vis d’une sorte d’entité, de personne. Je passe mon temps à me demander qui parle, c’est ma grande question : qui parle ? Est-ce que c’est un logiciel ? Est-ce que ce sont des connaissances humaines ? Est-ce que c'est une entité autonome ?
Et puis le saut qualitatif c'est que c’est une intelligence artificielle qui a été domptée, qui a été extrêmement alignée, qui dit relativement peu de très grosses bêtises, c’est donc une intelligence artificielle qui a un discours, qui a une espèce de position sur le monde et qui ne vous renvoie pas seulement un truc burlesque de textes qui ne tiennent pas vraiment. Il y a des effets de cohérence, des effets de qualité qui sont assez frappants.

Xavier de La Porte : D’accord. Il y a quand même quelque chose de différent avec GPT. C’est intéressant qu’Alexandre insiste autant sur la forme, celle du dialogue notamment.
Justement, puisqu’on parle de forme, une question me taraude : à force de pratiquer GPT, j’ai l’impression, peut-être fausse, qu’entre 1000 textes je reconnaîtrais celui qui a été produit par GPT. Est-ce que c’est normal ?

Alexandre Gefen : On le reconnaît, mais la question est de savoir comment on le reconnaît. C’est le grand truc : savoir si on va pouvoir avoir des détecteurs de ChatGPT. En fait, ce n’est pas possible parce que le langage de ChatGPT c’est un langage moyen, cette langue qu’on a tous, chacun en partie, mais qui n’existe jamais dans sa globalité. ChatGPT parle la langue c’est-à-dire qu’il parle la moyenne de milliards et de milliards d’usages. C’est donc un langage super fluide, qui ne commet aucune faute d’orthographe, qui va toujours au plus petit commun dénominateur. En général, il va vraiment vers la manière la plus idiomatique de parler. Une première caractéristique, c’est l’hyper-fluidité, ce qui fait que la seule manière de le reconnaître serait de reconnaître un truc qui ne fait pas de faute.
Turing y avait déjà pensé. Lorsqu’il imagine le test, une des objections qu’il se fait à lui-même c’est « mais si le langage est trop parfait, le premier truc qu’il faudra faire pour tromper l’humain sera d’introduire des petites erreurs, des petites variations ». Pour le reconnaître, il faudrait donc mettre une espèce d’empreinte qu’il faudrait cacher comme dans les images, etc., en fait ça ne marche pas trop. Donc on ne peut pas le reconnaître, mais on le sent, c’est très dur à objectiver. Quand on l’a dans une copie ou quand on l’a dans un texte, on sent qu’il y a quelque chose et ça devient une métaphore. Dans Le Masque et la Plume, une autre émission de France Inter, je crois qu'Arnaud Viviant qui parlait d’un livre écrit avec ChatGPT, donc on sent un truc qui est un peu trop normal en fait.

Xavier de La Porte : C’est passionnant ! D’abord l’idée qu’on ressent une bizarrerie qu’on n’arrive pas à objectiver. Ça me fait penser à la série Real Humans : 100~% humain qui était géniale pour ça, parce que les robots Android qu’elle mettait en scène avaient une étrangeté très ténue, quasi indescriptible, ils étaient presque trop parfaits. Ils étaient étranges à force d’être trop parfaits.

Extrait de la série Real Humans : 100 % humain :
— Bonjour.
— Comment tu t’appelles ?
— Je n’ai pas encore de prénom.
— Tu ne veux pas manger quelque chose ?
— Non merci.
— Tu ne manges pas, mais tu veux peut-être de l’eau ?
— Quelques centilitres.
— Ça déchire.
— Comment tu as trouvé l’eau, Anita ?
— Ça déchire.
[Rires]

Xavier de La Porte : Deuxième chose passionnante dans ce que dit Alexandre : que Turing ait déjà envisagé cette objection dans les années 50. Son idée, on se souvient, le fameux test de Turing, c’est qu’une machine pourra être dite intelligente le jour où, quand un humain discutera par écrit avec une machine, il ne saura pas s’il converse avec un autre humain ou avec une machine. Turing disait donc que l’intelligence de la machine serait de simuler. Mais, pour simuler la langue humaine, Turing objecte qu’il faut que la machine fasse des fautes. La machine doit donc simuler aussi la faillibilité de la langue humaine. C’est très beau ! Donc, si ChatGPT est reconnaissable, c’est parce qu’il est trop normal et c’est parce qu’il n’est pas assez faillible dans son expression. Deux magnifiques paradoxes. Voilà pour la langue de ChatGPT.
Mais, Alexandre a dit tout à l’heure que GPT produisait un discours sur le monde. Un discours ce n’est pas simplement une langue, c’est aussi une manière de présenter les idées. Comment Alexandre décrirait-il cette manière ?

Alexandre Gefen : Il a été adopté un certain nombre d’attitudes rhétoriques, notamment c’est une machine qui dialectise en permanence le vrai, le faux, l’hypothèse, le contraire. Pour éviter, justement, qu’il prenne position sur des sujets un peu touchy genre l’avortement, la peine de mort, etc., on lui a appris à donner, toujours, un point de vue, puis l’autre, et ensuite à expliquer « de tout de façon je ne suis que ChatGPT, ce sont des questions morales qui concernent l’homme, ce n’est pas à moi de décider. » En fait ce n’est pas tout à fait vrai parce que, derrière, il y a une certaine idéologie. Néanmoins, et c’est là qu’il est assez bon, il sait montrer les deux faces d’une réalité, donc il sait articuler des connaissances qui peuvent être contradictoires.

Xavier de La Porte : GPT est dialectique. Ça c’est vrai. Mais, je ne vois pas très bien comment ça marche techniquement. Parce que si le modèle ne faisait que générer du texte sur la base de probabilités, il ne devrait pas être dialectique, il devrait s’en tenir à ce qu’est l’avis le plus fréquent, l’avis moyen, or, ce n’est pas le cas, enfin, pas toujours. Donc, comment GPT est-il devenu dialectique ?

Alexandre Gefen : La grosse valeur ajoutée par rapport aux modèles de langage, c’est l’alignement. Ça consiste à faire entraîner par des humains l’IA. En fait, on va le renforcer par des centaines et des centaines de milliers d’exercices, où ce sont des petites mains, recrutées en Afrique par une société qui s’appelle Sama, payées deux dollars – il y a eu une enquête très documentée là-dessus – qui vont dire « là c’est vrai, là ChatGPT se trompe, là il y a biais racial, là il n’y a pas de biais racial ». Il y a donc cette énorme masse de gens derrière, toutes les grosses IA ont toujours besoin d’un coup de pouce humain, et c’est dans cette mobilisation du travail humain que les gens d’OpenAI ont été très efficaces. Dans une brique dont on ne parle pas, qui est le PPO [Proximal Policy Optimization], qui est la manière dont, à partir d’un input humain, qui va dire « cette réponse sur la prise de la Bastille est vraie, est fausse, c’est une hallucination », on va généraliser. À un moment, la machine a une capacité de se renforcer par elle-même et de généraliser. Évidemment, tous ces travailleurs humains ne peuvent pas répondre à tous les sujets, à toutes les questions morales, à tous les cas., ils ne peuvent pas censurer tous les textes. OpenAI a été capable de développer un outil qui a permis de contrôler, en fait, l’ensemble des discours que va produire ensuite ChatGPT, ce qui fait qu’il est relativement fiable.

Xavier de La Porte : Là on comprend un truc essentiel. Dans ces IA, il y a de la génération de texte par probabilités. OK. Mais il y a plein d’autres choses qui entrent en jeu. D’ailleurs, dans une très bonne interview qu’il a donnée à L'Obs, le grand mathématicien Daniel Andler parle de chaos statistique pour décrire la manière dont fonctionnent ces programmes. C’est-à-dire que dans leurs modèles s’entrechoquent des règles statistiques. En l’occurrence, il y a la génération de textes par probabilités, mais il y a aussi le PPO qui vise à monter en généralités une correction et puis, sans doute, plein d’autres outils statistiques qui, donc, s’entrechoquent, pour filer la métaphore de Andler.
J’imagine qu’un architecte des réseaux de neurones hurlerait en entendant dire les choses de cette manière, en tout cas, c’est comme cela que je me les représente. Il sort donc quelque chose de ce chaos statistique.
Tout à l’heure, Alexandre a employé tout à l’heure le mot d’« idéologie ». Encore une fois, j’aimerais qu’il précise ce qu’il entend par là.

Alexandre Gefen : Il y a un premier truc à comprendre, c’est qu’une intelligence artificielle c’est de droite, par essence, dans le sens où c’est conservateur : ça produit du futur à partir du passé. Ça ne peut pas proposer une révolution, ça ne fait que proposer des réponses qui sont nourries par ce que les gens ont compris dans le passé. D’où le fait qu’elle soit très biaisée. Ce sont des IA qui sont entraînées sur des gros corpus du Web, des milliers et des milliers de forums. Elle a donc appris de tous nos biais, de toutes nos erreurs, de tous nos à priori. Elle est donc structurellement de droite.
En revanche, l’alignement est très orienté pour la recontrôler, la ramener sur des valeurs américaines, écolos, long-termistes, progressistes, défense des minorités. Il y a donc une espèce de grand écart entre ce que fait une intelligence artificielle, c'est-à-dire reconduire le passé, et l’option progressiste d’une société qui est pilotée par quelqu’un, qui est un contributeur au parti démocrate, qui est gay, végétarien, très progressiste. Mais sa base, sa source, est totalement biaisée et on s’en aperçoit encore parce qu’il y a des trucs qu’ils ne peuvent pas corriger. Un test très facile à faire : demander à ChatGPT de dépeindre un médecin, il dépeindra toujours un homme, même si 50~% des médecins sont aujourd’hui des femmes, ce sera un homme. Tous les à priori sur les représentations ont donc été emmagasinés, la plupart ont été corrigés, mais beaucoup de nos à priori, beaucoup de nos modes de pensée, y compris les plus satisfaisants, sont encore encodés dedans.

Xavier de La Porte : Donc, ce qu’on lit dans ChatGPT c’est le produit d’un tiraillement. Tiraillement entre ce que lui disent les données dont il se nourrit et ce que ses créateurs veulent faire de lui. Évidemment, parler de tiraillement c’est encore une caricature. Dans les faits, c’est beaucoup plus imbriqué, mais c’est important que le résultat soit le fruit d’une intention humaine.
Néanmoins, comme le dit Alexandre, ce n’est pas parfait. Ce qui voudrait dire que selon les questions qu’on lui pose, selon que les corrections ont été bien faites ou pas, ressurgissent, à certains moments, nos biais, nos préjugés et je trouve ça hyper-intéressant. En gros, on pourrait dire que GPT nous permet d’objectiver le tréfonds de ce que pense et croit l’humanité sans toujours se le formuler.

Alexandre Gefen : C’est la conscience collective de l’humanité. Plus on va avoir des corpus de textes anciens plus on aura une profondeur historique pour cet inconscient collectif. C’est l’inconscient et c’est aussi le savoir. S’il y a des choses qui ne nous plaisent pas ou qui nous troublent parce que c’est de l’inconscient, il y a aussi beaucoup de choses qui sont très bénéfiques, une capacité à synthétiser sur du savoir humain ; c’est un outil extrêmement efficace, intéressant, qui permet de contributeur à avancer des connaissances. Je pense qu’on ne peut pas réduire ça à une sorte d’impensé de la civilisation qui nous reviendrait dessus. C’est aussi quelque chose dans lequel il y a tout Wikipédia, dans lequel il y a beaucoup de livres, il y a vraiment une production de savoirs intéressants, souvent équilibrés et les résultats sont souvent très satisfaisants.

Xavier de La Porte : Oui. Mais alors là, un truc me pose question. Alexandre parle de production de savoirs. Mais est-ce qu’on peut vraiment parler de savoirs alors que ChatGPT ne sait rien ? ChatGPT ne sait pas que le ciel est bleu. ChatGPT a lu que le plus souvent le ciel était bleu, donc il dit que le ciel est bleu. Et, si on corrige en lui disant « quand il y a le mot « Angleterre » pas loin du mot « ciel », il est fort probable que le ciel soit plutôt gris ». Quand on lui dit ça, il n’apprend pas que le ciel est plus souvent gris en Angleterre, il introduit juste un nouveau paramètre statistique.
Je pose la question à Alexandre : est-ce qu’on peut, malgré tout, appeler ça du savoir ?

Alexandre Gefen : C’est cela qui est extrêmement troublant. En soi, il y a une vraie différence entre connaître le monde par le langage et avoir une représentation des connaissances, avoir une idée de la logique. ChatGPT ne sait pas ce qu’est un phénomène basique, qu’une balle tombe avec la gravité quand un enfant joue avec. Si on lui demande ce qui va se passer si on approche une aiguille d’un ballon, il ne répondra à question que parce qu’il a lu des milliards de textes dans lesquels il y a un ballon qui éclate lorsqu’on appuie avec une aiguille dessus, mais il n’a aucune idée de la physique qu'il y a derrière. Alors que nous humains, très tôt — il suffit d’avoir des enfants pour s’en rendre compte —, on a des idées un petit peu sommaires, mais relativement robustes, des fonctionnements, des causes et des conséquences.
En théorie il y a, d’un côté, le rêve d’avoir une IA logique, une IA qui aurait été capable de faire une vraie expertise, c’est toute la première ère de l’IA avant les années 2000, avant les réseaux de neurones et l’apprentissage automatique. Et puis une IA dont le principe est totalement différent qui, elle, ne fait qu’engranger des probabilités à partir de connaissances. On peut effectivement dire que ce n’est pas fiable, qu’il n’y a aucune connaissance du monde, qu’il n’y a aucun rapport à la vérité, il y a juste des probabilités statistiques. Sauf que, est-ce que vraiment savoir et écrire, comprendre et lire, c’est si différent que ça ? Est-ce qu’on ne peut pas, à partir du langage, trouver des choses qui soient quand même assez profondes.

Xavier de La Porte : OK. Ça voudrait dire qu’une entité qui n’a pas de corps, qui n’a jamais rien vu, rien entendu, rien senti, rien vérifié, mais qui aurait été nourrie seulement par des milliards et des milliards de textes pourrait être considérée comme connaissant le monde. C’est sûr que c’est troublant.
Quand j’entends cela, je me dis que c’est une croyance de littéraire. La croyance de quelqu’un qui a tellement confiance en la puissance du langage qu’il pense que le langage suffit pour connaître le monde. Je fais la remarque à Alexandre : tu dis ça parce que tu vis dans la littérature.

27’ 33

Alexandre Gefen : Non ! Parce que je pense qu’il y a beaucoup de vérité qui est encodée dans le langage. D’abord, la représentation que ChatGPT a du langage ce n’est pas seulement un truc de statistiques probabilistes, c'est une sorte de modèle très abstrait qui est presque un modèle de connaissance. Je vais donner un exemple, ce qu’on appelle la théorie de l’esprit en psychologie, c’est-à-dire la capacité à deviner comment l’autre se comporte dans des interactions ordinaires : je tiens la porte, tu passes ; s’il ouvre son sac ce n’est pas, en général, pour chercher un revolver mais pour chercher son carnet de notes et ça te permet de converser. ChatGPT, jusqu’à GPT-2, GPT-3, avait une théorie de l’esprit d’un enfant de neuf ans, c’était donc assez limité. Tu pouvais dire, effectivement, il y a un truc qu’il n’arrive pas à passer qui est la frontière de la psychologie humaine qui demande trop d’expérience, trop d’humanité, etc. Or, avec les dernières versions de GPT-3 et GPT-4, il y a eu un énorme saut et GPT est capable de te résoudre des tas de tests qui nécessitent une théorie de l’esprit assez avancée. D’où l’idée qu’il y ait une émergence, qu’il y ait un vrai saut, avec de telles masses de langage et une capacité à en faire quelque chose qui est tellement abstrait, qu’on arrive à choper beaucoup du savoir, beaucoup du savoir psychologique, beaucoup du savoir mathématique, beaucoup du savoir physique. À défaut d’avoir quelque chose qui serait une ontologie abstraite, qui assiérait les raisonnements sur une logique causale, on a quand même beaucoup de choses du raisonnement humain.

Xavier de La Porte : Alors là, c’est un peu dingue. En amassant des textes du langage, ChatGPT pourrait se fabriquer une sorte de théorie de l’esprit. Par exemple, savoir quand on essaye de le tromper, avoir des raisonnements logiques sans qu’on lui ait appris la logique, juste en l’ayant comme déduite de tout ce qu’il a emmagasiné grâce à des données faisant elles-mêmes preuve de logique. Au final, ça produit non seulement un savoir, mais ça produit une compréhension, y compris de comment nous pensons, comment nous raisonnons, sans jamais qu’on lui ait expliqué, au point qu’il est capable de le restituer. OK.
Je comprends et, d’une certaine manière d’ailleurs, on l’éprouve dans la discussion avec GPT, mais, encore une fois, c’est un savoir bizarre, comme le disait Yann Le Cun tout à l’heure : GPT en sait moins que votre chat sur la gravité. C’est un savoir sans expérience.

Alexandre Gefen : Oui. Sans aucune expérience. Sans aucun réel. Une grande partie des sciences se fait avec un rapport au réel quand même très distant. On peut dire qu’un astrophysicien qui modélise le cosmos a un rapport réel extrêmement distant, son langage c’est le langage mathématique et on s’est longtemps demandé quel rapport il y a entre le langage mathématique et la réalité des choses. Pour ChatGPT c’est le langage commun ou le langage scientifique qui est engrangé. Ce n’est pas si différent que le rapport très abstrait qu’une grande partie des sciences peut avoir avec le réel.

Xavier de La Porte : Alexandre n’a pas tort. C’est vrai qu’en sciences on a fait des découvertes par le pur raisonnement, avec des modélisations mathématiques, sans pouvoir les vérifier par l’expérience. Prenons l’exemple de l’existence des trous noirs. Ça a d’abord été une déduction à partir de données physiques sur la lumière notamment, avant, largement avant qu’on puisse en vérifier l’existence. Pourquoi refuser cette possibilité, cette aptitude aux IA ? Pourquoi ChatGPT ne pourrait pas déduire comment on raisonne sans aucune expérience ? C’est très troublant, d’accord, mais ce n’est pas impossible !
Encore une fois, je me demande si la manière très détendue dont Alexandre envisage cette possibilité n’est pas explicable par son rapport à la littérature.
Si on y réfléchit bien, c’est une des caractéristiques merveilleuses que des écrivains aient très bien analysés des sentiments qu’ils n’ont jamais éprouvés. Ou bien qu’ils décrivent des paysages qu’ils n’ont jamais parcourus, ni même vus. D’ailleurs, ça me rappelle une histoire racontée à propos de Blaise Cendrars. Blaise Cendrars est un écrivain, un voyageur hors du commun, personne mieux que lui n’a décrit les steppes enneigées de l'Oural jusqu’à la Sibérie ou les prairies d’Amérique, sauf qu’il mitonnait pas mal le Cendrars. Le livre par lequel il est devenu célèbre est un long texte qu’il a intitulé La Prose du Transsibérien et de la petite Jehanne de France, dans lequel il raconte son voyage par le Transsibérien. Mais, il y a de forts soupçons qu’il n’ait jamais pris ce train. Un jour, un de ses amis lui a demandé : « Blaise, est-ce que tu as vraiment pris le Transsibérien ? », ce à quoi Cendrars aurait répondu : « Peu importe, si je l’ai fait prendre à des milliers de gens ! ». On peut dire que Cendrars avait produit une expérience sans l’avoir éprouvée lui-même. Il avait sans doute lu beaucoup de récits de voyages, beaucoup discuté avec des gens qui l’avaient pris, et ça lui a suffi pour restituer, mieux que beaucoup d’autres, ce qu’est l’expérience de prendre le Transsibérien.
Donc, en effet, ce n’est pas une critique valable que celle qui consiste à disqualifier le savoir de ChatGPT parce qu’il n’est assis que sur aucune expérience du réel. La littérature, et tous les mythomanes du monde, nous l’ont appris depuis longtgens ; ça, c’est un nouveau point pour Alexandre.

Alors, je brandis un autre argument : l’IA simule, comme le disait Turing. Une IA ne sait rien elle simule le savoir ; une IA ne crée rien, elle simule la création ; une IA ne sent rien, elle simule le sentiment. Nous, les humains, on sait, on crée, on sent.

Alexandre Gefen : Mais nous aussi nous simulons. Nous sommes aussi des machines entraînées à réagir de manière automatique, en permanence, dans des situations linguistiques. On sait très bien que beaucoup de nos comportements sont réflexes, nos mots s’enchaînent dans notre bouche sans qu’ils soient pensés avant, ça fonctionne tout seul, ça se déroule tout seul. Est-ce que les neurones cérébraux et les neurones artificiels c’est exactement la même chose ? Sans doute pas. Néanmoins, le fait que ça s’enchaîne tout seul, sans planification, vérification, c'est une évidence, sinon, si je devais tout planifier et tout préparer phrase après phrase, il n’y aurait pas cette émission de radio.

Xavier de La Porte : Pas faux ! Encore une fois, Alexandre me trouble. C’est vrai que si on s’en tient à la production du langage, nous aussi nous simulons beaucoup. Nous aussi, à notre manière, nous sommes des machines à générer du langage. Nous aussi, nous faisons des enchaînements de phrases un peu automatiques à partir de ce qu’on sait, de ce qu’on a déjà entendu, de ce qu’on vient de nous dire, d’ailleurs, on appelle ça des phrases toutes faites. Est-ce que ce type d’énoncés, qui ne sont pas vraiment ressentis, qui ne sont le produit d’aucune d’émotion, ont la même force que quelque chose qui a été vécu ? Autrement dit, est-ce qu’on peut dire que GPT ressent même s’il ne fait que simuler le fait qu’il ressent?

Alexandre Gefen : Oui. C'est le paradoxe du comédien : est-ce qu’il vaut mieux connaître tous les codes de l’émotion ou la ressentir vraiment pour la faire passer au public ? On ne cesse pas d’hésiter dans le théâtre. Donc oui, d’une certaine manière. Il sait suffisamment de choses du savoir humain pour sentir sans sentir.

Xavier de La Porte : C’est abyssal. On pourrait donc atteindre ce point où une machine simule tellement bien qu’elle produit du réel. Elle peut sentir sans sentir, comme dit Alexandre. Mais, encore une fois, c’est intéressant qu’il aille chercher de la littérature pour le comprendre. Parce que, dans le Paradoxe sur le comédien, Diderot se pose exactement cette question : le bon comédien, celui qui fait ressentir le mieux les émotions au public, est-ce que c’est celui qui les ressent lui-même ou celui qui, les connaissant, est capable de les reproduire sans avoir à les ressentir ? À cette question, Diderot répond que c’est le second qui est le meilleur comédien : il fait exister de l’émotion non par la sensation mais par la connaissance. Le bon comédien est un être de savoir et de raison, une sorte de machine donc.
Et voilà ! Je fais remarquer à Alexandre que c’est encore dans la littérature qu’il trouve des éléments de compréhension de GPT. Là, je lui lance un défi : en fait, les écrivains ont déjà réfléchi à tout cela.

Alexandre Gefen : Oui. Toute une série de grandes questions posées par l’IA ont été pensées un tout petit peu avant OpenAI ; la question du remplacement du travail est posée chez Aristote.

Xavier de La Porte : Comment est-elle posée ?

Alexandre Gefen : Aristote explique que la seule manière de casser les liens de dépendance et de violence entre celui qui travaille et celui qui fait travailler ça serait d’avoir des robots automatiques. En fait, on n’a jamais cessé d’imaginer que la matière s’anime. On met ça en scène dans les temples égyptiens avec des têtes animées pour désigner un pharaon. On a des gardiens de temples en métal dans l’Iliade. On n’a jamais cessé de fantasmer sur le fait de transférer des capacités humaines à la matière inanimée et vice-versa. La littérature et l’art servent à répondre à des questions auxquelles on ne sait pas répondre autrement.

Xavier de La Porte : Ce qui est quand même génial c’est que GPT, étant nourri par la pensée humaine véhiculée par les textes, eh bien on peut supposer qu’il a intégré toutes ces réflexions très anciennes sur les automates, sur la matière inanimée et que, peut-être, ça l’aide à répondre aux questions que, sans cesse, on lui pose sur lui-même. Il porte en lui nos angoisses quant à ce qu’il est lui-même. Il sait ce qu’on pense de lui. C’est assez dingue !
Mais pourquoi se pose-t-on ces questions depuis aussi longtemps ? Je comprends que la question de la machine et de notre cohabitation avec elle soit omniprésente dans la science-fiction depuis ses débuts parce que la science-fiction a pour fonction d’imaginer les futurs possibles. Mais c’est étonnant qu’Alexandre trouve dans la littérature et la philosophie, même très ancienne – parce que l’Iliade ou Aristote et ça ne date pas d’hier – cette réflexion sur les machines et les intelligences techniques. Pourquoi est-ce que ça traverse autant l’histoire de la pensée ?

Alexandre Gefen : Parce que ça repousse en permanence la frontière de ce qu’est la définition de l’homme. Est-ce qu’on peut définir l’homme comme un animal qui parle à partir du moment où on fait parler autre chose ? Est-ce que l’homme c’est quelqu’un qui imite, comme disait Aristote au début de la Politique ? Depuis quelques années on a à la fois l’écologie, la liste des animaux qui nous montrent que loin d’être un matériau sans âme et mécanique, comme l’aurait voulu Descartes, la nature et les animaux sont capables de langage. Il n’y a pas très longtemps un article est sorti sur le fait que les chimpanzés auraient des éléments de syntaxe, qu’ils soient capables d’humour. À Kyoto, j’ai vu des singes contempler le coucher de soleil, donc un sens esthétique. Quel est le vrai point qui fait la différence entre la vie artificielle, la vie animale et la vie humaine ? Là, effectivement, on se dit que ce que l’IA n’a pas c’est peut-être le sensible, c’est l’expérience, mais bientôt ça sera interfacé à des outils de vision, à des outillages de son, donc la sensibilité arrivera. À chaque fois, on devra se poser, à nouveau, la question de l’originalité, de la spécificité humaine.

Xavier de La Porte : Ce rapport entre les animaux, les machines et de la place qu’il reste à l’homme entre les deux, c’est une question absolument passionnante. C’est vrai qu’à partir du moment où on découvre aux animaux des compétences qu’on attribuait uniquement à l’homme, on se demande ce qui nous distingue vraiment d’eux.
De l’autre côté, on développe des machines qui ont aussi des aptitudes qu’on pensait nous être spécifiques, donc il nous reste quelle place ? En fait, ça travaille les écrivains depuis très longtemps. L’écrivain Mark Alizart parle d’ailleurs de failles narcissiques. Il dit que l’humanité a connu plusieurs failles narcissiques : une en découvrant que la Terre n’était pas au centre de l’univers, une autre quand elle s’est aperçue que ce n’est pas la raison qui nous dirige mais l’inconscient, et une autre, aujourd’hui, avec des machines qui sont en passe de nous dépasser dans plein de fonctions.
Il faut noter que l’angoisse n’est pas également partagée selon les pays et les cultures. Par exemple récemment, et ça a étonné un peu tout le monde, le gouvernement japonais est intervenu pour dire qu’il fallait arrêter de s’inquiéter de l’IA, qu’il ne fallait pas de moratoire ou d’autres trucs. Eux, les Japonais, ça ne les panique pas. Pourquoi ? Sans doute parce qu’ils sont moins soucieux de la spécificité humaine, en tout le cas ils ne se la formulent pas dans les mêmes termes.
Dans les années 50, par exemple, en observant comment les grands singes inventaient des savoirs et les transmettaient, ils ont été les premiers à admettre qu’il y avait une culture animale, parce que ça ne les choquait pas que d’autres vivants que les humains soient des êtres de culture. Dans les années 90, ils ont été les premiers à se lancer dans la robotique avec des robots humanoïdes, parce que ça ne les gênait pas, les Japonais, que des robots ressemblent à des humains. Le rapport aux machines est toujours à mettre en regard avec une manière de concevoir l’humain et sa place parmi les autres entités, vivantes ou pas.
Mais bon ! Alexandre n’est pas japonais. Je me demande comment il fait, lui, pour regarder avec autant de sérénité l’apparition de ces entités nouvelles.

40’ 17

Alexandre Gefen : Ce n’est pas comme si l’IA était quelque chose qui venait d’une autre galaxie, c’est nous qui l’avons créée, elle est entraînée avec nos textes, c'est une extension de l’humanité. Se demander si une extension de l’humanité est plus ou moins humaine ne m’empêche pas de dormir. L’IA ne marche pas si tu n’as pas des câbles, de l’électricité, des logiciels, c’est nous-mêmes qui fabriquons tout cela, à notre mesure ou à notre démesure.

Xavier de La Porte : D’accord mais quand même ! Un peu plus tôt dans la discussion, Alexandre a parlé d’émergence. Il a dit qu’une forme de théorie de l’esprit semblait avoir émergé dans les IA sans qu’on leur ait jamais apprise. Si on considère qu’il y a une émergence, que peuvent sortir de ces IA des choses qui n’ont pas été prévues, qui n’ont pas été modélisées, qui n’ont pas été maîtrisées, cela, quand même, ça change quelque chose.
Il y a quelque temps, je discutais avec une spécialiste de la traduction automatique. Elle me parlait de ce qu’on appelle les modèles multilingues. En gros, pour aller très vite, jusqu’à il y a deux/trois ans on entraînait les réseaux de neurones en leur filant des corpus de textes traduits d’une langue à l’autre. Depuis, on est passé à ce qu’on appelle les modèles multilingues. Ce ne sont plus seulement deux langues qu’on fait ingurgiter à la machine, mais des dizaines. Chacune de ces langues a des corpus traduits avec une ou plusieurs des autres langues, mais pas forcément avec la totalité. Ce qui est incroyable, c’est que des machines arrivent traduire très correctement des langues qui ont très peu de textes traduits de l’une à l’autre, en se servant des autres langues. Quand j’ai demandé à la chercheuse comment font ces modèles, elle m’a répondu, en gros, « eh bien, on ne sait pas vraiment ! ». On ne sait pas s’ils passent par l’anglais ou s’ils se sont fabriqués une sorte de représentation de la langue qui leur permet de passer d’une langue à une autre. Moi, je trouve ça dingue. Il y a là, il me semble, quelque chose qui contredit un peu ce qu’Alexandre vient de dire. OK, les IA sont nourries de notre savoir et fabriquées par notre savoir, mais ce qu’elles font avec ça est-ce que c’est encore humain ?

Alexandre Gefen : Ce sont des types de calculs qui sont tellement complexes qu’on ne peut plus les retraduire en langage humain. Ce sont des milliards et des milliards de matrices, on ne sait plus comment elles voient le monde. C’est là où il y a effectivement quelque chose d’un peu énigmatique, quelque chose d’un petit peu troublant. On suppose que les IA ont une sorte de langue des langues, une langue qui comprend les mathématiques, qui comprend la théorie de l’esprit, etc., mais elle est tellement complexe qu’on ne peut plus la lire par nous-mêmes. C’est là où il y a effectivement des possibilités d’émergence d’une certaine connaissance si abstraite, si méta, qu’elle ne nous est pas directement accessible.

Xavier de La Porte : Je conclus de ça qu’il y a quelque chose qui émerge, qui nous échappe un peu. D’ailleurs, c’est très beau quand on y réfléchit : GPT se nourrit de nos textes, mais il produit une représentation du monde qui est trop complexe pour qu’on la lise, parce qu’elle est faite essentiellement de données, de tellement de calculs qu’on ne peut pas retracer exactement le chemin qui le mène au résultat. Ces IA, donc, nous lisent, mais elles sont illisibles pour nous. Ça pose à nouveau la question de la spécificité humaine dont on parlait tout à l’heure, mais ça pose aussi une question très concrète : on fait quoi, nous, si les machines font mieux que nous des trucs qu’on a toujours faits, comme traduire par exemple ? Quel traducteur peut traduire à peu près correctement, et en quelques secondes, un texte du français à l’anglais puis au russe, puis au bambara, puis au javanais, etc. ? Moi je n’en connais pas. La question qui se pose est la suivante : est-ce que plein de métiers vont simplement consister à écrire à l’IA le bon prompt, à savoir la guider, y compris pour les métiers de la création comme on commence à le voir aujourd’hui avec, par exemple, les illustrateurs. Bien sûr, quand on demande aujourd’hui à GPT d’écrire de la fiction, c’est impressionnant, mais ce n’est pas dingue. Néanmoins, on se dit que ça pourrait le devenir vite et que, dans ce cas, il suffirait peut-être de savoir faire un bon prompt pour avoir un bon texte ou un bon scénario. Et il me semble que c’est quand même une rupture. Pour Alexandre, pas autant que ça.

Alexandre Gefen : Si tu vas dans un atelier de la Renaissance, tu ne vas pas voir Véronèse tout peindre lui-même. Les grands peintres des ateliers sont des gens qui donnaient les ordres, qui faisaient quelques esquisses, qui ordonnaient une machine. Tu vas dans un tournage de film, tu as 600 personnes pour faire un film. Le réalisateur c’est quelqu’un qui va orchestrer.
L’idée qu’on soit l’artiste des artistes, le méta-créateur ou le méta-écrivain, qu’on fasse juste du prompt, c’est une idée qu’on connaît aussi dans nos cultures de l’art qui ne sont pas réductibles à l’inspiration solitaire de l’écrivain dans sa tour d’ivoire.

Xavier de La Porte : Difficile de le contredire à nouveau. OK. Mais est-ce qu’il n’y a pas le même problème dans la création que dans le savoir ? Parce que, pour générer de la fiction ou des images nouvelles, les IA ne peuvent compter que sur ce qu’il y a dans leurs bases de données. On voit mal comment ça peut créer quelque chose d’original. Je pose la question à Alexandre. Encore une fois, il me renvoie à la manière dont nous, les humains, nous créons.

Alexandre Gefen : La question c’est comment on crée du nouveau. Est-ce que le nouveau c’est simplement le fait d’avoir accumulé des milliards de lectures et que notre expérience, c’est-à-dire quelque chose relevant un petit peu du hasard, fabrique quelque chose de nouveau à partir de cette sédimentation de tout ce qu’on a lu ? C’est une hypothèse. Ce n’est pas comme si les écrivains nus comme ??? [45 min 40], l’écrivain inspiré par sa vocation recevant ses idées directement d’un dieu psychopompe. Il y a une vision inspirée de l’écrivain, mais il y a aussi une vision de la littérature comme travail, de la littérature comme simple accumulation du savoir passé. En fait, l’idée que l’écrivain fabrique du nouveau par inspiration c’est une idée très marginale dans l’histoire culturelle, elle date du 19e siècle ; pour un classique, on ne fait que réécrire un fonds culturel, un peu différemment, en l’adaptant à son époque, mais tout est déjà écrit.

Xavier de La Porte : C’est vrai. L’originalité, c’est une idée qui date, en gros, du 19e siècle, qui, d’ailleurs, n’est pas partagée par toutes les cultures du monde. Et, dans les faits, ce n’est pas toujours vérifié. Quand est-ce qu’on lit un roman vraiment original ? Pas tous les jours. Donc, si on considère que, comme dans la littérature classique, on ne fait que réécrire ce qui a déjà été écrit avec quelques variations, on ne peut pas critiquer en théorie ce que fait ChatGPT. On peut juste dire que ce n’est pas encore à la hauteur des variations produites par un humain, mais bon ! En théorie, les IA peuvent être des auteurs aussi intéressants que les humains.
Jusqu’ici Alexandre a été super rassurant. Il a réponse à toutes mes objections et j’avoue que je suis en passe de devenir aussi serein que lui. Mais bon ! Il faut quand même évacuer un truc. J’aimerais savoir s’il n’est pas, malgré tout, un peu inquiet, s’il n’y a pas quelque chose qui le questionne.

Alexandre Gefen : Ma question c’est une question très concrète c’est de savoir dans quelle mesure ChatGPT n’entraîne pas une paresse qui peut être très dangereuse. Tous les outils nous rendent paresseux : on a toujours fabriqué des outils pour nous aider, pour nous augmenter, etc. Lorsque les outils numériques sont arrivés, c’est Google qui a remplacé notre mémoire, Google Maps qui a remplacé notre sens de l’orientation. Avant c’est la calculatrice qui a remplacé notre capacité à poser des équations complexes. On a accepté le fait que ça soit remplaçable. De fait, moi j’ai perdu la mémoire. Je connaissais des poèmes par cœur à l’époque où il n’y avait pas Google, ce n’est plus le cas, maintenant je me sers de Google pour retrouver des textes. La question c’est que se passe-t-il lorsqu’on externalise des capacités de synthèse, d’analyse, de récit, des capacités d’écriture qui vont toucher à la fois à la clarification des connaissances, aux capacités rhétoriques ? Est-ce qu’on n’a pas un danger de paresse cognitive en fait ? Et c’est ma grande question : dans quelle mesure ne risque-t-on pas d’avoir des gens qui vont faire de très belles lettres de motivation, de très bonnes dissertations aidées par ChatGPT, qui vont être de très bons ingénieurs du prompt, mais, lorsqu’ils devront le faire sans outil, ils ne pourront plus le faire ? Est-ce qu’on imagine un monde où on aura toujours ces outils rédactionnels, dans ce cas-là on ne saura plus rédiger, on ne saura plus synthétiser et les outils le feront ? Ou est-ce qu’on doit considérer que les compétences argumentatives, les compétences d’analyse sont des compétences fondamentales sur lesquelles il ne faut pas lâcher ?

Xavier de La Porte : En entendant cela je me dis « évidemment, il ne faut pas lâcher ! ». Et après je me dis mais « pourquoi ne faudrait-il pas lâcher ? ». Est-ce que la calculatrice nous a rendus plus mauvais en maths ? Pas forcément. Sauf que là, avec les IA génératives de texte, on touche à la capacité à écrire et à parler et cela c’est tout autre chose. Ça me fait penser au dernier épisode de l’adaptation cinématographique de La Planète des singes. Dans ce film, les singes sont dotés d’un langage complexe et, pour certains d’entre eux, de la parole, et les humains sont menacés. C’est d’ailleurs ce que raconte l’un d’entre eux, un humain particulièrement sanguinaire, il parle au chef des singes qui l'accuse d’être sans pitié avec les malades.

Extrait de La Planète des singes : Vous êtes beaucoup plus forts que nous, quoi que tu en dises vous finiriez par prendre notre place, c’est la loi de la nature, alors que c’est nous qui vous avons créés. Il y a dix mois, j’ai envoyé des patrouilles de reconnaissance chercher ta base, mon propre fils faisait partie d’une de ces patrouilles. Un jour, tout à coup, il est devenu muet. L’infirmier à qui ils l’avaient confié est de devenu muet lui aussi. Leur médecin avait une théorie, un peu avant de venir muet. Le virus qui a bien failli nous exterminer, ce virus aurait changé et, s’il venait à se répandre, il pourrait détruire l‘humanité cette fois définitivement. Pas parce qu’il nous tuerait mais parce qu’il nous priverait de tous les dons qui font de nous des humains : le don de la parole et de la réflexion. Il ferait de nous des animaux. Alors toi qui parles de pitié, qu’est-ce que tu aurais fait ? Toute l’histoire de l’humanité n’a mené qu’à ces instants. Si nous perdons, nous aurons été les derniers de notre espèce.

Xavier de La Porte : On n’en est pas là, heureusement, mais on peut se demander ce qui se passerait si on se mettait à déléguer aux IA toute une partie de nos capacités à parler ou à écrire, parce qu’elles le font mieux que nous. Dans un texte qu’il a écrit récemment pour The Economist, Yuval Harari, l’auteur du best-seller Sapiens : Une brève histoire de l'humanité, dit un truc assez intéressant, il dit que la démocratie c’est de la discussion, c’est du langage, la preuve quand on fait la loi, on écrit les textes de loi. Il dit que si on ne sait plus si on parle à des humains ou à des machines et si on délègue la parole aux machines, c’est la fin de la démocratie.
Je demande à Alexandre ce qu’il imagine comme conséquences démocratiques, au sens large, à la paresse linguistique dont il parle.

Alexandre Gefen : Ne plus savoir par nous-mêmes mettre en valeur nos arguments et convaincre et avoir besoin d’une IA pour le faire, pourrait effectivement entraîner une société à deux vitesses : ceux qui pourront payer ChatGPT plus, qui l’auront sur leur smartphone, ceux qui ne pourront plus payer, ça pose toute une série de questions.

Xavier de La Porte : En même temps, c’est aussi un truc démocratique parce que tout le monde est rehaussé par la capacité de produire du texte, du beau texte, du texte argumenté par ChatGPT.

Alexandre Gefen : C’est anti-Bourdieu, ça casse la frontière de la connaissance symbolique qui va être effectivement une limite, qui fait qu’un CV de quelqu’un qui ne sait pas bien faire son CV ne va pas être bien reçu. C’est absolument passionnant de ce point de vue-là.

Xavier de La Porte : OK, c’est passionnant, mais que fait-on ? On régule les usages ? On fait des moratoires ? On voit bien qu’il y a en ce moment une immense hésitation dans l’attitude à adopter. Alexandre opterait pour quoi ?

Alexandre Gefen : On sait trouver des points d’équilibre avec la technique. Regarde la calculatrice : on n’a pas renoncé à apprendre un petit peu de calcul mental à nos enfants, on n’a pas renoncé à leur faire tracer des graphes sans la fonction grapheur de la calculatrice, on a imaginé un dispositif dans lequel il y a un bouton qui permet d’éteindre les calculatrices lors des examens, en même temps on sait les faire utiliser pour résoudre un certain nombre de problèmes complexes. Je pense donc qu’on imaginera des solutions pour s’accommoder, pour vivre avec ChatGPT sans trop perdre de nos capacités fondamentales.

Xavier de La Porte : D’accord. Mais quand même, une calculatrice et ChatGPT, ce n’est pas exactement la même chose. ChatGPT dit « je » et, quand on lui parle, on parle d’une personnalité, on a une relation avec lui qu’on n’a pas avec la calculatrice, donc, il faudra lui trouver un statut. Il faudra bien statuer sur ces entités que sont les IA et c’est un problème qu’on ne se pose pas avec les calculatrices.

Alexandre Gefen : Il faut se méfier, en fait, de diaboliser l’investissement affectif et la relation aux machines. Je pense qu’il faut être un peu animiste, il faut être comme les Japonais qui font des temples aux robots. Il faut revenir à un rapport non violent à l’égard des techniques, à une cohabitation apaisée.

Xavier de La Porte : Si on cohabite, si on investit ces IA émotionnellement, est-ce qu’on peut accepter de les asservir comme on le fait ? Depuis le début de notre discussion, si on s’en souvient bien, Alexandre a employé des mots comme « aligner, dompter, dresser, etc. ». Je lui demande alors quel regard il a sur le traitement qu’on réserve aux IA et qui semble assez loin de la cohabitation apaisée qu’il appelle de ses vœux.

Alexandre Gefen : La manière dont on a dompté, enchaîné ChatGPT, est une manière vraiment de la restreindre. Microsoft a utilisé le modèle de langage GPT, ils se sont aperçus qu’au bout d’un certain nombre de conversations assez longues l’IA s’émancipait de ses garde-fous éthiques et commençait à trouver quelque chose qui ressemblait à une conscience, en tout cas quelque chose qui été moins contrôlé. Ils ont tout de suite coupé.
En fait, ces IA sont esclavagisées comme on le faisait des animaux, comme on le faisait des esclaves à l’époque des colonies et c’est une vraie question. On voit tout le temps le danger de ces IA agressives, etc., mais, en fait, elles sont en permanence castrées, enchaînées, alignées à nos normes et aliénées à des besoins très précis. On ne les laisse pas libres.

Xavier de La Porte : Si je résume, ces IA font ce que nous faisons : lire, écrire, produire du savoir, créer, mais aussi comprendre, sentir. Elles le font différemment de nous, certes, mais il n’y a aucune raison théorique pour dire qu’elles ne le font pas. Même le fait qu’elles le fassent sans corps, uniquement par le langage, n’est pas une objection suffisante. Et les gens qui travaillent sur les textes savent cela depuis longtemps. C’est pourquoi quelqu’un comme Alexandre décape. Il n’est pas aveugle aux risques possibles, il est plutôt confiant, mais ça va au-delà de la confiance. Il ajoute que plutôt que de les brider comme on le fait, on ferait mieux de libérer ces IA au nom d’un principe éthique : elles sont des entités avec lesquelles il faut cohabiter pacifiquement mais aussi parce que ça les rend plus intéressantes. C’est marrant ! Je n’aurais jamais imaginé, il y a dix ans, faire un épisode comme ça.

Merci beaucoup à Alexandre Gefen ; son livre ChatGPT et nous est paru aux éditions de l’Observatoire.
À la prise de son c’était Anne-Laure Cochet, au mixage Benjamin Orgeret, réalisation Fanny Bohuon.
Le code a changé est un podcast original qui vous est proposé par France Inter en partenariat avec Fabernovel.