L' Intelligence Artificielle peut-elle remplacer l'homme

Titre : L'Intelligence Artificielle peut-elle remplacer l'homme ?

Intervenant·e·s : Aurélie Jean - Étienne de Rocquigny - Paul Sugy

Lieu : Podcast Les débats des Bernardins

Date : 1er mars 2023

Durée : 1 h 02 min

Podcast

Présentation du podcast

Licence de la transcription : Verbatim

Illustration : À prévoir

NB : transcription réalisée par nos soins, fidèle aux propos des intervenant·e·s mais rendant le discours fluide.
Les positions exprimées sont celles des personnes qui interviennent et ne rejoignent pas nécessairement celles de l’April, qui ne sera en aucun cas tenue responsable de leurs propos.

Transcription

Voix off : L’écoute, le respect, la capacité à se mettre à la place de l’autre, à changer de regard ou d’avis, autant d’éléments indispensables dans une société hyper-médiatisée qui ne sait plus débattre.
Le Collège des Bernardins propose ce débat afin de rendre possible un vrai dialogue sur les interrogations de notre temps et renouer ainsi avec l’art de la contradiction.
Bonne écoute.

Paul Sugy : Chers amis, il faut bien reconnaître, ça va beaucoup trop vite. À peine découvrions-nous, il y a quelques semaines, quelques mois, ChatGPT, ce nouveau robot conversationnel avec qui on peut entretenir une discussion pendant des heures, que l’on apprend que la deuxième, la troisième, désormais je crois la quatrième version sont déjà prêtes. Bref !, ça va beaucoup plus vite encore que l’iPhone, vous savez, quand vous en avez acheté un, le nouveau modèle est déjà disponible.
On a l’impression que l’intelligence artificielle est en train de nous bousculer, qu’elle va plus vite que ce que l’on peut suivre. Et puis, face à cela, les ingénieurs eux-mêmes semblent parfois pris de court, les innovations se multiplient à un rythme effréné. Et pourtant, nous avons cette conviction profonde que ce qui se joue autour de l’intelligence artificielle nous concerne et que notre avenir est déterminé par cette révolution technologique. Alors il faut bien en parler et, quand on en parle, c’est peut-être souvent l’inquiétude qui prédomine. Combien de fois n’avons-nous pas entendu dans le débat public, ces peurs face donc à une intelligence artificielle qui pourrait demain nous remplacer, qui risquerait de supprimer tous les emplois, qui pourrait aggraver les inégalités, augmenter les biais dans nos interactions humaines, voire complètement nous asservir et réduire définitivement notre liberté ? Sommes-nous en train de devenir bel et bien, comme dans les pires cauchemars de la science-fiction, les esclaves de la machine et de l’intelligence artificielle ? Nous allons voir. En tous les cas, il faut parler de ce sujet, il faut en parler aux Bernardins, c’est notre conviction, pour l’éclairer peut-être avec toutes la nuance que nos invités sauront y mettre, mais aussi avec ce regard d’espérance qui nous caractérise dans ces débats et qui est précieux pour nous.
Nous savons que notre génération est en train de vivre, finalement, un saut dans l’inconnu, en entrant, peut-être, dans ce qui était réservé autrefois au domaine de l’imagination. Ce que nous n’avions pas osé imaginer il y a quelques dizaines d’années est aujourd’hui en train de se produire sous nos yeux.
Et puis peut-être cette question aussi, pour paraphraser un petit peu la Genèse : l’homme est en train de créer l’intelligence artificielle à son image. On voit bien que le but est que cette intelligence ressemble le plus possible à la nôtre. Au fond, quel avenir pour l’humanité, si l’on est capable de dupliquer cette humanité, mais en est-on seulement capable ?
v Voilà un peu toutes les questions dont on va discuter dans ce nouveau débat.
Pour ceci, j’ai le plaisir de recevoir Aurélie Jean. Bonjour, Aurélie.

Aurélie Jean : Bonjour.

Paul Sugy : Et Étienne de Rocquigny. Bonjour Étienne.

Étienne de Rocquigny : Bonjour Paul.

Paul Sugy : Merci à tous les deux d’avoir accepté de vous plier à cette conversation. Vous avez beaucoup de points communs, à commencer par celui-ci : vous êtes tous les deux scientifiques et c’est d’autant plus précieux que le débat qui nous intéresse, évidemment philosophique, anthropologique, peut-être même théologique en un sens, reste d’abord un débat scientifique.
Aurélie Jean, vous êtes scientifique, spécialiste du numérique. Vous êtes aussi entrepreneuse. Vous avez notamment fondé et vous dirigez la société In Silico Veritas qui s’occupe de modélisation numérique. Vous avez aussi fondé une start-up qui est spécialisée dans les applications – tout ce qu’on peut faire de magnifique avec l’intelligence artificielle – qui s’intéresse notamment à l’application dans la santé et qui permet de s’intéresser au cancer du sein. Vous êtes classée par le magazine Forbes comme l’une des 40 Françaises, cocorico, qui seraient les plus influentes au monde. Rien que ça, rendez-vous compte ! Et puis, vous avez écrit plusieurs ouvrages, le dernier en date, Résistance 2050, avec votre coauteur, Amanda Sthers ; c’est un roman de science-fiction. Avant cela, vous avez écrit cet ouvrage dont le titre est une question, Les algorithmes font-ils la loi ? aux Éditions de l’Observatoire, ou encore De l’autre côté de la machine : voyage d’une scientifique au pays des algorithmes. Le voyage se passe-t-il bien ?

Aurélie Jean : Très bien.

Paul Sugy : Il va se poursuivre avec nous. En tous les cas, merci, Aurélie.
Face à vous Étienne de Rocquigny. Vous êtes aussi scientifique, vous êtes mathématicien, vous avez été vice-doyen de l’École centrale de Paris, vous êtes le président donc de Blaise Pascal Advisors, le fondateur aussi d’un think tank, qui liejustement l’espérance et la question des algorithmes, Espérance et algorithmes. Vous êtes aussi un auteur prolifique. Vous avez publié notamment Entreprendre à l’ère des algorithmes pour servir sans asservir, c’est un livre blanc, je crois, que vous avez fait avec l’aide des Bernardins et du Centre Sèvres. Et si je peux divulguer ce petit secret, je crois que vous vous apprêtez à publier un livre, cette fois-ci sur Pascal, dont le titre sera Le sens de l’IA à l’école de Pascal entrepreneur [Publié le 7 novembre 2023]. Juste avant qu’on rentre sur ce plateau, vous me disiez, avec un air taquin, qu’au fond c’était Pascal qui avait inventé l’intelligence artificielle. J’avoue que je suis tombé de ma chaise.

Étienne de Rocquigny : À de nombreux égards, certains connus par ChatGPT, d’autres non, et je vais commencer par les choses qui sont connues par ChatGPT, Pascal a construit le premier ordinateur mécanique, dont on pourrait dire que c’était une calculatrice, et Pascal disait qu’il permettait aux sots de calculer, qu’il donnait des pouvoirs arithmétiques ou algébriques à des sots. On peut faire la métaphore aujourd’hui avec ChatGPT. Pascal est aussi l’un des co-inventeurs de la théorie des probabilités. L’intelligence artificielle, aujourd’hui dominante, est une gigantesque machine probabiliste. Mais une chose que ChatGPT ne sait pas, c’est que Pascal a été aussi un entrepreneur en série, ça sera l’objet de mon livre, et c’est très intéressant, parce que je pense que l’aventure de l’intelligence artificielle est une aventure qui est profondément entrepreneuriale, que Pascal a vécue et, pour entreprendre, il faut d’abord faire preuve de rhétorique et Pascal est le maître inconsidéré de la rhétorique. Il parle du roseau pensant. L’intelligence artificielle est aussi un oxymore magnifique qui a été inventé dans les années 50, qui a permis de lever des milliards sur la base de la rhétorique et on va voir que la rhétorique c’est très important dans l’intelligence artificielle.

Paul Sugy : En tout cas, merci à tous les deux d’avoir accepté de confronter vos intelligences, vos visions sur ce sujet. Peut-être que, au fur et à mesure de la discussion, on verra à la fois les points communs que vous pouvez avoir, cette passion, cet intérêt commun pour l’intelligence artificielle et pour tout ce qu’on peut faire de beau et grand avec, et puis, en même temps, on essaiera de voir aussi ce qui peut peut-être différencier vos regards.
D’abord, ce que j’aimerais, c’est que vous m’aidiez à comprendre pourquoi, au fond, on en fait autant autour de l’intelligence artificielle. Ce que je veux dire, c’est que, inventer de nouveaux outils, le génie humain l’a toujours fait. L’intelligence artificielle est probablement quelque chose de plus grandiose que tout ce qui a été fait jusqu’ici, mais c’est justement l’histoire du progrès des sciences et des arts qui veut ça.
Pourquoi, aujourd’hui, a-t-on le sentiment d’être au bord d’une révolution ? Est-ce que l’intelligence artificielle est vraiment une révolution ? C’est la question que j’ai envie de vous poser et peut-être tout simplement et pour commencer, si vous êtes un peu honnête avec vous-même, Aurélie, vous répondrez comme vous voulez.

Aurélie Jean : Je suis toujours honnête !

Paul Sugy : Je n’en doute pas une seule seconde ! La question que je veux vous poser, c’est celle-ci : est-ce que vous auriez imaginé, il y a 10 ou 15 ans qu’on en serait là aujourd’hui ? C’est-à-dire que face à la puissance technologique des outils que l’intelligence artificielle propose aujourd’hui, est-ce ce que c’est une révolution qui était imaginable, anticipable, ou est-ce que vous avez été surprise ?

Aurélie Jean : Pas surprise, mais je l’ai saisie et je l’ai accueillie, on va plutôt dire ça comme ça. Disons qu’à 15 ans, je commençais ma thèse de doctorat, un peu plus en avant. J’avais des limitations de calculateur quand j’ai fait ma thèse, c’est-à-dire que j’étais limitée par la taille des calculateurs sur lesquels je pouvais faire mes calculs, donc j’étais limitée sur la taille des calculs que je pouvais faire, limitée par mon algorithme, en fait, et je savais que, dans le futur, ça allait être possible. Quand je vois aujourd’hui la taille des calculateurs et l’amélioration des algorithmes avec lesquels j’aurais pu faire ma thèse, j’aurais pu aller plus loin. Donc, je le savais.
Maintenant, tout ce qui concerne les évolutions algorithmiques sur les réseaux neuronaux, on avait déjà des débuts dans les années 90, c’est là que ça a commencé et, dans les années 2000/2010, ça a été un grand boom. C’était juste après ma soutenance de thèse en 2009.

Paul Sugy : Vous êtes arrivée au bon moment.

Aurélie Jean : Je suis arrivée au bon moment, mais, disons que c’est davantage tout ce qui est applications qui m’étonne, qui m’intrigue et qui m’intéresse. Je n’aime pas le mot intelligence artificielle – on pourra revenir dessus, j’aime bien parler d’algorithmes et de données, parce que, à la fin, c’est comme ça qu’on fait, on crée des algorithmes, on les entraîne, on les calibre sur des jeux de données pour pouvoir répondre à une question.

Paul Sugy : L’intelligence artificielle n’est jamais rien d’autre qu’un algorithme.

Aurélie Jean : Je le dis souvent, parce que, dans l’intelligence artificielle, il y a plusieurs domaines : vous avez le domaine algorithmique, donc le domaine modélisation, représentation de la réalité à travers un modèle qui va justement simuler une certaine réalité ; vous avez aussi la partie robotique, qui va être plutôt une partie hardware. Il y a aussi des gens qui vont aussi travailler sur l’interaction homme-machine, ce qui peut s’éloigner de l’aspect purement algorithmie.

Paul Sugy : On incorpore l’algorithme par exemple dans un robot humanoïde, des choses comme ça.

Aurélie Jean : Exactement et plein d’autres choses. Il y a des gens qui s’intéressent à l’intelligence artificielle sous l’angle sociologique et anthropologique. C’est donc vraiment très général. Moi, je parle d’algorithmique et de données parce que c’est ce que je fais au quotidien, d’ailleurs, si je peux me permettre, je conseille aux gens de lire le livre de Luc Julia, qui a cocréé Siri, qui a été directeur de recherche chez Samsung, qui est un ami, qui a écrit un livre qui s’appelle L’intelligence artificielle n’existe pas. Je pense que ça résume assez justement les réelles capacités de ce qui se fait réellement au sein de l’intelligence artificielle, qui n’est qu’une reproduction, une modélisation de l’intelligence analytique humaine et non pas l’intelligence pratique et créative ; on pourra revenir là-dessus.

Paul Sugy : D’accord. Donc, au fond, c’est une intelligence qui reste cantonnée à son rôle, qui est en fait celui d’être un supercalculateur.

Aurélie Jean : Exactement. Et qui a des capacités de comparaison statistique et d’analogie, d’aller trouver des signaux faibles et des analogies que nous, humains, nous ne pouvons pas détecter. C’est là la force de ces modèles, mais il faut toujours bien indiquer de quel type d’intelligence on parle. Je pense que c’est important.

Paul Sugy : Êtes-vous d’accord avec ça, Étienne de Rocquigny, l’intelligence artificielle, ce n’est que du calcul.

Étienne de Rocquigny : Ça dépend du point de vue dont on parle. Encore une fois, l’innovation technologique, c’est très risqué, il faut lever beaucoup d’argent. Si je cherche à lever de l’argent, je vais parler d’intelligence artificielle, parce qu’il faut emmener les gens sur Mars ! On connaît un entrepreneur talentueux qui, d’ailleurs, veut aller sur Mars. Si vous voulez aller chercher de l’argent, il faut promettre Mars. Les mauvaises start-ups vont ensuite livrer un escabeau de jardin.
Ce terme-là a une puissance de communication inégalée.

Paul Sugy : Il fait partie de notre imaginaire.

Étienne de Rocquigny : Je suis tout à fait d’accord avec Aurélie, il est plus juste de parler d’algorithmes. D’ailleurs, notre think tank s’appelle « Espérance et algorithmes » et non pas « intelligence artificielle ». Espérance – on pourra y revenir – pseudo-messianique, ça n’est pas là que gît l’essentiel. L’essentiel, c’est plutôt à travers le mot d’algorithmes dans des machines qui vont permettre d’automatiser, de manière stupéfiante, un certain nombre de processus au service, si possible, du bien commun, pas toujours. C’est donc bien cette machine qui est importante, c’est l’algorithme, et non pas la représentation. Là encore, j’ai mentionné à dessein le mot « messianique », parce que derrière cette communication-là, beaucoup de gens vont placer derrière les avancées technologiques une espérance de type messianique, c’est-à-dire qu’on croit qu’avec ça, on va effectivement résoudre tous les problèmes dans le monde, on va résoudre les pestes, les famines, les problèmes de discrimination, etc., qui sont des problèmes effectivement considérables et, je vais revenir à Pascal, le cœur humain désire l’infini. Au fond du cœur, il y a effectivement cette soif humaine pour l’infini et un certain nombre de gens vont placer derrière ces technologies, effectivement stupéfiantes, une espérance messianique. Il est bon de dire qu’on peut douter un petit peu de cette espérance messianique.
Encore une fois, j’aime beaucoup ce qu’a dit Aurélie sur les algorithmes, on peut, il est même salutaire de revenir sur terre, donc de regarder de manière objective ce que font ces machines, comment elles sont utilisées et comment elles peuvent servir le bien commun. C’est ça le plus important et non pas, même si ça fait vendre des livres, s’attarder sur ces promesses presse eschatologiques

Paul Sugy : Pour revenir sur terre, justement, je voulais vous soumettre à un petit jeu. C’est une vidéo de l’INA qui circulait ces derniers jours. On y voyait un chercheur du MIT, il y a un demi-siècle, qui s’appelait Nicholas Negroponte, qui disait que dans 50 ans, donc aujourd’hui, l’intelligence artificielle serait capable de comprendre une plaisanterie. Au fond, c’était ça la question. Quand on a commencé à développer l’informatique moderne, on s’est dit « finalement, l’humour résistera toujours à l’algorithmique ». ChatGPT n’est peut-être pas drôle et si vous lui demandez de l’être, il ne vous fera peut-être pas rire. Mais si vous vous entrez une blague dans le robot conversationnel ChatGPT, il est capable de vous expliquer quel est le ressort comique. Il a cette intelligence-là de comprendre ce qui fait rire les gens. Donc, on y est quasiment, si vous voulez.

Aurélie Jean : Non, c’est plus subtil que ça.

Paul Sugy : C’est plus subtil que ça, alors dites-moi !

Aurélie Jean : J’aime beaucoup Nicholas Negroponte qui, par ailleurs, a fait le premier ??? [13 min 30] en 84, dans lequel il a dit que dans le futur, on n’aurait plus de clavier, qu’on taperait sur un écran. Donc, Nicholas Negroponte est un homme visionnaire, il faut le savoir.

Paul Sugy : Il avait inventé la iPad il y a 30 ans.

Aurélie Jean : Je trouve que c’est quelqu’un de visionnaire. Il a inventé le MIT Media Lab.
Concernant les blagues, je pense que c’était une extrapolation un peu forte, puisque, en fait, l’humour, c’est de l’ordre de la créativité, de l’intelligence émotionnelle et du bon sens, donc l’intelligence pratique. Je pense qu’il faut revenir à la théorie triarchique de l’intelligence.

Paul Sugy : Donc, l’algorithmique ne peut pas en faire du tout.

Aurélie Jean : Non, l’algorithmique ne va pas pouvoir générer un humour from scratch, à partir de rien. Par contre, ce que vous dites là, à savoir qu’il y a des blagues et il peut expliquer pourquoi c’est drôle, pour la simple et bonne raison, c’est qu’il y a une logique sous-jacente à des blagues qui sont propres à la manière dont les gens les utilisent. C’est-à-dire que si vous donnez un jeu d’entraînement de blagues, de textes de blagues, et que vous allez regarder comment les gens réagissent à ces blagues au regard du nombre de likes, de commentaires ou s’ils les utilisent, tout simplement, à partir de ce moment-là, l’algorithme va pouvoir, éventuellement – je ne l’ai pas fait – capturer des signaux faibles ou des signaux forts des raisons pour lesquelles cette blague est trouvée drôle, en fonction du contexte dans lequel elle a été utilisée, mais aussi en fonction des gens qui vont partager cette blague. Donc, ces différences sont plutôt des méta-informations sur les raisons pour lesquelles la blague est drôle.

Paul Sugy : C’est analyser la récurrence d’un comportement.

Aurélie Jean : Par exemple, plus que la substante moelle de l’humour, qui est, pour le coup, purement humaine, c’est important à retenir.

14’ 56

Paul Sugy : Du coup,