|
|
| (11 versions intermédiaires par 2 utilisateurs non affichées) |
| Ligne 1 : |
Ligne 1 : |
| [[Catégorie:Transcriptions]] | | [[Catégorie:Transcriptions]] |
|
| |
|
| '''Titre :''' Un catholique face à l’IA
| | Publié [https://www.librealire.org/un-catholique-face-a-l-ia ici] - Mai 2024 |
| | |
| '''Intervenants :''' Étienne de Rocquigny - Xavier de La Porte
| |
| | |
| '''Lieu :''' Podcast <em>le code a changé</em> - France Inter
| |
| | |
| '''Date :''' 25 novembre 2023
| |
| | |
| '''Durée :''' 59 min 43
| |
| | |
| '''[https://rf.proxycast.org/2564c2a6-0abd-46d4-966a-da8d28b50c4c/20856-24.11.2023-ITEMA_23563196-2023F38589E0010-21.mp3 Podcast]'''
| |
| | |
| '''[https://www.radiofrance.fr/franceinter/podcasts/le-code-a-change/le-code-a-change-4-5957439 Présentation du podcast]'''
| |
| | |
| '''Licence de la transcription :''' [http://www.gnu.org/licenses/licenses.html#VerbatimCopying Verbatim]
| |
| | |
| '''Illustration :''' À prévoir
| |
| | |
| '''NB :''' <em>Transcription réalisée par nos soins, fidèle aux propos des intervenant·e·s mais rendant le discours fluide.<br/>
| |
| Les positions exprimées sont celles des personnes qui interviennent et ne rejoignent pas nécessairement celles de l'April, qui ne sera en aucun cas tenue responsable de leurs propos.</em>
| |
| | |
| ==Transcription==
| |
| | |
| <b>Xavier de La Porte : </b>Je ne crois pas en Dieu. La foi est même un processus ou un état, je ne sais pas comment il faut dire, qui m’est très étranger. Pour autant, je n’ai aucun mépris ni pour la foi ni pour les croyants ni pour les religions ou les textes dont elles sont issues. Je ne pense pas que l’absence de religion soit le signe d’une société avancée.<br/>
| |
| Je ne suis pas croyant, donc, et je suis même ravi de vivre dans une société qui permet de ne pas être croyant, mais je n’en tire aucune supériorité. Je me dis juste qu’habiter ce monde avec la foi ou sans la foi ce sont sans doute des expériences très différentes, quel que soit le Dieu en lequel on croit, d’ailleurs. Je me dis juste que ça doit changer beaucoup de choses quand on se retrouve face à des épreuves majeures, qu’elles soient personnelles ou collectives, et je me dis juste qu’avoir la foi, ça doit donner une forme particulière à la perception du monde.<br/>
| |
| Donc, quand un ami m’a parlé d’un groupe de réflexion qui s’appelle « Algorithme et espérance », qui rassemble des croyants s’intéressant à l’intelligence artificielle, ça a tout de suite excité ma curiosité. Voilà une sorte d’épreuve majeure face à laquelle on se retrouve tous, les algorithmes auto-apprenants, les réseaux de neurones, tout ça, tout ça.<br/>
| |
| Tout de suite une myriade de questions m’est venue à l’esprit : comment les catholiques envisagent-ils l’IA ? Est-ce qu’ils se posent des questions qu’on ne se pose pas quand on n’a pas la foi ? Est-ce que, face aux questions que tout le monde se pose, ils ont d’autres réponses ? Et est-ce que, si je vais discuter avec eux, ils changeront mon regard sur l’IA ?<br/>
| |
| Si je suis totalement sincère, un autre truc m’est tout de suite venu en tête. Je sais que le Vatican s’intéresse aussi à l’IA. J’ai entendu, par exemple, parler d’une consultation lancée par le pape ou d’un appel abrahamique signé par des évêques, des rabbins et des imams. Je me demande comment font ces gens pour réfléchir à l’IA à partir de croyances aussi anciennes et, plus globalement, je me demande bien comment on arrive à rendre compatibles sa foi et quelque chose d’aussi troublant que l’intelligence artificielle.<br/>
| |
| J’avais tout ça en tête en allant voir un des fondateurs de « Algorithme et espérance », Étienne de Rocquigny, profil intéressant : il est catholique, évidemment, il a fait polytechnique, il a travaillé dans des labos de R&D, et puis il est devenu entrepreneur et conseiller d’entrepreneurs qui utilisent en particulier l’IA. Par ailleurs, c’est un fan de Pascal auquel il vient de consacrer un livre, Blaise Pascal, qui était à la fois un philosophe, un mathématicien, un théologien et une sorte d’entrepreneur, un modèle pour Étienne de Rocquigny, ça je comprends bien.<br/>
| |
| Nous nous sommes retrouvés un matin, dans les bureaux de son éditeur, Boleine, et on nous a installés dans une pièce qui, à cause d’un déménagement récent, était encore assez vide pour résonner un peu comme une chapelle. Parfois, le hasard fait bien les choses ! Je crois que Pascal a dit des trucs assez proches de ça.<br/>
| |
| Bref, je ne vais pas commencer à rigoler, tout cela est très sérieux. J’ai donc posé à Étienne de Rocquigny une question assez vaste. Je lui ai demandé quel problème l’IA posait à un catholique.
| |
| | |
| <b>Étienne de Rocquigny : </b>Je vis, comme chrétien, plutôt la recherche de réponses que l’identification de problèmes. Je pense que les problèmes qui se posent sont ceux qui se posent à toute personne humaine, qui renvoient sur le vieux problème de l’homme et de la machine, la dialectique du maître et de l’esclave. Donc au fond, derrière, il y a la question de la liberté, de la singularité de la personne humaine et, après, il y a la question économique : qu’est-ce que mon travail va devenir, etc. ? Je pense que ce sont des questions qui se posent absolument à tout le monde.<br/>
| |
| Dans une démarche de foi, on peut aussi avancer vers des réponses, une forme de pari équilibré et ça c’est parfaitement un acte de foi qui, pour moi, est tout à fait séparé d’une démonstration mathématique, c’est un pur acte de foi. Si je considère que la personne humaine a été effectivement créée à l’image de Dieu, alors je suis en lieu de penser que la technique, qui sont des artefacts de la personne humaine, sont des créations de la personne humaine, d’une certaine manière, sont une création de second plan. À priori, on peut penser que la technique et, en particulier, l’intelligence artificielle qui est son dernier avatar le plus récent, est une œuvre qui est à l’image de Dieu tout-puissant. Donc, disons que c’est une base pour commencer à construire de l’espérance.<br/>
| |
| Je pense également que cette création se fait avec une liberté totale, rien n’est écrit à l’avance et, là encore dans une approche de foi, si je pense que le Seigneur, qui a créé la personne humaine, l’a créée effectivementpar amour, alors je ne peux pas aimer quelqu’un sans le vouloir libre, je ne peux pas aimer une femme, je ne peux pas aider un homme sans le vouloir libre, sinon l’amour n’a aucun sens, donc cette création est profondément sous le signe de la liberté. C’est donc à nous, personne humaine, c’est à vous et moi, dans notre usage au quotidien de l’IA, de faire bon usage de notre liberté. Ce qui veut dire, la contraposée, que le pire côtoie le meilleur.
| |
| | |
| <b>Xavier de La Porte : </b>Plusieurs choses m’intéressent là-dedans. D’abord, l’idée que les problèmes posés par l’IA sont les mêmes pour les chrétiens que pour les autres. Bon ! Je n’en suis pas absolument certain et je pense qu’il faudra y revenir. Pour l’instant, autre chose m’intéresse dans ce que dit Étienne de Rocquigny. Sa foi, explique-t-il, l’amène à considérer la technologie comme une création de second plan, une cocréation de l’homme et de Dieu. En fait, c’est un débat théologique très compliqué et qui n’est pas du tout nouveau pour les catholiques : à quel point Dieu est-il responsable de tout ce qui a été créé et est créé ?, avec une question subsidiaire : Dieu est-il responsable, aussi, de ce que l’humain crée ? C’est un débat compliqué parce que si on considère que Dieu est entièrement et seul responsable de tout, alors il n’y a aucune marge de manœuvre pour les humains, qui ne sont que des sortes de marionnettes dans ses mains et, en plus, Dieu est aussi responsable de toutes les horreurs produites par les humains. Cela n’est pas tenable. Mais si Dieu n’est pas responsable de tout, alors à quoi sert-il ? Ce serait quoi l’idée ? Il a tout créé et ensuite il s’est barré ? Cela n’est pas tenable non plus. En utilisant le terme de cocréation, Étienne de Rocquigny tranche le problème d’une manière qui est, d’après ce que je comprends, assez partagée aujourd’hui parmi les catholiques : la technologie est une œuvre à la fois humaine et divine ou, peut-être serait-il plus juste de dire, qu’elle est une œuvre divine dans la mesure où elle est une œuvre humaine, et vice-versa, et Dieu voulant les hommes libres un cette cocréation n’est pas prédéterminée, elle peut donner le meilleur comme le pire. Bon ! C’est ce que je comprends. Comme je trouve ça très abstrait, je demande à Étienne de Rocquigny qu’il m’explique un peu mieux.
| |
| | |
| <b>Étienne de Rocquigny : </b>Beaucoup de gens craignent dans l’IA, finalement, une forme d’asservissement déterminée par avance avec des machines qui, devenant de plus en plus puissantes, vont finir par régler notre condition et décider à notre place. C’est quand même faire un peu faible mesure des chocs de la physique moderne, à commencer par la physique quantique, la relation d’incertitude d’Heisenberg, ensuite le théorème de Gödel, la finitude de la raison mathématique. La science moderne se construit sur l’incomplétude de la science, sur le fait que, finalement, au plus profond de la matière, il y a quelque chose qui échappe à la raison. Si je transpose ça sur l’intelligence artificielle, cela veut dire qu’on peut rêver d’intelligence artificielle, certains croient qu’ils vont prendre des puissances démesurées, néanmoins il y a une part du réel qui échappe profondément à la raison scientifique et le théorème de Gödel va dire qu’il y a effectivement des limites à la logique mathématique, la logique mathématique ne se suffit pas à elle-même et je crois y voir, c’est un point de vue personnel – je suis pas théologien ni grand spécialiste de liberté – et je le vis personnellement comme une marge de manœuvre.
| |
| | |
| <b>Xavier de La Porte : </b>Là, je trouve que le raisonnement est assez malin, quand je dis « malin », c’est au sens de « habile », ce n’est pas au sens de « diabolique ». Pourquoi est-ce malin ? Parce que je m’attendais à ce que Étienne de Rocquigny m’explique son histoire de cocréation et de liberté en des termes théologiques et pas du tout ! Il me prend complètement à revers en s’appuyant sur les sciences, il va chercher des théories scientifiques très importantes comme le principe d’incertitude d’Heisenberg ou le théorème d’incomplétude de Gödel qui ont en commun d’affirmer qu’il y a de l’incertitude, qu’il y a de l’indécidable, des théories qui disent, en gros, qu’il y a des limites à la rationalité scientifique, donc bam ! Étienne de Rocquigny, lui, y voit une place pour autre chose que la raison, donc pourquoi pas pour Dieu ? Il ajoute que ça ne s’applique pas seulement à la physique et aux mathématiques, mais aussi à l’intelligence artificielle. Je ne comprends pas très bien cela, je lui demande de me préciser et là bam !, à nouveau, au lieu de parler en théologien, il plonge dans la genèse des principes à l’œuvre dans les IA génératives qui nous impressionne tant aujourd’hui.
| |
| | |
| <b>Étienne de Rocquigny : </b>Ce qui est très intéressant dans les développements modernes de l’intelligence artificielle, c’est que finalement pour l’instant, ça pourra changer, c’est le paradigme probabiliste qui a détruit tous les autres. C’est-à-dire qu’on a voulu construire des outils de traduction automatique pendant des années en faisant des modèles compliqués de sémantique, en essayant de réfléchir sur l’articulation de la grammaire, de la syntaxe, etc., et ces modèles se sont effondrés devant une logique bête et méchante qui est la logique probabiliste inventée par Pascal qui veut dire : après tout, si deux fois de suite on a dit ce mot-là, c’est bien probable que la troisième fois il revienne. La logique probabiliste est une logique qui est extrêmement pauvre en termes épistémologiques, qui ne dit pas grand-chose que l’observation des régularités du réel. Ça veut dire que si une part du réel échappe, eh bien l’IA n’enserrera pas la totalité du réel. Je pense qu’il faut revenir sur les fondements de ces machines qui, me semble-t-il, nous laissent une véritable marge manœuvre.
| |
| | |
| <b>Xavier de La Porte : </b>Là, je comprends mieux et c’est très intéressant. Au fond, notre marge de manœuvre proviendrait du fait que la logique à l’œuvre dans l’IA aujourd’hui est assez pauvre parce que probabiliste. Qu’est-ce que ça veut dire ? Ça veut dire que la machine ne peut raisonner qu’à partir des données qu’elle a à disposition. Or, ces données n’engloberont jamais la totalité du réel et c’est vrai. On le voit par exemple dans des systèmes très complexes comme le climat. Il y a tellement de données, tellement d’interactions dans les phénomènes climatiques, que même des machines hyper puissantes ont du mal à tout prendre en compte. Elles ont du mal à faire tourner des modèles qui englobent la totalité de cette réalité si complexe qu’est le climat. Donc, ces machines sont, par principe, limitées. Même raisonnement, alors, qu’avec Heisenberg ou Gödel. Pour Étienne de Rocquigny, si les machines sont limitées, il y a de la place pour l’humain, pour la liberté, pour l’IA. Bon !, d’accord.<br/>
| |
| Mais comment s’expriment les limites de ces machines ? Où l’intelligence artificielle est-elle en train de faillir ? Là encore, j’ai besoin que Étienne de Rocquigny me l’explique concrètement.
| |
| | |
| <b>Étienne de Rocquigny : </b>J’ai construit ma carrière scientifique sur la modélisation des grands risques – le risque nucléaire, le risque climatique, les inondations, les séismes, etc. Quand on travaille dans ce domaine-là, les autorités, de sûreté pour certifier une centrale nucléaire, un avion ou une zone constructible, vont faire des calculs d’extrapolation dans des événements extrêmes. Voilà un domaine dans lequel on comprend qu’en fait on ne connaît rien, qu’en fait les grands accidents de la terre sont totalement imprévisibles, ce que dit Pascal en disant « si le nez de Cléopâtre eût été plus court, la face du monde aurait été changée ». C’est cette intuition que, finalement, les grands événements importants dans la terre échappent à la prévision. J’ai beau faire des probabilités, j’en ai fait beaucoup sur les risques, elles échappent aux faits. Et ça, aujourd’hui, dans le domaine de l’intelligence artificielle où on travaille, finalement, sur des événements fréquents, sur le bavardage d’un site en ligne, on prévoit des choses qui arrivent fréquemment avec beaucoup de données, on oublie les limites intrinsèques de la prévision probabiliste, qui sont très grandes. Elles sont très grandes aussi, pour moi, dans le domaine personnel. Est-ce que les grandes décisions que nous avons prises dans notre vie auraient pu être prédites, affairées, conjecturées avec une rationalité scientifique : votre choix de travail, le choix de la personne avec laquelle vous vivez ? En lisant Pascal, on comprend que ces décisions sont faites sous le registre du cœur plutôt que de la raison, donc, oui, il y a une marge de manœuvre profonde. Je pense, en tout cas je crois que c’est là qu’il faut investir le libre arbitre, la volonté, le cœur et la décision des personnes humaines.
| |
| | |
| <b>Xavier de La Porte : </b>Tout ce que fait Étienne de Rocquigny depuis le début de notre discussion converge vers un point : affirmer que face à l’IA nous sommes libres. Bon ! C’est une conviction qui, il faut l’admettre, fait du bien à entendre dans la période que nous vivons où on a l’impression que les progrès technologiques s’autonomisent presque, qu’ils suivent un cours inéluctable qui nous échappe.<br/>
| |
| Ce qui est assez fort, c’est que Étienne de Rocquigny mobilise, pour m’en convaincre, des arguments qui sont de deux ordres très différents : il mobilise des arguments scientifiques – les limites inhérentes au modèle probabiliste – et il mobilise des arguments religieux en disant que la technologie est une création divine de second plan et que Dieu, voulant l’homme libre, lui réserve une marge de manœuvre dans l’usage de ses créations.<br/>
| |
| Moi qui ne crois pas en Dieu, je suis évidemment plus convaincu par les arguments scientifiques, mais je remarque que Étienne de Rocquigny trouve une force supplémentaire dans la convergence de ces deux ordres. D’une certaine manière, je l’envie un peu, parce que ces deux argumentaires convergent dans une direction qui me semble la bonne : nous débarrasser des illusions de toute-puissance de la science et, en l’occurrence, d’une de ses productions qu’est l’intelligence artificielle. D’ailleurs, je lui demande si c’est ça le but, se défaire des illusions.
| |
| | |
| <b>Étienne de Rocquigny : </b>Tout à fait. Je pense que c’est exactement ça. Je pense que le geste salutaire, c’est de se défaire de ses illusions et, une fois qu’on a fait ça, on peut avancer et essayer de réfléchir : en quoi est-ce que l’intelligence peut modestement servir au bien commun ? L’intelligence artificielle est d’abord un combat rhétorique et, là encore, on va rejoindre Pascal : l’intelligence artificielle voilà un oxymore absolument effroyable, probablement le chef-d’œuvre du marketing scientifique. « Intelligence artificielle », on fait cohabiter deux choses qu’à priori tout sépare et voilà que ça nous emmène, finalement, à tomber sous l’empire de ce que Pascal appelait « cette maîtresse de fausseté », l’imagination, « d’autant plus fourbe qu’elle n’est pas toujours synonyme de fausseté », c’est-à-dire que, parfois, l’imagination est juste. Donc la rhétorique a envahi le domaine de l’intelligence artificielle et elle l’a envahi pour des raisons économiques, d’abord. Je pense donc qu’il faut d’abord se défaire de ça, il faut d’abord mettre de côté la rhétorique, refaire un peu d’épistémologie pour remettre la raison scientifique à sa juste place. D’ailleurs, ça ne veut pas dire que je veux mettre la foi à la place, je suis assez disciple de Pascal pour dire que la foi et la raison sont deux formes d’accès à la vérité qui sont des ordres tout à fait différents. Il ne s’agit pas de combler ce vide-là par des injonctions de vérité religieuse, pas du tout. Il s’agit de s’ouvrir aux limites de la raison, sortir des illusions et, à partir de là, sourire de notre liberté et essayer de la vivre, ce qui n’est pas le plus simple.
| |
| | |
| ==15’ 34==
| |
| | |
| <b>Xavier de La Porte :</b>Se défaire des illusions, d’accord. Se défaire du discours marketing et tout ça, OK. Reconquérir une liberté à laquelle nous invitent certaines théories scientifiques, d’accord. Prendre appui sur la religion pour achever de nous convaincre que nous sommes libres, pourquoi pas. Je pourrais même être tout à fait d’accord si l’IA ne me semblait pas mettre au défi la religion elle-même.<br/>
| |
| Tout à l’heure Étienne de Rocquigny a évacué un peu trop vite, à mon goût, la question quand il a eu l’air de dire que l’IA ne lui posait pas de problème particulier en tant que catholique. Est-ce que c’est vraiment le cas ?<br/>
| |
| Pourquoi je parle de défi lancé à la religion ? Dans un livre paru en 2017, qui s’appelait <em>Informatique céleste</em>, le philosophe Mark Alizart résumait de manière assez marrante l’histoire humaine. Il expliquait que l’humain connaissait avec l’intelligence artificielle sa troisième grande faille narcissique.<br/>
| |
| La première faille avait été de s’apercevoir, avec Galilée, qu’il n’était pas au centre de l’univers, l’univers entier ne tourne pas autour de la Terre, c’est un constat qui relativise notre place.<br/>
| |
| La deuxième faille narcissique c’était de reconnaître avec Freud que nous n’étions pas guidés par notre seule volonté, mais par un inconscient pas facilement maîtrisable.<br/>
| |
| Et la troisième faille narcissique, c’est donc d’avoir créé des entités machiniques qui deviennent nos égales dans des domaines où on pensait, jusqu’à peu, régner en maîtres, comme parler ou, pourquoi pas, créer.<br/>
| |
| Mark Alizart il parle de faille narcissique parce qu’il se place dans la perspective de la psychanalyse, mais on peut aussi bien poser le problème en termes religieux. À chacune de ces étapes, Galilée, Freud, l’IA, c’est la religion, aussi, qui est mise au défi, parce que c’est la place que la religion accorde à l’humain qui est mise au défi. Si l’humain n’est pas si important que ça dans l’univers, s’il ne maîtrise pas grand-chose de ce qu’il fait parce qu’il est le jouet de ses pulsions et s’il a créé des machines qui sont mieux que lui, on comprend mal pourquoi Dieu l’aurait fabriqué à son image et pourquoi il aurait autant misé sur cette création, assez naze, dont les particularités sont en train de se diluer au fur et à mesure que le temps passe. Donc, la question que je pose à Étienne de Rocquigny est très simple : est-ce qu’il est d’accord ?
| |
| | |
| <b>Étienne de Rocquigny :</b>Oui, c’est un très grand défi, mais là encore j’ose croire que ce défi va justement nous permettre d’aller plus loin sur la spécificité de la personne humaine. Je vais prendre d’abord un exemple un peu décalé : je suis, par ailleurs, musicien de jazz, ça fait déjà plusieurs années que des IA nous font des solos de Charlie Parker, de Miles Davis, etc. Et qu’est-ce que c’est qu’une IA qui fait un solo de Charlie Parker, de Miles Davis, etc. ? C’est un jazzman peu inspiré, c’est un jazzman qui bavarde. D’ailleurs l’ennemi, quand on fait du jazz, c’est de bavarder et les bons musiciens vous entendent. Quand ils vous connaissent, ils disent « tu es en train de bavarder ! Là, tu n’improvises pas, tu bavardes ! » Voilà une stimulation pour forcer le jazzman à vraiment improviser quelque chose de nouveau et non pas simplement faire du bavardage. Le pire et le meilleur sont possibles, je prends le pari de l’espérance.
| |
| | |
| <b>Xavier de La Porte :</b>Là, je comprends tout à fait le raisonnement d’Étienne de Rocquigny. Côtoyer les IA peut nous inciter, pour ne pas dire nous obliger, à spécifier notre humanité. D’ailleurs, c’est drôle qu’il emploie ce terme de bavardage, dont je ne savais pas qu’il était aussi usuel dans le jazz, mais qui nous ramène à la question du langage. Si l’IA est capable de bavarder comme nous, alors ça nous oblige à faire autre chose que bavarder.<br/>
| |
| Ça me rappelle ce que me racontait une chercheuse spécialiste de la traduction automatique. Elle m’expliquait que les IA sont capables, aujourd’hui, de très bien traduire et qu’elles le feraient d’ailleurs de mieux en mieux. Mais les linguistes observent une chose : en passant par la traduction automatique, par les réseaux de neurones en l’occurrence, la langue perd en personnalité, parce que, chose que j’ignorais, les linguistes arrivent à mesurer la personnalité d’une langue avec des outils qui déduisent de la langue d’un locuteur s’il est un homme ou une femme, s’il a un âge où un autre, son niveau culturel, etc. Or, d’après les chercheurs, si la traduction produite par les machines est chaque jour meilleure, chaque jour plus correcte, on a du mal à préserver, dans la langue d’arrivée, ce qui s’exprimait de personnalité, du locuteur, dans la langue de départ. Cette chercheuse m’expliquait que c’est un problème très difficile à résoudre : ces modèles de traduction reposant sur d’énormes corpus de textes et un modèle probabiliste, ils ont tendance à aller vers une solution moyenne. Donc, si le résultat est de plus en plus correct, il est aussi, mécaniquement, de plus en plus moyen et on ne peut pas y faire grand-chose. Cette chercheuse y voyait même un risque pour l’avenir. Elle m’expliquait que, comme il est fort probable que, pour s’aider à traduire encore mieux, ces modèles se nourrissent de textes traduits par des machines, qu’on aille vers des résultats de plus en plus moyens. C’est abyssal.<br/>
| |
| Là, j’ai l’air de digresser, mais, en fait, pas tant que ça. Ça nous ramène à l’idée que l’IA nous obligerait à nous singulariser, à redéfinir ce qui fait notre spécificité en tant qu’humains. Au fond, un peu comme les recherches récentes menées sur les animaux qui nous déstabilisent, parce qu’elles montrent que les poissons souffrent, que les poules ont un vocabulaire et même des accents différents selon les lieux, les régions ou que les grands singes inventent, etc. Ces découvertes sur les animaux nous obligent à repenser notre singularité et notre place dans le monde. C’est un peu pareil avec l’apparition de l’IA, en fait. En ça, je suis donc d’accord avec Étienne. Mais, en termes de défi, je voyais plus un défi adressé directement à la religion, pas simplement à l’anthropologie. Est-ce que lui estime que l’existence de ces machines remet en cause la place que la religion catholique, en l’occurrence, accorde à l’humain ?
| |
| | |
| <b>Étienne de Rocquigny :</b>On a commencé à dire, au début : les machines probabilistes bavardent, répètent, elles ne sont pas créatives. Et puis, on s’aperçoit que si, de temps en temps, après tout, l’interpolation par des machines probabilistes dans des espaces de très grandes dimensions génère des configurations nouvelles. Nouvelles, qu’est-ce que ça veut dire ? En réalité, ce sont des interpolations, c’est-à-dire qu’elles mettent ensemble les choses qui ont déjà été vues. Mais la conjonction nouvelle donne effectivement un sentiment de créativité et peut, pour la plus grande joie des informaticiens théoriciens, donner l’impression qu’on a passé le test de Turing, donc donner effectivement l’impression que la machine a vraiment fait quelque chose qu’on aurait cru une création nouvelle. Donc, finalement, est-ce que la singularité de la personne humaine c’est la créativité ? Peut-être pas ! Voilà une réponse vertigineuse. Alors, où faut-il vraiment aller chercher la singularité de la personne humaine ?<br/>
| |
| Si je me mets dans un point de vue de croyant, ce qui fait fondamentalement une personne humaine, c’est son libre arbitre et sa capacité à aimer, et l’une ne peut pas aller sans l’autre, on ne peut pas aimer son libre arbitre. Quand on voit des personnes qui, hélas, sont tombées amoureuses de leur IA, c’est dramatique, ça n’a aucun sens, il n’y a pas d’amour.<br/>
| |
| Il peut y avoir, effectivement, une domination affective et on sait que les mécanismes affectifs peuvent être parfaitement automatiques, animaux, voire programmés, mais ça n’est pas le vrai amour. Je pense, effectivement, en tout cas je crois, en tout cas je parie qu’il y a cette dimension fondamentale qui est celle de la liberté de l’amour et cette dimension est très importante ; dans les grandes décisions il faut faire preuve de liberté.<br/>
| |
| Quand bien même j’aurais une machine qui semblerait, effectivement, défier la personne humaine en étant très créative, plus efficace qu’elle, pour autant, est-ce qu’elle aurait réellement une volonté ?
| |
| | |
| <b>Xavier de La Porte :</b>Je ne sais pas, pourquoi pas !<br/>
| |
| Là, je m’adresse à Étienne de Rocquigny le scientifique, il vient d’admettre que la machine pouvait créer alors même qu’on pensait, il y a peu encore, que c’était impossible. Pourquoi serait-il théoriquement impossible d’obtenir d’elle, un jour, un truc qui ressemble au libre arbitre ou à la volonté ?
| |
| | |
| <b>Étienne de Rocquigny :</b>Vaste question. Une première réaction de mathématiciens : est-ce que le libre arbitre est l’exercice de sa faculté de décider face à des choses qu’on a déjà vues ou face à des choses qu’on n’a jamais vues ? Est-ce que le libre arbitre est du registre de l’interpolation ou de l’extrapolation ?<br/>
| |
| Je pense fondamentalement que c’est souvent dans l’interpolation, mais, quelquefois, et peut-être que ce sont les fois les plus importantes, dans l’extrapolation. Beaucoup de gens, même les personnes les plus confiantes sur la prévalence des automatismes, savent bien qu’il ne faut pas mettre des IA sur des risques rares et des choses qui ne sont jamais arrivées, parce que, à priori, elles n’ont aucune chance d’y arriver. Pourquoi n’ont-elles aucune chance d’y arriver ? Là aussi, il faut revenir sur les probabilités. L’espace probabiliste est un espace qui prend une complexité abyssale au fur à mesure où la dimension augmente. Déjà, si vous faites un peu de géométrie probabiliste, vous savez qu’un espace de dimension 100 est un espace qui est extrêmement compliqué et qui défie le bon sens.<br/>
| |
| Mais aujourd’hui, avec les outils d’OpenAI, on parle d’espaces avec des milliers de milliards de paramètres, donc on parle d’espaces qui sont d’une telle immensité qu’il y a très peu de chances, à priori, que ces machines aient la bonne réaction sur des choses totalement inouïes.
| |
| | |
| <b>Xavier de La Porte :</b>Si on dit que c’est là, dans la réaction face à l’inédit que se manifeste la volonté humaine, alors oui, peut-être que nous ne sommes pas menacés sur le plan du libre arbitre. La singularité humaine est au moins préservée sur ce plan ; le raisonnement se tient. Mais, pour moi, il y a d’autres défis à la religion.<br/>
| |
| Prenons par exemple la question de l’incarnation qui est centrale dans la religion catholique, parce que c’est sous forme humaine que Dieu se présente aux hommes en la personne de son fils Jésus-Christ, aussi parce que les humains sont faits d’un corps et d’une âme, etc. Voilà que tout à coup on crée des machines qui font des choses mieux que les humains mais sans corps. J’aimerais savoir ce qu’on fait ça quand on est croyant.
| |
| | |
| <b>Étienne de Rocquigny :</b>Cette IA est effectivement un défi fondamental à l’anthropologie biblique, puisqu’on sort de la triade entre le corps, l’esprit et ce que Pascal appellerait le cœur, la volonté, l’âme. On a effectivement des machines qui sont, d’une certaine manière, incorporelles, ce n’est pas tout à fait vrai, elles sont sur une construction matérielle qui n’a rien à voir avec le domaine biologique. C’est un très grand défi, parce que, dans la personne humaine et dans les animaux, combien l’interpénétration entre le corps et les fonctions cognitives est grande ! Voilà donc qu’on imagine, plus qu’on imagine, qu’on voit fonctionner un certain nombre de ces machines cognitives qui imitent, sans rien avoir de notre fonctionnement biologique. C’est un très grand défi, c’est d’autant plus un défi que dans un regard de foi, en particulier de foi chrétienne, l’incarnation est fondamentale. La foi chrétienne parle de la croyance dans la résurrection de la chair . Qu’est-ce que ça veut dire la croyance de la résurrection ? C’est compliqué ! Ça veut dire, derrière, qu’il y a une confiance dans le fait que la personne humaine est intégrale et qu’on ne peut pas séparer le corps, de l’esprit, de l’âme. Là encore, ça me conforte plutôt dans l’idée que c’est un autre registre, c’est-à-dire que les fonctions cognitives des machines, qui sont puissantes, sont d’un registre totalement différent des fonctions cognitives incarnées.
| |
| | |
| <b>Xavier de La Porte :</b>Là, croyance chrétienne et science se rejoignent étrangement. La religion chrétienne pose l’unicité du corps et de l’âme ; la science contemporaine ne dit pas autre chose quand elle explique, par exemple, qu’on a sans doute accordé trop d’importance à la génétique, qu’on a pensé avoir trouvé, avec le gène, une sorte de programme que le corps mettrait en œuvre de façon automatique et, aujourd’hui, elle préfère plutôt parler d’épigénétique pour dire que le programme génétique n’est vraisemblablement pas autonome, qu’il se développerait en interaction avec l’environnement, qu’il s’appliquerait différemment selon ce que vit la personne dans son corps, dans sa psyché, etc. Bref, si on prend au sérieux l’hypothèse épigénétique, il est logique de dire que les facultés cognitives de l’humain sont radicalement différentes de celles de la machine et que, donc, la singularité humaine n’est pas menacée.<br/>
| |
| Mais ça me pose une question. Bien sûr, les machines n’ont pas de corps. Mais on pourrait les doter de capteurs qui leur permettraient de sentir des choses, d’ailleurs, en anglais, capteur c’est <em>sensor</em>, ce n’est pas pour rien. Sans vivre, les machines pourraient acquérir des fonctions qui simulent la vie, tout au moins la sensibilité, de la même manière qu’aujourd’hui elles simulent le savoir sans avoir aucune expérience.<br/>
| |
| Comme je sais la place que tient l’amour dans la religion catholique, je demande à Étienne ce qui se passerait si ces machines se mettaient à simuler à la perfection l’amour.
| |
| | |
| <b>Étienne de Rocquigny :</b>Elles pourraient simuler des relations intimes, elles pourraient simuler des émotions, elles le font d’ailleurs très bien aujourd’hui, il y a des travaux très intéressants là-dessus et qui sont fascinants. Oui, mais est-ce l’amour ? Pour moi, la réponse est non. L’amour c’est bien au-delà simplement d’une émotion, c’est bien au-delà, même si c’est très important, des relations intimes ; l’amour c’est habité par la volonté, d’ailleurs, en italien on dit <em>ti voglio bene</em>, « je te veux du bien », c’est une façon de dire « je t’aime ». C’est dire, en tout cas dans la vision chrétienne, combien la volonté est mobilisée dans l’amour et ça, il n’y a pas de simulation !
| |
| | |
| <b>Xavier de La Porte :</b>Pendant qu’Étienne me parle, me reviennent en mémoire des extraits de <em>Her</em>, le film de Spike Jonze, qui est sorti il y a dix ans déjà, où un type tombe amoureux du système d’exploitation de son téléphone qui est animé par une IA. Bon ! C’est vrai que cette IA a la voix de Scarlett Johansson, ce qui trouble un peu l’effet. En tout cas, le personnage joué par Joaquin Phoenix tombe amoureux du programme et, même, il fait l’amour avec le programme, par téléphone évidemment !
| |
| | |
| [Scène d’amour du film <em>Her</em>]
| |
| | |
| <b>Xavier de La Porte :</b>Dans une perspective matérialiste, on peut dire que, là, il y a amour. Le mec est raide dingue, l’IA et lui se parlent tout le temps, ils se font du bien, ils vont même jusqu’à avoir une vie sexuelle. Comment dire qu’il n’y a pas d’amour ? Dans une perspective chrétienne, il n’y a pas d’amour, puisqu’il n’y a pas de volonté de la part de la machine, parce qu’il n’y a que simulation.<br/>
| |
| Là, je sors l’argument que m’avait sorti le professeur de littérature Alexandre Gefen dans l’épisode sur ChatGPT, quand je lui avais dit que l’IA ne faisait que simuler tout le temps.
| |
| | |
| ==31’ 02==
| |
| | |
| <b>Alexandre Gefen :</b>Mais nous aussi nous simulons. Nous sommes aussi des machines entraînées à réagir, de manière automatique, dans des situations linguistiques, en permanence. On sait très bien que beaucoup de nos comportements sont réflexes, nos mots s’entraînent dans notre bouche sans qu’ils soient pensés avant, ça fonctionne tout seul, ça se déroule tout seul. Est-ce que les neurones cérébraux et les neurones artificiels, c’est exactement la même chose ? Sans doute pas ! Néanmoins, le fait que ça s’enchaîne tout seul sans planification, vérification, c’est une évidence, sinon il n’y aurait pas cette émission de radio. Si je devais tout planifier, tout préparer phrase après phrase…
| |
| | |
| <b>Xavier de La Porte :</b>J’avoue que sur le moment l’argument d’Alexandre Gefen m’avait laissé un peu coi. Donc, je décide de le tester sur Étienne de Rocquigny en lui disant la même chose : l’humain aussi passe son temps à simuler.
| |
| | |
| <b>Étienne de Rocquigny :</b>Bien sûr évidemment. Mais au fond, si toute personne humaine, finalement, se retrouve à comprendre qu’une forme de déclaration amoureuse a été faite sous le régime de la simulation, je pense que, fondamentalement, l’esprit humain ne peut pas accepter ça, c’est insupportable, c’est une trahison épouvantable.
| |
| | |
| <b>Xavier de La Porte :</b>Oui, évidemment. Si on a une relation avec un humain et qu’on s’aperçoit qu’il ou elle simule, ce n’est pas marrant et si on pense faire l’amour au téléphone avec un être humain et qu’on s’aperçoit que c’est une machine, ça doit être assez déplaisant.<br/>
| |
| Je reviens à <em>Her</em>, c’est ma bible, désolé ! Dans <em>Her</em>, le héros sait qu’il y a simulation, il le sait depuis le début, mais ça ne l’empêche pas de tomber amoureux et d’être heureux. Qu’est-ce qui provoque la grande déception dans <em>Her</em> ? Ce n’est pas du tout la simulation. Le problème se pose quand l’humain comprend que l’IA joue au jeu de l’amour avec des milliers d’autres êtres humains en même temps.
| |
| | |
| [Extrait de <em>Her</em>, en anglais]
| |
| | |
| <b>Xavier de La Porte :</b>Là, on entend bien, ce qui pose problème au personnage joué un Joaquin Phoenix, c’est que cette relation ne sera pas exclusive, pas singulière. Il s’accommode très bien du fait qu’elle soit simulée, ce qui d’ailleurs, entre parenthèses, fait de ce film un film tout à fait bourgeois. Mais bon !, je ne vais pas perturber Étienne en lui soumettant cet argument, d’ailleurs je ne suis même pas sûr que ça le perturberait. Il l’a dit à plusieurs reprises, il a tout à fait conscience de faire un pari, là encore, entre parenthèses, il est très pascalien : le pari de l’espérance comme il dit, le pari qu’il y a une marge de manœuvre et que s’y manifestera l’amour, le pari que c’est là la volonté de Dieu.<br/>
| |
| En l’écoutant depuis le début je me dis que face à l’IA, comme dans plein d’autres domaines, ça doit être fortifiant de s’asseoir sur ces croyances-là. Ce qui m’amène, d’ailleurs, à une question plus quotidienne : j’aimerais savoir s’il y a, dans la bible ou dans d’autres textes religieux, des passages auxquels Étienne de Rocquigny se réfère dans sa réflexion sur les technologies, des passages de l’Ancien ou du Nouveau testament qui l’éclairent.
| |
| | |
| <b>Étienne de Rocquigny :</b>Il y a un texte fondamental, c’est le texte de la Genèse sur l’arbre et le fruit défendu. C’est tout à fait stupéfiant avec un regard d’intelligence artificielle. Ça commence, le Seigneur dit à Adam et Eve « vous pourrez manger de tous les arbres du jardin sauf celui-là, n’y mangez pas, vous mourrez » et voilà que le serpent va dire « le Seigneur vous a dit de manger aucun arbre du jardin » et Eve répond « non il nous a dit qu’on pouvait manger de tous sauf celui-là, parce que nous mourrons ! – Mais pas du tout, en mangeant ce fruit vous aurez l’intelligence, vous deviendrez des dieux, vous n’aurez plus besoin de lui ». En entendant cela, la femme se dit « ce fruit est désirable, car il donne l’intelligence. » On voit donc combien, d’une certaine manière, le fantasme de la toute-puissance de l’intelligence, de la rationalité, de l’intelligence artificielle, combien ce fantasme est, en fait, lié fondamentalement au piège du mal. C’est cette tentation du mal qui est, d’une certaine manière, annoncée par ce texte de la Genèse.
| |
| | |
| <b>Xavier de La Porte :</b>Là, on revient à la toute puissance et au fantasme de toute puissance. Je ne pense pas qu’Étienne exagère complètement en utilisant ce terme. D’ailleurs, j’y pensais en lisant les comptes-rendus d’une conférence de presse donnée par Sam Altman, le patron de OpenAI, la boîte qui a développé ChatGPT, c’était le 6 novembre dernier, juste un an après le lancement de la version de ChatGPT qui a stupéfait le monde. Altman parlait, je le cite, « des super-pouvoirs que nous conférera très prochainement l’IA ». Ce n’est rien d’utiliser une expression comme celle-ci, en ajoutant « qu’ils seront à la disposition de tous » pour bien dire que ce fantasme est en droit d’être partagé, d’autant que c’est un type comme Altman qui emploie cette expression, lui qui ne fait pas partie des mecs les plus dingues de la Silicon Valley.<br/>
| |
| Donc, oui, il y a manifestement un fantasme de toute puissance à l’œuvre dans l’IA. Et s’il rappelle à Étienne la Genèse, c’est qu’il lui rappelle le fantasme d’une toute puissance des humains qui se feraient ou qui voudraient se faire les égaux de Dieu et qui provoquent, aussi, la sortie du paradis pour une humanité qui va se retrouver sur terre à souffrir de tous les maux. Ce n’est pas rien quand même.<br/>
| |
| On pourrait rétorquer à Étienne qu’il y a d’autres interprétations possibles de ce texte de la Genèse, si on l’envisage d’un point de vue laïc, par exemple.
| |
| | |
| <b>Étienne de Rocquigny :</b>Les contempteurs de la Genèse diront « regardez, vous voyez bien que la religion est une affaire d’interdits et vous voyez bien que vous avez une construction imaginaire qui vous empêche d’être raisonnables jusqu’au bout », on pourrait avoir cette critique-là, fondamentale. Hélas, je pense, comme Pascal, que la raison livrée à elle-même devient folle et je pense que les tragédies du 20e siècle sont en bonne partie liées à des régimes rationalistes qui sont devenus complètement dingues. Je pense, hélas, que le piège de la raison toute puissante n’est pas une interdiction néfaste, c’est une façon de préserver l’intégralité de la personne humaine, c’est une façon de préserver la possibilité de l’amour en renonçant à ce qui l’empêcherait. Je pense effectivement que dans la résistance par rapport à l’envahissement total de l’intelligence artificielle, c’est cela qui se joue.
| |
| | |
| <b>Xavier de La Porte :</b>OK. Donc, dans une perspective chrétienne, lutter contre l’envahissement de l’IA c’est lutter contre un fantasme de toute puissance de la raison, c’est préserver la possibilité de l’amour.<br/>
| |
| Me vient une question, encore une fois très concrète. Dans le <em>think tank</em> qu’Étienne de Rocquigny a créé, il y a des gens qui bossent dans l’IA, il y a des informaticiens, des entrepreneurs qui développent ou utilisent des programmes de <em>machine learning</em> et d’autres techniques d’intelligence artificielle. Or, il me semble y avoir une sorte de contradiction entre cette lutte contre le fantasme de toute puissance et le développement de programmes qui portent en eux ce fantasme de toute puissance. Pour le dire autrement : comment fait-on pour être un chrétien qui bosse dans l’IA ou avec l’IA ?
| |
| | |
| <b>Étienne de Rocquigny :</b>C’est tout à fait possible.<br/>
| |
| Premier exemple : on sait très bien que le sujet du recrutement est un sujet de souffrance et un sujet de biais fondamentaux. Beaucoup de personnes du fait de la couleur de leur peau, de leur religion, sont exclues du marché de l’emploi. Il y a quelques années, quelqu’un qui a monté une plateforme a décidé de mettre en place un système algorithmique pour, justement, réintégrer sur le marché de l’emploi des gens qui n’auraient pas pu par des mécanismes traditionnels. Comment a-t-il fait ça ? En fait, il a formalisé les besoins d’un recruteur sous forme d’attributs, de fonctions : cette personne-là doit savoir parler telle langue, faire telle ou telle tâche, être disponible à telle heure, etc. Il a formalisé sous forme de propriétés du travail, il a dit « faites-moi confiance, j’ai une plateforme d’IA, c’est moi qui vous trouve les personnes et vous ne verrez pas son CV, vous ne verrez pas son nom, mais je peux vous garantir que cette personne-là répondra à votre cahier des charges et ensuite vous la rencontrerez ». En faisant ça, il a effectivement réussi, d’une certaine manière, non seulement à sortir des biais de recrutement et même à aller chercher des gens qui étaient d’anciennes personnes vivant dans la rue, qui avaient des trous de CV qui les interdisaient du marché traditionnel du recrutement. Grâce à une mécanique algorithmique, il y en a beaucoup d’applications comme ça et le plus important, finalement pour moi, je reviens éternellement à la question de la volonté. En tant que scientifique et encore plus en tant qu’entrepreneur – cette révolution de l’IA est d’abord une révolution entrepreneuriale, ce n’est pas tant les labos de recherche qui forment l’avant-garde, sinon les entrepreneurs qui lèvent des capitaux, qui vont tester des cas d’usage, et, à partir de là qui entraînent des algorithmes de plus en plus grands –, ce sont donc les entrepreneurs qui, fondamentalement, ont le plus grand pouvoir en la matière et c’est vraiment une question de volonté de dire « voilà ce pourquoi je veux me servir de l’intelligence artificielle ». L’intelligence artificielle doit être au service de telle raison d’être et si je le décide, j’ai affaire à des programmes ; les programmes qui font ce qu’on leur demande ! Donc, si je demande à un programme de faire ça, il va faire ça. Et ça n’empêche pas de se servir des réseaux de neurones, ça n’empêche pas non plus de se servir d’émergence de propriétés à travers des réseaux probabilistes, qu’on n’aurait pas prévus, qui peuvent tout à fait utile à partir du moment où j’ai décidé de m’en servir pour telle finalité.
| |
| | |
| <b>Xavier de La Porte :</b>D’accord. Si on considère que la volonté prime, il n’y a pas de contradiction entre développer de l’IA et être dans une perspective chrétienne. Mais Étienne, là, a employé un mot qui m’étonne un peu, il vient de parler d’émergence. En sciences, et dans l’IA en particulier, l’émergence est une notion très répertoriée : elle désigne le processus par lequel un système complexe, un réseau de neurones par exemple, produit des comportements ou des caractéristiques qui n’ont pas été prévues par les concepteurs, qui ne sont pas définies dans le code, mais qui sont le résultat des calculs et des connexions. Je lui demande s’il pense, par exemple, en parlant d’émergence, aux résultats spectaculaires de ChatGPT et d’autres IA génératives.
| |
| | |
| <b>Étienne de Rocquigny :</b>Ça, c’est une propriété d’émergence, on ne l’avait pas imaginée et il y a eu un déclic en termes de nombre de paramètres. Il y a un seuil de nombre de paramètres à partir duquel, effectivement, l’algorithme s’est mis à construire une langue qui est tout à fait bonne, parfois même belle. C’est vraiment une propriété d’émergence qui n’était pas, à priori, anticipable, on ne pouvait pas savoir à partir de quand ça se produirait.
| |
| | |
| <b>Xavier de La Porte :</b>OK, mais là, dans le raisonnement d’Étienne de Rocquigny, il y a quelque chose qui ressemble à une contradiction. Si on accepte cette possibilité de l’émergence, c’est-à-dire qu’on accepte que quelque chose de non anticipable puisse se produire si on augmente, par exemple, le nombre de paramètres, comment être certain qu’un jour on n’arrive pas à implémenter dans ces machines ou à leur faire produire ce qui leur manque aujourd’hui ? À partir du moment où de l’inattendu peut se produire, qu’est-ce qui est interdit, en théorie, qu’émerge de ces machines quelque chose comme la volonté ou le libre arbitre ?
| |
| | |
| <b>Étienne de Rocquigny :</b>De quoi parle-t-on en émergence ? Dans le cas des <em>chatbots</em>, c’est le fait qu’à partir d’un certain niveau de paramétrage, l’outil peut produire un texte de grande qualité sur la demande d’un <em>prompt</em>, donc il n’y a pas de volonté en la matière : j’ai <em>prompté</em> quelque chose, il répond quelque chose et, effectivement, c’est une rationalité qui est impressionnante, mais c’est une rationalité qui est esclave de mon <em>prompt</em> ; il n’y a aucune liberté, aucune volonté là-dedans. Donc il y a une émergence cognitive, oui, bravo, mais il n’y a aucune volonté là-dedans.
| |
| | |
| <b>Xavier de La Porte :</b>Là je suis perplexe, j’ai l’impression qu’on ne parle pas de la même chose ou plutôt qu’on ne part pas des mêmes prémisses. Pour Étienne de Rocquigny, il n’y a pas de volonté parce qu’il n’y en a pas dès le départ. C’est vrai que les machines ne se mettent pas en marche toutes seules, elles ne s’engendrent pas seules, elles sont imaginées par des humains, elles sont fabriquées par des humains, elles sont programmées par des humains, elles sont activées par des humains, on est d’accord sur ce point, il n’y a pas de volonté à priori. Mais, encore une fois, pourquoi il n’y en aurait pas une qui émergerait, par hasard peut-être ? Ça me fait penser à tous ces films où c’est un accident qui produit un effet étrange dans la machine et qui la dote d’une sorte de conscience. Deux exemples qui datent un peu, les années 80, mais bon ! Dans <em>Short Circuit</em>, c’est la foudre qui frappe le labo où deux chercheurs fabriquent des robots pour l’armée.
| |
| | |
| [Extrait de <em>Short Circuit</em>]
| |
| | |
| ==45’ 28==
| |
| | |
| <b>Xavier de La Porte : </b>Là, dans la suite du film, le robot va se voir doté d’une conscience, il va devoir fuir l’armée qui veut le récupérer pour en faire des pièces détachées, puis il va trouver de l’aide auprès d’une jeune femme écologiste, etc.<br/>
| |
| Autre film, autre exemple, dans <em>Electric Dreams</em>, c’est le champagne qui est jeté pour refroidir un ordinateur en surchauffe qui va tout changer et qui va donner une conscience à la machine.
| |
| | |
| [Extrait de <em>Electric Dreams</em>, en anglais]
| |
| | |
| <b>Xavier de La Porte : </b>Évidemment, je ne crois pas que ça puisse arriver comme ça, je sais bien que c’est de la fiction et, en plus, pas de la fiction de la meilleure qualité, mais je ne vois pas pourquoi ce serait théoriquement impossible que l’augmentation des paramètres dans les réseaux de neurones, par exemple, produise un inattendu, que la science produise quelque chose d’imprévisible et, peut-être même, d’incompréhensible scientifiquement. D’ailleurs, je me demande si le fait que ces extraits qui datent des années 80 ne dit pas quelque chose. À cette époque, on pensait qu’il fallait un accident naturel, ou pas naturel d’ailleurs, pour que soit franchie cette étape, ce pas. Aujourd’hui, on pense sans doute que ça peut se produire sans événement extérieur, que ça peut venir de la machine elle-même.<br/>
| |
| D’ailleurs, ça me rappelle que la chercheuse en traduction automatique, dont j’ai déjà parlé tout à l’heure, m’a aussi expliqué que, dans les modèles de traduction automatique multilingue, on observait que les réseaux de neurones parvenaient à traduire des textes entre deux langues pour lesquelles on avait très peu de textes traduits, mais qu’on ne savait pas comment ils faisaient. C’est quand même troublant ! Comme si la machine s’était fait une sorte d’idée universelle de la langue qui lui permettrait de traduire n’importe quelle langue en n’importe quelle langue.<br/>
| |
| Si des choses comme ça se passe avec la langue, pourquoi n’aurait-on pas d’autres surprises. J’ai l’impression en l’occurrence, que si je peux m’autoriser à penser cette possibilité, c’est parce que je ne crois pas en Dieu, alors que la croyance d’Étienne entre en contradiction avec cette possibilité, parce que, pour lui, il y a comme une impossibilité ontologique que la volonté apparaisse dans la machine. Il a peut-être raison ! Peut-être que c’est con d’envisager que ce soit possible ! Mais là, j’ai l’impression que quelque chose nous sépare. Du coup ça ouvre un nouveau champ de questions : comment, dans son travail, Étienne de Rocquigny fait-il la partition entre ce qui est de l’ordre de sa croyance et ce qui est de l’ordre de la science ? C’est une vieille question, qui se pose à tout croyant depuis que la connaissance scientifique est venue apporter sur la vie, sur la création, etc., un tout autre récit que celui de la bible. Je lui demande si, en l’occurrence, pour faire cette partition, c’est Blaise Pascal qui l’aide.
| |
| | |
| <b>Étienne de Rocquigny : </b>Effectivement, Pascal est très moderne et, de ce point de vue-là, très sympathique à notre époque. Pascal est l’un des très rares, et il a pris des risques, à la moitié du 17e, de remettre l’église à sa place en disant « écoutez, vous n’avez rien à dire sur Galilée. Galilée a présenté des faits, il a argué d’une démarche parfaitement sensée, vous n’avez rien à dire là-dessus ». Donc Pascal est l’un des premiers, finalement, à mettre les choses à leur place et à dire « il y a le domaine de l’esprit géométrique – Pascal va l’appeler l’esprit géométrique – et puis il y a le domaine de la foi, de la révélation, et ces domaines-là sont tous les deux des accès honorables à la vérité, mais sont distincts. » Il ne faut pas mélanger les ordres.<br/>
| |
| Vous avez dit que la science remet en question les textes. Je dirais plutôt que la science remet en question la lecture qu’on a faite des textes. En réalité, dans la grande tradition biblique qui a été très largement développée par le Talmud, on est dans une tradition d’exégèse qui va mâcher, remâcher, et essayer de découvrir des sens cachés, toujours actualisés, de ces textes qui sont en grande partie des textes poétiques. Donc, dire que la science vient contredire, pour moi c’est mélanger les ordres. La bible n’est pas un texte scientifique, la bible est un texte poétique, rhétorique, historique et qui emploie, à certaines époques, un certain registre qui est conforme aux connaissances des témoins qui l’ont vécue, qui vont partager leur vie éclairée par l’esprit, mais qui vont le faire dans les codes de l’époque. Il nous revient, donc chaque jour, demain et après-demain encore, de remâcher ces textes. Pour moi, les ordres sont différents et non contradictoires. Un adage que j’adore de Pascal c’est « le cœur a ses raisons que la raison ne peut connaître ». Chez Pascal, la raison a toute sa place mais que sa place. Pascal est un immense scientifique, mathématicien, physicien, ingénieur, il a œuvré dans tous les domaines, immense scientifique qui remet l’église à sa place et, pour autant, Pascal met la raison uniquement sa place, il dit « à côté il y a le cœur. »<br/>
| |
| Il y a donc une dimension dans la décision, dans la volonté, dans la réalité, qui échappe à la raison et, évidemment, cette dimension-là va être éventuellement ouverte à la grâce, mais on a des ordres qui sont, pour moi, profondément complémentaires et qui se nourrissent l’un l’autre.
| |
| | |
| <b>Xavier de La Porte : </b>Mais là, aujourd’hui, il faut bien l’admettre, l’ordre du religieux est un peu en perte de vitesse. Si j’en crois les statistiques, la part des gens qui disent croire en Dieu est en diminution constante en France, elle est passée, par exemple, de 51 % de la population en 2011 à 41 % aujourd’hui, et on observe le même mouvement dans la plupart des pays dits occidentaux.<br/>
| |
| Je demande à Étienne de Rocquigny s’il y voit un lien avec la technologie, si elle pourrait participer à ce mouvement de sécularisation des sociétés.
| |
| | |
| <b>Étienne de Rocquigny : </b>Les religions sont à marée basse et, pourtant, la soif spirituelle est à marée haute, c’est même le débordement. Là encore, comment ne pas penser à Pascal qui dit que le désir du cœur humain est infini, il ne va se satisfaire ni des richesses matérielles ni de la raison scientifique ni de toutes sortes de divertissements, le désir humain est infini. Il y a donc, pour moi, une soif qui est très forte, en particulier chez les gens de la tech. Les gens de la tech sont des gens en quête. La quête n’est pas toujours formulée de manière spirituelle, mais, au fond, il y a quand même une quête de sens, en tout cas les historiens de la Silicon Valley le montrent. Dans le projet d’anthropologie digitale qui vient de la Silicon Valley, dont l’avatar le plus radical c’est le transhumanisme, je pense qu’il y a une quête de sens très profonde. D’ailleurs, chez certains promoteurs de la tech, il y a même une expérience quasi messianique, on pense que l’investissement considérable dans ces machines et dans ces futurs cyborgs va sauver l’humanité de ses plaies : on va vivre plus longtemps, on va même devenir éternels et on va supprimer les problèmes du climat. Je pense que dans le techno-solutionnisme il y a, au fond, un messianisme qui ne dit pas son nom ou pas toujours.
| |
| | |
| <b>Xavier de La Porte : </b>Bon ! Parfois le messianisme est très explicite. En 2017, par exemple, le magazine américain <em>Wired</em> a raconté que Anthony Levandowski, qui est assez connu dans la Silicon Valley parce que c’est un ingénieur à l’origine des voitures autonomes de Google, avait créé une sorte de religion baptisée <em>Way of the Future</em>, « la voie de l’avenir », et qu’il voyait une sorte de divinité dans l’intelligence artificielle. Force est de constater que le mouvement n’a pas vraiment pris. Mais, à part ces trucs un peu folkloriques, il y a des mouvements plus sérieux. On peut en effet considérer qu’il y a, dans certaines versions du transhumanisme, quelque chose qui ressemble à un messianisme ; la croyance en l’avènement de la singularité qui repose sur l’idée que l’IA va produire un emballement technologique qui va profondément bouleverser l’humain, les sociétés, c’est une forme de messianisme. J’y vois le signe que l’IA travaille en profondeur la question religieuse parce que c’est sans doute la première fois qu’on a créé quelque chose d’aussi troublant et ça, Étienne de Rocquigny me le confirme en évoquant une autre influence forte dans la pensée tech.
| |
| | |
| <b>Étienne de Rocquigny : </b>Il y a une autre figure qui est assez populaire dans la tech, c’est Teilhard de Chardin, ce paléontologue chrétien qui a écrit sur la noosphère, d’ailleurs noosphère a été pris par noûs quand noûs est sorti ??? [54 min 22], cette espèce de superstructure de l’esprit. Oui, il y a cette vision-là qui est aussi un peu celle du New-Age. Avec les IA, on a, finalement, à la fois une quête de sens, le fantasme, en tout cas le désir messianique, et, finalement, un grand besoin de spiritualité et c’est effectivement un défi, d’une certaine manière, qui est peut-être adressé aux croyants : comment les croyants peuvent-ils donner envie de recourir aux entreprises spirituelles traditionnelles, qu’elles soient chez le rabbin, chez l’imam ou chez l’évêque ? Comment nous autres, entreprises traditionnelles spirituelles, pouvons-nous répondre à cette soif de sens qui est incroyable et qui est, pour moi, réjouissante et salutaire parce que, si on a plus de quête de sens, c’est qu’on est mort.
| |
| | |
| <b>Xavier de La Porte : </b>Voilà. On en arrive à la conclusion un peu paradoxale, il faut le reconnaître, que le trouble dans lequel nous plongent les technologies contemporaines pourrait même profiter aux religions, parce que ces dernières donnent un sens que nous peinons à trouver. En tout cas, c’est ce que je déduis des propos d’Étienne de Rocquigny.<br/>
| |
| Il va falloir qu’on se quitte avec Étienne. Je vois son téléphone qui s’allume, il a manifestement du boulot qui l’attend, mais j’ai une dernière question à lui poser. Il vient de parler de mort. Or, parmi les messianistes de la Silicon Valley, il y a cette idée qu’on pourrait, un jour, survivre à notre mort. Alors, ça prend des formes diverses.<br/>
| |
| Pour Ray Kurzweil, par exemple, le pape du transhumanisme, depuis longtemps lui évoque la possibilité qu’on pourrait, un jour, <em>downloader</em> notre cerveau dans des machines, donc survivre à l’extinction de nos fonctions corporelles.<br/>
| |
| Plus modestement, mais de manière peut-être plus effective, il y a, aujourd’hui, des programmes qui proposent de converser avec une personne décédée dont on aura préalablement sauvegardé et transmis toutes les conversations numériques pour que le programme soit ensuite capable de répliquer des tournures de phrase, des tics de langage, des manières de faire des blagues, des obsessions, etc., il paraît que les résultats sont bluffants. Je demande donc à Étienne s’il ne s’agit pas, là, d’autres formes de résurrection et si ça ne le tenterait pas, parce qu’après tout, si le but c’est la résurrection.
| |
| | |
| <b>Étienne de Rocquigny : </b>Le cœur humain aspire à une création nouvelle. Même si j’aime la vie, la terre, j’aime discuter avec vous, j’aime l’amitié, l’amour, la contemplation, cette terre est blessée, cette terre est limitée, cette terre est envahie par le mal. Donc, vivre éternellement sur cette terre, non !, ce n’est pas ça mon espérance. Mon espérance, c’est de vivre dans une vie où nous serons tous ensemble, tous réconciliés, tous dépassés, loin de nos petitesses, de nos incapacités à nous aimer, de nos incapacités à respecter la création. C’est cela qui me fait rêver, c’est cette création réconciliée dont parle, d’ailleurs, Saint-Paul. Il a un texte très clair là-dessus qui dit que la création toute entière gémit dans l’enfantement, elle attend la révélation du fils de Dieu. Il a cette vision cosmique qui est de dire que non seulement les personnes humaines sont, d’une certaine manière, appelées à vivre l’amour pleinement, mais même toute la création, c’est-à-dire les insectes, les oiseaux, les pierres.
| |
| | |
| <b>Xavier de La Porte : </b>Saint-Paul ne pense pas aux machines, donc la création entière ne contient pas…
| |
| | |
| <b>Étienne de Rocquigny : </b>Voilà quelque chose de très stimulant. Un théologien un peu disruptif, catholique, a écrit un livre comme quoi le Seigneur allait sauver également les machines, les machines comme artefact de la création humaine, comme création secondaire, tout comme <em>Le Clavecin bien tempéré</em> de Jean-Sébastien Bach, le temple de Salomon, l’Église Notre-Dame, et les IA merveilleuses feraient également partie de cette Jérusalem céleste ; il y a cette vision-là !<br/>
| |
| Je pense qu’il faut d’abord être certain qu’avec l’IA nous avons affaire au <em>Clavecin bien tempéré</em>, à ??? [58 min 17] de Miles Davis ; le temps va nous aider à faire le tri.
| |
| | |
| <b>Xavier de La Porte : </b>Pourquoi pensez-vous à Miles Davis ?
| |
| | |
| <b>Étienne de Rocquigny : </b>Je pense qu’il y a des pièces de Miles Davis qui sont des monuments du génie humain, qui, j’espère résonneront dans la vie éternelle.
| |
| | |
| <b>Xavier de La Porte : </b>Merci beaucoup à Étienne de Rocquigny pour s’être prêté à cette discussion. Je rappelle qu’il a publié aux éditions Boleine <em>Le sens de l’IA à l’école de pascal entrepreneur</em>.<br/>
| |
| À la prise de son c’était Lison ???, au mixage Basile Basile Beaucaire, réalisation Fabrice Laigle.<br/>
| |
| C’était <em>Le code a changé</em>, un podcast original de France Inter.<br/>
| |
