Un catholique face à l’IA

Titre : Un catholique face à l’IA

Intervenants : Étienne de Rocquigny - Xavier de La Porte

Lieu : Podcast le code a changé - France Inter

Date : 25 novembre 2023

Durée : 59 min 43

Podcast

Présentation du podcast

Licence de la transcription : Verbatim

Illustration : À prévoir

NB : Transcription réalisée par nos soins, fidèle aux propos des intervenant·e·s mais rendant le discours fluide.
Les positions exprimées sont celles des personnes qui interviennent et ne rejoignent pas nécessairement celles de l'April, qui ne sera en aucun cas tenue responsable de leurs propos.

Transcription

Xavier de La Porte : Je ne crois pas en Dieu. La foi est même un processus ou un état, je ne sais pas comment il faut dire, qui m’est très étranger. Pour autant, je n’ai aucun mépris ni pour la foi ni pour les croyants ni pour les religions ou les textes dont elles sont issues. Je ne pense pas que l’absence de religion soit le signe d’une société avancée.
Je ne suis pas croyant, donc, et je suis même ravi de vivre dans une société qui permet de ne pas être croyant, mais je n’en tire aucune supériorité. Je me dis juste qu’habiter ce monde avec la foi ou sans la foi ce sont sans doute des expériences très différentes, quel que soit le Dieu en lequel on croit, d’ailleurs. Je me dis juste que ça doit changer beaucoup de choses quand on se retrouve face à des épreuves majeures, qu’elles soient personnelles ou collectives, et je me dis juste qu’avoir la foi, ça doit donner une forme particulière à la perception du monde.
Donc, quand un ami m’a parlé d’un groupe de réflexion qui s’appelle « Algorithme et espérance », qui rassemble des croyants s’intéressant à l’intelligence artificielle, ça a tout de suite excité ma curiosité. Voilà une sorte d’épreuve majeure face à laquelle on se retrouve tous, les algorithmes auto-apprenants, les réseaux de neurones, tout ça, tout ça.
Tout de suite une myriade de questions m’est venue à l’esprit : comment les catholiques envisagent-ils l’IA ? Est-ce qu’ils se posent des questions qu’on ne se pose pas quand on n’a pas la foi ? Est-ce que, face aux questions que tout le monde se pose, ils ont d’autres réponses ? Et est-ce que, si je vais discuter avec eux, ils changeront mon regard sur l’IA ?
Si je suis totalement sincère, un autre truc m’est tout de suite venu en tête. Je sais que le Vatican s’intéresse aussi à l’IA. J’ai entendu, par exemple, parler d’une consultation lancée par le pape ou d’un appel abrahamique signé par des évêques, des rabbins et des imams. Je me demande comment font ces gens pour réfléchir à l’IA à partir de croyances aussi anciennes et, plus globalement, je me demande bien comment on arrive à rendre compatibles sa foi et quelque chose d’aussi troublant que l’intelligence artificielle.
J’avais tout ça en tête en allant voir un des fondateurs de « Algorithme et espérance », Étienne de Rocquigny, profil intéressant : il est catholique, évidemment, il a fait polytechnique, il a travaillé dans des labos de R&D, et puis il est devenu entrepreneur et conseiller d’entrepreneurs qui utilisent en particulier l’IA. Par ailleurs, c’est un fan de Pascal auquel il vient de consacrer un livre, Blaise Pascal, qui était à la fois un philosophe, un mathématicien, un théologien et une sorte d’entrepreneur, un modèle pour Étienne de Rocquigny, ça je comprends bien.
Nous nous sommes retrouvés un matin, dans les bureaux de son éditeur, Boleine, et on nous a installés dans une pièce qui, à cause d’un déménagement récent, était encore assez vide pour résonner un peu comme une chapelle. Parfois, le hasard fait bien les choses ! Je crois que Pascal a dit des trucs assez proches de ça.
Bref, je ne vais pas commencer à rigoler, tout cela est très sérieux. J’ai donc posé à Étienne de Rocquigny une question assez vaste. Je lui ai demandé quel problème l’IA posait à un catholique.

Étienne de Rocquigny : Je vis, comme chrétien, plutôt la recherche de réponses que l’identification de problèmes. Je pense que les problèmes qui se posent sont ceux qui se posent à toute personne humaine, qui renvoient sur le vieux problème de l’homme et de la machine, la dialectique du maître et de l’esclave. Donc au fond, derrière, il y a la question de la liberté, de la singularité de la personne humaine et, après, il y a la question économique : qu’est-ce que mon travail va devenir, etc. ? Je pense que ce sont des questions qui se posent absolument à tout le monde.
Dans une démarche de foi, on peut aussi avancer vers des réponses, une forme de pari équilibré et ça c’est parfaitement un acte de foi qui, pour moi, est tout à fait séparé d’une démonstration mathématique, c’est un pur acte de foi. Si je considère que la personne humaine a été effectivement créée à l’image de Dieu, alors je suis en lieu de penser que la technique, qui sont des artefacts de la personne humaine, sont des créations de la personne humaine, d’une certaine manière, sont une création de second plan. À priori, on peut penser que la technique et, en particulier, l’intelligence artificielle qui est son dernier avatar le plus récent, est une œuvre qui est à l’image de Dieu tout-puissant. Donc, disons que c’est une base pour commencer à construire de l’espérance.
Je pense également que cette création se fait avec une liberté totale, rien n’est écrit à l’avance et, là encore dans une approche de foi, si je pense que le Seigneur, qui a créé la personne humaine, l’a créée effectivementpar amour, alors je ne peux pas aimer quelqu’un sans le vouloir libre, je ne peux pas aimer une femme, je ne peux pas aider un homme sans le vouloir libre, sinon l’amour n’a aucun sens, donc cette création est profondément sous le signe de la liberté. C’est donc à nous, personne humaine, c’est à vous et moi, dans notre usage au quotidien de l’IA, de faire bon usage de notre liberté. Ce qui veut dire, la contraposée, que le pire côtoie le meilleur.

Xavier de La Porte : Plusieurs choses m’intéressent là-dedans. D’abord, l’idée que les problèmes posés par l’IA sont les mêmes pour les chrétiens que pour les autres. Bon ! Je n’en suis pas absolument certain et je pense qu’il faudra y revenir. Pour l’instant, autre chose m’intéresse dans ce que dit Étienne de Rocquigny. Sa foi, explique-t-il, l’amène à considérer la technologie comme une création de second plan, une cocréation de l’homme et de Dieu. En fait, c’est un débat théologique très compliqué et qui n’est pas du tout nouveau pour les catholiques : à quel point Dieu est-il responsable de tout ce qui a été créé et est créé ?, avec une question subsidiaire : Dieu est-il responsable, aussi, de ce que l’humain crée ? C’est un débat compliqué parce que si on considère que Dieu est entièrement et seul responsable de tout, alors il n’y a aucune marge de manœuvre pour les humains, qui ne sont que des sortes de marionnettes dans ses mains et, en plus, Dieu est aussi responsable de toutes les horreurs produites par les humains. Cela n’est pas tenable. Mais si Dieu n’est pas responsable de tout, alors à quoi sert-il ? Ce serait quoi l’idée ? Il a tout créé et ensuite il s’est barré ? Cela n’est pas tenable non plus. En utilisant le terme de cocréation, Étienne de Rocquigny tranche le problème d’une manière qui est, d’après ce que je comprends, assez partagée aujourd’hui parmi les catholiques : la technologie est une œuvre à la fois humaine et divine ou, peut-être serait-il plus juste de dire, qu’elle est une œuvre divine dans la mesure où elle est une œuvre humaine, et vice-versa, et Dieu voulant les hommes libres un cette cocréation n’est pas prédéterminée, elle peut donner le meilleur comme le pire. Bon ! C’est ce que je comprends. Comme je trouve ça très abstrait, je demande à Étienne de Rocquigny qu’il m’explique un peu mieux.

Étienne de Rocquigny : Beaucoup de gens craignent dans l’IA, finalement, une forme d’asservissement déterminée par avance avec des machines qui, devenant de plus en plus puissantes, vont finir par régler notre condition et décider à notre place. C’est quand même faire un peu faible mesure des chocs de la physique moderne, à commencer par la physique quantique, la relation d’incertitude d’Heisenberg, ensuite le théorème de Gödel, la finitude de la raison mathématique. La science moderne se construit sur l’incomplétude de la science, sur le fait que, finalement, au plus profond de la matière, il y a quelque chose qui échappe à la raison. Si je transpose ça sur l’intelligence artificielle, cela veut dire qu’on peut rêver d’intelligence artificielle, certains croient qu’ils vont prendre des puissances démesurées, néanmoins il y a une part du réel qui échappe profondément à la raison scientifique et le théorème de Gödel va dire qu’il y a effectivement des limites à la logique mathématique, la logique mathématique ne se suffit pas à elle-même et je crois y voir, c’est un point de vue personnel – je suis pas théologien ni grand spécialiste de liberté – et je le vis personnellement comme une marge de manœuvre.

Xavier de La Porte : Là, je trouve que le raisonnement est assez malin, quand je dis « malin », c’est au sens de « habile », ce n’est pas au sens de « diabolique ». Pourquoi est-ce malin ? Parce que je m’attendais à ce que Étienne de Rocquigny m’explique son histoire de cocréation et de liberté en des termes théologiques et pas du tout ! Il me prend complètement à revers en s’appuyant sur les sciences, il va chercher des théories scientifiques très importantes comme le principe d’incertitude d’Heisenberg ou le théorème d’incomplétude de Gödel qui ont en commun d’affirmer qu’il y a de l’incertitude, qu’il y a de l’indécidable, des théories qui disent, en gros, qu’il y a des limites à la rationalité scientifique, donc bam ! Étienne de Rocquigny, lui, y voit une place pour autre chose que la raison, donc pourquoi pas pour Dieu ? Il ajoute que ça ne s’applique pas seulement à la physique et aux mathématiques, mais aussi à l’intelligence artificielle. Je ne comprends pas très bien cela, je lui demande de me préciser et là bam !, à nouveau, au lieu de parler en théologien, il plonge dans la genèse des principes à l’œuvre dans les IA génératives qui nous impressionne tant aujourd’hui.

Étienne de Rocquigny : Ce qui est très intéressant dans les développements modernes de l’intelligence artificielle, c’est que finalement pour l’instant, ça pourra changer, c’est le paradigme probabiliste qui a détruit tous les autres. C’est-à-dire qu’on a voulu construire des outils de traduction automatique pendant des années en faisant des modèles compliqués de sémantique, en essayant de réfléchir sur l’articulation de la grammaire, de la syntaxe, etc., et ces modèles se sont effondrés devant une logique bête et méchante qui est la logique probabiliste inventée par Pascal qui veut dire : après tout, si deux fois de suite on a dit ce mot-là, c’est bien probable que la troisième fois il revienne. La logique probabiliste est une logique qui est extrêmement pauvre en termes épistémologiques, qui ne dit pas grand-chose que l’observation des régularités du réel. Ça veut dire que si une part du réel échappe, eh bien l’IA n’enserrera pas la totalité du réel. Je pense qu’il faut revenir sur les fondements de ces machines qui, me semble-t-il, nous laissent une véritable marge manœuvre.

Xavier de La Porte : Là, je comprends mieux et c’est très intéressant. Au fond, notre marge de manœuvre proviendrait du fait que la logique à l’œuvre dans l’IA aujourd’hui est assez pauvre parce que probabiliste. Qu’est-ce que ça veut dire ? Ça veut dire que la machine ne peut raisonner qu’à partir des données qu’elle a à disposition. Or, ces données n’engloberont jamais la totalité du réel et c’est vrai. On le voit par exemple dans des systèmes très complexes comme le climat. Il y a tellement de données, tellement d’interactions dans les phénomènes climatiques, que même des machines hyper puissantes ont du mal à tout prendre en compte. Elles ont du mal à faire tourner des modèles qui englobent la totalité de cette réalité si complexe qu’est le climat. Donc, ces machines sont, par principe, limitées. Même raisonnement, alors, qu’avec Heisenberg ou Gödel. Pour Étienne de Rocquigny, si les machines sont limitées, il y a de la place pour l’humain, pour la liberté, pour l’IA. Bon !, d’accord.
Mais comment s’expriment les limites de ces machines ? Où l’intelligence artificielle est-elle en train de faillir ? Là encore, j’ai besoin que Étienne de Rocquigny me l’explique concrètement.

Étienne de Rocquigny : J’ai construit ma carrière scientifique sur la modélisation des grands risques – le risque nucléaire, le risque climatique, les inondations, les séismes, etc. Quand on travaille dans ce domaine-là, les autorités, de sûreté pour certifier une centrale nucléaire, un avion ou une zone constructible, vont faire des calculs d’extrapolation dans des événements extrêmes. Voilà un domaine dans lequel on comprend qu’en fait on ne connaît rien, qu’en fait les grands accidents de la terre sont totalement imprévisibles, ce que dit Pascal en disant « si le nez de Cléopâtre eût été plus court, la face du monde aurait été changée ». C’est cette intuition que, finalement, les grands événements importants dans la terre échappent à la prévision. J’ai beau faire des probabilités, j’en ai fait beaucoup sur les risques, elles échappent aux faits. Et ça, aujourd’hui, dans le domaine de l’intelligence artificielle où on travaille, finalement, sur des événements fréquents, sur le bavardage d’un site en ligne, on prévoit des choses qui arrivent fréquemment avec beaucoup de données, on oublie les limites intrinsèques de la prévision probabiliste, qui sont très grandes. Elles sont très grandes aussi, pour moi, dans le domaine personnel. Est-ce que les grandes décisions que nous avons prises dans notre vie auraient pu être prédites, affairées, conjecturées avec une rationalité scientifique : votre choix de travail, le choix de la personne avec laquelle vous vivez ? En lisant Pascal, on comprend que ces décisions sont faites sous le registre du cœur plutôt que de la raison, donc, oui, il y a une marge de manœuvre profonde. Je pense, en tout cas je crois que c’est là qu’il faut investir le libre arbitre, la volonté, le cœur et la décision des personnes humaines.

Xavier de La Porte : Tout ce que fait Étienne de Rocquigny depuis le début de notre discussion converge vers un point : affirmer que face à l’IA nous sommes libres. Bon ! C’est une conviction qui, il faut l’admettre, fait du bien à entendre dans la période que nous vivons où on a l’impression que les progrès technologiques s’autonomisent presque, qu’ils suivent un cours inéluctable qui nous échappe.
Ce qui est assez fort, c’est que Étienne de Rocquigny mobilise, pour m’en convaincre, des arguments qui sont de deux ordres très différents : il mobilise des arguments scientifiques – les limites inhérentes au modèle probabiliste – et il mobilise des arguments religieux en disant que la technologie est une création divine de second plan et que Dieu, voulant l’homme libre, lui réserve une marge de manœuvre dans l’usage de ses créations.
Moi qui ne crois pas en Dieu, je suis évidemment plus convaincu par les arguments scientifiques, mais je remarque que Étienne de Rocquigny trouve une force supplémentaire dans la convergence de ces deux ordres. D’une certaine manière, je l’envie un peu, parce que ces deux argumentaires convergent dans une direction qui me semble la bonne : nous débarrasser des illusions de toute-puissance de la science et, en l’occurrence, d’une de ses productions qu’est l’intelligence artificielle. D’ailleurs, je lui demande si c’est ça le but, se défaire des illusions.

Étienne de Rocquigny : Tout à fait. Je pense que c’est exactement ça. Je pense que le geste salutaire, c’est de se défaire de ses illusions et, une fois qu’on a fait ça, on peut avancer et essayer de réfléchir : en quoi est-ce que l’intelligence peut modestement servir au bien commun ? L’intelligence artificielle est d’abord un combat rhétorique et, là encore, on va rejoindre Pascal : l’intelligence artificielle voilà un oxymore absolument effroyable, probablement le chef-d’œuvre du marketing scientifique. « Intelligence artificielle », on fait cohabiter deux choses qu’à priori tout sépare et voilà que ça nous emmène, finalement, à tomber sous l’empire de ce que Pascal appelait « cette maîtresse de fausseté », l’imagination, « d’autant plus fourbe qu’elle n’est pas toujours synonyme de fausseté », c’est-à-dire que, parfois, l’imagination est juste. Donc la rhétorique a envahi le domaine de l’intelligence artificielle et elle l’a envahi pour des raisons économiques, d’abord. Je pense donc qu’il faut d’abord se défaire de ça, il faut d’abord mettre de côté la rhétorique, refaire un peu d’épistémologie pour remettre la raison scientifique à sa juste place. D’ailleurs, ça ne veut pas dire que je veux mettre la foi à la place, je suis assez disciple de Pascal pour dire que la foi et la raison sont deux formes d’accès à la vérité qui sont des ordres tout à fait différents. Il ne s’agit pas de combler ce vide-là par des injonctions de vérité religieuse, pas du tout. Il s’agit de s’ouvrir aux limites de la raison, sortir des illusions et, à partir de là, sourire de notre liberté et essayer de la vivre, ce qui n’est pas le plus simple.

15’ 34

Xavier de La Porte :Se défaire des illusions, d’accord. Se défaire du discours marketing et tout ça, OK. Reconquérir une liberté à laquelle nous invitent certaines théories scientifiques, d’accord. Prendre appui sur la religion pour achever de nous convaincre que nous sommes libres, pourquoi pas. Je pourrais même être tout à fait d’accord si l’IA ne me semblait pas mettre au défi la religion elle-même.
Tout à l’heure Étienne de Rocquigny a évacué un peu trop vite, à mon goût, la question quand il a eu l’air de dire que l’IA ne lui posait pas de problème particulier en tant que catholique. Est-ce que c’est vraiment le cas ?
Pourquoi je parle de défi lancé à la religion ? Dans un livre paru en 2017, qui s’appelait Informatique céleste, le philosophe Mark Alizart résumait de manière assez marrante l’histoire humaine. Il expliquait que l’humain connaissait avec l’intelligence artificielle sa troisième grande faille narcissique.
La première faille avait été de s’apercevoir, avec Galilée, qu’il n’était pas au centre de l’univers, l’univers entier ne tourne pas autour de la Terre, c’est un constat qui relativise notre place.
La deuxième faille narcissique c’était de reconnaître avec Freud que nous n’étions pas guidés par notre seule volonté, mais par un inconscient pas facilement maîtrisable.
Et la troisième faille narcissique, c’est donc d’avoir créé des entités machiniques qui deviennent nos égales dans des domaines où on pensait, jusqu’à peu, régner en maîtres, comme parler ou, pourquoi pas, créer.
Mark Alizart il parle de faille narcissique parce qu’il se place dans la perspective de la psychanalyse, mais on peut aussi bien poser le problème en termes religieux. À chacune de ces étapes, Galilée, Freud, l’IA, c’est la religion, aussi, qui est mise au défi, parce que c’est la place que la religion accorde à l’humain qui est mise au défi. Si l’humain n’est pas si important que ça dans l’univers, s’il ne maîtrise pas grand-chose de ce qu’il fait parce qu’il est le jouet de ses pulsions et s’il a créé des machines qui sont mieux que lui, on comprend mal pourquoi Dieu l’aurait fabriqué à son image et pourquoi il aurait autant misé sur cette création, assez naze, dont les particularités sont en train de se diluer au fur et à mesure que le temps passe. Donc, la question que je pose à Étienne de Rocquigny est très simple : est-ce qu’il est d’accord ?

Étienne de Rocquigny :Oui, c’est un très grand défi, mais là encore j’ose croire que ce défi va justement nous permettre d’aller plus loin sur la spécificité de la personne humaine. Je vais prendre d’abord un exemple un peu décalé : je suis, par ailleurs, musicien de jazz, ça fait déjà plusieurs années que des IA nous font des solos de Charlie Parker, de Miles Davis, etc. Et qu’est-ce que c’est qu’une IA qui fait un solo de Charlie Parker, de Miles Davis, etc. ? C’est un jazzman peu inspiré, c’est un jazzman qui bavarde. D’ailleurs l’ennemi, quand on fait du jazz, c’est de bavarder et les bons musiciens vous entendent. Quand ils vous connaissent, ils disent « tu es en train de bavarder ! Là, tu n’improvises pas, tu bavardes ! » Voilà une stimulation pour forcer le jazzman à vraiment improviser quelque chose de nouveau et non pas simplement faire du bavardage. Le pire et le meilleur sont possibles, je prends le pari de l’espérance.

Xavier de La Porte :Là, je comprends tout à fait le raisonnement d’Étienne de Rocquigny. Côtoyer les IA peut nous inciter, pour ne pas dire nous obliger, à spécifier notre humanité. D’ailleurs, c’est drôle qu’il emploie ce terme de bavardage, dont je ne savais pas qu’il était aussi usuel dans le jazz, mais qui nous ramène à la question du langage. Si l’IA est capable de bavarder comme nous, alors ça nous oblige à faire autre chose que bavarder.
Ça me rappelle ce que me racontait une chercheuse spécialiste de la traduction automatique. Elle m’expliquait que les IA sont capables, aujourd’hui, de très bien traduire et qu’elles le feraient d’ailleurs de mieux en mieux. Mais les linguistes observent une chose : en passant par la traduction automatique, par les réseaux de neurones en l’occurrence, la langue perd en personnalité, parce que, chose que j’ignorais, les linguistes arrivent à mesurer la personnalité d’une langue avec des outils qui déduisent de la langue d’un locuteur s’il est un homme ou une femme, s’il a un âge où un autre, son niveau culturel, etc. Or, d’après les chercheurs, si la traduction produite par les machines est chaque jour meilleure, chaque jour plus correcte, on a du mal à préserver, dans la langue d’arrivée, ce qui s’exprimait de personnalité, du locuteur, dans la langue de départ. Cette chercheuse m’expliquait que c’est un problème très difficile à résoudre : ces modèles de traduction reposant sur d’énormes corpus de textes et un modèle probabiliste, ils ont tendance à aller vers une solution moyenne. Donc, si le résultat est de plus en plus correct, il est aussi, mécaniquement, de plus en plus moyen et on ne peut pas y faire grand-chose. Cette chercheuse y voyait même un risque pour l’avenir. Elle m’expliquait que, comme il est fort probable que, pour s’aider à traduire encore mieux, ces modèles se nourrissent de textes traduits par des machines, qu’on aille vers des résultats de plus en plus moyens. C’est abyssal.
Là, j’ai l’air de digresser, mais, en fait, pas tant que ça. Ça nous ramène à l’idée que l’IA nous obligerait à nous singulariser, à redéfinir ce qui fait notre spécificité en tant qu’humains. Au fond, un peu comme les recherches récentes menées sur les animaux qui nous déstabilisent, parce qu’elles montrent que les poissons souffrent, que les poules ont un vocabulaire et même des accents différents selon les lieux, les régions ou que les grands singes inventent, etc. Ces découvertes sur les animaux nous obligent à repenser notre singularité et notre place dans le monde. C’est un peu pareil avec l’apparition de l’IA, en fait. En ça, je suis donc d’accord avec Étienne. Mais, en termes de défi, je voyais plus un défi adressé directement à la religion, pas simplement à l’anthropologie. Est-ce que lui estime que l’existence de ces machines remet en cause la place que la religion catholique, en l’occurrence, accorde à l’humain ?

Étienne de Rocquigny :On a commencé à dire, au début : les machines probabilistes bavardent, répètent, elles ne sont pas créatives. Et puis, on s’aperçoit que si, de temps en temps, après tout, l’interpolation par des machines probabilistes dans des espaces de très grandes dimensions génère des configurations nouvelles. Nouvelles, qu’est-ce que ça veut dire ? En réalité, ce sont des interpolations, c’est-à-dire qu’elles mettent ensemble les choses qui ont déjà été vues. Mais la conjonction nouvelle donne effectivement un sentiment de créativité et peut, pour la plus grande joie des informaticiens théoriciens, donner l’impression qu’on a passé le test de Turing, donc donner effectivement l’impression que la machine a vraiment fait quelque chose qu’on aurait cru une création nouvelle. Donc, finalement, est-ce que la singularité de la personne humaine c’est la créativité ? Peut-être pas ! Voilà une réponse vertigineuse. Alors, où faut-il vraiment aller chercher la singularité de la personne humaine ?
Si je me mets dans un point de vue de croyant, ce qui fait fondamentalement une personne humaine, c’est son libre arbitre et sa capacité à aimer, et l’une ne peut pas aller sans l’autre, on ne peut pas aimer son libre arbitre. Quand on voit des personnes qui, hélas, sont tombées amoureuses de leur IA, c’est dramatique, ça n’a aucun sens, il n’y a pas d’amour.
Il peut y avoir, effectivement, une domination affective et on sait que les mécanismes affectifs peuvent être parfaitement automatiques, animaux, voire programmés, mais ça n’est pas le vrai amour. Je pense, effectivement, en tout cas je crois, en tout cas je parie qu’il y a cette dimension fondamentale qui est celle de la liberté de l’amour et cette dimension est très importante ; dans les grandes décisions il faut faire preuve de liberté.
Quand bien même j’aurais une machine qui semblerait, effectivement, défier la personne humaine en étant très créative, plus efficace qu’elle, pour autant, est-ce qu’elle aurait réellement une volonté ?

Xavier de La Porte :Je ne sais pas, pourquoi pas !
Là, je m’adresse à Étienne de Rocquigny le scientifique, il vient d’admettre que la machine pouvait créer alors même qu’on pensait, il y a peu encore, que c’était impossible. Pourquoi serait-il théoriquement impossible d’obtenir d’elle, un jour, un truc qui ressemble au libre arbitre ou à la volonté ?

Étienne de Rocquigny :Vaste question. Une première réaction de mathématiciens : est-ce que le libre arbitre est l’exercice de sa faculté de décider face à des choses qu’on a déjà vues ou face à des choses qu’on n’a jamais vues ? Est-ce que le libre arbitre est du registre de l’interpolation ou de l’extrapolation ?
Je pense fondamentalement que c’est souvent dans l’interpolation, mais, quelquefois, et peut-être que ce sont les fois les plus importantes, dans l’extrapolation. Beaucoup de gens, même les personnes les plus confiantes sur la prévalence des automatismes, savent bien qu’il ne faut pas mettre des IA sur des risques rares et des choses qui ne sont jamais arrivées, parce que, à priori, elles n’ont aucune chance d’y arriver. Pourquoi n’ont-elles aucune chance d’y arriver ? Là aussi, il faut revenir sur les probabilités. L’espace probabiliste est un espace qui prend une complexité abyssale au fur à mesure où la dimension augmente. Déjà, si vous faites un peu de géométrie probabiliste, vous savez qu’un espace de dimension 100 est un espace qui est extrêmement compliqué et qui défie le bon sens.
Mais aujourd’hui, avec les outils d’OpenAI, on parle d’espaces avec des milliers de milliards de paramètres, donc on parle d’espaces qui sont d’une telle immensité qu’il y a très peu de chances, à priori, que ces machines aient la bonne réaction sur des choses totalement inouïes.

Xavier de La Porte :Si on dit que c’est là, dans la réaction face à l’inédit que se manifeste la volonté humaine, alors oui, peut-être que nous ne sommes pas menacés sur le plan du libre arbitre. La singularité humaine est au moins préservée sur ce plan ; le raisonnement se tient. Mais, pour moi, il y a d’autres défis à la religion.
Prenons par exemple la question de l’incarnation qui est centrale dans la religion catholique, parce que c’est sous forme humaine que Dieu se présente aux hommes en la personne de son fils Jésus-Christ, aussi parce que les humains sont faits d’un corps et d’une âme, etc. Voilà que tout à coup on crée des machines qui font des choses mieux que les humains mais sans corps. J’aimerais savoir ce qu’on fait ça quand on est croyant.

Étienne de Rocquigny :Cette IA est effectivement un défi fondamental à l’anthropologie biblique, puisqu’on sort de la triade entre le corps, l’esprit et ce que Pascal appellerait le cœur, la volonté, l’âme. On a effectivement des machines qui sont, d’une certaine manière, incorporelles, ce n’est pas tout à fait vrai, elles sont sur une construction matérielle qui n’a rien à voir avec le domaine biologique. C’est un très grand défi, parce que, dans la personne humaine et dans les animaux, combien l’interpénétration entre le corps et les fonctions cognitives est grande ! Voilà donc qu’on imagine, plus qu’on imagine, qu’on voit fonctionner un certain nombre de ces machines cognitives qui imitent, sans rien avoir de notre fonctionnement biologique. C’est un très grand défi, c’est d’autant plus un défi que dans un regard de foi, en particulier de foi chrétienne, l’incarnation est fondamentale. La foi chrétienne parle de la croyance dans la résurrection de la chair . Qu’est-ce que ça veut dire la croyance de la résurrection ? C’est compliqué ! Ça veut dire, derrière, qu’il y a une confiance dans le fait que la personne humaine est intégrale et qu’on ne peut pas séparer le corps, de l’esprit, de l’âme. Là encore, ça me conforte plutôt dans l’idée que c’est un autre registre, c’est-à-dire que les fonctions cognitives des machines, qui sont puissantes, sont d’un registre totalement différent des fonctions cognitives incarnées.

Xavier de La Porte :Là, croyance chrétienne et science se rejoignent étrangement. La religion chrétienne pose l’unicité du corps et de l’âme ; la science contemporaine ne dit pas autre chose quand elle explique, par exemple, qu’on a sans doute accordé trop d’importance à la génétique, qu’on a pensé avoir trouvé, avec le gène, une sorte de programme que le corps mettrait en œuvre de façon automatique et, aujourd’hui, elle préfère plutôt parler d’épigénétique pour dire que le programme génétique n’est vraisemblablement pas autonome, qu’il se développerait en interaction avec l’environnement, qu’il s’appliquerait différemment selon ce que vit la personne dans son corps, dans sa psyché, etc. Bref, si on prend au sérieux l’hypothèse épigénétique, il est logique de dire que les facultés cognitives de l’humain sont radicalement différentes de celles de la machine et que, donc, la singularité humaine n’est pas menacée.
Mais ça me pose une question. Bien sûr, les machines n’ont pas de corps. Mais on pourrait les doter de capteurs qui leur permettraient de sentir des choses, d’ailleurs, en anglais, capteur c’est sensor, ce n’est pas pour rien. Sans vivre, les machines pourraient acquérir des fonctions qui simulent la vie, tout au moins la sensibilité, de la même manière qu’aujourd’hui elles simulent le savoir sans avoir aucune expérience.
Comme je sais la place que tient l’amour dans la religion catholique, je demande à Étienne ce qui se passerait si ces machines se mettaient à simuler à la perfection l’amour.

Étienne de Rocquigny :Elles pourraient simuler des relations intimes, elles pourraient simuler des émotions, elles le font d’ailleurs très bien aujourd’hui, il y a des travaux très intéressants là-dessus et qui sont fascinants. Oui, mais est-ce l’amour ? Pour moi, la réponse est non. L’amour c’est bien au-delà simplement d’une émotion, c’est bien au-delà, même si c’est très important, des relations intimes ; l’amour c’est habité par la volonté, d’ailleurs, en italien on dit ti voglio bene, « je te veux du bien », c’est une façon de dire « je t’aime ». C’est dire, en tout cas dans la vision chrétienne, combien la volonté est mobilisée dans l’amour et ça, il n’y a pas de simulation !

Xavier de La Porte :Pendant qu’Étienne me parle, me reviennent en mémoire des extraits de Her, le film de Spike Jonze, qui est sorti il y a dix ans déjà, où un type tombe amoureux du système d’exploitation de son téléphone qui est animé par une IA. Bon ! C’est vrai que cette IA a la voix de Scarlett Johansson, ce qui trouble un peu l’effet. En tout cas, le personnage joué par Joaquin Phoenix tombe amoureux du programme et, même, il fait l’amour avec le programme, par téléphone évidemment !

[Scène d’amour du film Her]

Xavier de La Porte :Dans une perspective matérialiste, on peut dire que, là, il y a amour. Le mec est raide dingue, l’IA et lui se parlent tout le temps, ils se font du bien, ils vont même jusqu’à avoir une vie sexuelle. Comment dire qu’il n’y a pas d’amour ? Dans une perspective chrétienne, il n’y a pas d’amour, puisqu’il n’y a pas de volonté de la part de la machine, parce qu’il n’y a que simulation.
Là, je sors l’argument que m’avait sorti le professeur de littérature Alexandre Gefen dans l’épisode sur ChatGPT, quand je lui avais dit que l’IA ne faisait que simuler tout le temps.

31’ 02

Alexandre Gefen :Mais nous aussi nous simulons