Un catholique face à l’IA

Titre : Un catholique face à l’IA

Intervenants : Étienne de Rocquigny - Xavier de La Porte

Lieu : Podcast le code a changé - France Inter

Date : 25 novembre 2023

Durée : 59 min 43

Podcast

Présentation du podcast

Licence de la transcription : Verbatim

Illustration : À prévoir

NB : Transcription réalisée par nos soins, fidèle aux propos des intervenant·e·s mais rendant le discours fluide.
Les positions exprimées sont celles des personnes qui interviennent et ne rejoignent pas nécessairement celles de l'April, qui ne sera en aucun cas tenue responsable de leurs propos.

Transcription

Xavier de La Porte : Je ne crois pas en Dieu. La foi est même un processus ou un état, je ne sais pas comment il faut dire, qui m’est très étranger. Pour autant, je n’ai aucun mépris ni pour la foi ni pour les croyants ni pour les religions ou les textes dont elles sont issues. Je ne pense pas que l’absence de religion soit le signe d’une société avancée.
Je ne suis pas croyant, donc, et je suis même ravi de vivre dans une société qui permet de ne pas être croyant, mais je n’en tire aucune supériorité. Je me dis juste qu’habiter ce monde avec la foi ou sans la foi ce sont sans doute des expériences très différentes, quel que soit le Dieu en lequel on croit, d’ailleurs. Je me dis juste que ça doit changer beaucoup de choses quand on se retrouve face à des épreuves majeures, qu’elles soient personnelles ou collectives, et je me dis juste qu’avoir la foi, ça doit donner une forme particulière à la perception du monde.
Donc, quand un ami m’a parlé d’un groupe de réflexion qui s’appelle « Algorithme et espérance », qui rassemble des croyants s’intéressant à l’intelligence artificielle, ça a tout de suite excité ma curiosité. Voilà une sorte d’épreuve majeure face à laquelle on se retrouve tous, les algorithmes auto-apprenants, les réseaux de neurones, tout ça, tout ça.
Tout de suite une myriade de questions m’est venue à l’esprit : comment les catholiques envisagent-ils l’IA ? Est-ce qu’ils se posent des questions qu’on ne se pose pas quand on n’a pas la foi ? Est-ce que, face aux questions que tout le monde se pose, ils ont d’autres réponses ? Et est-ce que, si je vais discuter avec eux, ils changeront mon regard sur l’IA ?
Si je suis totalement sincère, un autre truc m’est tout de suite venu en tête. Je sais que le Vatican s’intéresse aussi à l’IA. J’ai entendu, par exemple, parler d’une consultation lancée par le pape ou d’un appel abrahamique signé par des évêques, des rabbins et des imams. Je me demande comment font ces gens pour réfléchir à l’IA à partir de croyances aussi anciennes et, plus globalement, je me demande bien comment on arrive à rendre compatibles sa foi et quelque chose d’aussi troublant que l’intelligence artificielle.
J’avais tout ça en tête en allant voir un des fondateurs de « Algorithme et espérance », Étienne de Rocquigny, profil intéressant : il est catholique, évidemment, il a fait polytechnique, il a travaillé dans des labos de R&D, et puis il est devenu entrepreneur et conseiller d’entrepreneurs qui utilisent en particulier l’IA. Par ailleurs, c’est un fan de Pascal auquel il vient de consacrer un livre, Blaise Pascal, qui était à la fois un philosophe, un mathématicien, un théologien et une sorte d’entrepreneur, un modèle pour Étienne de Rocquigny, ça je comprends bien.
Nous nous sommes retrouvés un matin, dans les bureaux de son éditeur, Boleine, et on nous a installés dans une pièce qui, à cause d’un déménagement récent, était encore assez vide pour résonner un peu comme une chapelle. Parfois, le hasard fait bien les choses ! Je crois que Pascal a dit des trucs assez proches de ça.
Bref, je ne vais pas commencer à rigoler, tout cela est très sérieux. J’ai donc posé à Étienne de Rocquigny une question assez vaste. Je lui ai demandé quel problème l’IA posait à un catholique.

Étienne de Rocquigny : Je vis, comme chrétien, plutôt la recherche de réponses que l’identification de problèmes. Je pense que les problèmes qui se posent sont ceux qui se posent à toute personne humaine, qui renvoient sur le vieux problème de l’homme et de la machine, la dialectique du maître et de l’esclave. Donc au fond, derrière, il y a la question de la liberté, de la singularité de la personne humaine et, après, il y a la question économique : qu’est-ce que mon travail va devenir, etc. ? Je pense que ce sont des questions qui se posent absolument à tout le monde.
Dans une démarche de foi, on peut aussi avancer vers des réponses, une forme de pari équilibré et ça c’est parfaitement un acte de foi qui, pour moi, est tout à fait séparé d’une démonstration mathématique, c’est un pur acte de foi. Si je considère que la personne humaine a été effectivement créée à l’image de Dieu, alors je suis en lieu de penser que la technique, qui sont des artefacts de la personne humaine, sont des créations de la personne humaine, d’une certaine manière, sont une création de second plan. À priori, on peut penser que la technique et, en particulier, l’intelligence artificielle qui est son dernier avatar le plus récent, est une œuvre qui est à l’image de Dieu tout-puissant. Donc, disons que c’est une base pour commencer à construire de l’espérance.
Je pense également que cette création se fait avec une liberté totale, rien n’est écrit à l’avance et, là encore dans une approche de foi, si je pense que le Seigneur, qui a créé la personne humaine, l’a créée effectivementpar amour, alors je ne peux pas aimer quelqu’un sans le vouloir libre, je ne peux pas aimer une femme, je ne peux pas aider un homme sans le vouloir libre, sinon l’amour n’a aucun sens, donc cette création est profondément sous le signe de la liberté. C’est donc à nous, personne humaine, c’est à vous et moi, dans notre usage au quotidien de l’IA, de faire bon usage de notre liberté. Ce qui veut dire, la contraposée, que le pire côtoie le meilleur.

Xavier de La Porte : Plusieurs choses m’intéressent là-dedans. D’abord, l’idée que les problèmes posés par l’IA sont les mêmes pour les chrétiens que pour les autres. Bon ! Je n’en suis pas absolument certain et je pense qu’il faudra y revenir. Pour l’instant, autre chose m’intéresse dans ce que dit Étienne de Rocquigny. Sa foi, explique-t-il, l’amène à considérer la technologie comme une création de second plan, une cocréation de l’homme et de Dieu. En fait, c’est un débat théologique très compliqué et qui n’est pas du tout nouveau pour les catholiques : à quel point Dieu est-il responsable de tout ce qui a été créé et est créé ?, avec une question subsidiaire : Dieu est-il responsable, aussi, de ce que l’humain crée ? C’est un débat compliqué parce que si on considère que Dieu est entièrement et seul responsable de tout, alors il n’y a aucune marge de manœuvre pour les humains, qui ne sont que des sortes de marionnettes dans ses mains et, en plus, Dieu est aussi responsable de toutes les horreurs produites par les humains. Cela n’est pas tenable. Mais si Dieu n’est pas responsable de tout, alors à quoi sert-il ? Ce serait quoi l’idée ? Il a tout créé et ensuite il s’est barré ? Cela n’est pas tenable non plus. En utilisant le terme de cocréation, Étienne de Rocquigny tranche le problème d’une manière qui est, d’après ce que je comprends, assez partagée aujourd’hui parmi les catholiques : la technologie est une œuvre à la fois humaine et divine ou, peut-être serait-il plus juste de dire, qu’elle est une œuvre divine dans la mesure où elle est une œuvre humaine, et vice-versa, et Dieu voulant les hommes libres un cette cocréation n’est pas prédéterminée, elle peut donner le meilleur comme le pire. Bon ! C’est ce que je comprends. Comme je trouve ça très abstrait, je demande à Étienne de Rocquigny qu’il m’explique un peu mieux.

Étienne de Rocquigny : Beaucoup de gens craignent dans l’IA, finalement, une forme d’asservissement déterminée par avance avec des machines qui, devenant de plus en plus puissantes, vont finir par régler notre condition et décider à notre place. C’est quand même faire un peu faible mesure des chocs de la physique moderne, à commencer par la physique quantique, la relation d’incertitude d’Heisenberg, ensuite le théorème de Gödel, la finitude de la raison mathématique. La science moderne se construit sur l’incomplétude de la science, sur le fait que, finalement, au plus profond de la matière, il y a quelque chose qui échappe à la raison. Si je transpose ça sur l’intelligence artificielle, cela veut dire qu’on peut rêver d’intelligence artificielle, certains croient qu’ils vont prendre des puissances démesurées, néanmoins il y a une part du réel qui échappe profondément à la raison scientifique et le théorème de Gödel va dire qu’il y a effectivement des limites à la logique mathématique, la logique mathématique ne se suffit pas à elle-même et je crois y voir, c’est un point de vue personnel – je suis pas théologien ni grand spécialiste de liberté – et je le vis personnellement comme une marge de manœuvre.

Xavier de La Porte : Là, je trouve que le raisonnement est assez malin, quand je dis « malin », c’est au sens de « habile », ce n’est pas au sens de « diabolique ». Pourquoi est-ce malin ? Parce que je m’attendais à ce que Étienne de Rocquigny m’explique son histoire de cocréation et de liberté en des termes théologiques et pas du tout ! Il me prend complètement à revers en s’appuyant sur les sciences, il va chercher des théories scientifiques très importantes comme le principe d’incertitude d’Heisenberg ou le théorème d’incomplétude de Gödel qui ont en commun d’affirmer qu’il y a de l’incertitude, qu’il y a de l’indécidable, des théories qui disent, en gros, qu’il y a des limites à la rationalité scientifique, donc bam ! Étienne de Rocquigny, lui, y voit une place pour autre chose que la raison, donc pourquoi pas pour Dieu ? Il ajoute que ça ne s’applique pas seulement à la physique et aux mathématiques, mais aussi à l’intelligence artificielle. Je ne comprends pas très bien cela, je lui demande de me préciser et là bam !, à nouveau, au lieu de parler en théologien, il plonge dans la genèse des principes à l’œuvre dans les IA génératives qui nous impressionne tant aujourd’hui.

Étienne de Rocquigny : Ce qui est très intéressant dans les développements modernes de l’intelligence artificielle, c’est que finalement pour l’instant, ça pourra changer, c’est le paradigme probabiliste qui a détruit tous les autres. C’est-à-dire qu’on a voulu construire des outils de traduction automatique pendant des années en faisant des modèles compliqués de sémantique, en essayant de réfléchir sur l’articulation de la grammaire, de la syntaxe, etc., et ces modèles se sont effondrés devant une logique bête et méchante qui est la logique probabiliste inventée par Pascal qui veut dire : après tout, si deux fois de suite on a dit ce mot-là, c’est bien probable que la troisième fois il revienne. La logique probabiliste est une logique qui est extrêmement pauvre en termes épistémologiques, qui ne dit pas grand-chose que l’observation des régularités du réel. Ça veut dire que si une part du réel échappe, eh bien l’IA n’enserrera pas la totalité du réel. Je pense qu’il faut revenir sur les fondements de ces machines qui, me semble-t-il, nous laissent une véritable marge manœuvre.

Xavier de La Porte : Là, je comprends mieux et c’est très intéressant. Au fond, notre marge de manœuvre proviendrait du fait que la logique à l’œuvre dans l’IA aujourd’hui est assez pauvre parce que probabiliste. Qu’est-ce que ça veut dire ? Ça veut dire que la machine ne peut raisonner qu’à partir des données qu’elle a à disposition. Or, ces données n’engloberont jamais la totalité du réel et c’est vrai. On le voit par exemple dans des systèmes très complexes comme le climat. Il y a tellement de données, tellement d’interactions dans les phénomènes climatiques, que même des machines hyper puissantes ont du mal à tout prendre en compte. Elles ont du mal à faire tourner des modèles qui englobent la totalité de cette réalité si complexe qu’est le climat. Donc, ces machines sont, par principe, limitées. Même raisonnement, alors, qu’avec Heisenberg ou Gödel. Pour Étienne de Rocquigny, si les machines sont limitées, il y a de la place pour l’humain, pour la liberté, pour l’IA. Bon !, d’accord.
Mais comment s’expriment les limites de ces machines ? Où l’intelligence artificielle est-elle en train de faillir ? Là encore, j’ai besoin que Étienne de Rocquigny me l’explique concrètement.

Étienne de Rocquigny : J’ai construit ma carrière scientifique sur la modélisation des grands risques – le risque nucléaire, le risque climatique, les inondations, les séismes, etc. Quand on travaille dans ce domaine-là, les autorités, de sûreté pour certifier une centrale nucléaire, un avion ou une zone constructible, vont faire des calculs d’extrapolation dans des événements extrêmes. Voilà un domaine dans lequel on comprend qu’en fait on ne connaît rien, qu’en fait les grands accidents de la terre sont totalement imprévisibles, ce que dit Pascal en disant « si le nez de Cléopâtre eût été plus court, la face du monde aurait été changée ». C’est cette intuition que, finalement, les grands événements importants dans la terre échappent à la prévision. J’ai beau faire des probabilités, j’en ai fait beaucoup sur les risques, elles échappent aux faits. Et ça, aujourd’hui, dans le domaine de l’intelligence artificielle où on travaille, finalement, sur des événements fréquents, sur le bavardage d’un site en ligne, on prévoit des choses qui arrivent fréquemment avec beaucoup de données, on oublie les limites intrinsèques de la prévision probabiliste, qui sont très grandes. Elles sont très grandes aussi, pour moi, dans le domaine personnel. Est-ce que les grandes décisions que nous avons prises dans notre vie auraient pu être prédites, affairées, conjecturées avec une rationalité scientifique : votre choix de travail, le choix de la personne avec laquelle vous vivez ? En lisant Pascal, on comprend que ces décisions sont faites sous le registre du cœur plutôt que de la raison, donc, oui, il y a une marge de manœuvre profonde. Je pense, en tout cas je crois que c’est là qu’il faut investir le libre arbitre, la volonté, le cœur et la décision des personnes humaines.

Xavier de La Porte : Tout ce que fait Étienne de Rocquigny depuis le début de notre discussion converge vers un point : affirmer que face à l’IA nous sommes libres. Bon ! C’est une conviction qui, il faut l’admettre, fait du bien à entendre dans la période que nous vivons où on a l’impression que les progrès technologiques s’autonomisent presque, qu’ils suivent un cours inéluctable qui nous échappe.
Ce qui est assez fort, c’est que Étienne de Rocquigny mobilise, pour m’en convaincre, des arguments qui sont de deux ordres très différents : il mobilise des arguments scientifiques – les limites inhérentes au modèle probabiliste – et il mobilise des arguments religieux en disant que la technologie est une création divine de second plan et que Dieu, voulant l’homme libre, lui réserve une marge de manœuvre dans l’usage de ses créations.
Moi qui ne crois pas en Dieu, je suis évidemment plus convaincu par les arguments scientifiques, mais je remarque que Étienne de Rocquigny trouve une force supplémentaire dans la convergence de ces deux ordres. D’une certaine manière, je l’envie un peu, parce que ces deux argumentaires convergent dans une direction qui me semble la bonne : nous débarrasser des illusions de toute-puissance de la science et, en l’occurrence, d’une de ses productions qu’est l’intelligence artificielle. D’ailleurs, je lui demande si c’est ça le but, se défaire des illusions.

Étienne de Rocquigny : Tout à fait. Je pense que c’est exactement ça. Je pense que le geste salutaire, c’est de se défaire de ses illusions et, une fois qu’on a fait ça, on peut avancer et essayer de réfléchir : en quoi est-ce que l’intelligence peut modestement servir au bien commun ? L’intelligence artificielle est d’abord un combat rhétorique et, là encore, on va rejoindre Pascal : l’intelligence artificielle voilà un oxymore absolument effroyable, probablement le chef-d’œuvre du marketing scientifique. « Intelligence artificielle », on fait cohabiter deux choses qu’à priori tout sépare et voilà que ça nous emmène, finalement, à tomber sous l’empire de ce que Pascal appelait « cette maîtresse de fausseté », l’imagination, « d’autant plus fourbe qu’elle n’est pas toujours synonyme de fausseté », c’est-à-dire que, parfois, l’imagination est juste. Donc la rhétorique a envahi le domaine de l’intelligence artificielle et elle l’a envahi pour des raisons économiques, d’abord. Je pense donc qu’il faut d’abord se défaire de ça, il faut d’abord mettre de côté la rhétorique, refaire un peu d’épistémologie pour remettre la raison scientifique à sa juste place. D’ailleurs, ça ne veut pas dire que je veux mettre la foi à la place, je suis assez disciple de Pascal pour dire que la foi et la raison sont deux formes d’accès à la vérité qui sont des ordres tout à fait différents. Il ne s’agit pas de combler ce vide-là par des injonctions de vérité religieuse, pas du tout. Il s’agit de s’ouvrir aux limites de la raison, sortir des illusions et, à partir de là, sourire de notre liberté et essayer de la vivre, ce qui n’est pas le plus simple.

15’ 34

Xavier de La Porte :Se défaire des illusions