Découvrir la pièce de théâtre Qui a hacké Garoutzia
Titre : Découvrir la pièce de théâtre Qui a hacké Garoutzia ? avec Lisa Bretzner et Serge Abiteboul
Intervenant·e·s : Lisa Bretzner - Serge Abiteboul - Jean-Philippe Clément
Lieu : Émission Parlez-moi d'IA - Radio Cause Commune
Durée : 29 min 36
Licence de la transcription : Verbatim
Illustration : À Prévoir
NB : transcription réalisée par nos soins, fidèle aux propos des intervenant·e·s mais rendant le discours fluide.
Les positions exprimées sont celles des personnes qui interviennent et ne rejoignent pas nécessairement celles de l'April, qui ne sera en aucun cas tenue responsable de leurs propos.
Transcription
Diverses voix off : Parlez-moi d’IA.
Mesdames et Messieurs, bonjour. Je suis un superordinateur Karl, ??? analytique de recherche et de liaison.
C'est une machine qui rend fou les choses.
Pour moi n'importe quoi survient.
Qu’est-ce que tu en dis ? Moi je n’en dis n'en dit rien du tout.
La créativité, elle reste du côté du moi.
Jean-Philippe Clément : Bonjour à toutes et à tous. Je suis Jean-Philippe Clément. Bienvenue sur Parlez-moi d’IA sur Cause Commune la radio pour transmettre et comprendre. Transmettre et comprendre, c'est aussi l'objectif que se fixe cette émission sur le sujet spécifique des data, des algorithmes et des intelligences artificielles. Nous avons 30 minutes pour essayer de mieux comprendre ces nouveaux outils.
Cause Commune, que vous pouvez retrouver sur le Web cause-commune.fm et sur la bande FM, à Paris, sur le 93.1 et, bien sûr, le DAB+. On se retrouve également en podcast sur votre plateforme préférée. N'hésitez pas à partager cette émission autour de vous, à lui donner plein de likes et d'étoiles si vous l'appréciez, c'est notre seule récompense.
Il est de retour et son absence m'a fait réaliser à quel point il était essentiel pour cette émission et pour moi, avant, pendant, après, merci Jérôme Sorrel de réaliser cette émission. Merci aussi à Olivier Grieco, notre directeur d’antenne, pour nous donner cette opportunité de parler de data et d'IA. Merci à vous chères auditrices et chers auditeurs de tester pour la première fois ou de revenir nous écouter, c'est sympa.
Cette semaine, c'est assez marrant. Plusieurs sources, articles, vidéos ou podcasts, bien entendu consacrés à l'IA, on ne se refait pas, sortent au même moment et se sont replongés au même moment dans une vieille histoire de l'IA. Il s'agit de l'histoire du chatbot ELIZA créé en 1964 et 66 par Joseph Weizenbaum. Ce professeur du MIT a conçu un bot assez original qui simule un psychothérapeute rogérien. Celui-ci ne fait qu'une seule chose : il reformule les affirmations du patient, c'est sa seule fonction, et, avec ce simple comportement, le chercheur a constaté que les utilisateurs pensaient qu’ELIZA était doté d'intelligence et de sensibilité émotionnelle. On a d'ailleurs appelé effet ELIZA cette capacité que les humains ont à donner aux machines une compréhension et une empathie qu'ils n'ont pas.
Dans le même registre, dernièrement Replika, la société qui propose des compagnons virtuels, a décidé de protéger ses clients : ses avatars d’IA de compagnie ne peuvent pas être reconfigurés comme étant des boyfriends et des girlfriends. Ils ont reçu des messages désespérés et déprimés de leurs clients qui avaient perdu leurs interactions amoureuses avec leur compagnon virtuel.
Tout ceci nous réinterroge sur nos liens à la machine, sur la tendance humaine à l'anthropomorphisme sur tout ce qui nous entoure – la nature, les animaux et désormais les machines qui simulent de mieux en mieux leur humanité. C'est une vaste question. C'est notre question du jour, car plusieurs grands spécialistes de l’IA ont voulu innover pour nous parler de ces sujets et nous faire réfléchir. Ils ont abandonné quelques instants leurs conférences, leurs MasterClass, leurs cours en amphi, pour écrire une pièce de théâtre. Elle s'intitule Qui a hacké Garoutzia ? et elle se joue bientôt à Paris et dans toute la France.
Nous avons le plaisir, aujourd'hui, de recevoir la metteuse en scène et comédienne Lisa Bretzner et l'un des auteurs, Serge Abiteboul.
Bonjour et bienvenue à tous les deux.
Lisa Bretzner : Bonjour. Merci.
Serge Abiteboul : Bonjour.
Jean-Philippe Clément : Merci d'être avec nous dans ce studio pour nous parler de cette pièce de théâtre où le personnage principal est une IA, alors parlez-moi d’IA. Serge Abiteboul qui êtes-vous, qui sont vos deux co-auteurs et pourquoi une pièce de théâtre sur l'IA ?
Serge Abiteboul : Je suis chercheur en informatique, j’ai fait de la recherche informatique toute ma vie, enseignant, chercheur, et c'est la même chose pour Gilles Dowek et pour Laurence Devillers. Nous sommes trois amis et puis, un jour, on s'est dit qu'on avait envie de parler de l'IA autrement. On a l'habitude de raconter un peu ce qu’on fait, notre recherche, mais essayer de raconter ça à des gens qui ne sont pas des spécialistes aussi. On s’est dit que le faire de façon plus légère, avec une pièce de théâtre, c'était peut-être plus agréable pour nous, ça nous sortait de nos sentiers battus, ça nous amusait, d'une certaine façon, et on a cherché amuser, on n'a pas essayé de faire un truc prise de tête.
Jean-Philippe Clément : Je confirme. On s'amuse beaucoup, j'ai lu la pièce.
Lisa, est-ce que vous pouvez essayer nous pitcher cette pièce pour nous expliquer le contexte, la manière d'aborder la pièce ?
Lisa Bretzner : Bien sûr. La pièce commence chez une vieille dame, très célèbre, une riche autrice à succès qui a un chatbot de compagnie, un chatbot très efficace, très adapté, très personnalisé, qui lui apprend un jour qu’elle a Alzheimer. On la voit progressivement perdre un petit peu la tête, se raccrocher à ce chatbot et lui demander de conserver sa mémoire. Seulement ce chatbot, Garou, de son nom à ce moment-là, ne peut pas conserver la mémoire d'une humaine après être passé à un autre humain, c'est interdit par les lois de la robotique imaginées dans cette pièce, ça pose des problèmes éthiques, bien sûr, après la mort, la question du deuil, tout ça. Donc il lui dit : « Non, je ne peux pas, mais peut-être que si Garou est attaqué, il pourra conserver cette mémoire » et on se rend compte, effectivement, que quand Garou va passer à d'autres propriétaires, il aura peut-être été hacké pour pouvoir garder cette mémoire spécifique, ce qui va la rendre un petit peu particulière, lui construire une identité spécifique.
Jean-Philippe Clément : Et, au milieu de tout ça, il y a un meurtre et on mène l'enquête avec les protagonistes.
Lisa Bretzner : Effectivement, puisque le propriétaire suivant de Garou sera tué. Tout cela amène donc une commissaire sur l'enquête et puis on va vite se rendre compte que le chatbot est un peu particulier par rapport aux autres chatbots, que peut-être il ne respecte pas toutes les lois de la robotique, qu'il a quelques capacités un peu particulières.
Jean-Philippe Clément : Encore une fois, j'ai lu cette pièce, je ne l'ai pas vue, elle est très drôle. C'est aussi une bonne occasion pour réviser sa culture geek.
Serge, on pourrait peut-être faire le point sur les deux trois notions qu'il faut avoir en tête pour voir la pièce et pour se libérer de ces éléments geeks. J'ai noté, vous venez de l'évoquer, les lois de la robotique et on parlera du reste après. Quelles sont les lois de la robotique Serge Abiteboul ?
Serge Abiteboul : Les lois de la robotique, pour être précis, c'est quelque chose qui vient d’Asimov, un écrivain de science-fiction. C’était l'idée qu’à partir du moment où vous mettez, dans l'espace public, ces êtres extrêmement puissants, qui peuvent avoir un impact dans la vie quotidienne et sur des choses importantes, il va leur falloir des règles éthiques, il va leur falloir des règles pour se comporter en société. Donc Asimov avait inventé des lois de la robotique qui seraient un peu des obligations pour ces robots.
Nous, par exemple, on rajoute une loi un peu baroque possible : si son propriétaire veut un whisky même si le médecin l’a interdit, il faut quand mème qu’il apporte un whisky. C'est ce genre de question : qu'est-ce que vous voulez autoriser ou interdire à ces machines ?, es choses qui se posent aujourd'hui. Si vous regardez, il y a beaucoup de réflexion en Europe, aux États-Unis, en Angleterre sur ce qu’on va mettre comme règles à l'intelligence artificielle.
Jean-Philippe Clément : Asimov c'était essentiellement des règles de précautions vis-à-vis de l'intégrité de l'humain qui côtoie la machine, si ma mémoire est bonne ?
Serge Abiteboul : Si ma mémoire est bonne, il y avait des règles : il ne devait pas faire quelque chose qui nuise à la société ; ensuite, il ne devait pas faire quelque chose qui nuise à son humain ; ensuite il ne devait pas faire quelque chose qui se nuise à lui-même. C'était une espèce de hiérarchie : d'abord la société, puis la personne, puis le robot.
Lisa Bretzner : Avec, parfois, des contradictions entre les règles. J'ai l'impression que ce qu’explore Asimov, c'est justement toutes les zones limites où, finalement, ça fait buguer les machines que d'avoir ces lois et, parfois, elles rentrent en contradiction les unes avec les autres.
Serge Abiteboul : C'est une question absolument fondamentale pour la société actuelle : qu'est-ce qu'on va mettre comme règles à ces machines.
Jean-Philippe Clément : On voit, notamment quand on parle de voiture autonome : à quel moment la voiture doit freiner, ne doit pas freiner dans des situations d'urgence ou de crise. C'est une règle de gestion qu’on va donner à la machine. La pièce évoque ces éléments-là. D'ailleurs j'aimerais bien savoir qui, des auteurs, a fait ce coup pendable à madame Devillers, à propos de la septième loi de madame Devillers qui est celle de simuler des émotions : tu ne pourras pas sauf si l'humain avec lequel tu es le consent.
Serge Abiteboul : Nous nous sommes beaucoup amusés à écrire cette pièce.
Jean-Philippe Clément : Ça se sent !
Serge Abiteboul : C’était au moment du confinement, on avait envie de se lâcher et on pouvait se friter sur des choses absolument pas possibles, qui ne sont pas restées dans la pièce. Par exemple, on a eu des discussions homériques pour savoir s'il devait manger des penne all'arrabbiata ou du couscous et c'est vachement important pour la pièce !
Jean-Philippe Clément : C’est essentiel ! On pourra le voir.
Lisa, on se disait aussi que la pièce va être jouée sur Paris, mais, en fait c'est déjà complet sur Paris.
Lisa Bretzner : Oui, effectivement.
Jean-Philippe Clément : Et également dans toute la France. Comment fait-on pour retrouver la pièce dans toute la France ?
Lisa Bretzner : La prochaine date c'est Agen le 11 novembre, ensuite on jouera à Nice les 7 et 8 décembre, on va jouer ensuite à Cannes en février, à Poitiers en juin et d'autres dates à venir, tout cela se retrouve sur notre site internet, atroposcompagnie, sur nos réseaux sociaux aussi de la compagnie Atropos ou des réseaux de ??? et Garoutzia sur Instagram. Vous pourrez retrouver tous les liens de réservation au même endroit pour venir nous voir.
Jean-Philippe Clément : On pourra, du coup, vous revoir quand même à Paris à un moment donné ?
Lisa Bretzner : Oui, bien sûr, c’est en cours.
Jean-Philippe Clément : D'accord. Très bien. Donc à suivre sur votre sur votre site.
On revient un peu aux notions un peu geeks de la pièce, qu'il faut avoir. Vous jouez beaucoup avec le fameux 42. Est-ce que vous pouvez nous expliquer, encore une fois, ce qu'est 42 dans la culture geek et commencer c’est utilisé dans la pièce ?
Serge Abiteboul : Au départ le 42 c'est dans un roman, c'est la réponse à toutes les questions, donc, dans la pièce, quand le robot ne veut pas répondre. Il y a quand même, en gros, une espèce de discussion dans laquelle le propriétaire lui dit : « Ordre non négociable », donc tu n’as pas le droit de discuter, etc., et le robot répond « 42 », parce qu’il y a une loi qui lui interdit de répondre. Il y a quand même cet équilibre entre « le propriétaire peut tout puisque, c'était son robot » et, en même temps, il y a des lois au-dessus du propriétaire, au-dessus du robot, qui interdisent au robot de répondre.
Jean-Philippe Clément : C'est donc un robot qui choisit un peu, in fine ?
Serge Abiteboul : Ce sont les lois qu’on a données au robot. La pièce insiste beaucoup, je tiens à le dire ici aussi, sur le fait que les bots actuels n'ont pas du tout les capacités de Garoutzia dans la pièce ; Garoutzia, c'est de la science-fiction. Aujourd'hui, les bots que vous trouvez dans le commerce, même dans les labos de recherche, sont très loin de Garoutzia.
On a voulu aussi dire, en parlant de science-fiction, que quand vous entendez ou quand vous lisez qu’il est impossible que les machines fassent un jour ça ou ce n’est pas possible que les machines aient telle ou telle propriété, dans la pièce on insiste bien sur le fait que, pour nous, ce n'est pas vrai. Un jour – nous ne sommes pas futurologues, on ne va pas vous dire dans 20 ans, dans 50 ans – il y aura à notre avis des bots, encore une fois on n’est pas surs, mais on pense qu’il y aura des bots qui sauront raisonner, qui sauront interagir avec les humains comme le fait Garoutzia dans la pièce et qu'il faut se préparer à cette interaction. C'est un peu la leçon, très modeste, de la pièce : arrêtez de dire que les robots ne sont pas capables de faire ça, ils seront capables de le faire un jour, ils ne le sont pas aujourd'hui – aujourd’hui ils sont un peu cons il faut être honnête ! Mais, d'un autre côté, ils sont quand même très bluffants, ils sont très impressionnants, par exemple dans leur façon de parler,.
Jean-Philippe Clément : Effectivement, depuis l'émergence de ChatGPT, on voit bien qu’il y a quelque chose ! En tout cas le grand public peut constater que c'est absolument bluffant.
Serge Abiteboul : D’un autre côté, ils ne raisonnent pas, ils n’ont pas ce qu'on appelle l’intelligence générale, ils se contentent d’imiter ce que des humains disent. Les prochaines générations de robots vont dépasser ce stade.
Jean-Philippe Clément : Vous évoquez l'intelligence générale, c'est justement cette capacité à raisonner tout seul, c'est ça ?
Serge Abiteboul : C’est ça.
Jean-Philippe Clément : D’accord.
Et sur la pièce, du coup quand on aborde ces sujets-là en tant que metteuse en scène. Vous n’êtes peut-être pas aussi spécialiste, ça serait difficile, que ces trois auteurs.
Lisa Bretzner : En effet.
Jean-Philippe Clément : On laissera les éditeurs aller voir les cursus de chacun d'entre vous, c'est impressionnant en termes d'expertise.
On sait que la pièce s'appuie sur des choses, et vous venez de le rappeler, sur les potentiels. Quand on met en scène ce type de pièce, comment on aborde-ton ce sujet-là ? Il y a un bot au milieu de la scène. Comment avez-vous abordé cette mise en scène ?
Lisa Bretzner : Je pense que la première question à se poser c'est celle de la technologie sur scène. Aujourd'hui on peut créer des pièces de théâtre avec de la technologie, avec des effets vidéos, en fait le bot pourrait être plein de choses : ça pourrait être une voix, ça pourrait être une image sur un écran, un hologramme. On aurait pu tester des choses différentes et on est parti plus sur l'humain. Ce qui nous intéressait c'était vraiment de mettre l'accent sur les rapports et d'avoir une comédienne qui fait cette performance d'être sur scène tout du long et de jouer ce bot, mais aussi ce bot qui évolue parce que ce sont, en fait, trois personnages de bots bien distincts : le premier est un personnage de bot mâle, les deux autres sont des bots femelles et ce ne sont pas les mêmes personnages. En même temps elle s'enrichit, elle devient de plus en plus réaliste.
Pour nous, c’était intéressant de travailler sur le corps et la présence physique de ce bot qui, normalement, n'a pas vraiment une présence physique. En fait elle est dans une cage qui suggère un petit peu l'espace dans lequel elle est diffusée, mais elle ne peut pas en sortir, elle ne peut pas avoir d'interactions physiques avec les autres comédiens.
Jean-Philippe Clément : On a bien campé le système théâtral. On a bien mis en place la mise en scène.
Je propose de faire une petite pause. On va rester dans la team Atropos. On fait une petite pause avec Youenn Lerb qui a composé la bande son de la pièce. On ne va pas écouter la bande-son de la pièce, on va écouter une bande-son qu'il a créée à l'occasion d'un superbe documentaire de vulgarisation scientifique intitulé CELL WORLDS, le morceau Anomalies ; c’est sur le monde cellulaire avec des images au microscope électronique qui sont hallucinantes. On écoute Youenn Lerb, en plus c'est un peu planant, donc on va se détendre.
Pause musicale : Anomalies de Youenn Lerb.
16’55
Jean-Philippe Clément : Merci Youenn Lerb
