Des iA et des Idées - Trench Tech All Star
Titre : Des iA et des Idées
Intervenant·e·s : Françoise Soulié-Fogelman - Laurence Devillers - Gilles Babinet - Cyrille Chaudoit - Thibaut le Masne - Mick Levy
Lieu : Émission Le Meilleur des mondes - France Culture
Date : 19 octobre 2023
Durée : 1 h 04 min 54
Licence de la transcription : Verbatim
Illustration : À Prévoir
NB : transcription réalisée par nos soins, fidèle aux propos des intervenant·e·s mais rendant le discours fluide.
Les positions exprimées sont celles des personnes qui interviennent et ne rejoignent pas nécessairement celles de l'April, qui ne sera en aucun cas tenue responsable de leurs propos.
Transcription
Al Pacino, voix off : En fait, je ne sais pas quoi vous dire. Trois minutes avant le plus grand combat de nos vies professionnelles et tout se résume à aujourd'hui. Aujourd'hui soit nous guérissons, en tant qu'équipe, soit on s'effondre.
Voix off~: Trench Tech. Esprits Critiques pour Tech Éthique.
Mick Levy : Hop, hop, hop ! Ce n'est pas du hip-hop et pourtant, je vous la chante quand même, c'est la Trench Tech All Star. Je l'avais promis sur Linkedin pour ceux qui me suivent, c'est donc maintenant fait, promesse tenue, je l’ai chanté.
Bonjour à tous, c'est Mick au micro, bien sûr, avec Cyrille, bien sûr, avec Thibaut. Salut les gars.
Cyrille Chaudoit : Hello, hello.
Thibaut le Masne : Salut.
Mick Levy : Nous voilà partis pour un épisode et un live exceptionnel à plus d'un titre, d'abord pour fêter l'anniversaire de Trench Tech.
Cyrille Chaudoit : Un petit peu en retard quand même.
Mick Levy : J'avoue, on est en retard, mais avec tout notre ??? [1 min 11] collectif et avec vous, cher public, d'ailleurs on veut vous entendre vous êtes bien là ?
[Cris du public]
Mick Levy : Nous voilà donc en live depuis les magnifiques locaux de Cap Digital qu'on remercie de nous accueillir. On peut les applaudir.
[Applaudissements]
Mick Levy : Exceptionnel, je vous le disais à plus d'un titre, aussi parce qu'un All Star c'est avec des stars et aujourd'hui vous allez être servis avec Françoise Soulié-Fogelman, avec Gilles Babinet et avec Laurence Devillers. Vous en doutez si vous les connaissez, si vous nous écoutez, avec eux on va parler d'IA, bien sûr, mais là, on a quand même du niveau, alors on a suivi les conseils de Al Pacino qu'on a entendu en intro : pas le choix. Avec l'IA soit réussi tous en tant qu'équipe soit on s’effondre ». Mais là, ça se joue au niveau mondial, alors on va leur donner trois minutes, trois minutes à Françoise, à Gilles et Laurence, trois minutes pour pitcher leur grande idée pour une IA plus éthique.
Après ces grands pitchs, on passera en mode débat et on suivra notre débat sur deux thématiques : l'IA qui nous veut du bien, on se demandera ce que serait une IA au service de l'humanité, ce que serait le monde avec une IA de confiance. Puis, comment mettre cette IA au service de l'humanité, on discutera des conditions, des actions à entreprendre pour que l’IA soit véritablement positive pour l'humanité.
Pour le public dans la salle, préparez vos questions, vous pourrez les poser en direct à nos trois invités.
Et puis vous les attendez, je le sais on retrouvera, bien sûr, nos chroniqueurs d'amour qui nous ont concocté une chronique très spéciale, je ne vous en dis pas plus, on vous garde la surprise.
Alors, hop, hop, hop, je vous le disais, ce n'est toujours pas du hip-hop, mais je crois que maintenant tout le monde est prêt pour les grands pitchs.
Cyrille Chaudoit : En fait, pas tout à fait, Mick. Coucou cher auditeur, sur les cinq micros un n'a pas fonctionné, alors écoute bien ce son et tente de retrouver dans l'épisode quand on a dû réenregistrer nos questions.
Voix off~: Trench Tech. Esprits Critiques pour Tech Éthique.
Ce serait quoi le monde avec des IA de confiance ?
Cyrille Chaudoit : C'est parti pour le grand pitch. Le principe est simple, mes amis, chacun de nos invités a trois minutes, top chrono, pour partager sa grande idée pour une IA plus éthique. Pour une parfaite équité on a fait simple, l'ordre de passage suit l'ordre alphabétique de leurs prénoms.
Une petite règle entre nous, public, on ne les interrompt pas, trois minutes ça passe très vite, aucune question, on garde tout ça pour la suite lors du grand débat.
Alors « f », « g », « l », eh bien c'est Françoise qui va ouvrir le bal. Mais déjà là, en fait Françoise n'était pas tout à fait d'accord.
Françoise Soulié-Fogelman : Je n'ai qu'une chose à dire, ce principe est complètement déloyal, je propose...
Mick Levy : On n'a pas commencé qu’elle débat déjà sur le format, ça va être compliqué !
Cyrille Chaudoit : Françoise, on peut dire quand même que tu es une véritable pionnière de l'intelligence artificielle. Tu as écrit plus de 150 publications académiques et édité 13 ouvrages scientifiques. Tu fais partie du conseil d'administration du Hub France IA et tu étais membre d'un collège d'experts sur l'intelligence artificielle pour la Commission européenne. Françoise c'est bon ? Tu es prête ?
Françoise Soulié-Fogelman : Je n'ai rien préparé, mais on va y arriver quand même !
Cyrille Chaudoit : C’est parti pour trois minutes.
Françoise Soulié-Fogelman : Le sujet c'est l'éthique et j'ai envie de dire que ça me gonfle, je pense que l'éthique ce n'est pas le sujet, ce n'est pas le problème. Le problème c'est que, en fait, si on veut de l'IA, on veut de l’IA dans laquelle les gens aient confiance. Vous voyez Terminator, vous avez peur. Vous voyez le dernier film Mission impossible numéro 47, on a peur. Il nous faut donc quelque chose où, tout d'un coup, les gens aient confiance dans l'IA et pensent que l'IA ça peut être bon pour eux. Le sujet c'est ça.
Maintenant, je vous pose la question : vous avez un bébé, vous voulez lui payer un nounours, vous allez chercher le nounours, qu'est-ce que vous voulez ? Vous voulez que votre bébé ne s'étouffe pas en avalant les oreilles du nounours, en lui arrachant les yeux et en les mangeant. Ce que vous voulez c'est avoir confiance dans le nounours. Comment faites-vous ? Vous regardez un petit truc qui est une petite étiquette où il y a écrit CE et là vous vous dites « je veux ce nounours, j'ai confiance dans ce nounours ».
Comment je fais pour qu’on ait confiance dans l'IA et pour avoir confiance dans l'IA il y a des outils, c'est comme quand vous voulez faire rentrer un clou. Pour faire rentrer un clou, vous avez besoin d'un marteau. OK, le marteau ça sert à ça. Eh bien, pour l'IA de confiance, pour moi c'est la même chose. Il y a un certain nombre d'outils – je pense que Laurence en parlera – pour moi l'éthique c'est un des outils en question, mais c'est loin d’être le seul. Il y a aussi la régulation qui est basée sur toutes ces choses-là. En fait, il va nous falloir avoir plein d'outils dans notre petite poche pour réussir à avoir une IA de confiance parce que sinon l'IA ne servira à rien, les gens n'en voudront pas. Ils verront les films de monsieur Tom Cruise et voilà !
Comment fait-on pour, ensuite, mettre en œuvre tous ces outils ? Il nous faut je ne dirais pas une grande idée, il nous faut tout un tas de moyens concrets et pratiques. Je dis « il ne faut pas une grande idée, il en faut plein de petites » c'est beaucoup plus facile déjà, mais surtout elles sont implémentables.
De quoi a-t-on besoin aujourd'hui ? On a besoin de moyens pratico-pratiques, de faire en sorte que l'IA se déploie, se déploie de façon à ce que les gens en soient contents, aient confiance et tirent les bénéfices sans tirer les risques avec. Par exemple, aujourd'hui, comment je fais quand je suis une start-up pour développer mon produit avec une IA de confiance, bien sûr, de façon à ce qu'il soit régulé et qu'il obtienne le petit tampon CE de la Commission qui est une norme, comme chacun sait ; ma petite camarade, là-bas au bout, va nous en parler. C'est le premier sujet.
Un deuxième sujet que tout le monde aborde quand il est dans une entreprise : comment je fais pour tirer les bénéfices de l'IA générative sans me brûler les doigts ?
Plein de petits trucs faciles.
[Applaudissements]
Mick Levy : Et avec un respect parfait du timing
Cyrille Chaudoit : Merci Françoise. Pour quelqu'un qui n'avait pas préparé, franchement ! En tout cas on précise qu'on te retrouve tout bientôt dans un épisode de Trench Tech qui te sera dédié. Restez bien connectés aux réseaux sociaux pour savoir quand ça sort.
On enchaîne c'est maintenant au tour de Gilles. Gilles, tu es coprésident du Conseil national du numérique et notre digital champion pour la France auprès de la Commission européenne. Tu enseignes également à HEC et tu as écrit quatre ouvrages dont le dernier Comment les hippies, Dieu et la science ont inventé internet, un titre un peu cryptique. Pour avoir les réponses il faudra le lire et c'est aux éditions Odile Jacob.Gilles, are you ready to go?.
Gilles Babinet : Oui.
Cyrille Chaudoit : C’est parti, trois minutes.
Gilles Babinet : Il y a un peu plus de trois ans, je me suis retrouvé à faire des débats sur la 5G dans les territoires et c'était assez brutal, je ne sais pas si vous souvenez, c’était il y a quatre ans, les gens m'insultaient dans les débats, c’était vraiment très particulier. Je me souviens d'une conversation avec une femme – j'avais sorti tout un tas d'arguments sur les intérêts de la 5G – qui a conclu en disant : « J'ai bien entendu vos arguments, je ne suis pas contre, je suis juste contre parce qu’on nous l'impose ». Ça m'a beaucoup frappé et, à partir de là j'ai développé, on a développé une idée au sein du Conseil national numérique qui s'appelle « Café IA », qui part du principe qu’il faut ouvrir un débat sur les sujets d'IA avec dix millions de Français. Pourquoi ? Encore cet été j'étais en vacances dans le Vaucluse, j'ai eu l'occasion de discuter soit avec ma famille soit avec des amis de ces sujets-là. Les gens ont beaucoup de fantasmes, ils ont peur que les IA deviennent conscientes, qu’elles leur piquent leur job, qu'elles leur mentent, qu’elles dévoient la démocratie, etc., des risques avérés. Des gens se demandent « comment je mets ça dans ma TPE, comment j’en fais potentiellement mon métier quand j'ai 12 ou 14 ans et que je me demande quoi faire dans la vie ».
On s'est dit c'est très bien de faire des grands plans d’IA, de mettre 1,5 milliard d'argent public dedans, de créer PRAIRIE [PaRis AI Research InstitutE], de donner à Polytechnique et à Normale Sup et je le dis sincèrement, je pense que c'est très bien, mais c'est loin d'être suffisant.
L’IA ça touche tellement tout : ça touche la façon dont on vit, la façon dont on produit, la façon dont on échange, la façon dont notre intimité, potentiellement, converse avec ces machines que ça ne peut pas rester un truc de spécialistes. Ça doit être un truc commun et on doit créer une culture commune de l'IA.
Donc aujourd'hui, le Conseil national du numérique a dit au gouvernement : notre projet, ce qui nous semble important pour la suite c’est de créer un dispositif qui soit très léger, qui s'appuie sur le milieu associatif, sur les acteurs qui préexistent, et qui identifie juste les meilleurs parcours, ceux qui attirent le plus de monde, ceux qui font en sorte qu’il y a le plus de débats, mais vraiment qu'on arrête de faire du colbertisme où tout se décide à Paris, dans des bureaux dans le 7e arrondissement, et qu'on fasse quelque chose qu'on aurait dû faire, d'ailleurs, pour bien d'autres sujets dans ce pays, qu'on ouvre un vrai débat.
Je finirai en disant que la raison pour laquelle on pense que l'IA est un bon sujet c'est que c'est vraiment le sujet le plus transformatif, qui va toucher absolument toutes les dimensions, c'est donc pour cela qu'il faut qu'on le fasse. Je pense vraiment que ça se résume à refaire de la vraie politique, c’est-à-dire parler des vrais sujets avec les gens.
Cyrille Chaudoit : Sur le fil, bravo !
[Applaudissements]
Cyrille Chaudoit : Quel sens du timing. Merci Gilles. On rappelle ton épisode « Tech & Environnement : le grand bullshit ? ». Là aussi, pour avoir la réponse, il faudra écouter Trench Tech sur trench-tech.fr et sur toutes les plateformes de podcast qui se respectent.
Pour finir cette battle de pitchs c'est désormais ton tour, Laurence. Laurence, tu es professeure à l'Université Paris-Sorbonne et directrice de recherche sur les interactions affectives humain/machine au CNRS. Tes travaux portent, entre autres, sur les sujets des normes en IA. Tu as aussi publié trois livres dont Les robots émotionnels: Santé, surveillance, sexualité... : et l'éthique dans tout ça ? aux éditions de L'Observatoire. Tu es prête Laurence? C'est parti pour trois minutes.
Laurence Devillers : Merci.
L’importance de démystifier l'IA, c'est éduquer avant tout, je ne fais pas du tout que des normes, je travaille en recherche, je forme des élèves, j'ai cinq thésards, je publie des articles et je suis aussi présidente de la Fondation Blaise Pascal pour faire de la médiation culturelle en mathématiques et en informatique partout en France. Je suis aussi impliquée à l’Europe sur les normes, effectivement, qui sont des sujets extrêmement importants.
Qu'est-ce que ça veut dire de démystifier l'IA ?
Déjà qu'est-ce que c'est que l'intelligence ? Vous savez répondre ? Peut-être oui, peut-être non ? L'intelligence a différentes formes : l’intelligence du langage, du corps, l'intelligence émotionnelle, interpersonnelle, intra-personnelle, l'intelligence spatiale, ce que la machine n'a pas du tout, et cette intelligence émotionnelle, j’en ai parlé, fait référence aux travaux d'Antonio Damasio qui est un neuroscientifique connu qu'il est important de rappeler. Notre intelligence humaine c'est donc un ensemble de compétences, innées ou acquises, indissociables des intuitions et des sensations qui dirigent nos décisions et actions et qui nous permettent souvent de les expliquer, pas toujours, mais on peut les expliquer verbalement, et distinguer ce qui est bien, mal, agréable, désagréable.
Les pièges de l’expression « intelligence artificielle », qu'est-ce que c'est ? C’est de masquer les vrais enjeux. Le but, en fait, de l'invention d'un objet IA, c'est d'imiter une capacité humaine si c'est trop dangereux pour nous ou trop pénible, ou de pallier une incapacité humaine : par exemple, on a un cerveau incapable d'aller regarder toutes les informations liées à un contexte pour améliorer des soins, pour aller chercher des informations sur l'écosystème écologique. On n'est pas capable d'agréger toutes ces informations et on n'est pas capable de réfléchir à la vitesse que peuvent avoir ces machines qui, d'ailleurs, ne réfléchissent pas, qui calculent.
C'est donc important de comprendre ça et c'est aussi important de comprendre que l'intelligence artificielle, sur laquelle tout le monde fantasme des choses qui ne sont pas avérées, soit très fortes soit en dessous, est incapable de comprendre ce qu'elle fait, elle est incapable d'expliquer. Elle sait prédire, elle sait produire des générations d'images, de textes, mais elle est incapable d'expliquer ce qu'elle fait.
Personne ne conteste aujourd'hui qu’il y a une puissance croissante des IA combinées à des gigantesques corpus de signaux du monde, ingérables pour notre cerveau, et qui permettront de résoudre des problèmes qui nous dépassent complètement et, en cela, l'IA sera plus intelligente que les humains dans de nombreux usages. Par contre, elle ne pourra pas expliquer ses prédictions. Devant des situations inconnues les humains sont beaucoup plus forts, mais il est certain qu’elle sera de plus en plus intelligente.
Que doit-on faire ? Des lois, des normes, réfléchir sur l'éthique, démystifier ces objets, trois piliers importants pour pouvoir décider face à l’incertain, comprendre les risques. Relisez Pensées de Blaise Pascal, l'inventeur de la pascaline, c'est un appel à agir avec raison dans l'incertain en évitant deux excès : exclure la raison et n'admettre que la raison.
[Applaudissements]
Cyrille Chaudoit : Grandiose. Merci Laurence. On t'a déjà reçue, toi aussi, à notre micro et ton épisode « IA & Robots : il faut voir comme ils nous parlent », est disponible sur trenchtech.fr et toutes les plateformes de podcast.
Attends auditeur, une fois n'est pas coutume, Mick voulait rajouter quelqu'un.
14’ 53
Mick Levy : On voulait donner
