Quelles sont les conditions d’un numérique et d’une IA responsables - Vincent Courboulay

Titre : Quelles sont les conditions d’un numérique et d’une IA responsable

Intervenants : Vincent Courboulay - Jean-Philippe Clément

Lieu : Émission Parlez-moi d’IA, radio Cause Commune

Date : 13 janvier 2024

Durée : 30 min

Podcast

Présentation de l'émission

Licence de la transcription : Verbatim

Illustration : À prévoir

NB : transcription réalisée par nos soins, fidèle aux propos des intervenant·e·s mais rendant le discours fluide.
Les positions exprimées sont celles des personnes qui interviennent et ne rejoignent pas nécessairement celles de l'April, qui ne sera en aucun cas tenue responsable de leurs propos.

Transcription

Diverses voix off : Parlez-moi d’IA.
Mesdames et Messieurs, bonjour. Je suis un superordinateur CARL, cerveau analytique de recherche et de liaison.
C’est une machine qui ressent les choses.
On nous raconte n’importe quoi sur l’IA !
Qu’est-ce que tu en dis ? — Moi, je n’en dis rien du tout.
La créativité, elle reste du côté humain.

Jean-Philippe Clément : Bonjour à toutes et à tous. Je suis Jean-Philippe Clément. Bienvenue sur Parlez-moi d’IA sur Cause Commune, la radio pour débattre, transmettre et comprendre. Transmettre et comprendre, c’est aussi l’objectif que se fixe cette émission sur le sujet spécifique des data, des algorithmes et des intelligences artificielles. Nous avons 30 minutes pour essayer de mieux comprendre ces nouveaux outils.
Cause Commune, que vous pouvez retrouver sur le Web, cause-commune.fm, sur la bande FM 93.1 à Paris et le DAB+ et en podcast sur votre plateforme préférée, bien sûr.
Merci, d'être de plus en plus nombreux à nous écouter, nous vous le redisons à chaque fois, vos likes, vos étoiles, vos commentaires, sont nos seules récompenses. N'hésitez pas et pourquoi ne le feriez-vous pas maintenant ?, ce n'est pas mal ça !

Cette semaine, j'ai pris plaisir à écouter la table ronde proposée par l'Académie des sciences, intitulée « L'intelligence artificielle est-elle intelligente ? » dont vous retrouverez, bien sûr, le lien, comme d'habitude, en description de cet épisode [1]. Si vous l'écoutez, vous allez y recroiser Serge Abiteboul, Laurence Devillers, Gilles Dowek, les trois grands scientifiques, mais aussi auteurs de la pièce de théâtre qui met en scène une IA, intitulée Qui a hacké Garoutzia ?, que nous avions reçus ici dans l'épisode 10 de Parlez-moi d’IA et que vous aviez particulièrement appréciés. Les trois spécialistes discutent également avec Anne Alombert, philosophe et auteur de Schizophrénie numérique et Daniel Andler, mathématicien et philosophe. Je vous recommande l'écoute de cette conférence, elle est très abordable et progressive. Elle débute sur la fameuse question de la définition de l'intelligence, un grand classique, fait un détour sur le décryptage des aspects techniques, toujours intéressant, et elle n'oublie pas d'aborder les questions sociales et sociétales. La parole est ensuite donnée au public qui pose quelques questions. Il est assez significatif d'entendre que la plupart des questions concernent des questions de société, des questions parfois anxieuses, des questions qui, justement, interrogent la notion de responsabilité individuelle et collective vis-à-vis de l'IA. C'est vrai que cette question de la responsabilité est cruciale, cruciale mais aussi multiforme et complexe, pas facile à aborder dans un contexte numérique.
Cela tombe bien, car notre invité du jour travaille la question depuis un petit moment maintenant. Il est ingénieur, maître de conférences en informatique à l'Université de La Rochelle depuis 15 ans. Depuis 10 ans, il est spécialisé dans le numérique responsable. Depuis 2018, il a créé l'Institut du numérique responsable et il se focalise tout particulièrement, en ce moment, sur l'IA responsable.
Bonjour Vincent Courboulay.

Vincent Courboulay : Bonjour.

Jean-Philippe Clément : Merci d'être avec nous à distance.

Vincent Courboulay : C'est un plaisir !

Jean-Philippe Clément : Vincent, parlez-moi d’IA, mais, peut-être avant, parlez-moi de numérique. On peut peut-être commencer par se demander ce qu’est, finalement, le numérique responsable dans les grandes lignes ?

Vincent Courboulay : Dans les grandes lignes, déjà c'est un objectif, parce que, aujourd'hui, ce n'est pas une réalité. L'objectif d'un numérique responsable, ce sont, déjà, des choix qu'on a faits à une époque pour trouver des mots qui étaient le plus représentatifs possible, finalement, de ce qu'on voulait faire. Ce n'était pas un numérique bio, ce n’était pas un numérique éthique, c'était un numérique dont les objectifs étaient beaucoup plus larges. À une époque ça s'appelait le green IT, le verdissement du numérique.
Le numérique responsable c'est une trajectoire, c'est un objectif, c'est une volonté pour atteindre deux choses : tous les procédés qui permettent d'améliorer l'empreinte économique, sociale et environnementale du numérique, parce que le numérique a des impacts sociaux, environnementaux, économiques, on commence de plus en plus à le savoir, on pourra éventuellement parler de quelques chiffres plus tard. Mais, dans le même temps, c'est aussi utiliser le numérique pour améliorer les processus économiques, sociaux et environnementaux dans d'autres secteurs d'activité. C'est ce qu'on appelle en anglais le green IT et le IT for green, ce sont deux échos, c'est considérer le numérique pour ce qu'il est, à la fois problème, mais aussi solution et c'est tout cela le numérique responsable.

Jean-Philippe Clément : Rechercher aussi l'impact positif.
Vous êtes professeur d'informatique à l'université de La Rochelle depuis 15 ans et puis, il y a dix ans, tout d'un coup, vous commencez à vous intéresser au numérique responsable, j'imagine que c'est plus progressif que ça. Quel est, pour vous, l'élément déclencheur ? Qu'est-ce qui fait que, tout d'un coup, vous vous dites « là, il y a une question à creuser » ?

Vincent Courboulay : Il y a deux choses.
La première c'est une demande. À l'époque, on avait un président d'université qui a dit : « Ècoutez les gars, les filles, vous êtes gentils. Tous autant que vous êtes, dans vos départements respectifs, je voudrais qu’en troisième année de licence vous montiez un cours : le nom de votre département et développement durable », donc mathématiques et développement durable, chimie et développement durable, droit et développement durable et, évidemment, il y a eu informatique et développement durable. Et là, globalement, tout le monde a fait un pas en arrière et je n'étais pas préparé à ça. Bien sûr, le sujet intéressé, j'ai toujours eu, je lâche le mot, une fibre écolo. J'ai profité de cette demande, de ce défi, pour monter un cours qui, au début, était clairement orienté plutôt green IT. Et quand on met le doigt dedans, on met la main, le bras, on met tout et après on met ses jours et ses nuits et puis, au final, quelques années plus tard, ce qui était juste un engagement pédagogique est devenu aussi un engagement en termes de recherche, parce qu'il y a de vraies questions qui se posent sur pourquoi, comment.

Jean-Philippe Clément : L'idée, c'est d'essayer d'ouvrir cette question, cette problématique du numérique responsable, au-delà de l'université, au-delà des cours auprès de vos étudiants, vers le monde extérieur, notamment le monde des entreprises mais pas que, d'ailleurs, le monde des acteurs publics également.

Vincent Courboulay : Exactement. Tout à fait.

Jean-Philippe Clément : Si on pouvait résumer les grands objectifs de l'institut aujourd'hui, quand vous on vous demande quelles sont vos cibles.

Vincent Courboulay : Ce sont quatre objectifs précis : comprendre, mesurer, décider, agir. Dans ces quatre thématiques-là, on se retrouve avec la volonté d'aider, d'outiller, de faire monter en compétences le plus de personnes possible qui soient grandes, petites, publiques, privées, établissements, même à l'étranger, c'est ça qui est intéressant. On essaye d'apporter les éléments de compréhension, les outils de mesure, les démarches intellectuelles pour décider de faire et les guides pour mieux faire.

Jean-Philippe Clément : Vous proposez de commencer, j'imagine, à beaucoup de ces entreprises publiques et privées, par signer notamment une charte numérique responsable. C'est finalement leur premier engagement sur le chemin ?

Vincent Courboulay : Ça pourrait. Déjà on n'est pas du tout obligé d'être adhérent à l'association pour signer la charte. Ça a été une commande de l'État en 2017/2018. On était en train de travailler sur un label numérique responsable et puis, à un moment donné de la réunion, des membres du ministère de la Transition écologique se retournent et disent : « Au fait, vous pourriez nous écrire une charte ? — Oui bien sûr ». Après, je me suis rendu compte à quel point c'était galère d'écrire une charte.
Cette charte est non engageante, mais, quand on veut prendre le chemin, on a besoin de bonnes chaussures, on a besoin de cartes, on a besoin de routes pavées, on a besoin d'objectifs, ou pas, d'ailleurs. Cette charte est gratuite. Globalement, on y a mis vraiment toutes les bonnes pratiques, le bon mindset pour aller vers un numérique plus responsable. D'ailleurs, en 2024, je suis content de l'annoncer sur votre antenne, c'est une petite nouveauté, on va travailler sur une V. 2, parce que, depuis, il y a un truc bizarre qui s'appelle l'IA générative qui est arrivé et qui a un peu rebattu les cartes de ce que doit être, finalement, le panier global d'une charte. Si elle n'inclut pas l'IA, les données, les algorithmes, en fait, on passe un peu à côté du nouvel ADN d'un numérique responsable.

Jean-Philippe Clément : Du coup, combien y a-t-il de signataires de cette charte aujourd'hui ?

Vincent Courboulay : Ça change tout le temps. La dernière fois que j'y suis allé, la semaine dernière, on était sur plus de 600 signataires.

Jean-Philippe Clément : 600 organismes publics et privés.

Vincent Courboulay : Des gros, des petits. Un des premiers signataires, c'est une grande banque internationale rouge et noir.

Jean-Philippe Clément : Qui aime bien le rugby ?

Vincent Courboulay : Oui, c'est ça, absolument. On a eu peur parce que, tout de suite, elle a fait tourner toute sa batterie d'avocats pour être sûre de pas signer n'importe quoi ou de signer des trucs trop engageants. On a eu l'excellente, vraiment la très bonne surprise du fait que cette batterie d'avocats ne nous a demandé de faire aucune modification.

Jean-Philippe Clément : Aucune modif, parfait.

Vincent Courboulay : Ils ont signé la charte au niveau mondial en l'état.

Jean-Philippe Clément : Du coup, on peut devenir aussi adhérent de l'institut. Ça ouvre quelles particularités de devenir adhérent ?

Vincent Courboulay : Ça ouvre des particularités de participer à des groupes de travail, d'être un peu en avance de phase.

Jean-Philippe Clément : Y a-t-il aussi des formations ?

Vincent Courboulay : Des formations, non.

Jean-Philippe Clément : Ce n’est pas votre manière de travailler.

Vincent Courboulay : On ne forme pas, parce que chacun son métier. Par contre, on a proposé des MOOC, des Massive Open Online Courses, acronyme barbare pour dire des cours en ligne gratuits. Vous allez sur le site académie-nr, comme numérique responsable, .org, academie-nr.org, et vous retrouvez plusieurs heures de formation autour du numérique responsable qui, on l'espère, en 2024 vont s'enrichir d'un certain nombre d'autres cours qui peuvent être proposés par n'importe qui à partir du moment où on trouve le budget et que c'est validé ; il y a un comité éditorial.
Le MOOC fait partie du pôle comprendre.
La charte fait partie du pôle décider.
Après, on a des guides d'achats, on a des guides de bonnes pratiques qui font partie, eux, plutôt du pôle agir.
Et puis on a des beaux outils de mesure pour mesurer l'impact environnemental du numérique et, évidemment, là ça fait partie du pôle mesurer.
Si vous tapez sur votre moteur de recherche préféré, qui n'est pas forcément Google, « WeNR », comme « Nous Numérique Responsable », vous trouverez des outils gratuits, soit des outils pour avoir directement l'empreinte environnementale de son organisation, soit des outils un petit peu plus volumineux, on va dire, et là il faut faire partie de campagnes de mesure annuelles, on en fait deux par an, et là on a vraiment une évaluation quantitative et qualitative des impacts du numérique de son organisation et tout ça, évidemment, c’est gratuit.

Jean-Philippe Clément : Dans les outils, il y a aussi les guides de bonnes pratiques, notamment celui que vous avez coréalisé ou réalisé, d'ailleurs, pour le compte du ministère, encore une fois, qui date de 2023, donc il est assez récent, mais bizarrement, et vous l'avez déjà évoqué, ce guide ne parle pas trop d'IA pour le moment. On s'aperçoit que cette IA, qui a surgi fin 2022, a surpris tout le monde dans les travaux qui étaient en cours. Comment gérez-vous les choses, du coup ?

Vincent Courboulay : On les gère de façon assez simple. Si un guide sort en 2023 et qu'il est validé par le ministère, au vu de la réactivité de tous les acteurs, ça veut dire, globalement, qu'il a été préparé en 2021 ! Donc là, effectivement aujourd'hui, une des premières questions des membres qui rentrent à l’INR c'est : « Vous êtes gentils, mais comment pouvez-vous nous aider au niveau de l'IA ? » On leur dit que nous sommes une association dont la force sont ses membres, nous ne sommes pas une espèce de caste de quatre/cinq personnes qui ont la science infuse et qui étendent leurs mains sur la société en disant « prenez, ceci est mon corps, buvez, ceci est mon sang ». C’est vraiment la volonté de tout le monde de dire : là il y a un sujet, il faut l'approprier. Il y a des associations qui font le job un peu en amont et qui le font très bien. Par exemple, pour l'éthique, on va aller pointer vers ces associations ; l'Union européenne fait bien les choses aussi.
En 2018, quand on a fait l’asso, nous n’étions pas nombreux et nous avions le temps d'arriver avec des outils. Aujourd'hui, en fait, on a répondu à un besoin, on répond toujours et, au vu des enjeux du numérique, on va encore répondre longtemps à des besoins, mais, à la limite, on vient nous voir en nous disant : « Qu'est-ce que vous avez sur ce sujet-là ? Laissez-nous travailler. Nous sommes quasiment tous des bénévoles. C'est en cours, venez jouer avec nous, venez nous aider, venez avec votre recul, vos expertises, venez avec vos problèmes, venez avec vos cas concrets, cas concrets de territoire, cas concrets de grandes entreprises et, une fois qu'on a ça, on le met au centre de la table et on réfléchit ensemble à apporter des solutions. Et, si jamais il y a des sujets un peu trop complexes, on fait comme on a déjà fait plusieurs fois, c'est-à-dire qu’on lance des thèses, on sollicite des laboratoires, tout à l'heure vous avez parlé des tables rondes avec les trois pontes du domaine.
Aujourd'hui le problème de l'IA, et on viendra peut-être sur ce sujet-là, c'est qu'en fait le temps de la recherche, au niveau numérique, a été doublé il y a une dizaine d’années par le temps des start-ups et des laboratoires internes aux entreprises, ce qui fait qu'en fait, aujourd'hui, quand on commence à avoir un problème, par exemple se dire « l'explicabilité de l'IA c'est un vrai problème, on va creuser », un mois plus tard on a déjà une start-up qui nous dit « regardez, j'ai le dernier outil qui va vous permettre de comprendre l'explicabilité des IA génératives » et, en plus, c'est plutôt du bon boulot. Il y a donc cette espèce de confrontation de temps.

Jean-Philippe Clément : On va en reparler.

Vincent Courboulay : Je me doute.

Jean-Philippe Clément : C'est important de comprendre les conditions d'un numérique et d’une IA responsable, on va essayer de creuser.
Je vous propose puisqu'on a déjà fait la première partie de l'émission, de faire une petite pause musicale. Garlaban, notre propre programmateur musical, nous a encore déniché un son bien planant, je vous conseille d'aller le voir dans la version live sur YouTube, les musiciens ont tous un masque des Mille et Une Nuits, c'est pourtant sorti un morceau sorti en 2021. On écoute Mirage des Glass Beams.

Pause musicale : Mirage par le groupe Glass Beams.

16’ 17

Jean-Philippe Clément : Vous êtes