Voir la source de Comment l’IA est intégrée à Parcoursup 2024

[[Catégorie:Transcriptions]]

'''Titre :''' Comment l’IA est intégrée à Parcoursup 2024 ? 

'''Intervenant·e·s :''' Marie Couvé - Valentin Hacault - Rémy Ibarc - Jean-Philippe Clément

'''Lieu :''' Émission <em>Parlez-moi d'IA</em>, radio Cause Commune

'''Date :''' 18 novembre 2023

'''Durée :''' 30 min

'''[https://cause-commune.fm/pia/11-PIA-Parlez-moi%20d%20IA-Jean-Philippe%20Cl%C3%A9ment-ParcourSup.mp3 Podcast]'''

'''[https://cause-commune.fm/podcast/parlez-moi-d-ia-11/ Présentation de l'émission]'''

'''Licence de la transcription :''' [http://www.gnu.org/licenses/licenses.html#VerbatimCopying Verbatim]

'''Illustration :''' À prévoir

'''NB :''' <em>transcription réalisée par nos soins, fidèle aux propos des intervenant·e·s mais rendant le discours fluide.<br/>
Les positions exprimées sont celles des personnes qui interviennent et ne rejoignent pas nécessairement celles de l'April, qui ne sera en aucun cas tenue responsable de leurs propos.</em>

==Transcription==

<b>Diverses voix off : </b><em>Parlez-moi d’IA</em>.<br/>
Mesdames et Messieurs, bonjour. Je suis un superordinateur CARL, cerveau analytique de recherche et de liaison.<br/>
C’est une machine qui ressent les choses.<br/>
On nous raconte n’importe quoi sur l’IA ! Qu’est-ce que tu en dis ? — Moi, je n’en dis rien du tout.<br/>
La créativité, elle reste du côté humain.

<b>Jean-Philippe Clément : </b>Bonjour à toutes et à tous. Je suis Jean-Philippe Clément. Bienvenue sur <em>Parlez-moi d’IA</em> sur Cause Commune, la radio pour débattre, transmettre et comprendre.<br/>
Transmettre et comprendre, c’est aussi l’objectif que se fixe cette émission sur le sujet spécifique des data, des algorithmes et des intelligences artificielles. Nous avons 30 minutes pour essayer de mieux comprendre ces nouveaux outils.<br/>
Cause Commune, que vous pouvez retrouver sur le Web, cause-commune.fm , sur la bande FM 93.1 à Paris et le DAB+ et en podcast sur votre plateforme préférée.<br/>
Merci, Jérôme Sorel, de réaliser cette émission. Merci à Olivier Grieco, notre directeur d’antenne, de nous donner cette opportunité de vous parler de data et d'IA. Merci à vous chers auditrices et auditeurs de tester ou d'écouter de nouveau cette émission. N'hésitez pas à vous abonner et à partager cette émission autour de vous, pour y donner plein de like et d’étoiles si vous l'appréciez. Et puis, n'hésitez pas à nous laisser des commentaires aussi, à nous donner votre avis sur nos émissions, c'est notre seule récompense.

Cette semaine, émission spéciale pour sujet spécial. Je ne reçois pas un mais trois invités dans le studio. L'annonce de la semaine dernière mérite un débat et nous allons inaugurer ce format ensemble. Vous n'avez pas pu louper cette annonce. Je veux, bien entendu, parler du communiqué du ministère de l'Éducation nationale annonçant, l'air de rien, l'introduction de l'IA dans le dispositif Parcoursup 2024. Le principe est exposé de manière très simple : éviter aux étudiants des hésitations dans leur orientation, limiter au maximum le phénomène des errances post-bac et d'échec en premier cycle universitaire. Certains résument en disant « amener rapidement et efficacement l’étudiant sur le marché du travail ». Pour rappel, c'était déjà l'objet de la loi d'orientation et de réussite des étudiants en 2018, dite loi ORE, qui instaurait Parcoursup. Il s'agissait de mettre fin au tirage au sort dans les formations sous tension et de limiter le taux d'échec en licence. Eh bien, le ministère souhaite continuer sur cette lancée. Pour limiter encore le taux d'échec à l'issue du premier cycle universitaire le ministère a souhaité faire appel à l'IA.<br/>
Si nous comprenons bien le dispositif, et nous allons voir ça ensemble, des centaines de milliers voire des millions de parcours post-bac anonymisés ont été analysés. En fonction de cette analyse profonde l'IA est capable de proposer à l’étudiant la filière et la formation la plus adaptée à son propre profil, pour éviter l'échec en premier cycle. Le dispositif ne s'arrête pas là. Si l’étudiant accepte cette proposition et candidate dans la filière et dans les formations qui lui sont proposées, il augmente son <em>scoring</em> de sélection pour ces formations. À contrario, s'il fait d'autres choix, ceux-ci se voient attribuer un malus dans son score de sélection.<br/>
Ce dispositif, comme vous le voyez, pose de nombreuses questions et pour en débattre avec nous, en studio, j'ai le plaisir de recevoir Madame Marie Crinquant, fondatrice et CEO de la société qui porte bien son nom, AvenirAI, qui a été sélectionnée par le ministère de l'Éducation nationale pour implémenter ce dispositif ; Rémy  Ibarc, qui est expert en intelligence artificielle, spécialiste dans les risques éthiques de ces technologies ; et puis Valentin, dont on ne dira pas le nom de famille parce qu’il est encore lycéen, élève en terminale au lycée Carnot dans le 17e à Paris, qui passe son bac cette année – toujours une grande année, celle du bac – avec les spécialités maths et physique.<br/>
Bonjour à vous trois.

<b>Marie Crinquant : </b>Bonjour.

<b>Valentin : </b>Bonjour.

<b>Rémy Ibarc : </b>Bonjour Jean-Philippe.

<b>Jean-Philippe Clément : </b>Merci d'être en studio avec nous-<br/>
<em>Parlez-moi d’IA</em>. On va commencer avec Madame Marie Crinquant. Vous représentez la société AvenirAI. Comment avez-vous mis au point votre solution et comment pouvez-vous garantir que cela fonctionne ?

<b>Marie Crinquant : </b>Notre solution est basée sur un algorithme d'intelligence artificielle. On a utilisé énormément de données pour l’entraîner. Ces données vont être les parcours des différents élèves français dans les dix dernières années. Ça va être leur parcours scolaire du collège et du lycée, toutes leurs notes, les appréciations de leurs professeurs mais aussi, du coup, leur parcours post-bac : est-ce qu'ils ont réussi dans l'orientation qu'ils avaient choisie dès le départ ? Est-ce qu'ils se sont réorientés ? On peut prendre aussi en compte, par exemple, les activités extra-scolaires pour avoir des informations autres que les activités scolaires classiques.<br/>
Ensuite cet algorithme a été testé sur de nombreux exemples et on a obtenu, aujourd'hui, un score de 90 % de réussite, ce qui est déjà extrêmement bien pour un algorithme d'intelligence artificielle de cette envergure. 

<b>Jean-Philippe Clément : </b>D'accord. Certains pourraient dire que pour 10 %, du coup, on ne sait pas trop si le résultat est optimal ! On va y revenir après, ne vous inquiétez pas. OK. Très bien. Donc, pour vous, le dispositif est fonctionnel.
Monsieur Rémy Ibarc, vous êtes expert en IA, vous vous occupez souvent de ces questions d'éthique autour des technologies pour les entreprises. Est-ce que le dispositif proposé par la société de Madame Crinquant vous paraît opérationnel et conforme ?

<b>Rémy Ibarc : </b>C'est une très bonne question Jean-Philippe. Pour qu'un système soit conforme aux attentes et qu’on puisse le déployer de manière fiable, il faut s'assurer qu'il a été développé, de la collecte des données jusqu'au retour utilisateur, d'une bonne manière. Ces types d'algorithmes peuvent halluciner, ils peuvent aussi avoir des biais.

<b>Jean-Philippe Clément : </b>On a déjà parlé de l’hallucination ici. C’est une manière, en fait, de répondre comme si c'était correct, mais la réponse est fausse, c'est ça ?

<b>Rémy Ibarc : </b>Exactement. L'algorithme, l'IA générative, va donner une information fausse ou biaisée.

<b>Jean-Philippe Clément : </b>Très bien. Du coup, vous sentez que cette conformité est potentiellement possible pour cet outil-là ?

<b>Rémy Ibarc : </b>Il faut respecter des étapes clés pour que cette solution soit conforme et qu'elle puisse être déployée, parce que ça va être déployé à trois millions d'élèves. C'est notamment avoir un audit de sécurité, une documentation qui soit faite pour chaque étape et, à la fin, quand on déploie ce système, il faut le tester, le retester, parce qu’il y aura toujours des biais et des hallucinations, même avec un super audit de sécurité. L'avantage c'est d'avoir des retours.

<b>Jean-Philippe Clément : </b>C'est bien le cas Madame Crinquant ? Vous avez essayé de respecter ces types d'éléments de conformité ?

<b>Marie Crinquant : </b>Évidemment. Nous avons respecté toutes les consignes et les choses d’IA responsable.

<b>Jean-Philippe Clément : </b>D'accord. D’ailleurs, on parlait de données. On a dit que les données scolaires que vous avez prises en compte étaient anonymisées. Y a-t-il d'autres données que les données scolaires qui sont prises en compte dans l'algorithme aujourd'hui ?

<b>Marie Crinquant : </b>Aujourd'hui non, puisque, pour cette première version, nous nous sommes focalisés sur ces données scolaires-là pour avoir une première version viable, assez rapidement, à la demande du Gouvernement. Mais on peut éventuellement, dans les futures versions, envisager de rajouter d'autres données comme les données des réseaux sociaux, par exemple, qui peuvent donner d'autres informations sur les étudiants.

<b>Jean-Philippe Clément : </b>Carrément. OK. Avec le consentement comme des étudiants à priori.

<b>Marie Crinquant : </b>Oui, bien sûr.

<b>Jean-Philippe Clément : </b>D’accord, je préfère ! Demander quand même!<br/>
Valentin, vous allez devoir prochainement saisir vos vœux, ça va s'ouvrir normalement décembre/janvier si ma mémoire est bonne. Vous allez effectivement devoir remplir des données un peu parascolaires, complémentaires. Que pensez-vous de ce dispositif ? En ce moment, vous le découvrez en même temps que tout le monde. Selon vous, est-ce que ça va vous faciliter les choses ? Est-ce que ça vous provoque des questions particulières ?

<b>Valentin : </b>Je découvre l'outil et, en même temps, je découvre tout le processus d'orientation. D'un côté, c'est un petit peu rassurant parce que, en fait, je n'ai aucune idée de ce que j'ai envie de faire plus tard, que ce soit comme formation ou comme métier.

<b>Jean-Philippe Clément : </b>Alors ça va vous aider.

<b>Valentin : </b>Et, en même temps, j’ai l’impression que ça m'apporte aussi un petit peu de confusion. Ce que je comprends c’est que l’outil m'amène vers une formation que je suis certain de terminer, mais qu'est-ce qui me dit que, par la suite, c'est le métier que je veux faire toute ma vie ? Quand je regarde autour de moi, mes proches, ma famille, je ne connais personne qui fait le métier dont il est question après la formation.

<b>Jean-Philippe Clément : </b>Ça change beaucoup. Effectivement. Vous n'êtes pas fermé. Je note déjà que vous vous voulez bien regarder un peu le dispositif, que vous n'êtes pas fermé, de base, face à ce dispositif ; je trouve que c'est déjà intéressant. C'est votre côté scientifique, votre spécialité maths- physique qui fait que vous êtes curieux par rapport à ça.<br/>
Monsieur Ibarc, on en a parlé juste avant, parfois les IA peuvent halluciner, justement, elles peuvent reproduire des biais. Dans le cas présent, qu'est-ce que ça pourrait provoquer en termes de risques ? Qu'est-ce qu'on pourrait imaginer comme situations catastrophiques par rapport à la solution ?

<b>Rémy Ibarc : </b>Je peux vous donner un exemple au niveau des hallucinations. Une hallucination c'est quand le résultat est biaisé ou erroné. Si l'algorithme est mal paramétré et qu'on l'a mal testé, ça pourrait être un étudiant qui veut en licence de maths et on lui propose une licence de chimie. Certes, il y a des maths dans la chimie, mais ça ne sera pas ce qu'il aurait voulu.

<b>Jean-Philippe Clément : </b>Y a-t-il d'autres styles de biais potentiels ?

<b>Rémy Ibarc : </b>En termes de biais, ça va être basé sur la collecte des données, c'est-à-dire est-ce qu'on aura fait une représentativité statistique des données qu'on a données à l'algorithme ? Par exemple, on a des métiers sont moins choisis par les femmes, comme mécano, donc l'algorithme ne va pas le proposer à une femme qui voudrait être mécano. Il faut donc faire attention au poids qu'on va donner à chaque donnée dans l'algorithme. Ce sont des choses qu’il faut absolument regarder pour éviter d'avoir encore cette fracture entre certains métiers.

<b>Jean-Philippe Clément : </b>L'utilisation des données des réseaux sociaux, ça vous inspire quoi comme potentiels risques ?

<b>Rémy Ibarc : </b>Quand on parle des données des réseaux sociaux, on va prendre le nom de famille, on va pendre le physique, on va prendre des caractéristiques : ces types de données sont-ils nécessaires pour que l'algorithme nous donne un résultat ? Je ne pense pas. Prenons l’exemple d’un étudiant qui vient d'un quartier plus populaire, pendant ses vacances il ne va pas aller à New York, il va rester en France. Quelqu'un qui vient d’un quartier plus aisé va partir à New York et faire des choses plus intéressantes, jugées plus riches par l'algorithme qui va donc l'orienter vers des métiers qui vont être plus rémunérateurs.

<b>Jean-Philippe Clément : </b>Ah oui ! Effectivement, dans ces cas-là, il faut faire attention à ce qu'on poste sur ses réseaux sociaux.<br/>
Je vous donne la parole Madame Crinquant. Là, on est en train d'essayer de voir un peu comment on peut trouver des biais dans votre dispositif. Comment vous êtes-vous prémunie, en fait, de tous ces risques ?

<b>Marie Crinquant : </b>Comme je le disais tout à l'heure, on a utilisé toutes les bonnes pratiques de l'IA responsable. Tout d'abord, on a utilisé l'explicabilité. L’explicabilité c’est quoi ? Une fois que l'algorithme aura donné une réponse, il va donner une explication de la raison pour laquelle il a donné cette réponse. Dans ce cas-là, par exemple, si l'algorithme prédit une licence de maths pour notre étudiant, il va justifier son choix par les notes qu’il a pu obtenir au lycée, une remarque de son professeur, ce genre de chose, ou ses activités extrascolaires.

<b>Jean-Philippe Clément : </b>C’est intéressant. En fait, quand vous proposez un résultat, à côté du résultat vous mettez la raison pour laquelle ce résultat est proposé, c’est-à-dire quels sont les paramètres qui ont fait que l'algorithme, que le dispositif est arrivé à ce résultat. C'est ça ?

<b>Marie Crinquant : </b>C'est ça. Exactement. En fait, dans le dossier scolaire de l’étudiant, on va mettre en valeur ce qui a servi à pouvoir donner cette réponse-là. 

<b>Jean-Philippe Clément : </b>D’accord. Il y a une explication.

<b>Marie Crinquant : </b>C’est ça. Du coup, l’étudiant pourra vérifier si les données prises en compte sont cohérentes, ou pas, avec ce que lui aimerait avoir pour la suite.

<b>Jean-Philippe Clément : </b>Et là on a parlé de pas mal de types de biais potentiels. On parlait notamment de ce que l'on peut trouver sur les réseaux sociaux. Comment vous vous prémunissez, éventuellement, des mauvais effets de ces éléments-là ?

<b>Marie Crinquant : </b>C'est une bonne question. Les biais c'est toujours une question très importante dans l'intelligence artificielle, notamment quand on touche à des données personnelles et à la vie des gens très précisément. On a déjà essayé d'avoir des données très diversifiées, puisqu'on a pris la totalité de la population française sans faire de tri particulier entre quartiers populaires ou quartiers plutôt riches, jeunes filles ou jeunes hommes. On a pris toutes les données sans distinction. Du coup, cela nous permet d'avoir une représentativité de la totalité de la population française. Par conséquence, l'algorithme fonctionne sur la population française, mais on ne peut pas l'appliquer, par exemple, sur une autre population.

<b>Jean-Philippe Clément : </b>On ne pourra pas le revendre en Europe.

<b>Marie Crinquant : </b>En tout cas, pas tel quel. Peut-être, mais pas tel quel.

<b>Jean-Philippe Clément : </b>Il faudra l’entraîner à nouveau.

<b>Marie Crinquant : </b>C'est ça, parce que chaque population a ses caractéristiques, donc on ne peut pas transférer l'algorithme.<br/>
Du coup, on a déjà cette représentativité de la totalité de la population dans nos données. Ensuite, nous on a essayé d'avoir une équipe de développement la plus diversifiée possible. Pourquoi veut-on une équipe diversifiée ? Pour limiter les biais. Avec une équipe diversifiée, on va avoir une diversité de points de vue, ce qui nous permet d'avoir des tests qui sont représentatifs de la totalité des points de vue qu'on pourrait avoir. Du coup, on va avoir des gens plutôt de milieux aisés, de milieux plutôt pauvres, des hommes, des femmes.

<b>Jean-Philippe Clément : </b>D’accord. Qui vont vérifier l’algorithme depuis leur fenêtre.

<b>Marie Crinquant : </b>Exactement, parce que chacun arrive avec ses préjugés et ses qualités, du coup va avoir un point de vue différent sur l'algorithme.

<b>Jean-Philippe Clément : </b>D'accord. Valentin, on commence à être un peu plus au fait de ce que le dispositif va pouvoir proposer. Avez-vous, un peu, des idées sur la manière d'aborder votre remplissage de dossier dans les prochaines semaines ? Il y a les données scolaires, vous n'y pouvez rien, c'est ce que vous avez fait depuis quelques années, c’est comme ça, c'est enregistré dans le logiciel. Par contre, il y a toute cette partie-là qu'on connaît désormais un peu bien, dans Parcoursup, le parascolaire. Avez-vous déjà, un peu, une stratégie sur les données du parascolaire ?

<b>Valentin : </b>J'ai réfléchi un petit peu. Sans avoir la prétention d'être spécialiste, j'ai bien compris que le fonctionnement de l'outil c'est plus il a de données sur nous, plus il devrait être pertinent dans notre orientation, en tout cas dans le processus. Je me suis un petit peu posé la question concernant ce que seraient les données supplémentaires qu'il faudrait y incorporer. J'ai l'impression qu’un test de personnalité, ce ne sont pas forcément des éléments qui sont pris en compte par l'outil, qui pourraient toutefois être assez intéressants. Je me suis aussi posé la question des réseaux sociaux. Comme je sais que les réseaux sociaux vont avoir beaucoup de données sur moi, sur mon quotidien, qui ont été accumulées au cours des années, probablement que ce sont des données qui vont servir aussi à l'outil pour m'aider. Mais, d'un côté, est-ce que ce n'est pas déjà biaisé dès son origine ? Par exemple, si je prends le réseau Instagram, de base tout ce qu'on va mettre sur Instagram ce sont plutôt des aspects positifs de notre vie.

<b>Jean-Philippe Clément : </b>C’est bien !

<b>Valentin : </b>Oui, mais ce n'est pas forcément représentatif de tout mon quotidien.

<b>Jean-Philippe Clément : </b>Ce n'est pas votre vrai vie.

<b>Valentin : </b>Ça fait de la donnée supplémentaire, mais est-ce que cette donnée-là ne pose pas un problème de représentativité ? De la même manière, comme, de mon côté, ça fait quand même déjà six/sept ans que je suis sur les réseaux sociaux, j'ai l'impression qu’il y a des choses qui se sont accumulées depuis des années. Est-ce que je suis encore en phase avec des choses que j'ai dites il y a cinq/six ans ? Est-ce que je suis à l'aise avec le fait que ces données puissent m'orienter alors que, potentiellement, j'ai complètement changé sur ces sujets-là ?

<b>Jean-Philippe Clément : </b>Il va falloir publier des <em>disclaimers</em> sur ce que vous avez dit il y a plusieurs années, c'est ce que vous vous redoutez ?

<b>Valentin : </b>En tout cas, il va falloir que je fasse le tri.

==16’10==

<b>Jean-Philippe Clément : </b>D’accord. Monsieur Ibarc, finalement on sait que cette IA n’a pas l’intuition du conseiller d'orientation qui va être capable, de manière un peu plus émotionnelle, de voir quelle est la motivation de l’étudiant qu’il a en face, de voir comment, peut-être, un parcours atypique va pouvoir s’uniformiser. À un moment donné, quand on fait rentrer tout cela dans une machine, le parcours, justement, ne finit-il pas par ressortir très uniforme et être proposé de manière très uniforme à un étudiant ou futur étudiant ?

<b>Rémy Ibarc : </b>Déjà, l’IA va être très forte à faire des liens entre les données que nous nous n'aurons pas faits, donc va faire des propositions auxquelles l’étudiant n'aura pas pensé.

<b>Jean-Philippe Clément : </b>C’est un bon point ça !

<b>Rémy Ibarc : </b>C'est un bon point. Il y a du bon, notamment que l'IA va avoir la connaissance de tous les métiers alors que les étudiants eux-mêmes, les conseillers et conseillères n'ont pas accès à toutes ces informations directement. D'un autre côté, cette IA va être basée sur les données de l’étudiant, soit les réseaux sociaux, comme le disait Marie, soit sur les notes, mais est-ce que des données sont représentatives de l’étudiant ? On sait qu’à 17/18 ans on change et à 20 ans...

<b>Jean-Philippe Clément : </b>C’est ce qu’on disait avec Valentin, on évolue beaucoup à cet âge-là.

<b>Rémy Ibarc : </b>Exactement et, au final, le fait de se tromper n’est-ce pas la manière dont on arrive à trouver ce qu'on veut faire ?

<b>Jean-Philippe Clément : </b>Madame Crinquant, n'avez-vous pas peur d'inhiber toute une génération d’étudiants ? Je me souviens d'une anecdote : Steve Jobs disait qu'il avait pris comme matière, en première année de fac, calligraphie et tout le monde lui disait « mais à quoi ça te sert de faire de la calligraphie en première année ? Tu es brillant dans les matières scientifiques. » Il avait expliqué que cette matière-là l'avait aidé beaucoup d'années plus tard dans la manière de sélectionner les typos des premiers Apple et de faire la différence avec ses concurrents. Du coup, ce qui paraissait complètement atypique à une époque, lui a servi quand même dans sa vie professionnelle. Vous n’avez pas peur qu'on perde de ça, finalement, en donnant une direction trop franche ?

<b>Marie Crinquant : </b>Effectivement, on va se réorienter dans sa carrière.<br/>
Avec ce produit, notre objectif c'est d'avoir un maximum d’étudiants et d’étudiantes qui arrivent à valider leur premier diplôme. Ils peuvent très bien rentrer en licence dans la prédiction de l'intelligence artificielle, valider cette licence, travailler quelques années dans ce domaine-là, puis totalement changer. Notre objectif, aujourd'hui, c'est d’améliorer ce score de 31 % des étudiants qui arrivent en licence et qui en sortent diplômés : il y a uniquement 31 % des étudiants qui arrivent en licence qui sont diplômés. C'est quand même très peu, c'est de l'argent que le Gouvernement investit, que les familles investissent, pour rien, c’est du temps que les étudiants perdent, finalement, puisqu’ils vont passer une année, deux années, dans cette licence que, finalement, ils ne vont pas valider. Du coup, l'objectif premier de ce produit c'est de faire gagner du temps et de l'argent.

<b>Jean-Philippe Clément : </b>Et vous, Valentin, vous avez envie de prendre un peu de temps dans votre post-bac ? Vous avez envie de faire des essais ? Comment voyez-vous les choses ?

<b>Valentin : </b>C'est ça. J'ai toujours eu du mal à me projeter professionnellement, ce sont plutôt les stages qui m’ont permis de comprendre ce que j'aimais faire ou, à l'inverse, ce que je n’aimais pas trop faire. Le fait d'avoir un outil qui me dit à l'avance, comme ça, « c'est ça que tu vas à faire », peut-être que ça fonctionne, mais là, comme ça, c'est assez difficile à croire dans le sens où, même pour moi, c'est déjà très difficile de le savoir. Par exemple, aujourd'hui, j'y ai quand même beaucoup réfléchi et je pense que j'ai envie d'aller voir ce qui se passe du côté du secteur de l'aéronautique et si l'outil me dit que, finalement, ce n'est pas du tout pour moi, je reviens à la case départ et je ne sais plus du tout où j’en suis. 

<b>Jean-Philippe Clément : </b>Oui, un peu de doute va peut-être s’immiscer dans votre réflexion.<br/>
Monsieur Ibarc, finalement ce dispositif induit un principe de société, il donne des grandes lignes. La techno utilisée va nous conduire à une société qui se dessine. N’y a-t-il pas des adaptations à faire pour que ça soit un peu moins fort en termes de prédétermination ?

<b>Rémy Ibarc : </b>D'un côté, c'est comme avoir un assistant personnel qui va nous aider à choisir notre parcours professionnel, c'est donc un vrai avantage, mais, de l'autre côté, comment est-ce qu'on sensibilise les étudiants que c'est un outil mais que ce n'est pas une vérité ? Comme je le disais, c’est en se trompant qu'on arrive à trouver ce qu'on va faire et c'est vraiment avec cette intuition qu’on arrive à comprendre qui on veut devenir.

<b>Jean-Philippe Clément : </b>Votre préconisation serait plutôt de l'utiliser comme une aide à l'accompagnement plutôt que quelque chose de déterminé ?

<b>Rémy Ibarc : </b>C'est une super aide, par contre ça doit rester une aide et ça ne doit pas être une vérité.

<b>Jean-Philippe Clément : </b>Et vous, madame Crinquant, vous seriez prête à adapter un peu cet outil ? Personne ne l'a encore testé, c'est la première année. Si jamais quelques critiques se font jour, est-ce que vous êtes en capacité d'adapter un peu les éléments ? Est-ce que vous sentez que le ministère est quand même sur une écoute par rapport à ce qu'il peut se passer ?

<b>Marie Crinquant : </b>Évidemment. De toute façon, comme pour tout produit d'intelligence artificielle qui débarque sur le marché, nous avons fait nos tests en interne, mais ça ne sera jamais aussi développé que des tests grandeur nature. Aujourd'hui, ce produit est ouvert à l'utilisation, aux tests, et nous sommes ouverts aux retours. Chaque étudiant/étudiante qui va utiliser le produit va nous produire des retours et nous, derrière, nous allons améliorer l'algorithme d’intelligence artificielle en fonction de ces retours pour avoir quelque chose de beaucoup mieux pour l'année suivante.

<b>Jean-Philippe Clément : </b>D'accord. Au-delà de cette question de pertinence des recommandations concernant l'orientation, il faut quand même qu'on se pose la grande question, souvent oubliée quand on parle d'IA, du côté énergivore du dispositif, surtout, quand même, à l'échelle des trois millions d’étudiants qui vont s'interroger sur leur orientation avec cet outil-là. Monsieur Ibarc, c'est le genre de dispositif qui peut être optimisé de ce point de vue-là ?

<b>Rémy Ibarc : </b>Il faut se souvenir que ces IA sont gourmandes en énergie, en électricité, en eau, en matières rares aussi. Une requête d’IA représente 1000 recherches Google, c'est donc conséquent et si trois millions d’étudiants l'utilisent quotidiennement, ça va faire une sacrée facture d'électricité. Il y a des moyens pour optimiser. Nvidia, qui est le leader sur marché, fait des GPU spécialement pour l'IA, ça avance, mais il faut faire attention à sa consommation.

<b>Jean-Philippe Clément : </b>Peut-être décaler dans le temps l'usage du dispositif : les étudiants n’auront le droit de l'utiliser que la nuit, peut-être, pour que ça puisse marcher correctement avec l'énergie ? Je rigole !

<b>Rémy Ibarc : </b>Ça pourrait se faire !

<b>Jean-Philippe Clément : </b>Valentin, c'est vous qui allez avoir le mot de la fin de ce débat puisque c'est quand même votre avenir qui est en jeu. Qu'est-ce que vous voudriez garder comme élément de ce dispositif et de cette manière de le présenter ? Est-ce qu'il y a des choses qui vous font un peu peur, du coup ?

<b> Valentin : </b>À la lumière de nos échanges, ce que j'en tire c'est que c’est un outil qui pourrait m'aiguiller, ça serait complètement bénéfique. Si c'était plutôt une contrainte ou une restriction je serais plutôt moins enclin à utiliser l'outil. Si on trouvait un compromis, que l'outil indique plusieurs propositions d'orientation, qui sont des recommandations, mais que je suis pas obligé de suivre, sans forcément un malus, je pourrais plutôt y adhérer.

<b>Jean-Philippe Clément : </b>Déjà un premier retour, madame  Crinquant. Le truc n’est pas encore lancé que vous avez déjà des retours d’étudiants.<br/>
Merci beaucoup pour ce débat. C'était <em>Parlez-moi d’IA</em> sur la question de la manière dont l'IA peut être insérée dans le dispositif Parcoursup en 2024.<br/>
Merci à tous pour ce débat. Nous avons pu voir que les questions sont nombreuses et que les demandes d'ajustement et de régulation ne sont pas anodines. Merci. À très bientôt.

Jérôme, stop ! Attends ! Pour les auditrices et les auditeurs qui sont encore là, en fait c'était un gros canular. J'espère que vous êtes encore là parce que sinon vous n'êtes pas au courant que c'est un gros canular. Ce débat et le sujet de ce débat était des <em>fakes</em>, comme les IA génératives peuvent en produire très facilement avec un pouvoir de diffusion extrême. Chères auditrices et auditeurs excusez-nous. C'était destiné à vous faire réagir, à vous faire réfléchir. Nous avons organisé ce faux débat avec les amis de Data For Good et de Latitudes pour vous dire que ce type de réflexion sur l'IA est essentiel, qu'il s'agit, bien sûr, d'un objectif de trois dispositifs parce que, en fait, il y a trois dispositifs. Il y a <em>Parlez-moi d’IA</em> qui essaye d'être techno-lucide, il y a le livre blanc <em>Les grands défis de l’IA générative</em> de Data For Good, et désormais le jeu sérieux, La Bataille de l'IA, propulsé par Latitudes, sur lequel vous pouvez réagir maintenant que vos vraies identités sont révélées.<br/>
Peut-être Rémi dont c'est le vrai nom, Rémi Ibarc, peux-tu parler du livre blanc sur la techno-lucide en une minute ?

<b>Rémy Ibarc : </b>En une minute, sur le livre blanc. On voyait l’IA évoluer et devenir mainstream et on parlait peu des risques. On avait voulu écrire un livre blanc sur les défis et les challenges sociétaux et environnementaux de ces IA.

<b>Jean-Philippe Clément : </b>On le trouve en ligne sur le sur le site de Data For Good. C'est un livre blanc très complet qui balaye tous les éléments dont on a parlé aujourd'hui, notamment les biais. Et quoi d'autre ?

<b>Rémy Ibarc : </b>Exactement. On parle de fiabilité, on parle de propriété intellectuelle, on parle de biais et on parle, bien évidemment, d'environnement. Ces quatre rubriques sont incluses. Allez sur Data For Good pour pourvoir le livre blanc, il est riche.

<b>Jean-Philippe Clément : </b>Et c'est le livre blanc qui, du coup, a inspiré le jeu sérieux, La Bataille de l'IA, qui a été conçu par les équipes de Latitudes avec, aussi, Data For Good, me semble-t-il.<br/>
Valentin, tu peux maintenant enlever ton masque, tu n'es pas étudiant et lycéen. Tu as dit que tu avais fait des stages, c'est rare pour un lycéen d’avoir fait que des stages. Dans quel contexte s’est créé La Bataille de l'IA ?

<b>Valentin : </b>À Latitudes, depuis plusieurs années, on a une expertise avec la création d'ateliers, justement, de sensibilisation sur le numérique responsable et engagé, donc les enjeux sociaux et environnementaux. Ça faisait déjà un petit moment qu'on avait en tête tous ces sujets d'IA générative. Quand on a vu le travail formidable produit par l'équipe Data For Good, on a tout de suite compris que c'était le contenu qu'il fallait qu'on adapte sur un <em>serious game</em> pour pouvoir faire vivre, dans la durée, tout ce contenu.

<b>Jean-Philippe Clément : </b>Marie, tu es aussi de Latitudes, tu fais partie de l'équipe de Latitudes. Comment se passe cet atelier, La Bataille de l'IA.

<b>Marie Couvé alias Marie Crinquant : </b>Je suis bénévole de Latitudes, Marie Couvé de mon vrai nom et vraiment <em>data scientist</em>.

<b>Jean-Philippe Clément : </b>Et tu peux le dire : tu ne cautionnes pas ce dispositif d'IA pour Parcoursup 2024.

<b>Marie Couvé alias Marie Crinquant : </b>Non, je ne le cautionne pas, je ne l'utiliserais pas et j'espère qu'il ne sera jamais développé.

<b>Jean-Philippe Clément : </b>Tu le défends bien quand même !

<b>Marie Couvé alias Marie Crinquant : </b>Oui, j'ai essayé !

<b>Jean-Philippe Clément : </b>Les explications sur l'atelier ? 

<b>Marie Couvé alias Marie Crinquant : </b>Cet atelier dure au minimum deux heures. Il a pour objectif de sensibiliser aux enjeux de l'IA générative.<br/>
Il se passe en trois étapes.<br/>
La première étape va être de refaire un historique de l'intelligence artificielle, des années 50 à aujourd'hui ; le jeu est basé sur le jeu Timeline pour celles et ceux qui connaîtront.<br/>
La deuxième étape, ça sera plutôt des débats autour des enjeux de l'intelligence artificielle générative. On va poser des petites questions autour des différents enjeux.

<b>Jean-Philippe Clément : </b>Et la troisième partie c'est un débat, comment on l’a fait aujourd’hui, avec des vrais-faux interlocuteurs, des profils qui se gèrent en tout.

J'espère que cette vraie-fausse émission de <em>Parlez-moi d’IA</em> ne vous a pas trop choqués, qu'elle vous a donné l'occasion de réfléchir et qu'elle va vous donner l'occasion de réfléchir avec le livre blanc et avec le futur jeu sérieux, La Bataille de l'IA, que vous pouvez aller voir sur les sites de Latitudes et de Data For Good.<br/>
On se retrouve bientôt pour un vrai entretien, cette fois-ci, de <em>Parlez-moi d’IA</em>. Je vous le promets.<br/>
Restez sur 93.1 FM sur Cause Commune. Je vous laisse avec les bonnes émissions, dans les bonnes mains de Cause Commune, <em>Rayons libres</em> pour le vélo avec Jérôme.<br/>
Merci Jérôme pour la réalisation et puis, tout de suite, c'est <em>Sous les lapsus de l’actu</em>.<br/>
À bientôt.