« L’intelligence artificielle va-t-elle un jour remplacer les profs - RFI, 2023 » : différence entre les versions

De April MediaWiki
Aller à la navigationAller à la recherche
Ligne 95 : Ligne 95 :
==12’37==
==12’37==


<b>Laurence Devillers : </b>D’évaluation
<b>Laurence Devillers : </b>D’évaluation très certainement, ça la remet en cause mais c’est très intéressant.<br/>
En fait l’assistance de ce type de système, qui n'est pas hallucinant ; je n’ai pas l’émerveillement des enfants devant un jouet. On est devant une puissance non négligeable de manipulation, de production de <em>fake news</em>.
 
<b>Laurence Garcia : </b>De manipulation et de production de <em>fake news</em>.
 
<b>Laurence Devillers : </b>Bien sûr.
 
<b>Vincent Cespedes : </b>C’est donc qu’il y a de l’émotion. Pour être manipulé, il faut quand même se laisser avoir et, pour se laisser avoir,il faut quand même qu’on soit épaté.
 
<b>Laurence Devillers : </b>On connaît tous nos biais cognitifs : par paresse on ne va pas regarder le sujet, on va juste l’effleurer et on va répondre directement. Tous les outils informatiques nous poussent à être très rapides dans notre façon de fonctionner ; on retweete, on dit oui non, on n’a pas plus temps de penser en cemoment , excusez-moi pour le philosophe.
 
<b>Vincent Cespedes : </b>Je ne dis pas le contraire. se faire avoir ce n’est pas positif. Quand je dis que la machine va nous leurrer, je ne dis pas <em>yop la boum</em>, je ne suis pas dans le <em>yop la boum</em> c’est formidable.
 
<b>Laurence Garcia : </b>Donc ChatGPT produit malgré tout aussi des <em>fake news</em>.
 
<b>Laurence Devillers : </b>Non, il produit de l’hallucination. Il ne sait pas que ce sont des <em>fake news</em>. Comme il n’y a aucun contrôle ! Enfin !, derrière, quand même, ils ont mis des censures. Et c’est là aussi où il faut alerter tout le monde. Comme ces systèmes ne marchent pas si bien que ça, qu’on est obligé de les encapsuler dans un système qui converse, pour arrondir les angles, faire qu’ils racontent moins de bêtises, que derrière on ne veut pas qu’ils parlent trop de sexe, des aspects de guerre chez les Musulmans ou autres qui pourraient fâcher, eh bien il y a des sujets qui sont censurés. Et qui décide ça ? C'est la société qui le décide c’est OpenAI, ou Microsoft d’ailleurs. Pourquoi ce n’est pas plus ouvert ?
 
<b>Laurence Garcia : </b>Open AI c’est la startup qui l’a mis au point.
 
<b>Laurence Devillers : </b>Il est quand même important de se demander, si ces systèmes, demain, n’ont pas le doit de parler de la religion musulmane ou qu’elles peuvent pas parler du catholicisme ou du judaïsme, s’il n’y a pas là une discrimination insupportable. On est devant un pouvoir de génération aléatoire à partir des mots et de ceux que vous avez énoncés plus le fait que ça s’adapte à certains, et qui sont les certains qui ont entraîné la machine ? On dit une poignée de gens ingénieurs, qui ont éduqué la machine, sont finalement ceux qui ont créé ce système et nous sommes des millions à l’utiliser, déjà là il y a une espèce de massification de l’intention derrière. Il est donc important de voir que dans ces censures il y a des problèmes éthiques évidents et qu’il faudrait un comité extérieur qui puisse auditer ces systèmes.
 
<b>Laurence Garcia : </b> ??? [14 min 50] à venir. Ça réagit pas mal du côté de nos auditeurs qui nous écoutent et qui nous appellent du côté de 33~7~64~45~51~41. Là c’est Taylor qui nous appelle de Boma, c’est en République démocratique du Congo. Bonjour Taylor.
 
<b>Taylor : </b>Bonjour.
 
<b>Laurence Garcia : </b>Merci d’être avec nous ce martin sur RFI. Dites-moi, l’intelligence artificielle ChatGPT c’est en débat à l’école ou pas chez vous, là-bas à Boma ?
 
<b>Taylor : </b>Oui, les gens suivent, les gens savent que c’est là souvent pour corriger des examens, finalement surtout pour les examens de la République par exemple et quand on corrige des examens d’État, on utilise des systèmes informatiques pour corriger les papiers des élèves. Généralement c’est l’homme qui programme et qui introduit des données pour corriger. Ce n’est pas que la machine fonctionne elle-même. Non, c’est un peu ça.
 
<b>Laurence Garcia : </b>Quel type d’outils informatiques utilisez-vous dans les écoles ? Vous n’êtes pas prof, Taylor ?
 
<b>Taylor : </b>Non, je n’enseigne plus, j’ai enseigné, mais je n’enseigne plus. De façon générale on utilise les ordinateurs pour les quiz, ça dépend ce que vous faites. Les étudiants ingénieurs utilisent des logiciels comme Sketch, SOLIDWORKS, ça dépend. Ceux qui font des options informatiques ont aussi leurs propres logiciels, c’est un peu Excel, ??? [16 min 20], c’est un peu ça.
 
<b>Laurence Garcia : </b>Merci beaucoup Taylor, pour votre témoignage du côté de Boma et belle journée. Il y a aussi un message de Daisy qui nous a écrit de Brazzaville sur WhatsApp, de la République du Congo, qui nous écrit :  « Ici on a de mal à avoir un Internet qui reste cher, tous les habitants ne peuvent pas à avoir un téléphone. Je n’imagine même l’intelligence artificielle ou ChatGPT arriver dans les écoles. L’intelligence artificielle va creuser le fossé entre les pays privilégiés et nous. » C’est aune vraie question ça aussi, Vincent Cespedes.
 
<b>Vincent Cespedes : </b>Oui, c’est la question fondamentale de l’accès. C’est la question de l’accès qui se pose déjà avec Internet, tout simplement, et même en France, pas besoin d’aller en Afrique, en France aussi.
 
<b>Laurence Garcia : </b>En France il y a des zones blanches, des inégalités de générations.
 
<b>Vincent Cespedes : </b>Il y a des inégalités. C'est une vraie question très importante.<br/>
Il se trouve qu’un penseur, un philosophé béninois, Paulin J. Hountondji, qui explique ce que doit être l’éducation. Il dit par rapport à la colonisation : « Il va falloir émanciper, l’éducation c’est un acte d’émancipation, de libération ». Il dit une chose intéressante : « Il faut s’émanciper mais surtout veiller à ne pas reconduire par l’éducation les inégalités sociales ». Il est très concentré là.-dessus, il y en plein d’autres qui le disent aussi. Ce que l’on voit, ce que l’on constate ne serait-ce qu’en France, c’est quand même des politiques qui se sont d’ailleurs émus de cela, avec une expression qui pourra faire frémir les auditeurs, « on a une ségrégation scolaire », c’est l’expression, je crois, de Benoît Hamon et d’autres. On a déjà des différences. Les inégalités sociales produisent aussi des éducations très différentes.
 
<b>Laurence Garcia : </b>Dans l’école même de la République.
 
<b>Vincent Cespedes : </b>J’ai été enseignant en philosophie pendant cinq ans en zone sensible, ZEP, avec tout l’étiquetage de banlieue défavorisée, je peux vous dire que la mixité sociale et très mise à mal et on sait très bien que c’est un immense levier de progrès pour l’école de travailler sur la mixité sociale. Il y a ce risque, effectivement, et c’est pour cela que ce qui très intéressant avec ChatGPT...
 
<b>Laurence Garcia : </b>Il reste gratuit pour l’instant.
 
<b>Laurence Devillers : </b>Il ne va pas le rester longtemps.
 
<b>Laurence Garcia : </b>Pour l’instant, on est bien d’accord.
 
<b>Vincent Cespedes : </b>Pour l’instant, mais on peut compter sur la concurrence d’autres acteurs du système.
 
<b>Laurence Devillers : </b>C’est Microsoft qu’on va utiliser à l’école, vous allez voir ! Ça va être sympa ça !
 
<b>Vincent Cespedes : </b>Ce qui m’intéresse là-dedans c’est justement qu’il y a à la fois le risque d’une ségrégation, d’une séparation et, à la fois, ça vient combler un vide. S’il vous plaît réfléchissez à ça : des individus qui ne maîtrisent pas bien la syntaxe en français, des individus qui ne maîtrisent pas bien l’orthographe qui est quand même un flicage généralisé et qui a été conçu comme ça.
 
<b>Laurence Garcia : </b>L’orthographe un flicage généralisé.
 
<b>Vincent Cespedes : </b>Ah oui ! L’orthographe c’est avoir le CV dans sa façon d’écrire, c’est l’Académie. J’ai consacré un livre de philosophie là-dessus, elle a été compliquée artificiellement pour pouvoir séparer les femmes qui n’avaient pas encore d’éducation à l’époque et les demi-savants du reste des savants.
 
<b>Laurence Garcia : </b>N’empêche qu’il y a aussi beaucoup de profs qui s’insurgent un petit peu par rapport à ChatGPT en disant que ça va niveler encore plus le niveau de l’orthographe des étudiants qui est déjà malmené par l’écriture web, puisque là il nous fournit un texte avec zéro faute d’orthographe.
 
<b>Vincent Cespedes : </b>Je sais. Mais c’est quand même paradoxal d’avoir des professeurs qui déplorent l’excellent niveau d’orthographe d’élèves qui ont utilisé ChatGPT et on est là à déplorer la copie parfaite ! Il y a profondément aussi une réduction des écarts. Maintenant n’importe qui est capable de pouvoir, je vous explique le prompt très simplement : « Corrige la syntaxe et l’orthographe du paragraphe suivant sans toucher les mots, deux points ». Vous faites ça et vous avez ChatGPT qui vous corrige toute la syntaxe et toute l’orthographe. Je suis désolé, dans un monde où on échange des milliers de messages, où pouvoir écrire est aussi un codage social, c’est extrêmement intéressant.
 
<b>Laurence Garcia : </b>Laurence lève la main comme à l’école. Très rapidement Laurence.
 
<b>Laurence Devillers : </b>Il faut ouvrir le capot de la voiture. Qu’y a-t-il dans GPT 3.4 qui est moteur de ce gros ???[20 min 10] de langage ? 46 % d’anglais, moins de 5 % de français et je ne vous dis pas sur les langues peu annotées. Qu’est-ce que cela veut dire sur le raisonnement que fait ce système ? Est-ce que c’est une syntaxe ? Ça marche très bien en anglais, ça marche beaucoup mieux en anglais qu’en français par exemple. Donc il faut faire très attention. Et lorsque la langue n’est pas annotée, et pour certaines langues c’est le cas, eh bien c’est l’anglais qui est utilisé comme langue pivot ; il y a une traduction, donc on perd la culture derrière. Attention au fait que, dans les mots qu’on utilise, finalement ce qu’on transporte à travers ces mots, c’est notre culture.
 
<b>Laurence Garcia : </b>On poursuit le débat dans quelques instants. Vous voulez écouter une intelligence artificielle qui chante ? C’est la musicienne américaine qui s’appelle Holly Herndon. Elle a mis au point un algorithme qui est, figurez-vous, conçu à partir de sa voix. Elle chante à sa place. Le titre est <em>Jolene</em>, dont la vidéo a été publiée sur YouTube. Écoutez, c’est bluffant.
 
<b>Pause musicale : </b><em>Jolene</em> par Holly Herndon.
 
<b>Laurence Garcia : </b>Voilà ce que donne un algorithme qui chante, mis au point par la maîtresse de la pop électronique Holly Herndon. Autant dire, mais c’est un autre débat, que l’intelligence artificielle divise aussi les artistes, parce que, forcément, on s’inquiète aussi du côté des droits d’auteur, autre débat.
 
<b>Vincent Cespedes : </b>Et dans le dessin.
 
<b>Laurence Garcia : </b>Et dans le dessin aussi. Mais nous, là, dans <em>8 milliards de voisins et de voisines</em> sur RFI, on parle de l’intelligence artificielle à l’école. Faut-il l’interdire ou mieux l’enseigner ? Qu’en pensez-vous ? On attend bien sûr vos témoignages au 33~7~64~45~51~41. On continue à dialoguer avec nos deux invités, la chercheuse professeure d’informatique Laurence Devillers et le philosophe essayiste Vincent Cespedes. Un auditeur nous appelle, il y en a beaucoup, qui est justement en ligne avec nous, c’est Moussa qui nous appelle de Dakar au Sénégal. Bonjour Moussa.
 
<b>Moussa : </b>Bonjour Laurence.
 
<b>Laurence Garcia : </b>Merci d’être avec nous ce matin. Je crois savoir, Moussa, que vous êtes formateur en e-commerce. C’est ça ?
 
<b>Moussa : </b>Oui, absolument, vous avez raison.
 
<b>Laurence Garcia : </b>L’intelligence artificielle, ChatGPT, par chez vous ou vous-même vous connaissez ? On en parle, ou pas encore, à l’école ?
 
<b>Moussa : </b>Absolument. Pour le moment, au Sénégal, l’application n’est pas très connue, D’habitude ceux qui l’utilisent souvent sont les entrepreneurs qui donnent des formations en ligne sur les réseaux sociaux ; ce sont eux qui utilisent cette application.
 
<b>Laurence Garcia : </b>D’accord. Et vous, Moussa, que pensez-vous de l’intelligence artificielle à l’école ? Ça peut remplacer les profs un jour ou pas ?
 
<b>Moussa : </b>Ça peut remplacer les professeurs dans la mesure où le pays ait la capacité d’intégrer ce système au niveau des espaces numériques. Par exemple, ici au Sénégal, dans le cadre de ce qu’on appelle l’université virtuelle du Sénégal, il y a des espaces qui sont uniquement dédiés à l’intelligence artificielle où les étudiants se rencontrent souvent pour faire leurs cours.
 
<b>Laurence Garcia : </b>D’accord. En tout cas merci beaucoup pour votre témoignage, Moussa, et belle journée du côté de Dakar.<br/>
L’intelligence artificielle va-t-elle un jour remplacer les profs ? On a forcément posé la question à ChatGPT.
 
<b>Texte de ChatGPT lu par un générateur de voix : </b>Il est peu probable que les systèmes d’IA remplacent complètement les enseignants dans l’avenir. Cependant, les systèmes d’IA peuvent être utilisés pour soutenir et compléter le travail des enseignants. Par exemple, ils peuvent fournir des moyens innovants d’apprentissage tels que des simulations interactives et des expériences personnalisées ou aider les enseignants à évaluer et à suivre les progrès de leurs étudiants.
 
<b>Laurence Garcia : </b>Il est plutôt modéré notre ChatGPT, Laurence Devillers. Sciences Po et aussi quelques écoles publiques du côté de New-York ont interdit l’usage de ChatGPT à leurs étudiants. Vous, vous dites que ça ne va pas. Il faut mieux enseigner, mieux former, notamment mieux enseigner ce que vous appelez la pensée informatique.
 
==26’ 35==
 
<b>Laurence Devillers : </b>Oui.

Version du 23 mai 2023 à 06:06


Titre : L’intelligence artificielle va-t-elle un jour remplacer les profs ? [RFI, 2023]

Intervenant·e·s : Laurence Devillers - Vincent Cespedes - Laurence garcia

Lieu : Émission 8 milliards de voisins - RFI

Date : 20 février 2023

Durée : 48 min 30

Podcast

Licence de la transcription : Verbatim

Illustration : À prévoir

NB : transcription réalisée par nos soins, fidèle aux propos des intervenant·e·s mais rendant le discours fluide.
Les positions exprimées sont celles des personnes qui interviennent et ne rejoignent pas nécessairement celles de l'April, qui ne sera en aucun cas tenue responsable de leurs propos.

Description

Développée depuis de nombreuses années, cette avancée technologique ambitionne de remplacer les applications en ligne et les moteurs de recherche. Mais qu’en est-il au niveau de l’enseignement ? Capable d’avoir une véritable conversation et une rédaction parfaite, ChatGPT, l’une des intelligences artificielles les plus célèbres, pourrait à terme entrer dans les écoles. Mais l’enseignement va bien au-delà de la simple transmission d’informations. Car si l’intelligence artificielle peut être entraînée, l’intelligence naturelle doit, elle, être cultivée. Alors comment intégrer l’intelligence artificielle dans l’enseignement ? Et le progrès technologique va-t-il uniformiser nos savoirs ?

Transcription

Laurence Garcia : Bonjour et bienvenue à vous les voisins et les voisines. L’intelligence artificielle va-t-elle un jour remplacer les profs ? Il suffit de poser la question à ChatGPT ou ChatGiPITI, le dernier robot conversationnel qui a réponse à tout. En quelques secondes il vous pond un texte ultra-documenté, avec un vocabulaire proche de l’humain, sans faute d’orthographe, de quoi avoir un bon 20 sur 20 au prochain devoir à rendre au prof. Forcément, ChatGPT n’en finit pas de créer la polémique chez les enseignants qui dénoncent cet outil de triche, Nous, bien sûr, nous avons posé la question à ChatGPT : « Pour toi c’est de la triche ou ce n’est pas de la triche ? »

Texte de ChatGPT lu par un générateur de voix : En tant qu’intelligence artificielle, je suis un outil qui peut vous aider à trouver des informations et à répondre à des questions. Cependant, l’utilisation de mes réponses pour compléter un devoir à la maison est considérée comme de la triche si vous prétendez que ces réponses sont votre propre travail original. Si vous utilisez mes réponses sans les comprendre, vous risquez de ne pas apprendre autant que si vous travaillez dessus par vous-même.

Laurence Garcia : Merci beaucoup ChatGPT. Il parle comme un bon prof. Petit détail, il ne parle pas encore, du coup notre réalisateur, Romain Dubrac, a utilisé un générateur de voix, et puis on a pris une femme, tiens !, pour entendre sa réponse écrite.
Faut-il interdire l’usage des robots intelligents ? Ou, au contraire, faut-il apprendre aux élèves à mieux les utiliser ? On en débat ce matin, tout de suite, sur RFI, avec nos deux invités qui ne sont pas encore des robots. Bonjour Laurence Devillers.

Laurence Devillers : Bonjour Laurence.

Laurence Garcia : Vous êtes professeur d’informatique à la Sorbonne, chercheuse au laboratoire interdisciplinaire des sciences du numérique du CNRS et vous avez signé Les robots émotionnels aux Éditions de l’Observatoire. Petite question comme ça rapide : vous comprenez cette polémique, depuis l’automne maintenant, dans l’enseignement supérieur autour de ce fameux ChatGPT ?

Laurence Devillers : Je comprends bien. C’est un nouvel outil qui a des conséquences très importantes pour l’éducation. Tout le monde en parle, tout le monde l’essaie. C’est la première fois qu’on a un outil aussi puissant d’IA dans les mains et c’est aussi la première aussi qu’on peut s’apercevoir des erreurs que font ces systèmes, tout autant que de leurs capacités. C’est pour cela que l’école doit absolument s’en emparer.

Laurence Garcia : C’est un petit peu le sujet du jour. À vos côtés Vincent Cespedes. Bonjour

Vincent Cespedes : Bonjour Laurence.

Laurence Garcia : Philosophe, essayiste, auteur de Le monde est flou – L'avenir des intelligences aux Éditions Plon. Vous avez publié récemment une tribune dans le journal L’humanité, une tribune intitulée « ChatGPT. Apprendre à chevaucher la bête : le défi de l'Intelligence Artificielle à l’école », la bête c'est l’IA, une bête, un cheval – c’est un peu ça dans votre tribune – à domestiquer.

Vincent Cespedes : À domestiquer, à chevaucher, c’est-à-dire qu’on doit faire avec et il faut s’entraîner. En fait, ce que l’intelligence artificielle challenge, défie, c’est notre capacité à communiquer avec elle et à pouvoir en tirer le meilleur en évitant le pire, et c’est très complexe.

Laurence Garcia : On verra s’il y a un mode d’emploi ou pas. Et puis, bien sûr, vous qui nous écoutez qu’en pensez-vous ? L’intelligence artificielle vous inquiète ou pensez-vous que ça devrait être mieux enseigné à l’école ? Que vous soyez prof, parent d’élève ou étudiant, on attend vos témoignages au 33~7~64~45~51~41. C’est parti.

Pour commencer, je vous lis les premiers messages de nos voisins et voisines sur WhatsApp. Dylan nous écrit de Yaoundé au Cameroun : « On prétend que l’IA remplacera un jour les profs, mais je pense que c’est faux, d’abord parce qu’elle est crée par l’home et dépendante de lui et parce qu’elle n’est pas capable de ressentir d’émotions comme l’empathie, ce qui est pourtant nécessaire pour l’enseignement. » On parlera tout à l’heure de ces fameux robots émotionnels ou pas. Théodore nous écrit de N'Djaména au Tchad : « L’IA ne peut pas prendre la place des profs, il manque la compréhension de l’élève, la spontanéité, l’adaptation aux besoins de chacun et l’autorité ». Bref ! Ça commence déjà à faire pas mal réagir nos auditeurs et, bien sûr, vous continuez.
Je commence par vous Laurence Devillers. Tout le monde ne connaît pas ChatGPT, il faut peut-être expliquer un petit peu ce qu’il a dans le bide ce ChatGPT, ce robot intelligent mis en place par la startup californienne et intégré au service de Microsoft. En quoi ce robot conversationnel est-il particulièrement redoutablement ou pas intelligent ?

Laurence Devillers : C’est la bonne question à se poser. Qu’est-ce que ce système ? Qu’est-ce qu’il a ingurgité de nos données ? Un peu comment il est construit ? En cela, on va réclamer de plus en plus, sur l’Europe, que ces systèmes soient plus transparents, parce que pour l’instant, dans cette opacité, on entend le mot « complexe ». En fait, il y a aussi un leurre énorme derrière le fait de dire à quelqu’un que « c’est complexe, donc tu ne pourras pas comprendre ». Moi, je suis totalement contre cette approche, parce qu’on peut comprendre les concepts qui sont derrière et je vais essayer de vous expliquer en deux mots ce qu’il y a dedans.
Il y a deux grandes technologies importantes, qui sont le fait de construire des grands modèles de langage, c'est-à-dire capables de générer du texte comme nous le générons.

Laurence Garcia : Proche de l’humain, alors ?

Laurence Devillers : Proche des traces, parce que c’est à partir des traces de l’humain que c’est construit, avec des milliards de données ingurgitées par cette machine qui fait des statistiques, en fait qui travaille un peu sur la représentation des mots dans un espace numérique très grand, avec 175 milliards de paramètres, mais les principes qui sont des Lego – j’enlève un mot d’une phrase et je cherche à prédire ce mot – font que j’apprends ce mot avec tout un tas de contextes. C’est ça l’intelligence de la machine. Elle n’a aucunement la compréhension de ce qu’elle dit et elle n’a pas non plus de logique de déduction, d’induction.

Laurence Garcia : Pour résoudre un exercice de maths, ce n’est pas ChatGPT.

Laurence Devillers : Non, pas tout.En fait elle va chercher dans sa base de données – qui n’est pas Internet, qui a été encapsulée avec des limites en 2021 – un certain nombre de concepts et, par la succession des mots, elle a une certaine connaissance syntaxique très proche d’une syntaxe, elle parle très bien, lexicale parfaite, grandes possibilités lexicales, mais sémantiquement ce n’est pas ça.

Laurence Garcia : Pas de fautes d’orthographe.

Laurence Devillers : L’autre grand apport technologique c’est qu’ils ont encapsulé ce système avec un système de dialogue qui lui peut s’adapter à un certain nombre de choses que nous faisons. On l’a construit avec des humains qui posaient des questions et qui répondaient, qui entraînaient le système à répondre comme ils le souhaitaient. On a émis un certain nombre de récompenses au système et il va adapter ses réponses. Ça n’a rien d’émotionnel. Elle n'est pas consciente. Elle n’a pas d’intentions.

Laurence Garcia : Il n’y a pas d’émotion.

Laurence Devillers : Il n’y a pas d’émotion du tout, sauf que dans nos mots de tous les jours on peut avoir des traces émotionnelles et, si la machine tombe statistiquement à cette séquence-là, elle ne répond pas à vos questions, elle continue la séquence, ce qu’on appelle le prompt : vous posez une question, la machine considère la suite de mots et elle va chercher ce qui va pouvoir être une suite possible. Comme il y a eu cet entraînement de dialogues qui, en plus, prend plusieurs réponses successives, avec une mémoire sur ce que vous avez dit avant, qui est très limitée mais qui existe, elle est capable de vous donner l’illusion que vous parlez avec quelqu’un.

Laurence Garcia : L’illusion.

Laurence Devillers : Mais franchement, si vous posez la question à la machine : « La mère de Marie a trois enfants, Melchiors Balthazar et ? », la machine va répondre « Gaspard », parce que dans ses méandres elle a bien la succession des Rois mages. Or, elle ne va pas comprendre que quand la mère de Marie a trois enfants, le troisième c’est Marie. Vous voyez ? Et ça c’est partout. Nous avons cette capacité d’intuition, d’abord d’apprentissage comme les enfants avec le corps que n’a absolument pas la machine. C’est livresque. Elle est capable de faire des tas de choses pour lesquelles on va avoir un assistant intéressant – traduire c’est génial, ça traduit dans plein de langues –, proposer peut-être un plan et vous regardez ce que c’est. Mais ne prenez pas pour argent comptant ce qu’elle dit puisqu’elle fait énormément d’erreurs avec, en plus, une façon de parler très professorale, sans aucun doute sur ce qu’elle dit. Elle fait des contresens, mais, de temps en temps, elle dit des choses qui peuvent nous intéresser.

Laurence Garcia : D’où avoir l’esprit critique et ne pas faire de copier-coller avec ce que va nous répondre ChtaGPT.
Vincent Cespedes, vous qui êtes un philosophe ultra-connecté, j’imagine que vous avez déjà dialogué avec cette bête, comme vous la surnommez. Vous avez changé d’un point de vue philosophique ? C’est un bon penseur ou pas ?

Vincent Cespedes : Je le trouve assez excellent dans ce que j’appelle le philosophiquement correct. Je suis tout à fait d’accord, il peut faire des erreurs, donc il faut absolument vérifier tout cela. Mais quand vous posez des questions type question de terminale au baccalauréat de philo, franchement, ce qu’il produit est tout à fait valable. C’est dur à dire et on s’attendrait à autre chose, parce qu’on s’imagine que la philosophie est le couronnement de l’éducation, le jugement critique, on en fait des tonnes sur cette philosophie en terminale, capable d’ouvrir à l’esprit critique. Quand on voit l’épreuve du bac, on voit que ce n’est quand même pas trop ça, c’est plutôt un exercice assez formel et assez rhétorique que j’ai longtemps critiqué. En fait, on voit que pour la discussion de philosophie de comptoir + +, il est capable de citer Sénèque, Kant et Spinoza, ce que le comptoir ne fait pas.

Laurence Garcia : Là, ce n’est pas de la philosophie de comptoir.

Vincent Cespedes : Ce n’est pas non plus de la philosophie académique très élevée, eh bien il est excellent, il peut vous parler de la colère vous dites « la colère chez Sénèque », il vous fait un paragraphe. Il peut donner des listes, il est très bon pour donner des listes ; vous demandez « donne-moi une liste de dix philosophes qui traient de ce sujet. Fais une dissertation là-dessus. »

Laurence Devillers : Ce n’est pas intelligent ça !

Laurence Garcia : C’est du savoir.

Vincent Cespedes : Je vais nuancer ce qui vient d’être dit pour qu’il y ait un tout petit peu de débat, je pense qu’il y a beaucoup d’émotion, beaucoup d’émotion !, pas du côté de la machine, bien sûr que non, elle n’a pas de conscience, mais du côté de l’humain qui l’utilise. Nous pouvons nous énerver, nous pouvons être éblouis, nous pouvons être émerveillés. C’est très important de comprendre que la machine, elle, n’a pas d’émotion, mais nous sommes faits pour être leurrés par la machine. Pa besoin d’attendre le film de Spike Jonze, Her, qui est sorti il y a dix ans, où, dans un futur proche, 2025, un être humain va tomber amoureux de la voix de Scarlett Johansson, certes, mais de son traitement ordinateur, de l’ordinateur ; l’IA va séduire l’être humain. Nous sommes déjà séduits.
Si ChatGPT est aussi éblouissant ce n’est pas tellement parce qu’il a 100 fois Wikipédia et qu’il est capable de ressortir des choses pertinentes, c’est aussi parce que ça nous éblouit et nous sommes faits pour nous faire avoir par la machine. D’où l’importance, on en parlera, d’une éducation réelle. Je me souviens que j’ai commencé à toucher à un ordinateur à l’âge de dix ans, j’étais dans une des premières écoles où on donnait des cours d’informatique, des cours Spinoza d’ailleurs, prédestiné, et j’étais ébloui. Je savais que j’avais l’avenir sous les doigts – c’était juste des Apple IIe, ça n’allait pas trop loin – mais je savais que c’était l’avenir. Nous sommes faits pour mettre toute notre émotion sur la machine, donc nous avons la capacité, c’est le piège, d’anthropomorphiser la machine, c'est-à-dire lui donner très facilement deux yeux, un nez et une bouche. Imaginez, là nous avons « quelqu’un » qui répond, quelqu’un avec 50 guillemets, mais nous avons quelque chose qui répond, quelque chose qui est intelligent, quelque chose qui peut nous former. Le leurre, le flou, fait donc partie de la donnée centrale de l’interaction homme/machine.

Laurence Garcia : Je rebondis sur le flou, le vrai casse-tête pour les profs et on peut peut-être aussi les comprendre. On parlera après de la façon d’enseigner peut-être certainement mieux la pensée informatique. Mais le flou pour les profs, notamment sur les fameux devoirs maison. Comment savoir si un étudiant a utilisé chez lui l’intelligence artificielle et rend le lendemain le devoir au prof. OK, il y a zéro faute d’orthographe, ça peut quand même déjà mettre le doute. Ça remet en cause le système de notation quand même, mine de rien, des devoirs !

12’37

Laurence Devillers : D’évaluation très certainement, ça la remet en cause mais c’est très intéressant.
En fait l’assistance de ce type de système, qui n'est pas hallucinant ; je n’ai pas l’émerveillement des enfants devant un jouet. On est devant une puissance non négligeable de manipulation, de production de fake news.

Laurence Garcia : De manipulation et de production de fake news.

Laurence Devillers : Bien sûr.

Vincent Cespedes : C’est donc qu’il y a de l’émotion. Pour être manipulé, il faut quand même se laisser avoir et, pour se laisser avoir,il faut quand même qu’on soit épaté.

Laurence Devillers : On connaît tous nos biais cognitifs : par paresse on ne va pas regarder le sujet, on va juste l’effleurer et on va répondre directement. Tous les outils informatiques nous poussent à être très rapides dans notre façon de fonctionner ; on retweete, on dit oui non, on n’a pas plus temps de penser en cemoment , excusez-moi pour le philosophe.

Vincent Cespedes : Je ne dis pas le contraire. se faire avoir ce n’est pas positif. Quand je dis que la machine va nous leurrer, je ne dis pas yop la boum, je ne suis pas dans le yop la boum c’est formidable.

Laurence Garcia : Donc ChatGPT produit malgré tout aussi des fake news.

Laurence Devillers : Non, il produit de l’hallucination. Il ne sait pas que ce sont des fake news. Comme il n’y a aucun contrôle ! Enfin !, derrière, quand même, ils ont mis des censures. Et c’est là aussi où il faut alerter tout le monde. Comme ces systèmes ne marchent pas si bien que ça, qu’on est obligé de les encapsuler dans un système qui converse, pour arrondir les angles, faire qu’ils racontent moins de bêtises, que derrière on ne veut pas qu’ils parlent trop de sexe, des aspects de guerre chez les Musulmans ou autres qui pourraient fâcher, eh bien il y a des sujets qui sont censurés. Et qui décide ça ? C'est la société qui le décide c’est OpenAI, ou Microsoft d’ailleurs. Pourquoi ce n’est pas plus ouvert ?

Laurence Garcia : Open AI c’est la startup qui l’a mis au point.

Laurence Devillers : Il est quand même important de se demander, si ces systèmes, demain, n’ont pas le doit de parler de la religion musulmane ou qu’elles peuvent pas parler du catholicisme ou du judaïsme, s’il n’y a pas là une discrimination insupportable. On est devant un pouvoir de génération aléatoire à partir des mots et de ceux que vous avez énoncés plus le fait que ça s’adapte à certains, et qui sont les certains qui ont entraîné la machine ? On dit une poignée de gens ingénieurs, qui ont éduqué la machine, sont finalement ceux qui ont créé ce système et nous sommes des millions à l’utiliser, déjà là il y a une espèce de massification de l’intention derrière. Il est donc important de voir que dans ces censures il y a des problèmes éthiques évidents et qu’il faudrait un comité extérieur qui puisse auditer ces systèmes.

Laurence Garcia :  ??? [14 min 50] à venir. Ça réagit pas mal du côté de nos auditeurs qui nous écoutent et qui nous appellent du côté de 33~7~64~45~51~41. Là c’est Taylor qui nous appelle de Boma, c’est en République démocratique du Congo. Bonjour Taylor.

Taylor : Bonjour.

Laurence Garcia : Merci d’être avec nous ce martin sur RFI. Dites-moi, l’intelligence artificielle ChatGPT c’est en débat à l’école ou pas chez vous, là-bas à Boma ?

Taylor : Oui, les gens suivent, les gens savent que c’est là souvent pour corriger des examens, finalement surtout pour les examens de la République par exemple et quand on corrige des examens d’État, on utilise des systèmes informatiques pour corriger les papiers des élèves. Généralement c’est l’homme qui programme et qui introduit des données pour corriger. Ce n’est pas que la machine fonctionne elle-même. Non, c’est un peu ça.

Laurence Garcia : Quel type d’outils informatiques utilisez-vous dans les écoles ? Vous n’êtes pas prof, Taylor ?

Taylor : Non, je n’enseigne plus, j’ai enseigné, mais je n’enseigne plus. De façon générale on utilise les ordinateurs pour les quiz, ça dépend ce que vous faites. Les étudiants ingénieurs utilisent des logiciels comme Sketch, SOLIDWORKS, ça dépend. Ceux qui font des options informatiques ont aussi leurs propres logiciels, c’est un peu Excel, ??? [16 min 20], c’est un peu ça.

Laurence Garcia : Merci beaucoup Taylor, pour votre témoignage du côté de Boma et belle journée. Il y a aussi un message de Daisy qui nous a écrit de Brazzaville sur WhatsApp, de la République du Congo, qui nous écrit :  « Ici on a de mal à avoir un Internet qui reste cher, tous les habitants ne peuvent pas à avoir un téléphone. Je n’imagine même l’intelligence artificielle ou ChatGPT arriver dans les écoles. L’intelligence artificielle va creuser le fossé entre les pays privilégiés et nous. » C’est aune vraie question ça aussi, Vincent Cespedes.

Vincent Cespedes : Oui, c’est la question fondamentale de l’accès. C’est la question de l’accès qui se pose déjà avec Internet, tout simplement, et même en France, pas besoin d’aller en Afrique, en France aussi.

Laurence Garcia : En France il y a des zones blanches, des inégalités de générations.

Vincent Cespedes : Il y a des inégalités. C'est une vraie question très importante.
Il se trouve qu’un penseur, un philosophé béninois, Paulin J. Hountondji, qui explique ce que doit être l’éducation. Il dit par rapport à la colonisation : « Il va falloir émanciper, l’éducation c’est un acte d’émancipation, de libération ». Il dit une chose intéressante : « Il faut s’émanciper mais surtout veiller à ne pas reconduire par l’éducation les inégalités sociales ». Il est très concentré là.-dessus, il y en plein d’autres qui le disent aussi. Ce que l’on voit, ce que l’on constate ne serait-ce qu’en France, c’est quand même des politiques qui se sont d’ailleurs émus de cela, avec une expression qui pourra faire frémir les auditeurs, « on a une ségrégation scolaire », c’est l’expression, je crois, de Benoît Hamon et d’autres. On a déjà des différences. Les inégalités sociales produisent aussi des éducations très différentes.

Laurence Garcia : Dans l’école même de la République.

Vincent Cespedes : J’ai été enseignant en philosophie pendant cinq ans en zone sensible, ZEP, avec tout l’étiquetage de banlieue défavorisée, je peux vous dire que la mixité sociale et très mise à mal et on sait très bien que c’est un immense levier de progrès pour l’école de travailler sur la mixité sociale. Il y a ce risque, effectivement, et c’est pour cela que ce qui très intéressant avec ChatGPT...

Laurence Garcia : Il reste gratuit pour l’instant.

Laurence Devillers : Il ne va pas le rester longtemps.

Laurence Garcia : Pour l’instant, on est bien d’accord.

Vincent Cespedes : Pour l’instant, mais on peut compter sur la concurrence d’autres acteurs du système.

Laurence Devillers : C’est Microsoft qu’on va utiliser à l’école, vous allez voir ! Ça va être sympa ça !

Vincent Cespedes : Ce qui m’intéresse là-dedans c’est justement qu’il y a à la fois le risque d’une ségrégation, d’une séparation et, à la fois, ça vient combler un vide. S’il vous plaît réfléchissez à ça : des individus qui ne maîtrisent pas bien la syntaxe en français, des individus qui ne maîtrisent pas bien l’orthographe qui est quand même un flicage généralisé et qui a été conçu comme ça.

Laurence Garcia : L’orthographe un flicage généralisé.

Vincent Cespedes : Ah oui ! L’orthographe c’est avoir le CV dans sa façon d’écrire, c’est l’Académie. J’ai consacré un livre de philosophie là-dessus, elle a été compliquée artificiellement pour pouvoir séparer les femmes qui n’avaient pas encore d’éducation à l’époque et les demi-savants du reste des savants.

Laurence Garcia : N’empêche qu’il y a aussi beaucoup de profs qui s’insurgent un petit peu par rapport à ChatGPT en disant que ça va niveler encore plus le niveau de l’orthographe des étudiants qui est déjà malmené par l’écriture web, puisque là il nous fournit un texte avec zéro faute d’orthographe.

Vincent Cespedes : Je sais. Mais c’est quand même paradoxal d’avoir des professeurs qui déplorent l’excellent niveau d’orthographe d’élèves qui ont utilisé ChatGPT et on est là à déplorer la copie parfaite ! Il y a profondément aussi une réduction des écarts. Maintenant n’importe qui est capable de pouvoir, je vous explique le prompt très simplement : « Corrige la syntaxe et l’orthographe du paragraphe suivant sans toucher les mots, deux points ». Vous faites ça et vous avez ChatGPT qui vous corrige toute la syntaxe et toute l’orthographe. Je suis désolé, dans un monde où on échange des milliers de messages, où pouvoir écrire est aussi un codage social, c’est extrêmement intéressant.

Laurence Garcia : Laurence lève la main comme à l’école. Très rapidement Laurence.

Laurence Devillers : Il faut ouvrir le capot de la voiture. Qu’y a-t-il dans GPT 3.4 qui est moteur de ce gros ???[20 min 10] de langage ? 46 % d’anglais, moins de 5 % de français et je ne vous dis pas sur les langues peu annotées. Qu’est-ce que cela veut dire sur le raisonnement que fait ce système ? Est-ce que c’est une syntaxe ? Ça marche très bien en anglais, ça marche beaucoup mieux en anglais qu’en français par exemple. Donc il faut faire très attention. Et lorsque la langue n’est pas annotée, et pour certaines langues c’est le cas, eh bien c’est l’anglais qui est utilisé comme langue pivot ; il y a une traduction, donc on perd la culture derrière. Attention au fait que, dans les mots qu’on utilise, finalement ce qu’on transporte à travers ces mots, c’est notre culture.

Laurence Garcia : On poursuit le débat dans quelques instants. Vous voulez écouter une intelligence artificielle qui chante ? C’est la musicienne américaine qui s’appelle Holly Herndon. Elle a mis au point un algorithme qui est, figurez-vous, conçu à partir de sa voix. Elle chante à sa place. Le titre est Jolene, dont la vidéo a été publiée sur YouTube. Écoutez, c’est bluffant.

Pause musicale : Jolene par Holly Herndon.

Laurence Garcia : Voilà ce que donne un algorithme qui chante, mis au point par la maîtresse de la pop électronique Holly Herndon. Autant dire, mais c’est un autre débat, que l’intelligence artificielle divise aussi les artistes, parce que, forcément, on s’inquiète aussi du côté des droits d’auteur, autre débat.

Vincent Cespedes : Et dans le dessin.

Laurence Garcia : Et dans le dessin aussi. Mais nous, là, dans 8 milliards de voisins et de voisines sur RFI, on parle de l’intelligence artificielle à l’école. Faut-il l’interdire ou mieux l’enseigner ? Qu’en pensez-vous ? On attend bien sûr vos témoignages au 33~7~64~45~51~41. On continue à dialoguer avec nos deux invités, la chercheuse professeure d’informatique Laurence Devillers et le philosophe essayiste Vincent Cespedes. Un auditeur nous appelle, il y en a beaucoup, qui est justement en ligne avec nous, c’est Moussa qui nous appelle de Dakar au Sénégal. Bonjour Moussa.

Moussa : Bonjour Laurence.

Laurence Garcia : Merci d’être avec nous ce matin. Je crois savoir, Moussa, que vous êtes formateur en e-commerce. C’est ça ?

Moussa : Oui, absolument, vous avez raison.

Laurence Garcia : L’intelligence artificielle, ChatGPT, par chez vous ou vous-même vous connaissez ? On en parle, ou pas encore, à l’école ?

Moussa : Absolument. Pour le moment, au Sénégal, l’application n’est pas très connue, D’habitude ceux qui l’utilisent souvent sont les entrepreneurs qui donnent des formations en ligne sur les réseaux sociaux ; ce sont eux qui utilisent cette application.

Laurence Garcia : D’accord. Et vous, Moussa, que pensez-vous de l’intelligence artificielle à l’école ? Ça peut remplacer les profs un jour ou pas ?

Moussa : Ça peut remplacer les professeurs dans la mesure où le pays ait la capacité d’intégrer ce système au niveau des espaces numériques. Par exemple, ici au Sénégal, dans le cadre de ce qu’on appelle l’université virtuelle du Sénégal, il y a des espaces qui sont uniquement dédiés à l’intelligence artificielle où les étudiants se rencontrent souvent pour faire leurs cours.

Laurence Garcia : D’accord. En tout cas merci beaucoup pour votre témoignage, Moussa, et belle journée du côté de Dakar.
L’intelligence artificielle va-t-elle un jour remplacer les profs ? On a forcément posé la question à ChatGPT.

Texte de ChatGPT lu par un générateur de voix : Il est peu probable que les systèmes d’IA remplacent complètement les enseignants dans l’avenir. Cependant, les systèmes d’IA peuvent être utilisés pour soutenir et compléter le travail des enseignants. Par exemple, ils peuvent fournir des moyens innovants d’apprentissage tels que des simulations interactives et des expériences personnalisées ou aider les enseignants à évaluer et à suivre les progrès de leurs étudiants.

Laurence Garcia : Il est plutôt modéré notre ChatGPT, Laurence Devillers. Sciences Po et aussi quelques écoles publiques du côté de New-York ont interdit l’usage de ChatGPT à leurs étudiants. Vous, vous dites que ça ne va pas. Il faut mieux enseigner, mieux former, notamment mieux enseigner ce que vous appelez la pensée informatique.

26’ 35

Laurence Devillers : Oui.