|
|
| (14 versions intermédiaires par 2 utilisateurs non affichées) |
| Ligne 1 : |
Ligne 1 : |
| | [[Catégorie:Transcriptions]] | | [[Catégorie:Transcriptions]] |
| | | | |
| − | '''Titre :''' Les algorithmes sont-ils sournois avec Luc de Brabandere
| + | Publié [https://www.librealire.org/les-algorithmes-sont-ils-sournois-avec-luc-de-brabandere ici] - Janvier 2024 |
| − | | |
| − | '''Intervenants :''' Luc de Brabandere - Jean-Philippe Clément
| |
| − | | |
| − | '''Lieu :''' Émission <em>Parlez-moi d’IA</em>- Radio Cause commune
| |
| − | | |
| − | '''Date :''' 23 décembre 2023
| |
| − | | |
| − | '''Durée :''' 30 min
| |
| − | | |
| − | '''[https://cause-commune.fm/pia/15-PIA-Parlez-moi%20d%20IA-Jean-philippe%20Cl%C3%A9ment-Luc%20de%20Brabandere..mp3 Podcast]'''
| |
| − | | |
| − | '''[https://cause-commune.fm/podcast/parlez-moi-d-ia-15/ Présentation de l'émission]'''
| |
| − | | |
| − | '''Licence de la transcription :''' [http://www.gnu.org/licenses/licenses.html#VerbatimCopying Verbatim]
| |
| − | | |
| − | '''Illustration : ''' À prévoir
| |
| − | | |
| − | '''NB :''' <em>transcription réalisée par nos soins, fidèle aux propos des intervenant·e·s mais rendant le discours fluide.<br/>
| |
| − | Les positions exprimées sont celles des personnes qui interviennent et ne rejoignent pas nécessairement celles de l'April, qui ne sera en aucun cas tenue responsable de leurs propos.</em>
| |
| − | | |
| − | ==Transcription==
| |
| − | | |
| − | <b>Diverses voix off : </b><em>Parlez-moi d’IA</em>.<br/>
| |
| − | Mesdames et Messieurs, bonjour. Je suis un superordinateur Karl, cerveau analytique de recherche et de liaison.<br/>
| |
| − | C'est une machine qui ressent les choses.<br/>
| |
| − | On nous raconte n’importe quoi sur l’IA !<br/>
| |
| − | Qu’est-ce que tu en dis ?<br/>
| |
| − | Moi je n’en dis n’en dit rien du tout.<br/>
| |
| − | La créativité, elle reste du côté humain.
| |
| − | | |
| − | <b>Jean-Philippe Clément : </b>Bonjour à toutes et à tous. Jean-Philippe Clément. Bienvenue sur <em>Parlez-moi d’IA</em> sur Cause Commune, la radio pour débattre, transmettre et comprendre. Transmettre et comprendre, c’est aussi l’objectif que se fixe cette émission sur le sujet spécifique des data, des algorithmes et des intelligences artificielles. Nous avons 30 minutes pour essayer de mieux comprendre ces nouveaux outils.<br/>
| |
| − | Merci à Jérôme, notre réalisateur, toujours à mes côtés même s’il me laisse faire des choses, aujourd'hui, à la console, pour m'apprendre toujours plus de techniques radiophoniques. Je suis vachement fier parce qu'en fait Jérôme dans son émission <em>Rayons Libres</em> de cette semaine, sur le vélo bien sûr, a cité un extrait de la dernière émission <em>Parlez-moi d’IA</em>. C'était pour faire réagir son invité, je suis hyper-fier.<br/>
| |
| − | Merci à Olivier Grieco, notre directeur d'antenne. Merci à vous, chers auditrices et chers auditeurs, pour votre écoute de cette émission et pour l'écoute que vous avez notre radio Cause Commune. Cause Commune, que vous pouvez retrouver sur le Web, cause-commune.fm, sur la bande FM, à Paris, sur le 93.1 et, bien entendu, le DAB+, en podcast sur votre plateforme préférée. Merci d'être de plus en plus nombreux et nombreuses à nous écouter.<br/>
| |
| − | Maintenant que vous êtes là, n'hésitez pas avec vos likes, vos étoiles, vos commentaires, ce sont nos seules récompenses.<br/>
| |
| − | C'est notre seule récompense et cela manipule l'algorithme, la manipulation d'algorithmes. Nous allons d'ailleurs en parler aujourd'hui, avec un ingénieur, dont le premier livre <em>Les Infoducs. Un nouveau mot, un nouveau monde</em>, paru en 1985, avait déjà l'intuition de relier les sources d'information, l'intuition d'Internet. Un ingénieur visionnaire, donc, mais pas uniquement, car il est aussi philosophe et, quand on veut prendre du recul vis-à-vis de l'IA, quand on veut creuser les concepts et s'assurer que l'on va dans le bon sens, quoi de mieux que la philosophie ?<br/>
| |
| − | Je reçois donc aujourd'hui, pour l'un de ses derniers livres, <em>Petite Philosophie des algorithmes sournois</em>, un ingénieur philosophe. Bonjour Luc de Brabandere.
| |
| − | | |
| − | <b>Luc de Brabandere : </b>Bonjour.
| |
| − | | |
| − | <b>Jean-Philippe Clément : </b>Merci d'être avec nous à distance.
| |
| − | | |
| − | <b>Luc de Brabandere : </b>Avec plaisir. Ingénieur philosophe belge.
| |
| − | | |
| − | <b>Jean-Philippe Clément : </b>Si vous voulez, je peux aussi rajouter « belge » comme qualificatif, il n’y a pas de souci.
| |
| − | | |
| − | <b>Luc de Brabandere : </b>Les gens le réaliseront très vite.
| |
| − | | |
| − | <b>Jean-Philippe Clément : </b>Très bien. <em>Parlez-moi d’IA</em>. Luc, pourquoi consacrer ce septième tome, si j'ai bien compté, de votre série <em>Petite Philosophie</em> aux algorithmes ?
| |
| − | | |
| − | <b>Luc de Brabandere : </b>Parce que le philosophe se pose toujours la même question face à un monde qui, lui, est toujours différent. Et quand il se passe un grand événement, que ce soit la mondialisation ou quoi que ce soit d'important qui se passe, il prend la posture du philosophe, alors aujourd'hui, bien sûr, il parle des algorithmes.
| |
| − | | |
| − | <b>Jean-Philippe Clément : </b>Il va falloir que vous expliquiez un petit peu à ma grand-mère. C'est quoi un algorithme, Luc ?
| |
| − | | |
| − | <b>Luc de Brabandere : </b>Un algorithme c'est une méthode qui permet d'atteindre un but dans un nombre fini d'étapes. Par exemple, il y a pas d'algorithme pour apprendre à jouer au piano, c'est infini. Par contre, il y a un algorithme pour permettre de choisir le meilleur endroit de vacances, etc. C'est simplement une recette. Je dirais même qu’une recette de cuisine est un algorithme : on a une séquence et, si on respecte bien les étapes, on atteint le but que l'on voulait avoir. Mais bien sûr, avec les machines, les algorithmes ont une ampleur qui dépasse la recette de cuisine.
| |
| − | | |
| − | <b>Jean-Philippe Clément : </b>On va y revenir. D'ailleurs, dès l'avant-propos, vous rentrez dans le vif du sujet et vous qualifiez ces algorithmes de sournois. Pourquoi un tel qualificatif ?
| |
| − | | |
| − | <b>Luc de Brabandere : </b>J'ai cherché longtemps. D'abord, je crois que l'adjectif est important et je ne voulais mettre aucun adjectif du genre « pernicieux » ou je ne sais quoi qui donnerait à l'algorithme une espèce d'existence humaine qu'il n'a évidemment pas. Un algorithme n'a pas d'intention, n'a pas de plan, n'a rien de tout cela. Sournois m'a paru parfaitement adéquat, pourquoi ? Dans la définition du dictionnaire, je cherchais un adjectif qui ne connote en rien l'humain : dire d'un algorithme qu'il est pernicieux, par exemple, serait lui donner une personnalité qu'il n'a pas. Sournois, si vous regardez la définition dans le dictionnaire, c'est « ne se dévoile pas totalement » et c'est exactement ce que je veux. Par exemple, on dit d’une maladie qu'elle est sournoise quand on ne comprend pas tout. Je crois que sournois est vraiment l'adjectif adéquat pour parler des algorithmes.
| |
| − | | |
| − | <b>Jean-Philippe Clément : </b>Il y a une partie un peu cachée, une partie un peu boîte noire.
| |
| − | | |
| − | <b>Luc de Brabandere : </b>Une partie un peu cachée, absolument, un côté boîte noire et délibéré, c'est clair. On parle beaucoup de la protection des données et pas assez, selon moi, de la transparence des algorithmes. Et bien sûr, les algorithmes sont mystérieux parce qu'ils sont cachés. Google, par exemple, a un argument très important, il dit « je ne donne pas la recette, je ne dévoile pas mon algorithme, parce que, si je le faisais, les gens pourraient en profiter et détourner ». C'est un peu byzantin comme explication.
| |
| − | | |
| − | <b>Jean-Philippe Clément : </b>Oui, c’est ça. Ils n'aiment pas qu'on aille manipuler leur algorithme. C'est ce que je disais dans l'introduction : en demandant des likes et des étoiles, ça influence l'algorithme et eux n'aiment pas qu'on sache trop ce qui va influencer et manipuler leur algorithme.
| |
| − | | |
| − | <b>Luc de Brabandere : </b>Eh non ! Imaginez que l’algorithme ne soit pas sournois, que vous le compreniez de A à Z, vous pourriez le détourner dans un but qui pourrait être le vôtre. Or, Google ne veut pas du tout ça ! Il veut l'utiliser à son profit.
| |
| − | | |
| − | <b>Jean-Philippe Clément : </b>Bien sûr. Également dans l'avant-propos, vous rentrez très rapidement dans le vif du sujet avec ces IA génératives. Ça fait maintenant un an qu'elles ont pris le devant de la scène avec, notamment, ChatGPT. Vous dites – et je vous ai lu aussi, par ailleurs, dans quelques interviews – que, pour vous, les algorithmes ne sont pas créatifs. Ils ont une sorte de logique propre, mais ils n’ont rien de créatif. Que pouvez-vous dire sur ce sujet ?
| |
| − | | |
| − | <b>Luc de Brabandere : </b>Tout dépend, bien sûr, de la définition qu'on donne à la créativité. Je définis la créativité comme la capacité de sortir de son programme, ce qu’un programme ne peut évidemment pas faire. Les algorithmes récents, surtout, qui sont tellement puissants, donnent l'impression de la créativité tellement ils sont puissants et, forcément, ils vont arriver avec des idées auxquelles vous n'aviez pas pensé. Imaginez que vous écriviez un roman et vous cherchez un bon titre, vous demandez à l'algorithme « quel est le meilleur titre ? », il n'y a pas algorithme pour dire le meilleur titre. Mais l'algorithme va en donner tellement, il va offrir des centaines de possibilités et peut-être que vous direz « tiens, je n'avais pas pensé à ça » et, finalement, vous allez profiter de quelque chose qui ressemble à de la créativité, c’est simplement de la puissance de calcul, pour vous décider « je prends celui-là ou je prends celui-là ».
| |
| − | | |
| − | <b>Jean-Philippe Clément : </b>J'allais, justement, vous soumettre cette étude récente qui vient de sortir où, finalement, les chercheurs ont mis ChatGPT 4 un peu à la preuve. Ils l'ont soumis aux tests de créativité de Torrance qui sont qui sont des tests à la fois verbaux, au sens de l’écrit, et figuratifs au sens création d'images, et ils se sont aperçus que sur certaines questions précises, quand on le met en parallèle avec certains étudiants, cette créativité était au moins au même niveau et, en tout cas, indétectable en termes de créativité virtuelle, on va dire ça comme ça.
| |
| − | | |
| − | <b>Luc de Brabandere : </b>Oui. Selon le test de Torrance, ça c'est sûr. Mais que vaut ce test ? Je dirais qu’il y a toujours moyen de sortir de tout et inventer des autres tests. Le test de Torrance, dont on parle beaucoup, est un test d'imitation. Il a défini l'intelligence comme la capacité d'imiter l'homme, mais 'est toute la différence entre être intelligent et paraître intelligent ou être créatif et paraître créatif. Je crois que les algorithmes paraissent créatifs, mais ne le sont pas, en tout cas avec ma définition.
| |
| − | | |
| − | <b>Jean-Philippe Clément : </b>Votre propos, finalement, c'est de dire « attention, on n'a pas le bon thermomètre pour mesurer cette intelligence et cette créativité ». On utilise un test qui est un peu…
| |
| − | | |
| − | <b>Luc de Brabandere : </b>Exactement. Je crois qu'il est important de remettre « intelligence »s au pluriel. En fait, le mot est devenu un objet de recherche académique il y a 200 ans. À l'époque du quotient intellectuel, des travaux de Binet, on parlait d'intelligence au singulier et ça connotait d'ailleurs un peu l'intelligence génétique, génie, génétique, il y avait même des côtés un peu bizarres. Excellente nouvelle, après la Seconde Guerre mondiale, on met intelligence au pluriel. Il y a d'ailleurs de multiples théories d'intelligences multiples, ce qui est une excellente nouvelle, et que constate-t-on ? Avec les algorithmes, patatras !, on remet intelligence au singulier, mais non ! Toutes les intelligences restent présentes. L'une d'entre elles, celle qui, par hasard, avait le monopole il y a 200 ans, c'est-à-dire hypothético-déductive, l'intelligence mathématique, je crois que celle-là sera bien sur les machines. Mais toutes les autres ? L’intelligence émotionnelle, l'intelligence relationnelle, artistique, non ! Parce qu'il n'y a pas d'algorithme pour les choses essentielles.
| |
| − | | |
| − | <b>Jean-Philippe Clément : </b>D'ailleurs, pour revenir sur ces aspects-là, à un moment de la <em>Petite Philosophie des algorithmes sournois</em>, vous parlez justement de cette façon d'aborder : il y a des postures pour comprendre un peu ce qui nous entoure, il y a une posture active ou passive, une posture rationnelle et irrationnelle, et, de fait un cycle s'est produit. Pensez-vous qu'on a commencé par de l'actif rationnel et, aujourd'hui, on revient un petit peu sur ce positionnement ?
| |
| − | | |
| − | <b>Luc de Brabandere : </b>De manière schématique. En fait, la philosophie antique est née avec la raison. On a commencé à se poser des questions : comment se passent les choses ? À la Renaissance et au siècle des Lumières, la raison est passée du statut d’outil au statut de valeur. On a décidé de réfléchir, l'audace ??? [ 10 min 11], etc. Aujourd'hui on constate, en fait, qu'il y aurait comme une énorme marche arrière, parce qu'on revient à l'époque de la mythologie, c'est-à-dire des croyances non fondées, mais avec un outil qui semble raisonnable, qui permet de penser. Et la combinaison de la raison et du déraisonnable est effectivement inquiétante, on le voit bien. Moi je suis très inquiet de l'évolution des États-Unis, c’est le pays du monde qui me fait le plus peur, parce qu’on sent bien qu'il y a quelque chose qui est ébranlé : des choses fondamentales comme la séparation des pouvoirs, etc. Si ce pays-là ne tient pas le coup, il y a de quoi s'inquiéter.
| |
| − | | |
| − | <b>Jean-Philippe Clément : </b>Vous évoquez d'ailleurs, dans le livre également, une étude ; ça m'a marqué, je ne connaissais pas cette étude de Martin ??? [10 min 55] qui a compilé des millions de livres et des articles publiés de 1850 à 2019, au passage, pour compiler autant de livres je pense qu'un petit peu d'IA quand même, malgré tout !
| |
| − | | |
| − | <b>Luc de Brabandere : </b>C’est sûr !
| |
| − | | |
| − | <b>Jean-Philippe Clément : </b>Il observe une inflexion dans l'évolution du vocabulaire qui passe de mots plutôt liés, justement ce que vous disiez, à la raison la rationalité, des mots comme « conclure, démontrer, déduire », et il y a un basculement en 1975 pour plus de mots émotionnels « sentir, croire, blâmer ». Du coup, on change la manière d'aborder les sujets dans nos livres, dans nos objets de savoir, en fait.
| |
| − | | |
| − | <b>Luc de Brabandere : </b>Absolument. L'étude est impressionnante, parce qu'elle a été faite sur un corpus de millions de bouquins et on voit bien que, je dirais, la place de l'argumentation, dans le sens noble du terme, a diminué au profit de la place des émotions, du ressenti, des injonctions. C'est un petit peu dangereux de décider sur la base des émotions. Revenons à la raison !
| |
| − | | |
| − | <b>Jean-Philippe Clément : </b>Il ne faut pas oublier que ces productions constituent aussi Internet et Internet est le corpus d'entraînement des nouveaux algorithmes et des nouvelles IA.
| |
| − | | |
| − | <b>Luc de Brabandere : </b>Exactement. En fait, qu'est-ce ChatGPT ? C’est le plus grand hold-up de l'histoire ! C'est le méga hold-up ! On peut pas voler plus, d'un coup, que ce qu'ils ont fait ! Je dirais qu’au temps t = 0 de l'IA générative, ils ont pris Wikipédia, ils ont pris tout l'Internet. Et petit à petit, ce que ChatGPT produit devient partie de l'internet. Il y a donc un phénomène où le serpent se mord un peu la queue. Si vous demandez à ChatGPT d'écrire un roman, il le fera, mais peut-être que ce roman deviendra input, comme on dit dans mon métier, deviendra l'entrée. Où va-t-on ? Quand ChatGPT va se nourrir de lui-même, tout est possible. Et, par rapport à ça, il y a une urgence, c’est la pensée critique. La machine a pris son envol, d'une certaine manière. Beaucoup de gens comparent <em>Oppenheimer</em> et ChatGPT ; je crois effectivement qu'en termes d'ampleur ce sont des choses comparables. La grosse différence dans le film <em>Oppenheimer</em>, on le voit bien, il y a des militaires, des gouvernements, des hommes, des avocats qui discutent et, finalement, on décide de faire exploser une bombe atomique. Avec ChatGPT, c’est exactement l'inverse. Le premier moment, la bombe explose et puis tout le monde se dit « mais qu'est ce qui se passe ? Qui sait ? Pourquoi, comment ? » et c'est un peu la bombe atomique à l'envers. Donc l'ampleur est la même, mais la posture est complètement différente.
| |
| − | | |
| − | <b>Jean-Philippe Clément : </b>Vous pensez, comme Luc Julia, qu'on n'aurait pas dû donner cet outil au grand public tout de suite ?
| |
| − | | |
| − | <b>Luc de Brabandere : </b>D'une certaine manière, ça ne sert à rien de le dire, mais je pense un peu comme lui. Puisque c'est fait maintenant, que va-t-on faire ? Je dirais qu’il aurait été plus logique et meilleur pour tout le monde d'avoir une progression de gens qui discutent entre eux « vous croyez que…, comment va-ton faire pour que ça reste juste ?, etc. » On vit la bombe atomique à l'envers : elle a explosé alors que personne ne savait que ça existait !
| |
| − | | |
| − | <b>Jean-Philippe Clément : </b>Après, une étude récente montre que ChatGPT est plutôt progressiste, parfois quelques-uns disent « rock ». De l'autre côté, d'ailleurs, c'est ce qui a valu la création de Grok, le ChatGPT d’Elon Musk. On voit bien qu'il y a quand même des fondations quasi idéologiques dans certains des modèles d'IA.
| |
| − | | |
| − | <b>Luc de Brabandere : </b>C’est évident.
| |
| − | | |
| − | <b>Jean-Philippe Clément : </b>C’est sournois d'avoir une fondation idéologique pour ce type d’outil ?
| |
| − | | |
| − | <b>Luc de Brabandere : </b>C'est sournois si on la connaît pas. Je crois qu’il n’est pas possible de ne pas avoir des principes, des valeurs. Aujourd'hui, on peut dire que ChatGPT c'est une langue de bois parce que les concepteurs n’ont pas voulu pencher ; vous posez n'importe quel sujet un peu compliqué, elle dira « y a a des gens qui pensent que, des gens qui pensent que ». Mais le même outil dans d’autres mains pourrait devenir une langue de vipère, parce qu’orientée pour donner une réponse sur toutes les questions. Donc qui est là-derrière ? C'est ça la sournoiserie. Qui sont les maîtres qui décident ? Il y a maintenant un ChatGPT chinois dont le nom est Ernie ou quelque chose comme ça, peu importe ! Je ne comprends pas le chinois, mais je crois que si je posais des questions fondamentales, je serais un petit peu saisi.
| |
| − | | |
| − | <b>Jean-Philippe Clément : </b>Oui sûrement. Merci.
| |
| − | | |
| − | <b>Luc de Brabandere : </b>Je crois, par exemple, que si tous les grands avaient été programmés uniquement par des femmes, rien que ça, depuis le début, Amazon, Facebook, tous les autres, eh bien ce seraient d’autres algorithmes parce que le programmeur est dans son programme.
| |
| − | | |
| − | <b>Jean-Philippe Clément : </b>On va en reparler juste après la pause musicale. Les biais des concepteurs est un sujet très intéressant. On va écouter un petit morceau énergique, sélectionné par notre programmateur musical, Garlaban, que je remercie au passage. On écoute donc <em>The end has No End</em> par The Strokes, de l’album <em>Room of fire</em>.
| |
| − | | |
| − | <b>Pause musicale : </b><em>The end has No End</em> par The Strokes, de l’album <em>Room of fire</em>.
| |
| − | | |
| − | ==18’ 17==
| |
| − | | |
| − | <b>Jean-Philippe Clément : </b>
| |
