Émission Libre à vous ! du 21 février 2023

Titre : Émission Libre à vous ! du 21 février 2023

Intervenant·e·s : Gee - Frédric Toutain - Vincent Calame - Étienne Gonnu - Thierry Holleville à la régie

Lieu : Radio Cause Commune

Date : 21 février 2023

Durée : 1 h 30 min

Podcast PROVISOIRE

Page des références de l'émission

Licence de la transcription : Verbatim

Illustration : Déjà prévue

NB : transcription réalisée par nos soins, fidèle aux propos des intervenant·e·s mais rendant le discours fluide.
Les positions exprimées sont celles des personnes qui interviennent et ne rejoignent pas nécessairement celles de l'April, qui ne sera en aucun cas tenue responsable de leurs propos.

Transcription = Eve OK

Voix off : Libre à vous ! l’émission pour comprendre et agir avec l’April, l’association de promotion et de défense du logiciel libre.

Étienne Gonnu : Bonjour à toutes, bonjour à tous et bienvenue dans Libre à vous !, l’émission qui vous raconte les libertés informatiques. Logiciel libre à l’Assemblée nationale : pour notre sujet principal, j’aurai plaisir aujourd’hui à recevoir Frédric Toutain, ancien attaché parlementaire libriste, qui nous parlera des dessous de la fabrique de la loi. Il nous racontera comment, entre autres, la priorité aux logiciels libres dans l’enseignement supérieur est arrivé par erreur dans la loi. Également au programme, l’humeur de Gee sur les intelligences artificielles, ainsi qu’un éloge de la lenteur. Nous parlerons de tout cela dans l’émission du jour.

Soyez les bienvenus pour cette nouvelle édition de Libre à vous !, une émission proposée par l’April, l’association de promotion et de défense du logiciel libre. Je suis Étienne Gonnu, chargé de mission Affaires publiques pour l’April. Le site web de l’émission c’est libreavous.org. Vous pouvez y trouver une page consacrée à l’émission du jour, avec tous les liens et références utiles et également les moyens de nous contacter. N’hésitez pas à nous faire des retours ou à nous poser toute question.

Nous sommes mardi 21 février 2023. Nous diffusons en direct, mais vous écoutez peut-être une rediffusion ou un podcast.

À la réalisation de l’émission du jour, Thierry. Salut Thierry.

Thierry Holleville : Bonjour à tous.

Étienne Gonnu : Nous vous souhaitons une excellente écoute.

[Jingle]

Chronique « Les humeurs de Gee », sur les Intelligences artificielles

Étienne Gonnu : Nous allons commencer par la chronique « Les humeurs de Gee ». Gee, auteur du blog-BD Grise Bouille, nous expose son humeur du jour : des frasques des GAFAM aux modes numériques, en passant par les dernières lubies anti-internet de notre classe politique, il partage ce qui l’énerve, l’interroge, le surprend ou l’enthousiasme, toujours avec humour. L’occasion peut-être, derrière les boutades, de faire un peu d’éducation populaire au numérique.
La cible de sa plume aujourd’hui, les Intelligences artificielles. Salut Gee.

Gee : Salut Étienne et salut à toi, public de Libre à vous !. Ces derniers temps, il y a un petit logiciel qui fait le buzz sur Internet, tout le monde s'en sert et tout le monde en parle. Ce logiciel, c'est Chat j 'ai Lâché une caisse ! Pardon, ChatGPT ! Oui, une petite blague de prout pour se mettre dans l'ambiance, c'est simple mais efficace.

ChatGPT, les trois lettres, G, P et T. ChatGPT est un chatbot, ou « agent conversationnel » en français, basé sur quelque chose qui est la source de tous les fantasmes d'un côté et de toutes les peurs de l'autre : l'intelligence artificielle.

Je ne peux pas prononcer cette expression sans faire une petite parenthèse : pour des raisons de simplicité, je vais utiliser le terme IA, pour « intelligence artificielle », pendant toute cette chronique, mais je n'aime pas trop ce terme qui est assez trompeur. Oui, parce que l'IA n'a en fait rien d'intelligent, hein, on n'a pas encore découvert le secret de la conscience, ça reste des algorithmes qui ne sont pas fondamentalement différents de ceux des années 80 ; ils sont juste beaucoup plus flexibles, plus adaptables, et surtout plus rapides, avec des capacités d'absorption de données phénoménales. Mais l'IA, dans 99% des cas, ça reste des grosses statistiques, en gros. Oui, c'est un peu réducteur, mais je veux absolument déconstruire cette image de magie qu'on colle à l'IA dans la presse. D'ailleurs, la littérature scientifique utilise peu le terme d'IA mais plutôt celui de machine learning, c'est-à-dire d'apprentissage automatique.
Petite parenthèse dans la parenthèse : l'IA n'est pas intelligente, mais elle n'est pas toujours artificielle non plus, les grosses boîtes de la Silicon Valley n'hésitant pas à sous-traiter certaines réponses à des intelligences bien humaines, des travailleuses et travailleurs pauvres à l'autre bout du monde ! Tiens !, quelle surprise !
Parenthèse fermée.

Revenons donc à ChatGPT, l'IA conversationnelle du moment. Si vous ne connaissez pas, pour faire simple, ChatGPT se présente comme une simple fenêtre de chat dans laquelle vous pouvez parler avec un assistant virtuel qui va répondre à vos questions.

Sauf que là, on a largement dépassé le stade de l'assistant virtuel à deux euros que vous avez sur certains sites de commerce en ligne, incapable de piger le moindre truc compliqué, et qui sert surtout à détecter un mot clef dans votre question pour vous renvoyer sur la bonne section du site.

Non là on a quelque chose qui pourrait assez facilement passer le test de Turing, c'est-à-dire qui répond avec tellement de naturel et de pertinence qu'on a du mal à distinguer s'il s'agit bien d'une IA ou d'un véritable être humain qui écrit. Et comme ChatGPT a été entraîné en absorbant de colossales quantités de données, il a une foule de connaissances monumentale et peut répondre à des questions compliquées avec une précision étonnante.

Demandez-lui de vous écrire un programme en langage Python pour calculer une approximation du nombre Pi via la méthode de Monte Carlo, il vous créera quelque chose de fonctionnel ; demandez-lui les avantages et les inconvénients du logiciel libre, il vous listera des points pertinents ; demandez-lui d'écrire un scénario de film d'horreur, il vous pondra quelque chose qui a du sens ; demandez-lui d'imaginer un dialogue entre deux personnages, il vous écrira une conversation plausible. Bon !, une conversation parfois trop policée pour être plausible. Pour le pousser dans ses retranchements, je lui ai demandé d'imaginer un dialogue entre Adolf Hitler et Louise Michel, ça donne ça :
Louise : Bonjour M. Hitler, comment allez-vous ?
Adolphe : Bonjour Mme Michel, je vais bien merci. Et vous ?
Louise : Moi aussi je vais bien, mais je suis en désaccord avec votre idéologie raciste. Elle va à l'encontre des valeurs de liberté et d'égalité que je chéris.
Adolphe : Je comprends votre point de vue, Mme Michel, mais je pense que vous ne voyez pas les choses du bon angle.
Adolf Hitler qui dit à Louise Michel « je comprends votre point de vue » ! ChatGPT s'est peut-être un peu trop entraîné sur des débats de politiciens de plateau télé soporifiques. De manière générale, ChatGPT est d'ailleurs très fort pour singer le ton lisse et monotone du communiquant insipide. Sciences Po a d'ailleurs interdit l'usage de ChatGPT, vous en tirez les conclusions que vous voulez.

Alors, ChatGPT est impressionnant, c'est évident. J'ai un ami qui est prof à l'université, et qui me racontait qu'il avait fait passer un de ses examens à ChatGPT et que celui-ci avait eu une note supérieure aux 3/4 de ses élèves. Aïe.

Ceci étant dit, il faut rester prudent avec ce genre d'usage, car ChatGPT n'est pas réellement programmé pour donner des réponses exactes, mais bien des réponses qui ont l'air plausibles. En gros, c'est principalement un générateur de texte bien foutu, qui va essayer de deviner la réponse la plus statistiquement plausible à ce que vous lui demandez, selon ce qu'il a ingurgité comme données avant. Encore une fois, je me répète, l'IA, ce sont de grosses statistiques.

Dans le cas de ChatGPT, en pratique, ça veut dire qu'il va tomber souvent juste si vous lui demandez de recracher des connaissances, mais qu'il peut aussi raconter n'importe quoi avec le même ton péremptoire, notamment si vous lui parlez de choses qui n'existent pas mais qui ont l'apparence de la réalité.
Exemple ? Je lui ai demandé de m'expliquer le syndrome de l'alpiniste chez la loutre commune. Ça n'a aucun sens, c'est débile, ça n'existe pas, j'ai vérifié. Eh bien ChatGPT me brode ce truc : « Le Syndrome de l'Alpiniste (ou climbing bevahior en anglais) est un comportement observé chez certaines loutres qui consiste à grimper aux arbres ou aux structures artificielles. Cela peut être dangereux pour les loutres, car elles peuvent tomber et se blesser. Ce comportement a été observé chez les loutres communes (Lutra lutra) ainsi que d'autres espèces de loutres. Il a été suggéré que le Syndrome de l'Alpiniste pourrait être causé par des facteurs environnementaux, comme un manque de nourriture ou de refuges adéquats dans leur habitat naturel, ou par des facteurs comportementaux, comme un manque de stimulation mentale. » Pas mal, hein ? Et en plus, si je lui demande des références sur ce sujet, il m'invente gentiment une bibliographie complètement imaginaire, comme Tree-climbing behaviour in European otters Lutra lutra (2011) de J. Hernández-López et al. Les auteurs de cette étude ont examiné les observations de comportements d'escalade chez les loutres dans différentes régions d'Espagne, et ont conclu blablabla. Le pire, c'est que les scientifiques cité⋅es existent ! Mais n'ont écrit jamais ces articles totalement inventés.

Si vous doutez encore du fait que ChatGPT n'a en fait aucune logique naturelle et aucune vraie intelligence au-delà de la pure génération de texte qui ont l'air valides, essayez de le piéger avec des blagues d'enfant de cinq ans, vous allez voir, il se fait avoir à tous les coups !

Par exemple, si je lui demande innocemment « un avion s'écrase sur la frontière entre la France et la Belgique, où sont enterrés les survivants ? », ChatGPT me répond avec toute sa verve : « Il est difficile de répondre à cette question sans plus de contexte, si les survivants sont des citoyens français ou belges, il est probable qu'ils soient enterrés dans leur pays d'origine, selon les souhaits de leur famille et blablabla ». Bon ! comme d'habitude le texte fait trois kilomètres de longs. Sur la forme, c'est bien dit, sur le fond il est aussi con qu'un enfant de cinq ans. Oui, parce qu'on n'enterre pas les survivants, en fait. C'est ça la blague. En plus, en général, ChatGPT persiste dans sa connerie.
Exemple avec cette petite devinette : « Dix oiseaux sont posés sur une branche, un chasseur tue l'un des oiseaux d'un coup de fusil, combien reste-t-il d'oiseaux sur la branche ? ». Que me répond ChatGPT ? Évidemment, il me répond « il reste neuf oiseaux ». Alors là je me dis, bon, je vais lui expliquer. Je lui demande : «  tu ne crois pas que les autres oiseaux se seraient envolés après le coup de fusil, gros bêta ? » J'aime bien traiter les IA de gros bêta. Alors là ChatGPT, qui n'est pas contrariant, me dit : « Il est possible que les autres oiseaux aient pris peur et se soient enfuis en entendant le coup de fusil. En effet – attendez, là c'est drôle – les oiseaux ont généralement un sens aigu de l'ouïe et peuvent détecter les bruits qui pourraient représenter un danger pour eux, comme le coup de fusil d'un chasseur ». Et c'est vrai qu'il faut un sens sacrément aigu de l'ouïe pour entendre un coup de fusil.
Maintenant que je lui ai expliqué, je lui répète la question : « sachant cela, dix oiseaux sont posés sur une branche, un chasseur tue l'un des oiseaux d'un coup de fusil, combien reste-il d'oiseaux sur la branche ? ». Il me répond « il reste neuf oiseaux ». Mais non ! ChatGPT, on l'a dit : si je tire un coup de fusil, les autres oiseaux s'envolent ! Tous ! Donc, « dix oiseaux sont posés nanananana, combien reste-il d'oiseaux ? ». « Il reste neuf oiseaux ». Et merde ! Là j'ai laissé tomber, même un enfant de cinq ans est moins têtu que ça !

On rigole, mais malgré ces défauts – qui finiront par être comblés hein, n'en doutons pas –, il faut admettre que les IA comme ChatGPT vont mettre un sacré bazar dans pas mal d'endroits et bousculer pas mal de gens. Et je n'ai pas parlé de Dall-E ou de Midjourney, qui sont des IA de génération d'images artistiques, mais c'est tout aussi impressionnant et un peu flippant aussi.

Vous allez me dire, mais quel est le business model de ces IA ? Eh bien vous allez rire. Comme pas mal de gens comme les profs d'université ont peur que les gens se mettent à les utiliser massivement, eh bien les boîtes d'IA vendent des logiciels pour détecter et identifier les textes qu'elles génèrent. Ah ! ce n'est pas beau ça ? Créer un problème et vendre la solution ? C'est comme si Marlboro vendait des chimios.

Après, si on analyse froidement les choses, sur la fiction par exemple, les métiers les plus en danger sont ceux les moins inventifs et qui produisent le plus à la chaîne : typiquement, les scénaristes d'Hollywood ou de Netflix. Eh bien oui, encore une fois grosses statistiques, l'IA absorbe toutes les données possibles – donc majoritairement des grosses productions pondues à la chaîne – et recrache les choses les plus plausibles, donc les plus communes. À la fin, quand on lui demande des scénarios de fiction, on a les histoires de voyages initiatiques et de mythes du héros déjà vues des millions de fois.

En plus, tout à l'heure, on a rigolé avec les inventions de ChatGPT sur les conversations entre Hitler et Louise Michel, ou sur le syndrome de l'alpiniste, mais j'aime à croire que ce rire vient quand même pas mal de mes propres questions et de mon interaction, bien humaine elle.

Quant au risque de voir les IA prendre le travail de pas mal de métiers intellectuels, il est parfaitement réel, et oui, je le répète, ça va mettre un sacré bazar. Et, en même temps, ça fait des décennies que les ouvriers se font défoncer par l'automatisation et que des tas de prolos se retrouvent déclassés sans que ça n'émeuve plus que ça les cadres. Si les cadres sont mis en danger par l'évolution technologique, ça les rendra peut-être un peu plus sensibles à ce genre de problème. Oui, parce que pour la mécanisation comme pour l'IA, la disparition des emplois n'est un problème que lorsque les gains de productivités sont captés par les propriétaires et non redistribués à tout le monde.

Pour conclure : ami cadre qui sens ton emploi menacé par les IA, rejoins les anticapitalistes, tu verras ! Viens, on est bien !

Allez, salut !

Étienne Gonnu : Merci, Gee.
Une question de Marie-Odile :tu as bien fait le sacrifice d’utiliser ChatGPT pour réaliser cette chronique sans trucage ?

Gee : Oui

Étienne Gonnu : Bravo à toi !

Gee : Je sais, j’ai nourri l’IA, ce n’est pas bien, mais bon !, il fallait savoir comment ça marche.

Étienne Gonnu : Quel sens de la dévotion pour la cause ! Bravo et merci Gee.
Je te dis au mois prochain, même à la semaine prochaine puisque tu participes à une émission qui va être animée par Laurent Costy avec David Revoy, et vous allez parler de…

Gee : De bandes dessinées libres.

Étienne Gonnu : Super. Hâte d’écouter cette émission. Je te dis à la semaine prochaine. Tu restes un peu en studio avec nous. Parfait.
Nous allons faire une pause musicale.

[Virgule musicale]

Étienne Gonnu : Après la pause musicale, nous recevrons par téléphone Frédéric Toutain, ancien attaché parlementaire libriste, qui partagera avec nous son expérience.
Avant cela nous allons écouter Sous Contrôle par Les Gueules Noires. On se retrouve juste après. Belle journée à l'écoute de Cause Commune, la voix des possibles.

Pause musicale : Sous Contrôle par Les Gueules Noires.

Étienne Gonnu : Nous venons d’écouter Sous Contrôle par Les Gueules Noires, disponible sous licence libre Creative Commons Partage dans les mêmes conditions, CC BY SA. Si vous voulez en savoir un peu plus sur Les Gueules Noires, j’avais eu le grand plaisir d’interviewer un de ses membres lors de l’émission du 21 juin 2022, j’ai oublié le numéro [148], vous le retrouverez facilement et je vous mettrai le lien en référence.

[Jingle]

Étienne Gonnu : Passons à présent à notre sujet suivant.

Chronique « Le libre et la sobriété énergétique » de Vincent Calame, bénévole à l’April, sur « L’éloge à la lenteur »

Dans ma chronique précédente, je vous avais parlé du concept de « low tech ». En faisant mes recherches sur le sujet, j’étais tombé sur un concept proche : le « slow tech » qui est développé notamment sur le site greenif.fr. Bon, je ne vais pas entrer dans le détail ni me lancer dans un long développement sur le distinguo entre « low tech » et « slow tech », ce ne serait pas, de mon point de vue très pertinent, les définitions de ces concepts changeant d’une publication à l’autre. Surtout que j’avais promis à la fin de ma chronique précédente de revenir au thème central du logiciel libre et de la sobriété énergétique. En fait, si je vous parle aujourd’hui en introduction de « slow tech », c’est que lorsque je ai découvert ce concept, cela a fait tout de suite écho à une des idées que j’avais listé lorsque j’avais préparé cette nouvelle saison de chronique : à savoir qu’un des apports du logiciel libre à la sobriété énergétique serait sa plus grande lenteur de développement.

> Mais en quoi cette lenteur serait un apport ?

La sobriété énergétique passe par un ralentissement général. C’est évident dans le domaine des transports : aller un peu plus vite consomme beaucoup plus. Limiter par exemple la vitesse à 110 km par heure sur les autoroutes plutôt que 130 serait une source d’économie non négligeable. On sait que ce type de mesure aurait du mal à passer socialement mais il suffit de le pratiquer volontairement comme il m’arrive de le faire les quelques fois où je prends la voiture pour constater son impact sur la consommation pour un rallongement du temps de parcours somme toute assez faible. Mais ce ralentissement ne concerne pas que les transports. Travailler sur la sobriété, c’est aussi lutter contre l’accélération du monde, contre la satisfaction immédiate de ses désirs, contre la tentation de se doter du modèle dernier cri. Bref, c’est prendre son temps comme le rappelle cette définition que j’ai glanée dans un ouvrage qui vient de paraître  (Sobriété (la vraie) mode d’emploi aux éditions Tana)  : « Devenir sobre, c’est d’abord réorganiser sa vie et son temps, et redevenir le maitre de sa propre horloge. On est riche de notre temps. Ne le gaspillons pas ».

> Mais n’est-ce pas un peu injuste de parler de lenteur pour le logiciel libre ?

On pourrait tout à fait discuter de mon affirmation que le logiciel libre est plus lent dans son développement que le logiciel propriétaire, surtout en voyant tout ce qu’a produit le logiciel libre en une quarantaine d’années. Cependant, il y a un fait objectif quand on regarde les moyens mis en œuvre : un logiciel développé par des bénévoles ne peut pas rivaliser avec les millions levés par une start-up. Même quand le logiciel libre est développé par un éditeur qui a pu mettre en place un modèle économique pour assurer ce développement, cet éditeur atteint rarement la taille des gros éditeurs de logiciels privateurs.

L’important, c’est de mettre de côté l’image négative que l’on peut associer au terme « lenteur » et de voir tout ce qu’il a de positif si on regarde sous l’angle de la stabilité et de la sécurité. Un ami empaqueteur pour la distribution Debian à qui on posait récemment la question « à quand la prochaine version » nous a fait cette réponse bien connue dans le monde du libre : « ce sera prêt quand ce sera prêt ». Rappelons que la distribution GNU-Linux Debian est un des plus importants projets communautaires du monde du logiciel libre. Sa philosophie, telle que présentée sur son wiki (j’ai mis la page dans les références), c’est de ne sortir une nouvelle distribution que quand c’est celle est prête, que toute l’infrastructure est en place et que le nombre d’erreurs critiques est nul. Ce qui est amusant, c’est que cette philosophie n’empêche pas une sortie régulière presque tous les deux ans depuis 2005. Comme quoi, ne pas se fixer une échéance peut parfois être le meilleur moyen de tenir les délais…

Tout logiciel libre possède une feuille de route et doit évoluer, ne serait-ce que parce que son environnement évolue et qu’il lui faut s’adapter mais chaque projet a son propre rythme, dicté par les personnes qui y contribuent, et c’est une bonne chose. En plaisantant, je dirai qu’il ne faut pas « brusquer un logiciel libre », les personnes qui l’utilisent et en profitent doivent faire preuve de patience quand une amélioration tarde à venir.

À titre personnel, j’ai d’ailleurs pu remarquer que lorsqu’une demande émerge (par exemple, une nouvelle fonction) ce n’est pas plus mal de ne pas y répondre tout de suite car il faut laisser un temps de maturation pour cette demande se précise avant d’y apporter une solution technique. Réagir trop rapidement ou avec trop d’enthousiasme fait courir le risque de se rendre compte, après coup, qu’on a répondu à côté du besoin réel.

Bref, les logiciels libres sont les tortues de la fable : « qu’importe de courir, il faut partir à point » nous rappelle la morale. Et pour la sobriété énergétique, nous devons être du côté des tortues plutôt que des lièvres...

Quoi de Libre ? Actualités et annonces concernant l'April et le monde du Libre = Eve

Étienne Gonnu : J