Éloge du bug - Le code a changé
Titre : Éloge du bug.
Intervenants : Marcello Vitali Rosati - Xavier de La Porte
Lieu : Podcast Le code a changé, France Inter
Date : 4 septembre 2024
Durée : 59 min
Licence de la transcription : Verbatim
Illustration : À prévoir
NB : Transcription réalisée par nos soins, fidèle aux propos des intervenant·es mais rendant le discours fluide.
Les positions exprimées sont celles des personnes qui interviennent et ne rejoignent pas nécessairement celles de l'April, qui ne sera en aucun cas tenue responsable de leurs propos.
Transcription
Xavier de La Porte : L’envie de faire cet épisode aurait pu naître de la gigantesque panne informatique la plus massive de l’histoire, dit-on, qui a eu lieu avant l’été, donc ces milliers d’ordinateurs qui sont tombés en rade à cause d’un bug survenu après la mise à jour d’un logiciel de sécurité. Ça aurait pu être ça, mais non, en fait tout part d’une coïncidence beaucoup plus anecdotique.
Un matin, comme presque tous les matins, j’étais sur la ligne 14 du métro parisien qui a la particularité d’être automatique. Tout se passait comme d’habitude. Les gens étaient, pour la plupart, sur leur téléphone, à écouter de la musique, à regarder une série, à jouer et à lire le journal, à scroller dans Instagram et je ne sais quoi. Un peu avant la station Châtelet, le métro a commencé à avancer par soubresauts. Il s’arrêtait. Il redémarrait. C’était bizarre, mais personne n’a vraiment levé le nez et puis, une fois arrivée à Châtelet, la rame s’est immobilisée, mais les portes ne se sont pas ouvertes, ça a duré une minute ou deux et puis, brutalement, le métro a redémarré sans que les portes se soient ouvertes. Et là, dans la stupéfaction des passagers qui seraient descendus à Châtelet, le métro a filé vers la Gare de Lyon à une vitesse qui nous a semblé, je ne sais pas pourquoi, assez inhabituelle. Là, les gens ont tous levé les yeux de leur téléphone. Nous nous sommes regardés sans échanger un mot, mais je pense qu’on se disait tous la même chose, « qu’est-ce qui se passe, merde ! En plus, on ne peut prévenir personne parce que qui sait ce qui se passe, puisqu’il n’y a pas de conducteur ! Est-ce que c’est un bug ? Le métro s’est fait hacker ! On va nous projeter à pleine vitesse contre la rame précédente, comme dans un film de série B. C’est vraiment con de mourir comme ça ! »
Ce qui est marrant dans cette histoire, et qui justifie que je la raconte parce que, en elle-même, elle ne casse pas trois pattes à un canard, ce qui est marrant dans cette histoire c’est que, dans cette rame de métro, j’étais justement en train de lire un livre qui s’intitule Éloge du bug. Déjà, c’est une étrange coïncidence, d’autant que l’auteur de ce livre, Marcello Vitali Rosati, un philosophe italien qui enseigne à Montréal, vante les mérites de ce type de moment, ces moments où nos machines se mettent à dysfonctionner. Il y voit l’occasion de renouveler notre rapport à la technologie.
Alors, quand quelques semaines plus tard, nous nous sommes retrouvés tous les deux, avec Marcello, dans le studio pour discuter de son Éloge du bug, que, en plus, nous nous sommes rendu compte qu’il y a presque dix ans nous avions déjà discuté, à la radio, de logiciel libre dont il est un grand connaisseur et auquel il avait consacré un livre, tenant compte de tout cela, je n’ai pas hésité, comme on le fait avec un vieux copain, à lui raconter mon histoire de métro pas ouf et à lui demander ce qu’il en pensait.
Marcello Vitali Rosati : Le fait que le métro avance et s’arrête au bon endroit, que les portes s’ouvrent, etc., tout cela est le résultat d’un mécanisme très complexe et très délicat et en fait, nous y sommes tellement habitués que nous ne le voyons plus, c’est comme si c’était normal, c’est comme si, du coup, il n’y avait pas d’enjeu. Cette espèce d’explosion de dysfonctionnement nous laisse bouche bée et, du coup, nous sommes obligés de faire autre chose. C’est cela qui est intéressant du dysfonctionnement : il oblige à une réaction autre. Dans le cas du métro cassé, déjà s’interroger, peut-être avoir peur, peut-être discuter avec les autres, en tout cas on commence à voir quelque chose qui était invisible.
Sur cela, l’exemple typique c’est le marteau de Heidegger : pendant que je suis en train de marteler, je ne vois pas le marteau. Quand est-ce que je vois le marteau, quand est-ce que le marteau apparaît devant moi, que je peux m’interroger sur ce que c’est ? Eh bien S’il se casse, s’il ne fonctionne plus.
Xavier de La Porte : Là, Marcello, il fait référence à un célèbre texte de Martin Heidegger qui apparaît, je crois, dans Être et Temps, un de ses livres les plus importants. Le philosophe allemand, parmi 1000 autres trucs, explique en effet que quand un outil fonctionne bien, il se fond dans l’activité et il devient presque invisible à notre conscience, ce qui nous permet de nous concentrer sur la tâche à accomplir plutôt que sur l’outil lui-même. Du coup, quand cet outil dysfonctionne, c’est là qu’il nous apparaît. Ça me donne un peu envie de me mettre à Heidegger, que je connais vraiment très mal, mais je ne sais pas pourquoi, outre ses accointances nazies, Heidegger m’a toujours un peu déprimé.
Martin Heidegger, voix off : À transcrire en allemand plus traduction en français.
Xavier de La Porte : Marcello me donne envie d’aller m’y plonger. Cette question de la transparence de l’objet technique est très intéressante, de l’objet qui n’apparaît que quand il dysfonctionne, mais ça pose une question : quel intérêt y a-t-il à voir ce qui est invisible ? Parce que moi, je trouve plutôt assez pratique que le métro, ou mon ordi, fonctionnent correctement sans que j’aie à y réfléchir.
Marcello Vitali Rosati : Effectivement, si l’ensemble des appareils techniques montraient leur fonctionnement, ce serait presque impossible de faire quoi que ce soit. Le problème arrive au moment où le fonctionnement est tellement acquis qu’il n’y a même pas la possibilité de s’interroger sur ce qui est en train d’arriver, donc, on n’a plus la possibilité de s’interroger sur ce que nous sommes en train de faire. Pourquoi les dysfonctionnements sont-ils intéressants ? Parce que, du coup, ils nous font comprendre que ce qui a été naturalisé n’est pas naturel. Quel est le problème de la naturalisation ? Si quelque chose est naturel, évidemment, il ne peut qu’être comme ça. La nature est invoquée justement pour appuyer quelque chose qui ne peut pas être autrement, donc, qui ne peut pas être questionné et les dysfonctionnements nous font voir qu’il n’y a pas de nature derrière, que ça pourrait donc être autrement.
Xavier de La Porte : Certes, la différence entre un marteau et mon bras, par exemple, c’est que mon bras m’a été donné naturellement et il peut difficilement être autre qu’il n’est, alors qu’un marteau pourrait être autrement. D’ailleurs, même si je suis nul en bricolage, je sais qu’il existe différents types, différentes sortes de marteaux. Mais j’ai du mal, quand même, à considérer que la naturalisation du marteau soit un problème majeur de l’humanité, donc, je demande à Marcello quel type d’appareil technique, comme il dit, lui fait redouter la naturalisation.
Marcello Vitali Rosati : Certaines applications. Le fait, par exemple, que tout le monde utilise Google Maps, à mon avis, on commence à voir qu’il y a un problème. On utilise Google Maps et on commence à croire que c’est simplement une façon naturelle, neutre, de naviguer dans l’espace ou de se repérer dans l’espace. Ce n’est pas un jugement contre Google Maps ou contre la technologie. Le problème, à mon avis, est qu’on ne se rend pas compte du fait que Google Maps est UNE manière de faire fonctionner quelque chose. Il implémente et il incarne UNE vision du monde, exactement comme le métro, c’est la même chose. Pourquoi le métro s’ouvre, ne s’ouvre pas, va à cette vitesse, etc., ça ne va pas de soi, ce n’est pas la seule manière pour le faire, il y en aurait plein d’autres. On en a choisi une, très bien. On doit évidemment en choisir une, mais est-ce qu’on est capable de savoir pourquoi on a choisi celle-là ?
Les résultats les plus pertinents de Google Search, le moteur de recherche ! Selon quels critères ? En fait, selon des critères spécifiques. Le problème n’est pas de savoir si le moteur de recherche est plus ou moins performant, il est de savoir quelle est la pertinence selon ce moteur de recherche.
Ce qui me fait peur, c’est qu’on croit qu’UNE application, UNE société a la seule solution à tous les problèmes. On ne le voit même plus que nous sommes en train d’effectuer un choix et que ce choix pourrait être différent.
Xavier de La Porte : OK. Donc, on n’interroge plus les spécificités de l’outil auquel on a recours, je suis tout à fait d’accord, d’ailleurs c’est vrai pour plein de trucs dans nos vies numériques. Par exemple, je suis fasciné par la vitesse à laquelle on s’est fait au infinite scroll, le scroll infini, la vitesse à laquelle on s’est habitué à faire défiler à l’infini des contenus, parce que, si on y réfléchit bien, l’infini est pour nous une expérience super incongrue. En matière de consommation, tout a une fin, puis quand on bouge, quand on lit un livre, un film, même une série a une fin, mais pas mon fil TikTok. Ça devrait nous interroger. Eh bien non, ça ne nous interroge pas, ça nous semble, maintenant, naturel, et je pourrais donner 10 000 autres exemples.
Mais, comme nous invite à le penser Heidegger, ce n’est pas du tout spécifique au numérique et beaucoup de nos outils techniques résultent de choix qu’on n’interroge plus : pourquoi on tourne un volant, par exemple, alors qu’aujourd’hui un volant de bagnole n’actionne plus rien de mécanique, il transmet juste un signal informatique. On pourrait légitimement se poser la question de savoir pourquoi on a encore des volants. Et même, prenons un outil technique plus ancien, le livre. Je parle du livre parce que Marcello est un spécialiste de l’édition numérique, il connaît donc très bien le livre et son histoire. On sait bien que les livres n’ont pas toujours ressemblé à ce à quoi ils ressemblent aujourd’hui, il y a eu le rouleau, il y a eu le volumen, le codex. En fait, ce n’est qu’après une longue évolution que le livre est devenu ce qu’on connaît aujourd’hui. Ça nous paraît parfaitement naturel qu’un livre soit comme ça, alors que, en fait, il aurait pu être autre chose et il l’a d’ailleurs été. D’où ma question : pourquoi Marcello est-il plus inquiet de la naturalisation de nos outils numériques que de la naturalisation d’un outil technique comme le livre ?
Marcello Vitali Rosati : C’est vrai, tu as raison. Il y a cependant, à mon avis, des différences importantes, j’en identifierai fondamentalement deux.
La première, c’est celle de la complexité. Il ne faut pas non plus penser que le livre est simple, loin de là, mais il est un peu plus facile d’en comprendre les spécificités techniques, donc les implications. Quand il s’agit d’une technologie numérique, plus la technologie numérique est complexe, moins je suis capable d’identifier quels sont les enjeux. J’ai un truc qui fait quelque chose, ce quelque chose semble être ce que je voulais, je n’ai aucune idée de comment il le fait, mais je l’utilise.
Si on regarde, aujourd’hui, un des problèmes des Large langage Models, qui nous donnent accès à des outils et des plateformes comme ChatGPT, par exemple, un des agents conversationnels, il est pratiquement impossible, même pour des personnes avec des compétences techniques un peu poussées, de saisir le fonctionnement, ne serait-ce que le fonctionnement basique.
La deuxième raison, c’est la concentration des acteurs qui gèrent ces technologies. Il y avait et il y a beaucoup d’acteurs capables de fabriquer des livres. Souvent, on me dit « tu dis que Word est un problème parce que c’est une technologie propriétaire pour écrire, mais, en fait même un stylo Bic est propriétaire ! » Oui, mais on peut acheter beaucoup de marques de stylos-bille, la compétition est large, donc, aussi, la différence potentielle. Ici, le problème, c’est qu’on a fondamentalement une poignée d’acteurs forts, qui sont au même endroit, qui partagent les mêmes valeurs et qui possèdent la quasi-totalité de ces technologies. Cette concentration me fait un peu peur et me semble un peu plus alarmante.
Xavier de La Porte : Là, je suis d’accord avec tout ce que dit Marcello au sujet de la complexité, de la centralisation des acteurs, comme différence de degrés de naturalisation entre le livre et les technologies numériques. OK ! Mais quelque chose me fait tiquer : son évocation rapide de Word. Je ne vois pas très bien ce que ce célèbre traitement de texte de Microsoft vient faire dans cette histoire de naturalisation.
Marcello Vitali Rosati : Première chose. Écrire avec un ordinateur n’est pas quelque chose de naturel, loin de là, l’ordinateur est fait pour calculer. Personne n’aurait l’idée de se mettre à écrire avec une calculette. Premier effet de la naturalisation, ça nous semble évident, désormais, d’écrire avec un ordinateur, alors que non, pas du tout ! Olivetti, par exemple, est sorti du marché parce qu’ils ont dit « les gens vont écrire avec une machine à écrire, on va améliorer les machines à écrire, par exemple des machines à écrire avec une mémoire et un écran », c’était quand même une bonne idée. Pourquoi avoir besoin de trucs qui calculent alors que je veux faire du texte ?
Il y a donc une histoire et puis, pour le faire court, une série d’acteurs, dont Microsoft, identifient le besoin des entreprises de gérer la bureautique : il faut écrire des lettres, il faut écrire des rapports internes, il faut écrire des ordres du jour des réunions, etc., et tous ces documents sont des documents qu’on écrit à la machine à écrire. Si on veut trouver un marché pour vendre des ordinateurs, puis des applications, c’est à ces gens-là qu’il faut essayer de vendre. Donc, on leur donne la possibilité d’avoir une machine à écrire dans un ordinateur et de faire la même chose que ce qu’ils faisaient. De quoi ont-ils besoin ? C’est là la représentation, par exemple le format A4 ou letter en Amérique du Nord, tout le développement du WYSIWYG, What You See Is What You Get avec cette idée : que vois-tu ? En fait, ce que l’imprimante fait. Et on naturalise ensuite ce modèle comme s’il était le seul possible pour écrire. Mais quand j’écris un roman, quand j’écris une lettre d’amour ou quand j’écris une édition critique, ce qu’imprime mon imprimante n’a pas beaucoup de sens. Le format A4 est l’un des pires pour lire du texte long, on s’est habitué à mal lire. On a jeté à la poubelle des compétences éditoriales et typographiques qui se sont développées pendant cinq siècles d’histoire de l’édition pour s’adapter à des documents bureautiques, comme si tout le monde ne pouvait que faire ça. Donc, là, on a un modèle qui s’impose comme le seul possible et qui détruit les autres et, en fait, il n’y a aucune raison. Pourquoi ?
Xavier de La Porte : Justement, pourquoi ? Marcello dit qu’il n’y a aucune raison, mais ce n’est pas vrai, il y a forcément des raisons qui expliquent qu’un modèle comme Word se soit imposé. D’ailleurs, je n’ai pas besoin de le pousser longtemps pour qu’il en trouve au moins une.
14’ 22
Marcello Vitali Rosati : 80 % des technologies qui nous sont propinées par ces grands acteurs du numérique obéissent fondamentalement à un seul paradigme, une seule vision du monde et quelle est cette vision ? Ce que j’appelle en effet l’impératif fonctionnel, il faut que ça marche. Que veut dire « il faut que ça marche » ? Il faut être efficace, il faut être productif, il faut, finalement, produire de la richesse. Ce qui me semble poser problème ce n’est pas que quelqu’un puisse vouloir s’enrichir ou que quelqu’un puisse être capitaliste, ce serait un autre débat. Ce qui m’inquiète c’est qu’on pense que la seule chose qu’on peut vouloir c’est être capitaliste. J’aimerais des technologies qui puissent faire autre chose, j’aimerais qu’on puisse s’asseoir et se demande « quels sont nos objectifs ? ». À chaque fois que je fais quelque chose que je puisse me demander « pourquoi je veux le faire ? » cette fois-là.
Xavier de La Porte : L’efficacité comme critère unique et une efficacité qui, au départ, ne se mesure qu’à une seule aune dans le cas de Word : l’écriture et la transmission de documents à l’intérieur de l’entreprise. OK. La démonstration est hyper-convaincante, mais Word, même s’il a beaucoup changé, c’est un vieux truc et il me semble qu’on utilise plein d’outils et de services qui sont nés pour autre chose que pour garantir l’efficacité dans l’entreprise. Des services ultrapopulaires comme Instagram ou TikTok, pour ne prendre qu’eux, ne sont pas nés dans l’idée d’améliorer la bureautique. Là je pense piéger Marcello, mais il me donne un exemple imparable.
Marcello Vitali Rosati : Typiquement, pendant la Covid, une des caractéristiques, à mon avis, de l’adoption massive d’une série de, entre guillemets « solutions informatiques », était de ne pas se poser la question. À l’université, par exemple, il semblait évident qu’on devait prendre la technologie la plus simple, la plus intuitive et la plus performante. Si on demandait « performante pour faire quoi ? », en fait la question ne se posait même pas, ce n’est pas la peine de perdre du temps, de s’asseoir autour d’une table et demander « c’est quoi un cours pour toi ? Est-ce qu’une vidéoconférence Zoom est différente d’une autre vidéoconférence, par exemple BigBlueButton, Jitsi, Teams ou what else ? Que tu fais-tu pendant tes cours ? Quel est ton objectif ? »
Xavier de La Porte : Imparable, on l’a tous vécu. Au moment de la Covid, c’est vrai, on ne s’est pas posé beaucoup de questions. De manière immédiate et massive, c’est d’ailleurs ce qui fait sans doute de la pandémie un moment exceptionnel de naturalisation, on a pris ce qui marchait mieux. Mais de là à dire qu’il y a des visions du monde dans les plateformes de visioconférence, peut-être que Marcello exagère un peu. Alors, comme il en a cité plusieurs, je lui demande de me préciser les différences qu’il voit entre elles.
Marcello Vitali Rosati : Jitsi, par exemple, donne la possibilité de sélectionner la fenêtre qu’on veut regarder, ce qui, je trouve, est très utile dans certaines conditions de rencontre : il y a plusieurs personnes, je veux regarder ce que fait une personne en particulier, donc je clique sur la fenêtre ; ou il y a plusieurs personnes qui présentent, je peux choisir. C’est donc beaucoup plus démocratique comme type d’organisation que Zoom qui a été pensé, fondamentalement, pour des petites réunions d’entreprises, vraiment le business meeting. Du coup, il porte des valeurs. Le problème n’est pas de dire « ce n’est pas bien », c’est « est-ce que ces valeurs-là sont mes valeurs dans ces cas particuliers ? »
Xavier de La Porte : D’accord, mais là, j’ai deux objections.
La première. Il me semble qu’une des particularités des outils et services informatiques, c’est leur adaptabilité à l’évolution technique – capacité de calcul, stockage, etc. –, mais aussi adaptabilité aux usages. C’est pour cela qu’il y a tout le temps de nouvelles versions, avec des évolutions constantes. Coller au plus près des usages, c’est même une obsession pour ces boîtes. C’est d’ailleurs ce que me racontait Julien Le Bot dans l’épisode qu’on avait fait sur Facebook. Il expliquait, Julien, que le génie de Zuckerberg avait précisément consisté à créer des métriques ultraprécises sur les usages qui, avant de récolter des données personnelles qui ont été vendues à des annonceurs, lui ont servi pour faire évoluer la plateforme selon les usages.
Julien Le Bot, voix off : Il est entouré de tout un tas d’ingénieurs qui peuvent coder, etc., mais ils ne codent pas à l’aveugle. C’est-à-dire que tout ce qui est déploiement fonctionnel est corrélé soit à une demande, parce qu’ils ont vu dans les métriques d’usage que les internautes, sans cesse, cherchaient par exemple à revenir sur la page de Xavier de La Porte, ils se sont donc dit « il faut faire quelque chose, il faut qu’on puisse structurer ce besoin, il faut même qu’on développe cet appétit d’échanges autour de Xavier de La Porte. D’ailleurs, ce qui est très intéressant, c’est que, quand en 2006 ils ont sorti le fil d’actualité, le newsfeed, les premières réactions des internautes c’est de dire stop this shit on, « il faut vraiment qu’on arrête, arrêtez-moi cette merde ! », parce que je me rends compte que chaque fois que quelqu’un actualise son profil ça me remonte sur ce qu’on appelle ce fil, c’est-à-dire l’apparition antéchronologique de toutes les bidouilles sur Facebook.
Xavier de La Porte : Qui, avant, n’existait pas, parce qu’il fallait aller sur la page de quelqu’un pour voir ce qui s’y passait, tandis que là, ça arrive chez vous directement.
Julien Le Bot, voix off : Avant, on allait voir et, désormais, c’est rendu visible. En fait, c’est une architecture de l’information. Il s’est rendu compte qu’il fallait justement rendre visibles les désirs et les us et coutumes de chacun sur Facebook. Donc, le fil d’actualité n’a fait que rendre tangible le fait qu’on passait son temps à aller scruter, à aller voir ce qui se passait sur le profil de son voisin. Donc, la première réaction des internautes a été de dire « mais qu’est-ce qu’il fait ? Il est en train de rendre visible, quelque part, tout ce qu’on a mis comme données sur Facebook ». Oui, sauf que les gens les avaient mises librement, ils avaient consenti à livrer leurs informations, donc, quelque part, les internautes se sont trouvés face à leur propre paradoxe : ils étaient OK pour télécharger leurs propres informations et pour aller voir chez le voisin, mais quand on rendait visible le fait qu’ils allaient voir chez le voisin ce qui se passait, ils n’ont pas du tout apprécié.
Xavier de La Porte : J’adore cette histoire du fil d’actualité de Facebook, parce que, pour moi, elle est l’illustration parfaite de cette adaptabilité des services numériques. Il suffit de voir la différence entre le TikTok des débuts, où des jeunes se filmaient quelques secondes en train de danser, et ce que c’est devenu aujourd’hui. Ce que je veux dire par là, c’est que ces outils évoluent très vite, ils s’adaptent, ils mutent parfois même de manière très spectaculaire. Donc, je me demande si Marcello ne les naturalise pas un peu lui-même en considérant que l’intention qui a présidé à leur création reste toujours la même. Pour le dire autrement, c’est ma première objection : un outil parfaitement productiviste à sa naissance ne peut-il pas changer ? Ne peut-il pas devenir ludique par exemple ?
Marcello Vitali Rosati : C’est vrai, cependant deux considérations.
La première, la raison pour laquelle ils s’adaptent, c’est toujours la même : pour gagner plus d’argent. Ce qui, encore une fois, n’est pas mauvais en soi, mais qui oriente fortement : pourquoi je choisis de m’adapter de cette manière plutôt que de cette autre manière ? Eh bien, parce qu’il y a un impératif derrière.
La deuxième considération, c’est que, pour cette raison, il est nécessaire qu’ils aillent chercher une quantité et une uniformité d’usage. Jamais une grande entreprise de ce type fera des choix qui s’adressent à des marchés de super niche. Je te fais un exemple. Dans le monde de l’édition, il y a une communauté très importante, mais très minoritaire, de personnes avec des usages très complexes et très lettrés que sont les philologues qui font des éditions critiques. Quel serait l’intérêt de Microsoft à développer un outil qui réponde, en plus, à des paradigmes épistémologiques très complexe et très idiosyncrasiques ? Là je veux parler au philologue qui fait une édition d’un texte grec avec un appareil critique qui cite aussi l’arabe. En fait, c’est impossible que ce paradigme, qui est pourtant d’une richesse, d’une histoire infinie, représente un intérêt d’une plateforme. Or, il se trouve que Robert Alessi, un chercheur au CNRS ici à Paris, a développé un paquet LaTeX qui s’appelle ekdosis, pour faire exactement ça. Évidemment, il n’est pas possible de faire ça pour une entreprise, parce que le temps que Robert a passé pour développer cet outil est immense et ne sera jamais rentable d’un point de vue capitaliste. Je ne dis pas qu’il ne faille pas. Parfois, on a des usages mainstream, il y a un marché mainstream, il est là et on peut s’interroger sur les raisons politiques. Ce qui est problématique, à mon avis, c’est qu’il n’y ait que ça.
Xavier de La Porte : Marcello a parfaitement répondu à ma première objection. C’est vrai, même si ces outils s’adaptent, il faut s’interroger sur ce qui guide les choix de l’adaptation. D’ailleurs, là, je repense au marteau et à la célèbre chanson de Claude François Si j’avais un marteau. Si on écoute bien cette chanson, on s’aperçoit que Claude François restreint les usages possibles du marteau entre la première proposition et la deuxième. Au début, il veut cogner le jour, il veut cogner la nuit et il finit par construire une maison, c’est hyper-décevant. Sauf que là, en réécoutant, je m’aperçois que j’avais compris de travers. En fait, il ne veut pas taper sur le jour et la nuit, ce qui aurait été poétique, il veut juste cogner toute la journée et toute la nuit, c’est encore plus décevant, donc je n’en parle pas à Marcello.
Première objection balayée ! Si les services numériques évoluent ce n’est pas toujours pour des raisons désirables.
Du coup, j’ai une seconde objection, qui porte, d’ailleurs, sur les services mainstream dont a parlé Marcello : les usagers ne jouent-ils pas de cette efficacité ou même la déjouent-ils ? Et là, je pense à un truc que j’ai peut-être déjà raconté. Je m’amuse assez souvent avec les algos des ??? [24 min 07] Instagram ou des vidéos TikTok, je m’en amuse pour les configurer le plus vite possible autour d’un sujet. J’ouvre l’appli et je me dis « dans dix minutes, je ne veux voir que des vidéos de foot, que des vidéos de gens bourrés ou alors que des vidéos de fachos » et je sais ce qu’il faut faire. Il faut rester le plus longtemps possible sur les vidéos qui sont dans les thématiques voulues, il faut aller consulter les comptes qui postent, il faut éventuellement les liker. L’algo est tellement efficace que les propositions se resserrent très vite autour d’un sujet. Mon but est juste, parfois, de me distraire, parfois de m’instruire, mais il est aussi de perturber l’algo, qu’il ne sache plus quelles pubs me balancer, que la prochaine fois que j’ouvre l’appli, il ne sache plus ce que je cherche parce que ce que je cherche change tout le temps.
Je pensais être hyper-malin en faisant ça et, un jour, j’en parle à un copain qui bosse chez TikTok, il est assez haut placé, donc, en gros, il connaît très bien les usages de la plateforme et il me dit : « Tu es super naïf de penser que tu es le seul à faire ça !. En fait, plein de gens jouent tout le temps avec l’algo et c’est d’ailleurs un problème pour nous. »
D’où ma deuxième objection à Marcello : ne faudrait-il pas avoir un peu plus confiance dans les usagers ? Ne faudrait-il pas partir du fait qu’ils déjouent l’efficacité, qu’ils la tordent, qu’ils la détournent ?
Marcello Vitali Rosati : Je nuancerais un peu ton enthousiasme pour plusieurs raisons.
Ce que tu proposes : on utilise un algorithme pour lui faire faire autre chose, pour lui faire faire ce qu’on a envie qu’il fasse. Par exemple, je veux voir des vidéos fachos, je sais comment le faire croire à l’algorithme. Pour pouvoir le faire, il faut un niveau de littératie plutôt poussé. Ce qui me ferait dire qu’aujourd’hui ce n’est plus la solution, c’est que le niveau de complexité est un peu trop élevé pour que ces tactiques fonctionnent. C’est la première raison.
La deuxième, c’est que, du côté des GAFAM, la force de réappropriation de nos techniques est plus forte que notre capacité, c’est-à-dire que tout détournement devient un détournement systématique qui est repris par la boîte, que, ensuite TikTok te proposera peut-être. Du coup, tu as deux profils, facho et pas facho. Tu auras un bouton et on aura aussi rendu commercialisable la technique.
Xavier de La Porte : Vu comme ça, ce n’est pas faux et c’est même assez déprimant.
D’ailleurs, ce que je racontais tout à l’heure à propos de mon usage très malin d’Instagram ou de TikTok, en fait ça marche pas. Parce que, au milieu de celles que cherche, l’algo vient toujours me proposer des vidéos qui n’ont rien à voir avec le sujet, comme s’il pressentait que je pouvais me lasser, et ça marche ! Combien de fois, j’ai été entraîné ailleurs et j’ai fini par passer des heures à regarder des conneries, ce qui est le but ultime de ces plateformes.
Alors, comme Marcello a balayé mes objections, des objections qui, en bon réformiste que je suis, visaient à envisager que le bug n’est peut-être pas la seule solution, que Marcello exagère sans doute sa nécessité, eh bien j’accepte de revenir au bug. Donc, revenons-y. Pourquoi, alors, Marcello considère-t-il que le bug c’est plus efficace que tout ça ?
Marcello Vitali Rosati : D’abord, le bug casse et je pense que casser c’est quelque chose de fondamental.
Xavier de La Porte : Ah, les Italiens ! Toujours casser les trucs !
Marcello Vitali Rosati : Toujours casser quelque chose. Le bug a cet effet un peu radical de bloquer le flux et il me semble que cet arrêt est nécessaire si on veut vraiment réfléchir. À mon avis, le bug est la pensée critique, est la philosophie.
Xavier de La Porte : Waouh ! Marcello comme tu y vas là ! Le bug est la pensée critique, le bug est la philosophie ? Vraiment ? J’adore les théories audacieuses mais là, n’est-ce pas un peu exagéré ? Je ne vois pas du tout où Marcello va chercher cette idée que la philosophie qui, pour sa partie occidentale en tout cas, est née sous le soleil d’Athènes, quelques siècles avant Jésus-Christ, ce que la philosophie, cette philosophie-là, a à voir avec un outil informatique qui plante, avec un noir du l’écran, avec une touche qui ne marche plus. Là, j’interromps aimablement Marcello et je lui demande ce qui justifie ce rapprochement acrobatique.
28’ 28
Marcello Vitali Rosati : L’image qui me devient de plus en plus chère, je dois dire, est celle de Socrate, Socrate plante. Dans Phèdre il dit « c’est le démon qui m’empêche toujours de faire c’est que je suis en train de faire ». Le démon n’est pas un truc positif, c’est juste un dysfonctionnement.
Donc, la première caractéristique, c’est celle de dire « ça ne marche plus ». Ce fait de ne pas marcher, en plus, bloque ce qui est naturalisé au plus haut terme, notre impératif productiviste, qui me semble la chose la plus difficile à remettre en question. Si je te demandais « pourquoi veux-tu regarder des vidéos fachos ? », probablement que tu aurais une réponse du type « parce que ça m’intéresse de comprendre ce type de discours ; je suis journaliste, il faut que je comprenne ce qui se passe, etc. ». On a donc tous, quand on nous pose des questions de ce type, le paradigme fonctionnel qui se met en tête, c’est-à-dire que jamais tu ne répondrais « pour perdre du temps ! »
En fait, le bug nous permet de dire qu’il y a peut-être des choses pour lesquelles la question « à quoi cela sert-il ? » n’est pas la bonne, donc, on se bloque, on s’arrête et là il y a quelque chose qui émerge. Ensuite, le bug permet de penser autrement de dire « là, ça ne marche plus » et le bug propose d’autres pistes qui n’ont pas été pensées auparavant, il propose d’autres actions possibles.
Xavier de La Porte : Pas mal, je reconnais. La réinterprétation que fait marcher Marcello du démon de Socrate comme un fonctionnement interrompu, nécessaire pour penser autrement, donc, comme processus fondamental de la philosophie, c’est fort ! Et c’est vrai qu’en allant chercher dans son livre je retrouve la citation du Phèdre qui est assez éclairante : « Mon beau garçon – dit Socrate à Phèdre qui s’inquiète de le voir se figer un long moment avant de traverser une rivière – quand j’étais sur le point de traverser le fleuve, il m’est arrivé de sentir le démon et le signe familier qui m’empêche de faire ce que j’étais sur le point de faire ». Donc OK, je veux bien que le bug soit une sorte d’interruption aux vertus philosophiques. Mais Marcello, lui, semble aller plus loin en postulant que la philosophie est un bug.
Marcello Vitali Rosati : Une bonne philosophie, à mon avis, bloque le fonctionnement, on s’arrête, on commence à réfléchir, on perd du temps, donc on perd de la richesse, on ne trouve pas de solutions – normalement une bonne philosophie ne trouve pas de solution –, on n’est pas plus heureux, ce n’est pas vrai. La philosophie est un bug parce qu’elle va complètement au contraire de tous les paradigmes que nous avons naturalisés, elle les questionne de façon complètement radicale et c’est ce qui me semble une bonne promesse, aujourd’hui, pour le futur de la philosophie, un bon défi : que ce petit insecte, que ce petit nuisible continue à essayer de survivre, qu’il arrive à survivre malgré le fait que l’on fasse tout pour s’en libérer.
Xavier de La Porte : D’ailleurs, en appui sa théorie, Marcello cite dans son livre une étymologie du mot bug que j’ignorais complètement. En termes d’étymologie, il y a celle que tout le monde connaît, celle de la légende, le bug comme « insecte » en anglais, auquel Marcello vient de faire référence. On connaît l’histoire : en cherchant, dans les années 50, la cause d’une panne du Harvard Mark, qui était un des premiers ordinateurs, on retrouve un insecte qui, manifestement, a foutu en l’air le circuit électrique. Une informaticienne présente, la très célèbre Grace Hopper, colle même cet insecte dans son journal de service, qu’on peut encore consulter. Mais, il semblerait que l’usage du mot « bug », pour désigner une panne technique, n’ait rien à voir avec cette histoire, en fait il a même, vraisemblablement, préexisté à l’informatique. Marcello a son hypothèse qui est assez intrigante.
Marcello Vitali Rosati : Le premier sens, même dans des dictionnaires pas très vieux, de la fin du 19e, est « spectre », un terme qui semble venir de l’ancien gallois, donc c’est une créature fantastique.
Xavier de La Porte : Donc, c’est le démon de Socrate !
Marcello Vitali Rosati : C’est là que je me suis dit que c’est vraiment le démon de Socrate. C’est quelque chose qui fait peur, qu’on ne voit pas.
Xavier de La Porte : Là, j’interromps à nouveau Marcello. Bien sûr, le bug c’est quelque chose qui fait peur, pas seulement parce qu’on ne le voit pas et que, du coup, ça a un côté spectral, ça fait peur surtout parce que ça casse, ça bloque, ça fait perdre des données et là il faut que je confesse que je trouve même étonnant que Marcello consacre un livre à faire l’éloge du bug, à souhaiter un événement qui est pénible, qui peut être grave, voire dangereux. Il y a des bugs qui font perdre de l’argent. Le célèbre Flash Crash de 2010, à New-York, a fait perdre des milliards de dollars à des entreprises boursières en quelques minutes, parce que des algos de trading à haute fréquence se sont mis à faire n’importe quoi. Il y a d’autres bugs qui font perdre de l’argent, mais aussi des années de travail, je pense à celui qui a causé le crash de la première version d’Ariane 5.
Diverses voix off : Tous les paramètres propulsifs sont normaux et la trajectoire est normale.
Et non la trajectoire n’est plus normale. Très brutalement, Ariane 5 a commencé par s’incliner vers la gauche ; la coiffe des satellites va se disloquer ; l’un des boosters semble s’écarter avant d’exploser. L’officier de sauvegarde déclenche alors la destruction totale de l’engin, une bombe de 740 tonnes.
Le vol n’aura duré que 37 secondes.
Xavier de La Porte : Et puis, il y a des bugs dangereux ou qui peuvent être dangereux. D’ailleurs, c’est assez marrant d’aller voir ceux qui sont recensés par les propriétaires de Tesla dans YouTube.
Diverses voix off : Bonjour et bienvenue dans cette nouvelle vidéo. Comme d’hab, on est dans la campagne picarde. Il m’est arrivé un petit bug, je voulais le partager avec vous. Si quelqu’un sait comment corriger ce bug, je suis preneur, sinon j’appellerai l’assistance Tesla. Allez, à tout de suite ! Jingle.
J’entends souvent dire que la Tesla c’est un iPad avec des roues. Je ne suis pas vraiment OK avec ça, car la voiture qui est autour de l’iPad est vachement bien, mais, de temps en temps, il arrive à son iPad de planter. Là j’écoute de la musique, je change d’album, et c’est le bug ! Je me retrouve sans écran, la tablette reboot. Elle a décidé de me couper la musique, voilà ! Ceux qui découvrent la modèle 3 peuvent constater qu’il n’y a qu’un seul écran central, donc je n’ai plus d’affichage, notamment à quelle vitesse je roule ; je roule en aveugle.
Xavier de La Porte : Bon, là ça ne dure pas, ce n’est pas très grave. Mais on sait que, dans de très rares cas, des conducteurs de Tesla sont morts dans des accidents causés par des problèmes informatiques. Mais il y a des bugs carrément ravageurs. Dans son livre, Marcello cite une étude britannique qui estime que des bugs informatiques seraient responsables de plus de 800 morts par an dans les hôpitaux anglais, c’est énorme ! Huit cents, on comprend que ça fasse flipper ! D’autant plus que, aujourd’hui, l’automatisation est devenue une règle, cf. l’histoire de la ligne 14 du métro que je racontais tout à l’heure. Comment Marcello peut-il appeler de ses vœux des événements pareils ?
Marcello Vitali Rosati : Évidemment, l’idée n’est pas de faire l’éloge des accidents, mais quand accident il y a, il faut s’interroger si le bug est vraiment la cause de l’accident. Souvent, les problèmes sont des problèmes structuraux beaucoup plus complexes : qui prend des choix de « modernisation », entre guillemets, dans un hôpital et pourquoi ? L’idée d’avoir naturalisé une espèce d’impératif d’adoption rapide de tout, cette idée que pour être bien, il faut acheter la dernière technologie. En fait, le bug n’est pas le tueur, le tueur, c’est cette rhétorique, le tueur c’est un certain fonctionnement de l’hôpital, la pression commerciale sur l’entreprise qui produit le software, qui doit le livrer rapidement, etc.
Donc, ce que révèle le bug, c’est tout un mécanisme très problématique politiquement, éthiquement, etc., qui fait en sorte, ensuite, que le bug peut tuer, mais ce n’est pas le bug qui a tué. Du coup, même dans ces cas tragiques, le bug a la capacité de révéler quelque chose qu’on n’avait pas vu.
Xavier de La Porte : Décidément, Marcello a réponse à tout, c’est fascinant. En l’écoutant, je repense à un vieil épisode du <enm>Code a changé que j’avais fait avec le grand informaticien, Gérard Berry, au sujet des crashs des deux Boeing 737 Max qui avaient eu lieu à cinq mois d’intervalle, en 2018 et 2019. Ils avaient tué 346 personnes, je crois. La cause : la panne de la sonde qui était censée mesurer l’inclinaison de l’avion et le dysfonctionnement d’un système informatique censé le stabiliser. J’avais demandé à Gérard si, selon lui, c’étaient les programmes informatiques qui étaient en cause dans ces deux accidents. Voici ce qu’il m’avait répondu.
Gérard Berry, voix off : Pas vraiment. Le système informatique fait ce qu’on lui a dit de faire et la grande cause c’est quand même l’analyse système, c’est le principe de ce qu’on lui a dit de faire qui ne marche pas pour tout un tas de raisons.
Xavier de La Porte : La suite de l’épisode avait consisté à déployer ces raisons. Et, ce qu’expliquait Gérard, va complètement dans le sens de ce que dit Marcello. Ce qui était en cause, dans ces deux crashs, c’était la raison même pour laquelle on avait installé ces systèmes de stabilisation automatique. C’est-à-dire que même si ces deux appareils étaient quasi neufs, le Boeing 737 Max est un vieux modèle sur lequel la société américaine a installé de nouveaux moteurs, plus économiques. Mais, comme ces moteurs étaient plus puissants, ils déstabilisaient l’avion. Il avait donc fallu installer un système technique et informatique pour rééquilibrer automatiquement l’avion. Or, la plupart des pilotes n’étaient pas au courant de l’existence d’un tel système du fait même qu’ils avaient été formés aux nouveaux modèles de Boeing en quelques heures et sur un iPad, tout cela par économie encore. Donc, quand le logiciel s’est mis à faire juste ce pourquoi il avait été fabriqué, comme dirait Gérard, mais avec des données fausses, eh bien les deux avions se sont mis à faire n’importe quoi et les pilotes n’ont rien compris à ce qui se passait.
Cette histoire illustre parfaitement ce que vient de dire Marcello. En l’occurrence, ce bug a révélé tout un tas de défaillances dont l’informatique n’est pas vraiment la cause. D’ailleurs, Boeing vient de passer un deal avec la justice américaine pour éviter le procès, parce que, en fait, ça aurait été le procès de l’entreprise entière.
Ça, c’est un cas particulier. Mais, de manière plus générale, est-ce que c’est ce type de révélations auxquelles Marcello pense quand il dit que le bug révèle quelque chose ?
Marcello Vitali Rosati : Le bug nous révèle ce qu’il y a derrière le fonctionnement de quelque chose et nous oblige à nous rendre compte que ce fonctionnement est le fruit d’une série de choix qui sont orientés par des valeurs, des visions du monde, des volontés, des désirs. Et puis on se dit « du coup, peut-être qu’on aurait pu vouloir que ça marche autrement » et là, une multiplicité s’ouvre devant nous et c’est cette multiplicité qui me semble fondamentale. Et puis il nous oblige, au moins il nous pousse à augmenter un peu notre littératie et notre maîtrise
Xavier de La Porte : Eh bien oui, évidemment, parce qu’on veut comprendre comment ça marche, pourquoi ça marche comme ça et pas autrement, comment ça pourrait marcher autrement. On s’intéresse à des détails matériels qu’on pensait triviaux et c’est pour cela que nous augmentons notre littératie, c’est-à-dire notre compréhension des processus informatiques et de ce qui les sous-tend.
Le bug a des vertus, Marcello m’a pleinement convaincu. Il faut des bugs, mais là, il y a un problème parce que les bugs ça arrive, OK, mais ça n’arrive pas si souvent que ça, je parle des bugs qui peuvent vraiment nous faire réfléchir à la machine. La plupart du temps, nos outils marchent bien, même très bien, et, quand ils déconnent, ça dure trois secondes et puis on oublie.
Donc, si on veut malgré tout réfléchir à nos outils techniques, si on veut augmenter notre compréhension des enjeux, notre maîtrise, notre littératie, on ne peut pas attendre le surgissement du bug, il faut être un peu plus proactif, mais comment ? Comment faire pour ne pas être passif dans cette histoire ? Quand je pose la question à Marcello, il dézippe sa sacoche, qui est sur la table, et il sort son ordinateur.
Marcello Vitali Rosati : Mon ordinateur, que j’ai ici, malheureusement les personnes ne pourront pas le voir sur le podcast.
Xavier de La Porte : Ou heureusement, parce qu’il n’est pas sublime ! Je suis désolé !
Marcello Vitali Rosati : Une des dernières fois que j’ai pris l’avion, ils m’ont arrêté au contrôle de sécurité et ils m’ont demandé de le démonter, parce que, en effet, ils ne sont plus habitués à voir ces trucs-là surtout dans des aéroports comme Montréal ou Paris où il n’y avait que des MacBook Air qui passaient et puis le mien. Ils m’ont dit : « Mais Monsieur, c’est quoi ça ? – C’est un ordinateur. » Parce qu’ils avaient peur que ça soit une arme ou un truc ! C’est un vieil ordinateur de 2008, je pense, un ThinkPad X200, un des rares ordinateurs qui peut être reconditionné en le vidant de toute pièce propriétaire. Donc, tous les logiciels qui tournent dessus, y compris les BIOS, sont libres. Du coup, il donne la possibilité de tout voir. C’est évidemment une vieille machine, elle fonctionne très bien pour faire ce que je dois faire. Par contre, quand je vais sur certains sites, typiquement le site de la SNCF, etc., il y a tellement de JavaScript que ma machine rame. Ça révèle des choses, ça révèle, par exemple, un usage énorme de certaines solutions, de certaines applications, typiquement JavaScript qui tourne côté client, qui est invisible pour quelqu’un qui a le MacBook acheté hier. Ça permet aussi de se poser la question : est-ce que c’est nécessaire ? Aujourd’hui, acheter un billet de train, c’est effectivement beaucoup plus lourd et beaucoup plus compliqué qu’il y a dix ans et, à la fin, ça fait la même chose, peut-être moins bien. Ça permet aussi de se questionner sur ce qui est en train de se faire : est-ce que c’est vrai qu’on est dans ce progrès linéaire et, en fait, voir que ce n’est pas comme ça. En plus, ça permet une autre chose : ça permet justement d’aller regarder les différents composants de la technologie, que ça soit des composants matériels ; par exemple, ici, j’ai pu monter et démonter la caméra tout seul, avec des vis.
Xavier de La Porte : Quand il parle de son vieil ordi, manifestement Marcello est intarissable, tout ce qu’il raconte est passionnant ! Mais là, je l’interromps sur son truc des vis, parce que, moi, je ne vois pas le kif de démonter et remonter sa caméra. Quel est l’enjeu là-dedans ?
Marcello Vitali Rosati : Je trouve un peu bizarre qu’il n’y ait pas de débat public sur le fait que nous sommes habitués à acheter des dispositifs sur lesquels nous avons de moins en moins de droits physiques. C’est vrai pour les téléphones, c’est vrai pour les voitures. Désormais personne, même un bon mécanicien, n’a idée de ce qui se passe dans l’ordinateur d’une voiture. Il peut juste brancher un iPad et regarder ce que son application lui dit. Je trouve que c’est très problématique aussi d’un point de vue théorique. Ce n’est pas seulement le fait de dire « tout logiciel propriétaire est un mal parce qu’on ne sait pas ce qu’il fait et je peux ne pas avoir confiance ». Cela est vrai. Mais même avant de ne pas avoir confiance, simplement le fait de dire « j’ai acheté ce truc et, si je veux, je ne peux pas enlever les vis ! Pourquoi ? ». Je ne dis pas que tout le monde doit enlever les vis, mais pourquoi je ne peux pas le faire ? Pourquoi je ne peux pas savoir ce que fait un logiciel qui tourne, par défaut, sur mon ordinateur ? Cette machine vous permet de faire tout ça.
44’ 12
Xavier de La Porte : Là, je comprends pourquoi Marcello a intitulé son livre Éloge du bug. C’est une référence à un livre qui est paru en 2009, qui est devenu un classique de la littérature sur la technique, Éloge du carburateur : Essai sur le sens et la valeur du travail de Matthew Crawford. Dans Éloge du carburateur, Crawford fait l’histoire de notre déconnexion à la matérialité des objets techniques qui nous entourent, une déconnexion qui fait qu’on ne sait plus comment marche la plupart des machines qui nous entourent. Crawford déplore cette ignorance et la perte de pouvoir qu’elle induit. D’ailleurs, dans le livre, il raconte comment il a quitté son poste de prof de fac pour ouvrir un magasin de réparation de motos, Éloge du carburateur, donc.
Marcello est toujours prof de fac, et il a décidé qu’il voulait pouvoir trifouiller dans son principal outil de travail qu’est son ordi. Il a dit, au début de sa phrase, un truc qui m’intrigue. Il a dit qu’il n’y avait pas de débat public autour du fait qu’on achetait des outils sur lesquels on avait de moins en moins de droits, des outils qui tournent avec des logiciels qui sont propriétaires. C’est tout à fait vrai. En dehors de milieux comme celui du logiciel libre, il n’y a pas de débat, alors que c’est quand même un truc de dingue d’utiliser quotidiennement des logiciels qui ne nous appartiennent pas, dont les propriétaires peuvent faire à peu près ce qu’ils veulent.
Un exemple m’avait été raconté par Nicolas Taffin dans un épisode sur la typographie. Nicolas m’avait raconté comment, pendant des années, les gens qui utilisaient les logiciels Adobe, qui sont ultracourants dans le monde du design, de l’édition, etc., pouvaient utiliser, à l’intérieur, une banque de couleurs qui s’appelle Pantone, jusqu’au jour où !
Nicolas Taffin : Cette année, les couleurs ont disparu des documents d’Adobe à cause de la rupture entre Pantone et Adobe. Donc, quand on ouvre un vieux document où il y avait des couleurs Pantone, c’est remplacé par du noir, c’est caviardé par le logiciel. Si on a travaillé sur une collection, qu’on ouvre un truc de l’année dernière, eh bien c’est du noir et on n’a plus Pantone. Le manque de liberté te saute parfois à la figure !
Xavier de La Porte : C’est dingue, c’est un pouvoir gigantesque des éditeurs de logiciels et c’est l’effet direct du fait qu’on ne sera pas propriétaire des logiciels qu’on utilise. Alors, pourquoi ça ne fait pas débat ? Pourquoi n’en parle-t-on pas en dehors de quelques milieux ?
Marcello Vitali Rosati : Parce qu’on a un peu l’impression que ce sont des choses qui ne comptent pas beaucoup, ce que j’aime appeler le mépris pour la matérialité ou la rhétorique de l’immatériel, ; c’est comme cela que fonctionne le discours des GAFAM. Ils nous disent : « Ne t’inquiète pas trop des vis de ton iPhone ou du petit logiciel qui tourne derrière, il est fait pour ton bien, tu peux tranquillement déléguer cette chose à une entreprise qui s’en occupe, donc nous, et t’occuper de choses plus importantes, ta pensée. » Typiquement des politiques comme le fait de dire « tu n’as plus accès en tant qu’administrateur à ton ordinateur – ce qui de plus en plus le cas pour plein de dispositifs, évidemment pour les dispositifs mobiles mais aussi pour les ordinateurs –, parce que, comme cela, tu ne peux rien casser. Je te protège de toi. Tu pourrais écrire une commande qui efface des choses que tu ne veux pas effacer, j’évite que tu le fasses, je ne te donne pas le droit de le faire et il n’y a pas d’enjeux là-dedans ». Mais derrière ces discours, évidemment, on perd complètement la prise sur nos actions !
Xavier de La Porte : OK. En théorie je suis tout à fait d’accord et je trouve tout à fait intéressant ce que dit Marcello dans cette rhétorique qui nous incite à mépriser la matérialité. Mais, la matérialité, ça prend un temps de maboul. Bon an mal an, ça demande pas mal de compétences d’utiliser un ordi entièrement reconditionné quand tout ce qui le constitue, c’est-à-dire de la caméra au logiciel, est non-propriétaire ! D’ailleurs, même si ça n’est pas du tout l’intention de Marcello, je trouve même que ça a un côté un peu élitiste.
Donc, on se trouve face à une alternative : d’un côté, démonter et remonter son ordi, se mettre au logiciel libre, ce qui demande du temps et des compétences ; de l’autre côté, espérer le bug qu’on ne peut pas provoquer et qui peut même être assez nuisible.
Alors Marcello n’a-t-il pas quelque chose d’autre à proposer, de moins accidentel, de plus mainstream, quelque chose qu’on puisse vraiment faire, qui soit à la portée de tous ?
Marcello Vitali Rosati : Tout d’abord, je garde le bug. Je pense que ce qui est nécessaire c’est une rupture radicale du paradigme et cette rupture n’est pas nécessairement dans une intentionnalité humaine telle qu’on peut la désigner. Il y a quelque chose, dans ce que tu dis, de « nous prenons en charge nos vies et nous faisons quelque chose ». Je pense que cette irruption de quelque chose qui est complètement externe, et justement pas maîtrisable, est importante à garder.
Xavier de La Porte : Marcello allait développer un deuxième point. Mais là, je me dois de l’interrompre encore une fois. Je trouve assez étonnant cet appel à quelque chose qui vienne de l’extérieur de nous, qui dépasse l’humain, qu’on ne maîtrise pas. D’ailleurs, ça me rappelle mon prof de philo en prépa qui nous disait « le concours c’est le doigt de Dieu ! ». Je trouvais ça super chelou de dire à des gens qui essayaient désespérément de préparer ce truc que le résultat ne dépendrait pas d’eux. Si le concours c’est le doigt de Dieu, pourquoi bosser ? Ce n’est pas exactement ce que dit Marcello. Enfin, quand même ! On est en train de parler de trucs assez rationnels, comme la compréhension des mécanismes techniques, des enjeux qui les sous-tendent, la reprise en main sur nos outils, et lui dit « oui, mais il faut quelque chose qui surgisse d’ailleurs ». Donc, je lui objecte : OK, pour réformer notre rapport au numérique, ce que tu veux, c’est une transcendance, qu’on attende le messie ? C’est ça ?
Marcello Vitali Rosati : On peut peut-être s’interroger sur le fait que l’intentionnalité et le sens soient toujours des productions humaines, d’un individu qui pense. Assumer le bug, c’est aussi assumer le fait que nous n’avons probablement pas pensé nos idées géniales. D’ailleurs, elles viennent aussi, fondamentalement et à mon avis principalement, de la matérialité. Socrate justement, dans le Phèdre, explique que chaque chose qu’il dit ce n’est pas lui. Il dit « ça doit être les dieux du lieu, ça doit être l’arbre, là, qui m’a suggéré quelque chose ». Ou bien il dit « ça doit être ce que tu as dit, Phèdre ». Dans la tradition grecque classique, très souvent la pensée n’est pas quelque chose qui est produit par l’individu. Je pense que c’est quelque chose qu’il faudrait aujourd’hui penser de façon radicale, se rendre compte que, par exemple, mon idée d’aller manger dans ce restaurant-là ne vient pas de moi, elle vient de plein de facteurs et je ne suis pas le maître. Donc, finalement, je vais manger au restaurant peut-être aussi à cause d’une série d’interactions techno-culturelles dont fait partie la notification que j’ai eue sur mon téléphone, etc. Donc, peut-être, que le salut ne viendra pas forcément par une personne qui pense !
Je pense qu’il faut de plus en plus se questionner sur ce credo dans lequel il y a des êtres humains qui pensent et qui produisent du sens et puis la matière qui ne produit pas de sens. À mon avis, c’est plutôt l’inverse. Les êtres humains sont plutôt le résultat de la matière que l’inverse, surtout parce cette rhétorique, l’art de l’être humain qui pense, est une rhétorique qui détermine un élitisme fort, à la fin, parce que, évidemment, tous les êtres humains ne penseront pas au même niveau, il y en aura qui penseront mieux, etc.
Xavier de La Porte : Évidemment. Là se pose un vieux problème que Marcello développe dans son livre, le fait que la matérialité ait longtemps été considérée comme le domaine réservé des femmes, l’esprit étant, évidemment, la chasse gardée des hommes. D’une certaine manière, en rappelant notre dépendance égale à la matière, eh bien, on casse cette vieille répartition des genres.
Là, je comprends quelque chose. Je comprends que derrière l’éloge du bug que fait Marcello, il n’y a pas simplement une idée du rapport à la technique, ce qui serait déjà beaucoup ! Il y a aussi une pensée de l’humain, que l’humain n’est pas seul, que l’esprit humain n’est pas seul, qu’il y a aussi la matière et que quelque chose pense dans ou à travers la matière. C’est intéressant que, encore une fois, Marcello en appelle à Platon, donc à une philosophie très classique pour nous aider à réfléchir dire à notre monde technique. En l’écoutant, je me dis que c’est étonnant à quel point nos technologies contemporaines nous amènent à repenser la place de l’humain dans le monde et nous rappellent que nous sommes pris dans une matérialité dont fait partie la technique, et le bug est comme une alerte qui permet ce rappel.
Ce serait une belle conclusion, mais il faut aborder un dernier problème qui me semble à la fois essentiel et très actuel, c’est l’intelligence artificielle. Si tout ce que raconte Marcello sur le bug me semble parfaitement convenir à nos machines classiques, pour le dire comme ça, il me semble que ça s’applique un peu moins bien à l’IA. Pour le dire vite, je me demande si l’IA ne va pas tuer le bug. Dit comme ça, ça paraît un peu radical. Je m’explique. Prenons une catégorie d’intelligence artificielle que sont les grands modèles de langage qui sont à la base des robots conversationnels comme ChatGPT. Il peut évidemment y avoir plein de bugs dans les serveurs, dans les bases de données, sans doute aussi dans les programmes intermédiaires qui servent à faire marcher les modèles, etc., OK, mais, tout cela, on ne le voit pas ! Ce qu’on voit, c’est ce que nous dit l’IA, ce qu’elle écrit, ce qu’elle donne comme réponses aux questions qu’on lui pose. Or, quand on discute avec le robot conversationnel, et qu’il raconte n’importe quoi, est-ce qu’on peut considérer qu’il bugue ? Eh bien, ce n’est pas évident ! D’ailleurs, dans le jargon de l’IA, on ne dit pas que la machine bugue à ce moment-là, on dit que la machine hallucine. C’est un terme qui m’intéresse. Il est manifestement apparu il n’y a pas si longtemps dans les laboratoires de Google, on dit 2018, et il s’est vite imposé depuis. Pourquoi s’est-il vite imposé ? À mon avis, c’est parce que quand elle écrit une suite de mots inadéquats, on ne peut pas considérer, à proprement parler, que la machine fait erreur. En fait, elle suit juste un processus probabiliste qui lui donne un résultat. Le résultat n’est pas faux, comme une hallucination ! Une hallucination n’est pas fausse pour celui qui hallucine. Donc, je me dis qu’avec des modèles comme ça il y aura des hallucinations, mais il n’y aura plus de bugs. Pouf ! Toutes les vertus du bug, dont Marcello a parlé, disparaîtront. Je soumets mon hypothèse à Marcello, mais encore une fois, et pour la dernière fois, il me retourne comme une crêpe !
Marcello Vitali Rosati : Ce que tu dis ressemble un peu à l’idée que ces algorithmes-là ne seraient pas basés sur des théories. Non, je n’ai pas besoin d’une théorie, je donne des données et puis il y a quelque chose qui sort. En fait, c’est complètement faux ! Il y a une théorie derrière et cette théorie est ce qui permet aussi de mettre en place des systèmes d’évaluation et c’est tout le temps ce que font les entreprises qui travaillent dans ce domaine. On peut évaluer les capacités d’un algorithme à répondre à ce qu’on lui a dit de faire.
Qu’est-ce qu’un agent conversationnel ? Un agent conversationnel, en principe, c’est un algorithme qui est capable de manipuler la langue naturelle et de la manipuler au même niveau qu’en parlant cette langue. C’est la définition. Tous les articles sur le fait que ChatGPT ne donne pas des informations justes ou vraies me font beaucoup rigoler ! Évidemment ! Il n’est parfait pour ! C’est comme si je disais « cette voiture trie très mal les courgettes » ! En effet ! GPT est fait pourquoi ? Il est fait pour manipuler. Donc là, pour évaluer s’il y a un bug ou pas, il faut déjà savoir quel était l’objectif de l’algorithme, ce qu’on a modélisé. On a modélisé l’usage de la langue naturelle et là une autre question se pose : c’est quoi la langue naturelle ?
Je ne vais pas faire l’histoire, mais après des gros échecs de ces algorithmes-là, de ces systèmes experts qui étaient basés sur des théories linguistiques particulières, dans les années 80, on a commencé à se dire « peut-être qu’on peut penser la langue comme un système clos, fermé, un peu comme les structuralistes, dire que le sens d’un mot ne dépend pas de sa relation avec le monde, le sens de « soleil » ne dépend pas de la relation entre le mot « soleil » et l’étoile véritable qu’est le soleil, mais ça dépend juste de la relation de ce mot-là, de cette chaîne de caractères, avec l’ensemble de la langue, l’ensemble des autres mots ». C’est une idée théorique, cette idée-là est implémentée dans un algorithme et on peut évaluer si l’algorithme fait, ou pas, son travail en regardant s’il fait ce qu’on lui a demandé de faire. Il y aura sans doute des bugs, parce que quand j’ai écrit l’algorithme, quand les personnes ont écrit l’algorithme, elles n’ont pas pensé à des choses, peut-être qu’on n’aura pas bien choisi le corpus, qu’on n’aura pas bien choisi les paramètres, on aura mis une condition qui fait en sorte que, dans un cas particulier, etc., Même si l’algorithme est complexe, même si c’est vrai qu’avec ces algorithmes-là il est parfois très difficile de déboguer parce qu’on ne comprend plus où on en est, mais quand même, il reste que c’est quelque chose qui modélise quelque chose et qui donne des résultats par rapport à ce quelque chose qui est modélisé. Mieux ! Si ça ne marche pas, ça nous permet peut-être de nous poser la question : OK, ça c’est une définition possible des langues, peut-être que converser peut vouloir dire d’autres choses, du coup que je peux modéliser autrement et je peux avoir d’autres…
Je pense donc que c’est la manière de les vendre et de les mettre dans un discours qui en effet rendent de plus en plus difficile, typiquement pour ChatGPT, parce que personne ne sait à quoi ça sert. Donc, en effet, je ne peux pas évaluer s’il fait bien ou mal. Il fait des trucs, j’ai juste les résultats et je ne peux évidemment rien dire, parce que je ne sais même pas pourquoi il a été pensé.
Xavier de La Porte : Décidément, Marcello a réponse à tout et je trouve cette réponse-là lumineuse. Pour savoir si une machine dysfonctionne, il faut savoir pour quel usage elle a été pensée. Et c’est vrai qu’on ne sait pas très bien pourquoi les IA, comme ChatGPT ont été pensées, donc, on ne sait pas très bien si elle marche ou pas. Est-ce que leurs hallucinations peuvent être considérées comme des bugs ? Oui, si on considère qu’elles doivent dire des choses vraies, solides, et non, si on considère qu’elles doivent juste simuler le langage humain et la conversation. J’avoue que je n’avais jamais vu les choses comme ça et d’instinct ça m’amène à deux conclusions.
La première c’est assez flippant et ce serait bien qu’on soit plus au clair sur les intentions qui prévalent à la création de ces machines. Peut-être que ça se fera quand on aura des usages plus précis des IA générative, d’ailleurs ça commence. Mais en attendant, on est face à des machines assez singulières, on ne sait pas vraiment si elles marchent bien ou pas. D’où la seconde conclusion.
Est-ce que c’est si étrange de se trouver face à des machines dont on ne sait pas si elles marchent bien ou pas ? Pourquoi ça devrait nous gêner, alors que nous passons notre temps à vivre avec des humains dont on ne sait pas très bien, non plus, s’ils marchent bien ou pas, et ça ne se passe pas si mal ! Finalement, c’est peut-être ça qui rend si singulier notre rapport à ces nouvelles machines que sont les IA, c’est qu’elles nous rappellent les humains, y compris dans leurs manières incertaines de déconner.
Merci à Marcello Vitali Rosati. Je recommande évidemment le plus chaleureusement possible la lecture de son livre Éloge du bug qui est sorti dans la collection Zones de La Découverte.
À la prise de son c’était Alexandre Chénier, au mixage Basile Beaucaire et Cédric diallo ???. Réalisation Séverine Cassar.
C’était Le code a changé, un podcast original de France Inter.
