« Comment informer et transmettre pour comprendre les enjeux du numérique en 2024 » : différence entre les versions
m (→34’ 20) |
m (→45’ 01) |
||
Ligne 234 : | Ligne 234 : | ||
<b>François Saltiel : </b>Exactement. Félix Tréguer, peut-être plus globalement et pour poursuivre la question de Marie, c’est toujours cette même dialectique, que ce soit pour l’interdiction de TikTok ou pour le déploiement d’outils de vidéosurveillance, on va dire que c’est pour permettre une meilleure sécurité des gens. C’est quand même très dur de lutter contre cette idée qui est de dire que c’est pour notre intérêt, c’est pour la sécurité, que, « de toute façon, moi je n’ai rien à cacher, donc, ce n’est pas grave si on me filme ». J’imagine que c’est un discours que vous entendez depuis des années et des années. Quelle réponse peut-on apporter, puisque notre sujet c’est la transmission de l’information, pour que ces arguments soient intelligibles, qu’ils soient bien compréhensibles ? | <b>François Saltiel : </b>Exactement. Félix Tréguer, peut-être plus globalement et pour poursuivre la question de Marie, c’est toujours cette même dialectique, que ce soit pour l’interdiction de TikTok ou pour le déploiement d’outils de vidéosurveillance, on va dire que c’est pour permettre une meilleure sécurité des gens. C’est quand même très dur de lutter contre cette idée qui est de dire que c’est pour notre intérêt, c’est pour la sécurité, que, « de toute façon, moi je n’ai rien à cacher, donc, ce n’est pas grave si on me filme ». J’imagine que c’est un discours que vous entendez depuis des années et des années. Quelle réponse peut-on apporter, puisque notre sujet c’est la transmission de l’information, pour que ces arguments soient intelligibles, qu’ils soient bien compréhensibles ? | ||
==45’ 01== | ==45’ 01 (Véro)== | ||
<b>Félix Tréguer : </b>Tout à l’heure, on parlait un peu des discours de propagande à l’endroit de l’innovation numérique, c’est ce qu’on appelle communément le techno-solutionnisme. Je pense que nous sommes aussi baignés, depuis au moins 40 ans, mais c’est très prégnant depuis 20 ans et depuis les attentats de 2001, d’un solutionnisme sécuritaire. Cette difficulté à mobiliser l’opinion, à faire sentir les dangers et à quel point, justement, peu à peu, loi après loi, mesure discrétionnaire après mesure discrétionnaire prise par l’exécutif, on passe dans un régime qui n’est pas représentatif, qui n’est pas protecteur des droits humains, qui n’est pas respectueux de l’État de droit et qui se rapproche, en fait, d’un régime autoritaire. C’est effectivement dur de faire sentir ça. Comment le fait-on ? C’est clairement une question que l’on se pose constamment dans le cadre de notre projet Technopolice, qui porte sur les nouvelles technologies de surveillance policière, comme la police prédictive, les drones ou la vidéosurveillance algorithmique. Un des enjeux, pour nous, a été de montrer comment, concrètement, ces technologies s’articulent à des pratiques policières violentes, brutales et comment elles atteignent les corps. Je pense que c’est aussi en montrant les effets de pouvoir qui se cachent derrière ces technologies et leurs usages par les différentes formes de pouvoir qui traversent nos sociétés qu’on peut faire sentir, en fait, leur danger. Même si, forcément, les choses ne se répètent pas tel quel, je pense que, dans l’histoire, il y a des enseignements à tirer d’épisodes historiques passés. C’est donc sur tous ces leviers-là qu’on essaye de tirer pour mobiliser et informer. | <b>Félix Tréguer : </b>Tout à l’heure, on parlait un peu des discours de propagande à l’endroit de l’innovation numérique, c’est ce qu’on appelle communément le techno-solutionnisme. Je pense que nous sommes aussi baignés, depuis au moins 40 ans, mais c’est très prégnant depuis 20 ans et depuis les attentats de 2001, d’un solutionnisme sécuritaire. Cette difficulté à mobiliser l’opinion, à faire sentir les dangers et à quel point, justement, peu à peu, loi après loi, mesure discrétionnaire après mesure discrétionnaire prise par l’exécutif, on passe dans un régime qui n’est pas représentatif, qui n’est pas protecteur des droits humains, qui n’est pas respectueux de l’État de droit et qui se rapproche, en fait, d’un régime autoritaire. C’est effectivement dur de faire sentir ça. Comment le fait-on ? C’est clairement une question que l’on se pose constamment dans le cadre de notre projet Technopolice, qui porte sur les nouvelles technologies de surveillance policière, comme la police prédictive, les drones ou la vidéosurveillance algorithmique. Un des enjeux, pour nous, a été de montrer comment, concrètement, ces technologies s’articulent à des pratiques policières violentes, brutales et comment elles atteignent les corps. Je pense que c’est aussi en montrant les effets de pouvoir qui se cachent derrière ces technologies et leurs usages par les différentes formes de pouvoir qui traversent nos sociétés qu’on peut faire sentir, en fait, leur danger. Même si, forcément, les choses ne se répètent pas tel quel, je pense que, dans l’histoire, il y a des enseignements à tirer d’épisodes historiques passés. C’est donc sur tous ces leviers-là qu’on essaye de tirer pour mobiliser et informer. | ||
Ligne 241 : | Ligne 241 : | ||
<b>Dominique Boullier : </b>Oui, c’est le moins qu’on puisse dire et la situation ne s’est pas arrangée avec l’IA générative, c’est un peu ça le problème. Pour moi, l’intérêt de l’informatique, c’était qu’en général, normalement, on est obligé de décomposer tous les problèmes, c’est l’opération extraordinaire de Turing : on ne traite pas des problèmes généraux, on résout des problèmes en les décomposant dans des procédures, etc., on s’oblige à expliciter les choses. Donc, tout cela va très bien, c’est dans une logique scientifique qui peut fonctionner. Or, on est en train de vivre un moment où, précisément, ça se retourne d’une autre façon. C’est-à-dire que, petit à petit, la décomposition des problèmes en opérations tellement minutieuses, qui supposent de telles masses de données qu’il faut pondérer de façon tellement ultrarapide, etc., aboutit à quelque chose qui devient, paradoxalement, totalement opaque, non seulement opaque pour le public, non seulement opaque pour les chercheurs, mais même pour les développeurs. Au bout d’un moment, ils ne sont plus capables de rendre compte de la façon dont un système a abouti à tel type de décision, à tel type d’orientation, parce qu’il a révisé lui-même, puisque c’est de l’apprentissage automatique, certaines des pondérations entre les paramètres qu’il gérait. Là on a un vrai problème.<br/> | <b>Dominique Boullier : </b>Oui, c’est le moins qu’on puisse dire et la situation ne s’est pas arrangée avec l’IA générative, c’est un peu ça le problème. Pour moi, l’intérêt de l’informatique, c’était qu’en général, normalement, on est obligé de décomposer tous les problèmes, c’est l’opération extraordinaire de Turing : on ne traite pas des problèmes généraux, on résout des problèmes en les décomposant dans des procédures, etc., on s’oblige à expliciter les choses. Donc, tout cela va très bien, c’est dans une logique scientifique qui peut fonctionner. Or, on est en train de vivre un moment où, précisément, ça se retourne d’une autre façon. C’est-à-dire que, petit à petit, la décomposition des problèmes en opérations tellement minutieuses, qui supposent de telles masses de données qu’il faut pondérer de façon tellement ultrarapide, etc., aboutit à quelque chose qui devient, paradoxalement, totalement opaque, non seulement opaque pour le public, non seulement opaque pour les chercheurs, mais même pour les développeurs. Au bout d’un moment, ils ne sont plus capables de rendre compte de la façon dont un système a abouti à tel type de décision, à tel type d’orientation, parce qu’il a révisé lui-même, puisque c’est de l’apprentissage automatique, certaines des pondérations entre les paramètres qu’il gérait. Là on a un vrai problème.<br/> | ||
Il faut bien remarquer, quand même, que c’est un souci qui ne vient pas seulement de chercheurs en sciences sociales qui n’y connaissent rien et qui ont un esprit critique, c’est aussi un souci des développeurs eux-mêmes de fournir une dimension d’explicabilité. Désormais, c’est un cahier des charges que se donnent un certain nombre d’entre eux, pas tous, justement, d’autres compagnies profitent très bien de cette opacité-là et vous disent « circulez, il n’y a rien à voir », alors que d’autres, effectivement, se disent qu’on ne doit plus s’autoriser à développer encore des boîtes noires et un des impératifs éthiques des développeurs, ça doit être, justement, de rendre tout cela explicable. Certains vous disent « non, arrêtez de raconter des bêtises, ce n’est pas possible avec les milliards de paramètres, etc. ». Eh bien, peut-être, justement, que c’est pour cela que les <em>Large Langage Models</em> sont une impasse de ce point de vue-là, mais aussi pour d’autres raisons.<br/> | Il faut bien remarquer, quand même, que c’est un souci qui ne vient pas seulement de chercheurs en sciences sociales qui n’y connaissent rien et qui ont un esprit critique, c’est aussi un souci des développeurs eux-mêmes de fournir une dimension d’explicabilité. Désormais, c’est un cahier des charges que se donnent un certain nombre d’entre eux, pas tous, justement, d’autres compagnies profitent très bien de cette opacité-là et vous disent « circulez, il n’y a rien à voir », alors que d’autres, effectivement, se disent qu’on ne doit plus s’autoriser à développer encore des boîtes noires, et un des impératifs éthiques des développeurs, ça doit être, justement, de rendre tout cela explicable. Certains vous disent « non, arrêtez de raconter des bêtises, ce n’est pas possible avec les milliards de paramètres, etc. ». Eh bien, peut-être, justement, que c’est pour cela que les <em>Large Langage Models</em> sont une impasse de ce point de vue-là, mais aussi pour d’autres raisons.<br/> | ||
Donc, l’objectif d’explicabilité, c’est aussi une responsabilité des ingénieurs pour eux-mêmes déjà, pour savoir ce qu’ils font, et ils sont responsables de ce que leur système va faire et, ensuite, de toute la chaîne de ceux qui les commentent ou qui les utilisent. Si on veut avoir une démarche démocratique, discuter de ce qu’on peut choisir et rendre compte de tout cela, eh bien, effectivement, il va falloir que l’IA elle-même évolue vers plus d’explicabilité, c’est incontestable. | Donc, l’objectif d’explicabilité, c’est aussi une responsabilité des ingénieurs pour eux-mêmes déjà, pour savoir ce qu’ils font, et ils sont responsables de ce que leur système va faire et, ensuite, de toute la chaîne de ceux qui les commentent ou qui les utilisent. Si on veut avoir une démarche démocratique, discuter de ce qu’on peut choisir et rendre compte de tout cela, eh bien, effectivement, il va falloir que l’IA elle-même évolue vers plus d’explicabilité, c’est incontestable. | ||
<b>François Saltiel : </b>Si je reprends les termes de Dominique Boullier, Maryse Broustail, j’ai entendu « boîte noire », j’ai entendu « opacité », comment fait-on, justement, pour éclairer les jeunes générations avec lesquelles vous travaillez, les enseignants aussi ? Quelles sont vos solutions ? | <b>François Saltiel : </b>Si je reprends les termes de Dominique Boullier, Maryse Broustail, j’ai entendu « boîte noire », j’ai entendu « opacité », comment fait-on, justement, pour éclairer les jeunes générations avec lesquelles vous travaillez, les enseignants aussi ? Quelles sont vos solutions ? | ||
<b>Maryse Broustail : </b>Ce n’est pas très simple. J’essaye de travailler, de faire œuvre de pédagogie avec des métaphores : la boîte noire, ça va être les ingrédients qu’on va utiliser, les algorithmes ça va être la recette et puis avec des ingrédients qu’on ne connait pas, donc les données, et avec la recette, les algorithmes | <b>Maryse Broustail : </b>Ce n’est pas très simple. J’essaye de travailler, de faire œuvre de pédagogie avec des métaphores : la boîte noire, ça va être les ingrédients qu’on va utiliser, les algorithmes ça va être la recette et puis avec des ingrédients qu’on ne connait pas, donc les données, et avec la recette, les algorithmes qu’on ne connait pas forcément, on a un contenu que peut nous fournir un outil d’IA, d’intelligence artificielle, qui va arriver, qui peut être très beau, mais on peut se questionner. Si je n’ai ni la recette ni les ingrédients, même si mon contenu, à la fin, est très beau, d’où sort-il ? Ce n’est pas simple, même pour moi. J’entends des termes. J’ai mis des années à comprendre en quoi, par exemple, le terme algorithme était important, qui, maintenant, m’est familier, sans forcément être une programmeuse, une développeuse ou une codeuse. Je pense qu’on a un vrai travail de pédagogie à faire aussi auprès des enseignants pour expliquer les mots et se dire que travailler sur le numérique ce n’est pas que la science, ce sont aussi les humanités, parce que c’est aussi un peu une guerre, je ne sais pas si c’est le bon mot, on va dire un clivage, entre humanités numériques et l’image numérique. Il y a toujours toute cette réflexion. À mon avis, il faut travailler ensemble, il y a un vrai travail de pédagogie sur expliquer les choses et prendre du temps, parce qu’il faut qu’on puisse expliquer ces outils qui s’imposent dans l’éducation comme dans la société. Je pense aussi qu’il faut les pratiquer pour les comprendre, sans forcément s’immerger à fond dedans, mais comprendre un peu comment ça fonctionne par la pratique. | ||
<b>François Saltiel : </b>J’imagine que c’est aussi un peu le leitmotiv de votre enseignement, c’est-à-dire mettre les mains dans la machine, essayer le plus possible de l’utiliser, être dans la pratique, dans l’usage pour comprendre comment elle fonctionne. | <b>François Saltiel : </b>J’imagine que c’est aussi un peu le leitmotiv de votre enseignement, c’est-à-dire mettre les mains dans la machine, essayer le plus possible de l’utiliser, être dans la pratique, dans l’usage pour comprendre comment elle fonctionne. | ||
Ligne 252 : | Ligne 252 : | ||
<b>Maryse Broustail : </b>En général, je commence plutôt par l’inverse, par l’analyse de ce que peuvent produire les outils. On parlait tout à l’heure des textes ou des images, je vais travailler dessus avec les élèves pour analyser et se poser des questions : d’où vient la source, en fait le contexte de ce qui a été produit. Une fois qu’on a analysé, je passe, après, si on a le temps, à la phase de production dans ma matière, parce que je suis quand même professeur d’histoire-géographie, du coup le fait d’aller dans le dur, ce n’est pas tellement ma matière, mais je trouve ça intéressant, pour le coup. | <b>Maryse Broustail : </b>En général, je commence plutôt par l’inverse, par l’analyse de ce que peuvent produire les outils. On parlait tout à l’heure des textes ou des images, je vais travailler dessus avec les élèves pour analyser et se poser des questions : d’où vient la source, en fait le contexte de ce qui a été produit. Une fois qu’on a analysé, je passe, après, si on a le temps, à la phase de production dans ma matière, parce que je suis quand même professeur d’histoire-géographie, du coup le fait d’aller dans le dur, ce n’est pas tellement ma matière, mais je trouve ça intéressant, pour le coup. | ||
<b>François Saltiel : </b>Vous dites, | <b>François Saltiel : </b>Vous dites, on l’a peut-être senti, « si on a le temps ». Vous manquez de temps ? | ||
<b>Maryse Broustail : </b>Définitivement. On a parlé de temps depuis le début de l’émission, le temps long qui est nécessaire par rapport à une urgence, par rapport à, je ne sais plus quel était le mot, le rythme, la cadence, le réchauffement médiatique. Oui, il nous faut du temps pour comprendre, il nous faut du temps pour intégrer, pour voir comment on peut l’adapter à notre enseignement, comment on peut accompagner les élèves à des usages raisonnés de ces outils. L’emballement est aussi chez les jeunes, il y a des nouveaux outils, ils ont envie de les utiliser, on se plonge dedans et on ne se pose pas forcément des questions. Oui, il nous faut du temps, il nous faut du temps pour intégrer tout ça, bien sûr. | <b>Maryse Broustail : </b>Définitivement. On a parlé de temps depuis le début de l’émission, le temps long qui est nécessaire par rapport à une urgence, par rapport à, je ne sais plus quel était le mot, le rythme, la cadence, le réchauffement médiatique. Oui, il nous faut du temps pour comprendre, il nous faut du temps pour intégrer, pour voir comment on peut l’adapter à notre enseignement, comment on peut accompagner les élèves à des usages raisonnés de ces outils. L’emballement est aussi chez les jeunes, il y a des nouveaux outils, ils ont envie de les utiliser, on se plonge dedans et on ne se pose pas forcément des questions. Oui, il nous faut du temps, il nous faut du temps pour intégrer tout ça, bien sûr. | ||
Ligne 258 : | Ligne 258 : | ||
<b>François Saltiel : </b>Le temps aussi a ses règles, son imposition, ses préceptes dans <em>Le Meilleur des mondes</em> également, car on approche de la fin de cette émission. On ne va pas terminer sans essayer, peut-être, d’entrevoir une solution collective. Elle ne vient évidemment pas de moi, mais du low-tech que l’on entend beaucoup. On a parlé, même au début de cette émission, de la volonté de décélérer, même si ça devrait indiquer, justement, un changement de paradigme, casser la viralité, la propagation, pour reprendre justement les termes de Dominique Boullier, aller vers une sorte d’éloge de la lenteur. Est-ce que c’est vers ça qu’il faut qu’on se dirige, Marie Turcan ? | <b>François Saltiel : </b>Le temps aussi a ses règles, son imposition, ses préceptes dans <em>Le Meilleur des mondes</em> également, car on approche de la fin de cette émission. On ne va pas terminer sans essayer, peut-être, d’entrevoir une solution collective. Elle ne vient évidemment pas de moi, mais du low-tech que l’on entend beaucoup. On a parlé, même au début de cette émission, de la volonté de décélérer, même si ça devrait indiquer, justement, un changement de paradigme, casser la viralité, la propagation, pour reprendre justement les termes de Dominique Boullier, aller vers une sorte d’éloge de la lenteur. Est-ce que c’est vers ça qu’il faut qu’on se dirige, Marie Turcan ? | ||
<b>Marie Turcan : </b>Je pense qu’on a quand même des espoirs, pas forcément sur le ralentissement, parce que les pratiques sont telles que, je pense, on ne va pas réussir à faire poser leur téléphone aux jeunes personnes qui utilisent leur téléphone pendant toute la journée, les mettre dans des boîtes noires. Par contre, par exemple au-delà des journalistes, il y a typiquement des influenceurs/influenceuses qui, aujourd’hui, font du travail de très bonne qualité de vulgarisation, d’aide à la compréhension. Il y a aussi pas mal de journalistes qui font des interventions dans des écoles, je l’ai fait récemment. Je me suis | <b>Marie Turcan : </b>Je pense qu’on a quand même des espoirs, pas forcément sur le ralentissement, parce que les pratiques sont telles que, je pense, on ne va pas réussir à faire poser leur téléphone aux jeunes personnes qui utilisent leur téléphone pendant toute la journée, les mettre dans des boîtes noires. Par contre, par exemple au-delà des journalistes, il y a typiquement des influenceurs/influenceuses qui, aujourd’hui, font du travail de très bonne qualité de vulgarisation, d’aide à la compréhension. Il y a aussi pas mal de journalistes qui font des interventions dans des écoles, je l’ai fait récemment. Je me suis rendue compte que je venais parler du métier de journaliste, tout bêtement, et j’ai fini par parler d’une enquête que j’ai faite sur un youtubeur et là, soudain, vraiment dix élèves devant moi, qui me disent : « Je joue à Fortnite et un mec m’a demandé ça un jour. Celui-là il m’a demandé mon Snapchat, mais je ne lui ai pas donné », en plus c’était mon amie, j’avais une amie qui est prof et elle m’a dit : « Jamais ils n’ont osé me poser autant de questions parce que je suis leur prof au quotidien ». Du coup, je pense que le fait d’avoir des intervenants / intervenantes extérieures, qui ont ce côté très précis, peut aussi permettre d’apporter une pédagogie différente et une écoute. Ce sont des petites initiatives comme ça qui vont me permettre de faire les choses et je pense, en effet, l’éducation des parents peut être vraiment bénéfique. | ||
<b>François Saltiel : </b>Et la pédagogie peut aussi se faire en lisant de la science-fiction et c’est Marcus Dupont-Besnard qui nous en parle. Bonsoir Marcus. | <b>François Saltiel : </b>Et la pédagogie peut aussi se faire en lisant de la science-fiction et c’est Marcus Dupont-Besnard qui nous en parle. Bonsoir Marcus. | ||
Ligne 266 : | Ligne 266 : | ||
<b>François Saltiel : </b>La science-fiction pour comprendre la révolution technologique. | <b>François Saltiel : </b>La science-fiction pour comprendre la révolution technologique. | ||
<b>Marcus Dupont-Besnard : </b>Eh oui, parce que la science-fiction c’est un outil démocratique dont on a besoin. Pour vous le prouver, j’ai une affirmation quasi contre-intuitive. La SF est parfaitement ancrée dans le présent. Elle nous dit « stop, on s’arrête deux minutes et on prend du recul, on regarde le monde que nous sommes en train de créer ». C’est un refus de l’inéluctable. En SF, l’avenir n’est plus un progrès en ligne droite dont on serait les passagers passifs et ça, c’est très politique. En nous permettant d’accéder à l’altérité, à l’ailleurs, à l’autrement, cet imaginaire est aussi un outil de premier plan contre la haine et le repli sur soi et ça marche avec presque toutes les œuvres de SF.<br/> | <b>Marcus Dupont-Besnard : </b>Eh oui, parce que la science-fiction c’est un outil démocratique dont on a besoin. Pour vous le prouver, j’ai une affirmation quasi contre-intuitive. La SF est parfaitement ancrée dans le présent. Elle nous dit « stop, on s’arrête deux minutes et on prend du recul, on regarde le monde que nous sommes en train de créer ». C’est un refus de l’inéluctable. En SF, l’avenir n’est plus un progrès en ligne droite dont on serait les passagers passifs, et ça, c’est très politique. En nous permettant d’accéder à l’altérité, à l’ailleurs, à l’autrement, cet imaginaire est aussi un outil de premier plan contre la haine et le repli sur soi et ça marche avec presque toutes les œuvres de SF.<br/> | ||
Prenons l’un des grands succès de l’année, au hasard la série Netflix, <em>Le Problème à trois corps</em>. On y trouve un casque de réalité virtuelle au fonctionnement incompréhensible et une espèce extra-terrestre incompréhensible. Comme le livre dont elle est adaptée, elle nous pousse dans nos retranchements, comme adore le faire la SF, en nous confrontant à l’inconnu. | Prenons l’un des grands succès de l’année, au hasard la série Netflix, <em>Le Problème à trois corps</em>. On y trouve un casque de réalité virtuelle au fonctionnement incompréhensible et une espèce extra-terrestre incompréhensible. Comme le livre dont elle est adaptée, elle nous pousse dans nos retranchements, comme adore le faire la SF, en nous confrontant à l’inconnu. | ||
Ligne 274 : | Ligne 274 : | ||
Préparez-vous à vivre un truc qui sort de l’ordinaire.<br/> | Préparez-vous à vivre un truc qui sort de l’ordinaire.<br/> | ||
<b>Marcus Dupont-Besnard : </b>En fait je crois que la SF est un | <b>Marcus Dupont-Besnard : </b>En fait je crois que la SF est un road?? trip, c’est un voyage. Prenons l’œuvre d’une écrivaine française, Émilie Querbalec. Son roman, <em>Les chants de Nüyin</em>, démarre avec une découverte des sons émanant d’une autre planète, qui ressemblent étrangement à des chants de baleines. Une expédition spatiale est lancée et nous, en tant que lecteur ou lectrice, on pense partir explorer cette planète. Mais non ! Émilie Querbalec nous raconte surtout le voyage au sein de ce vaisseau. À l’image de tout le genre SF, c’est une belle et profonde quête humaniste vers soi et surtout vers les autres. | ||
<b>François Saltiel : </b>La science-fiction est parfois sombre, Marcus. Faut-il lire plutôt de la dystopie ou de l’utopie ? | <b>François Saltiel : </b>La science-fiction est parfois sombre, Marcus. Faut-il lire plutôt de la dystopie ou de l’utopie ? | ||
Ligne 282 : | Ligne 282 : | ||
En fait, c’est cette cohabitation entre des futurs enviables et non enviables qui est nécessaire. Si on veut parler de nouvelles technologies, on devrait toujours parler en termes de futurs possibles. Ils sont nombreux, ils dépendent en grande partie de nous, alors même avec un smartphone en main, vous avez le choix et c’est l’un des meilleurs enseignements de la SF. | En fait, c’est cette cohabitation entre des futurs enviables et non enviables qui est nécessaire. Si on veut parler de nouvelles technologies, on devrait toujours parler en termes de futurs possibles. Ils sont nombreux, ils dépendent en grande partie de nous, alors même avec un smartphone en main, vous avez le choix et c’est l’un des meilleurs enseignements de la SF. | ||
<b>François Saltiel : </b>Merci beaucoup, Marcus Dupont-Besnard, pour votre amour renouvelé de la science-fiction, puis c’était inédit, car Marie Turcan a pu voir une de vos chroniques en direct, puisque, pour cette avant-dernière, vous étiez tous les deux présents dans ce studio. | <b>François Saltiel : </b>Merci beaucoup, Marcus Dupont-Besnard, pour votre amour renouvelé de la science-fiction, et puis c’était inédit, car Marie Turcan a pu voir une de vos chroniques en direct, puisque, pour cette avant-dernière, vous étiez tous les deux présents dans ce studio. | ||
Je vous rappelle donc que la semaine prochaine c’est la dernière du <em>Meilleur des mondes</em>. Si vous voulez nous laisser un message vocal, pourquoi pas, allez sur le site de l’émission, vous trouverez une adresse mail et vous pourrez enregistrer votre voix, promis, Félix Tréguer me regarde d’un œil suspicieux, on n’analysera pas la biométrie des voix, on pourra supprimer ça instantanément, mais on aura peut-être le loisir de diffuser vos messages la semaine prochaine. En tout cas, encore merci pour tous les messages de soutien que vous nous avez envoyés durant ces derniers jours.<br/> | Je vous rappelle donc que la semaine prochaine c’est la dernière du <em>Meilleur des mondes</em>. Si vous voulez nous laisser un message vocal, pourquoi pas, allez sur le site de l’émission, vous trouverez une adresse mail et vous pourrez enregistrer votre voix, promis, Félix Tréguer me regarde d’un œil suspicieux, on n’analysera pas la biométrie des voix, on pourra supprimer ça instantanément, mais on aura peut-être le loisir de diffuser vos messages la semaine prochaine. En tout cas, encore merci pour tous les messages de soutien que vous nous avez envoyés durant ces derniers jours.<br/> |
Version du 6 juillet 2024 à 06:41
Titre : Comment informer et transmettre pour comprendre les enjeux du numérique en 2024 ?
Intervenant·es : Marie Turcan - Dominique Boullier - Félix Tréguer - Maryse Broustail - Juliette Devaux - Marcus Dupont-Besnard - François Saltiel
Lieu : Émission Le meilleur des mondes - Frace Culture
Date : 21 juin 2024
Durée : 59 min 27
Licence de la transcription : Verbatim
Illustration : À prévoir
NB : Transcription réalisée par nos soins, fidèle aux propos des intervenant·e·s mais rendant le discours fluide.
Les positions exprimées sont celles des personnes qui interviennent et ne rejoignent pas nécessairement celles de l'April, qui ne sera en aucun cas tenue responsable de leurs propos.
Description
Alors que Le Meilleur des mondes touche à sa fin, l’émission donne la parole à des spécialistes attachés à la transmission d'une information de qualité sur les nouvelles technologies. Comment donner aux citoyens les outils pour leur permettre de comprendre le monde numérique qui les entoure ?
Transcription (relu sans audio Véro)
François Saltiel : Bienvenue à toutes et à tous dans Le Meilleur des mondes, l’émission de France Culture consacrée aux bouleversements suscités par le numérique et les nouvelles technologies. Vous entendez ici, amies auditrices et auditeurs, l’avant-dernière émission de notre histoire commencée sur cette antenne il y a trois ans. J’en profite pour vous remercier chaleureusement pour les centaines de messages que nous avons reçus par mail et sur les réseaux sociaux depuis l’annonce de l’arrêt de l’émission. Ils prouvent votre attachement à notre proposition et révèlent l’importance de disposer d’une information éclairée sur les enjeux complexes liés au numérique.
Et c’est le thème que nous avons choisi pour ce soir : comment transmettre et bien informer sur cette thématique. Évidemment, par humilité, nous n’allons pas parler que de nous, mais des autres, des acteurs qui font ce travail au quotidien et qui donnent aux citoyens les outils pour comprendre le monde connecté qui nous entoure. Nous verrons, par exemple, en quoi la formation des enseignants est indispensable pour prodiguer une éducation aux médias et au numérique, comment elle se met en place et quels sont les obstacles qu’elle doit déjouer. Nous verrons également comment le monde de la recherche pénètre le champ médiatique, comment permettre la nuance en évitant le sensationnalisme. Enfin, quel rôle joue une association comme La Quadrature du Net qui, sur le terrain alerte l’opinion publique sur les dérives de nouvelles technologies qui, bien souvent, nous dépassent. Un vaste programme et quatre invités appelés ce soir à y répondre.
Avec nous, en studio, Félix Tréguer. Bonsoir.
Félix Tréguer : Bonsoir
François Saltiel : Vous êtes sociologue, chercheur associé au Centre internet et société du CNRS et membre de La Quadrature du Net. Vous êtes également l’auteur d’une Contre-histoire d’Internet, dont la nouvelle édition est parue l’an dernier chez Agone. Vous pourrez évoquer les actions de l’association pour tenter de lever l’opacité sur les sujets du numérique. Vous appelez à politiser ces questions pour mieux mobiliser la population.
À vos côtés, Maryse Broustail. Bonsoir.
Maryse Broustail : Bonsoir.
François Saltiel : Vous êtes professeur d’histoire-géographie au lycée Saint-Exupéry à Mantes-la-jolie et formatrice académique en éducation aux médias et à l’information dans l’académie de Versailles. Vous nous direz comment vous formez les jeunes et les professeurs aux enjeux du numérique, loin des fantasmes tenaces et aussi des craintes légitimes.
À distance Dominique Boullier. Bonsoir.
J’entends déjà résonner la voix de Dominique qui nous dit bonsoir par l’esprit. Vous êtes professeur des universités en sociologie du numérique à Sciences-Po, votre dernier ouvrage Propagations – Un nouveau paradigme pour les sciences sociales est à retrouver aux Éditions Armand Colin. Vous êtes bien là Dominique ?
Dominique Boullier : Oui, je suis là vous m’entendez ?
François Saltiel : Très bien ! Et vous nous direz comment éviter d’être parasitée par ce que vous nommez le réchauffement médiatique qui participe à un traitement caricatural autour de ces sujets. Enfin, Marie Turcan complète ce plateau. Bonsoir Marie.
Marie Turcan : Bonsoir.
François Saltiel : Vous êtes rédactrice en chef chez Numerama et une habituée de l’émission, car vous y tenez une chronique depuis les débuts. Vous reviendrez sur l’histoire et l’évolution de l’écosystème médiatique français consacré à la technologie.
Au programme, également, une chronique de votre comparse Marcus Dupont-Besnard, journaliste lui aussi chez Numerama. Marcus nous dira pourquoi il faut lire la science-fiction pour comprendre au présent la révolution technologique.
Quant à Juliette Devaux elle nous livrera, comme chaque semaine, les nouvelles d’un monde meilleur.
Le Meilleur des mondes s’écoute, encore, à la radio et en podcast pour la vie sur l’application Radio France. Une émission qui se regarde également sur la chaîne Twitch de France Culture. Allez, c’est parti.
Diverses voix off : Bien sûr, n’est-ce pas, il y a des gens qui ont peur des machines qui, un jour, deviendront des robots super humains et qui vont conquérir le monde et toutes sortes d’autres histoires à la science-fiction.
Les jeux vidéo font leur entrée dans les salles de séjour. Même plus besoin de mettre un franc dans la fente ! Alors fini le rôle de la télévision à sens unique, de l’émetteur vers le récepteur, sans doute, d’autant que les innovations techniques n’en sont qu’à leurs débuts.
Depuis 18 mois environ, on voit en France des hommes et des dames aussi bien, qui ont, sur les oreilles, un casque leur permettant d’écouter la musique même dans les bruits de la circulation. Ce sont des Walkman.
Onze mille ateliers informatiques, comme celui-ci, équipés de six microordinateurs de type familial, reliés en réseau à un élément central, semi-professionnel, c’est la logistique du plan Fabius de la micro, pour qui l’informatique est un élément essentiel à la modernisation du pays.
Internet, qu’est-ce que c’est ? Une de ces autoroutes de l’information dont on vous a beaucoup parlé, dans laquelle on peut avoir accès au maximum de bases de données mondiales et ce, très facilement.
Près de 500 personnes plus tout un réseau d’informateurs dans le monde entier pour guetter le passage à l’an 2000 et le bogue, une véritable bombe à retardement qui pourrait s’être lovée au cœur des systèmes informatiques.
On parle de l’intelligence artificielle qui s’invite partout décidément.
Très concrètement, c’est un chatbot. Il pourrait prendre la place des humains. Alors, à l’avenir, nous tous au chômage ou bien de nouveaux métiers vont-ils émerger ? C’est toute la question.
François Saltiel : Et voilà un petit florilège du traitement médiatique autour des nouvelles technologies et du numérique, qui va de 1972 à aujourd’hui, 2024, avec évidemment l’intelligence artificielle générative.
On va commencer par l’une des journalistes de ce plateau. Marie Turcan, vous qui travaillez donc dans la presse tech depuis maintenant plus de dix ans, comment percevez-vous ce traitement médiatique ?
Marie Turcan : C’est assez frappant, quand on écoute ce qu’on a entendu : on sent une pointe d’inquiétude, mais on sent surtout des gens qui s’émerveillent un petit peu, quand même ! Il y a l’infinité des possibles, toutes les données à portée de main. Aujourd’hui, si on parle de toutes les données à portée de main, on aurait plutôt tendance à dire « hou là, là, toutes ces données à portée de main ! On pense tout de suite aux fuites de données, on pense, finalement, à cette naïveté qu’on a eue, à un moment, à faire confiance à ces géants de la tech. Ça fait une douzaine d’années que je travaille dans ce milieu-là, j’ai remarqué ce changement de paradigme : on est passé d’un moment où le Web était vraiment chouette, on s’inquiétait quand même vraiment moins. Évidemment qu’il y avait déjà des questionnements, mais il n’y avait pas cette prise de conscience de ce qu’on était en train de donner en échange de ce qu’on recevait, qu’on avait vraiment à portée de main. Je me souviens, avec AOL, avec Lycos, on disait « va chercher » et puis il allait chercher, ce brave petit chien ! Maintenant, vous avez le scandale des écoutes de la NSA qui a quand même opéré un basculement avec l’affaire Snowden, évidemment, en 2013, et ensuite, en 2017, Cambridge Analytica avec l’affaire Facebook aussi, on appelle ça un peu comme ça, une prise de connaissance, un petit peu, de ce qu’on a donné et de ce qui nous appartient encore en termes de données.
François Saltiel : Je rappelle que vous avez travaillé aux Inrockuptibles et qu’aujourd’hui vous êtes chez Numerama. On voit ce glissement entre, on va dire, une forme d’angélisme et de fascination qui était liées au monde du numérique, avec l’apparition d’une portée critique, qu’on pourra d’ailleurs nuancer pour voir si elle est à la hauteur des enjeux.
Dominique Boullier, est-ce qu’on arrive, finalement, à sortir de cette opposition qui est parfois stérile entre les technophiles d’un côté, les technophobes de l’autre, là je parle peut-être du paysage médiatique mainstream, grand public, au-delà d’une presse spécialisée.
Dominique Boullier : C’est assez difficile, en effet, parce que, d’une part, on a toute une pression pour pousser à l’adaptation, toujours s’adapter, un livre de Barbara Stiegler, est très bien pour ça, « Il faut s’adapter », qui est un dogme néolibéral aussi. Et puis effectivement, dès qu’on commence à émettre des critiques en disant « on peut s’adapter, certes, mais on ne peut pas s’adapter à tout, on peut aussi choisir, on peut aussi, justement, faire plier la technique, adapter la technique elle-même, etc. », là on bascule dans le camp des technophobes. Vous voyez que ça crée un débat qui est extrêmement polarisé dès le départ, avec cette thématique que j’avais identifiée dès 1985 – vous voyez comme je suis un vieux du milieu –, j’avais écrit un papier qui s’appelait effectivement « La tyrannie du retard ». Eh bien c’était ça, c’est-à-dire que dès le départ, si vous émettiez une réserve ou si vous disiez qu’on pourrait peut-être faire autrement ou qu’il faudrait peut-être prendre le temps d’examiner ceci.cela, vous étiez critiqué parce qu’il y avait cette tyrannie du retard pour le business, pour l’innovation pour elle-même, etc. et maintenant pour la souveraineté aussi, tout est bon de ce point de vue-là. De fait, à ce moment-là, on considère que cette évolution technologique devient une fatalité, donc il n’y a plus de sens historique, de sens critique, etc., et ça devient très difficile. Il faut bien comprendre à quel point ça pénètre l’esprit des dirigeants, des gouvernants, dans les entreprises comme dans les gouvernements, mais aussi dans les médias où on dit, finalement, qu’il faut continuer, la machine ne peut pas s’arrêter de tourner, il faut sans arrêt soutenir l’innovation ; on ne peut pas avoir un avis plus fin ou subtil et, face à ça, de toute façon si vous en avez un, vous basculez totalement dans le camp des technophobes qui, eux aussi, prolifèrent quand ils deviennent un peu catastrophistes.
François Saltiel : Voilà, c’est ça. Et lorsqu’on est catalogué comme technophobe, on est un peu stigmatisé, on est mis sur le coin, peut-être que la parole devient moins audible.
En miroir de cette tyrannie du retard, on voit qu’il y a toujours cette conception du progrès qui est vue comme forcément positive, le progrès ne peut que nous amener quelque chose de bien, nous offrir, justement, un monde meilleur.
Félix Tréguer, vous qui travaillez, justement, sur ces nouvelles technologies qui sont sans arrêt déployées, on peut notamment parler de technologies de surveillance qui, à chaque fois, sont avancées soit par les politiciens soit par les acteurs du marché comme allant dans le bon sens, pour préserver notre sécurité en l’occurrence. Comment parvenez-vous, justement, à faire émerger un esprit critique lorsque la voix dominante est toujours celle que le progrès va dans le bon sens, est là pour faire en sorte que la société se comporte mieux ou que la société aille mieux ?
Félix Tréguer : Le parti pris d’une association comme La Quadrature du Net, c’est de faire une analyse politique de ces évolutions, de ces développements à partir des valeurs démocratiques, des valeurs des droits humains. Je pense que c’est ce qui manque, aussi, pour recréer des repères dans ce paysage médiatique et dans la manière dont on discourt sur les technologies numériques ; créer, produire, en fait, une analyse ancrée politiquement.
Après, clairement, ce phénomène de la disruption vaut aussi sur la manière dont les médias, le discours médiatique se construit autour du numérique. On a souvent coutume de dire que le droit est en retard sur la technologie, qu’on a du mal à la réguler. En fait, cette stratégie de la disruption vaut aussi bien pour le débat public – c’est ce que soulignait Dominique Boullier –, cette incapacité collective qu’on a à vraiment se donner prise pour faire sens de ces évolutions technologiques, peut-être décélérer le rythme de l’innovation pour faire sens, discuter et choisir collectivement la trajectoire de l’informatisation qui nous paraîtrait souhaitable.
François Saltiel : Pour vous, ce n’est pas assez politisé, vous dites qu’on ne politise pas suffisamment ces questions. Ce que je comprends dans ce que vous nous dites, c’est vrai qu’il y a un peu cette sensation de tomber dans une sorte de fatalisme, c’est-à-dire, finalement : la technologie va trop vite, je ne la comprends pas, elle me dépasse, donc je ne l’interroge pas suffisamment.
Félix Tréguer : Je pense que c’était assez palpable dans les extraits qu’on a entendus. On essaye toujours de faire sens d’un phénomène très nouveau et c’est vrai aussi aujourd’hui sur l’intelligence artificielle, à partir de schèmes de pensée, de paradigmes antérieurs, ce qui n’est pas forcément une mauvaise chose, parce que, en réalité, on a aussi tendance à exagérer les moments de rupture dans cette histoire de l’informatisation. À plein d’égards, l’IA, l’intelligence artificielle, c’est la prolongation de plein de phénomènes et de problèmes déjà posés par l’informatique depuis 40 ans.
François Saltiel : Effectivement, et on a consacré beaucoup d’émissions dans Le Meilleur des mondes, pour revenir, justement, aux sources de l’intelligence artificielle, et on arrive vite dans les années 50, on voit que ce n’est pas forcément de prime jeunesse. Maryse Broustail, justement, cette ambiance, on va dire médiatique, cette fascination ou ce discours parfois un peu caricatural, dans quelle mesure peut-il imprégner, peut-être, la communauté enseignante ? Je rappelle que vous êtes l’une de ces formatrices, vous allez donner les outils à des enseignants qui vont, eux-mêmes, faire de l’éducation aux médias et à l’information. Est-ce que vous la ressentez, vous sentez, justement, la présence de ce discours-là autour de la communauté enseignante ?
Maryse Broustail : Si on reprend l’exemple de l’intelligence artificielle, oui, clairement je trouve que depuis, en gros, ChatGPT, c’est vraiment ça la rupture chez nous. Il y a eu quelque chose qui s’est passé de l’ordre de l’emballement et de la panique, d’abord en se disant « c’est un super outil de triche, qu’est-ce qu’on va faire par rapport aux élèves qui vont l’utiliser comme un outil de triche ? », et de fait, effectivement, les élèves peuvent l’utiliser comme un outil pour réaliser leurs devoirs. Et après, pour nous, il va falloir déconstruire cette image un peu anxiogène de l’intelligence artificielle appliquée à l’éducation en se demandant ce qu’on pourrait faire avec et, surtout, si ça a du sens de l’utiliser.
En fait, l’intelligence artificielle peut être utilisée soit pour accompagner les enseignants dans leurs tâches – créer un quiz, ce genre de chose –, et, après, il y a l’analyse de ce qu’elle produit.
Ce qui peut être intéressant, dans la formation des enseignants, c’est justement prendre un petit peu de temps pour se poser, pour voir ce qu’on peut produire avec de l’intelligence artificielle, notamment générative, à quoi les élèves sont exposés, partir de leur réalité, comment les élèves, eux, sont immergés dans l’intelligence artificielle et ensuite, se demander si nous pouvons exercer notre esprit critique, quelles sont les données qui sont utilisées pour ce type de création, de production, est-ce qu’on a des informations sur les sources.
C’est quelque chose qui est arrivé, il y a un emballement qui arrive. En fait, toute l’année 2023/2024 – je parle de deux années, des années scolaires –, énormément de demandes de formation sur l’IA, sur l’intelligence artificielle, arrivent petit à petit, mais il nous faut aussi du temps pour nous demander : si on l’utilise en classe, quels sont les prérequis et, par exemple, la question des données : est-ce que je peux utiliser ChatGPT, faire créer un compte à un élève et qu’il donne ses données ; c’est quelque chose qu’il faut qu’on se demande, il faut qu’on se pose aussi des questions éthiques.
François Saltiel : Dominique Boullier, à l’époque, vous aviez réagi sur ChatGPT avec une vision assez négative quant au déploiement de son usage par exemple à Sciences-Po.
Dominique Boullier : Il s’agissait surtout d’avoir un principe de précaution, qui disait effectivement « on va l’interdire », mais on va l’interdire pour les examens dans la mesure où il n’y avait absolument aucun cadre qui permettait d’éviter ce qu’on peut appeler du dopage. Si on dit que dans les courses cyclistes et dans tout le reste du sport on autorise le dopage, alors allons-y et voyons les conséquences de tout cela. On voit bien que c’est un très long travail qui a été mis en place.
De la même façon, comme on vit l’éducation, malheureusement peut-être, comme une compétition, à ce moment-là il faut revoir totalement notre façon de faire si on accepte le dopage. Bien entendu qu’il y a une façon de faire des choses avec ces technologies, le problème c’est qu’on n’est pas obligé de réagir sous la pression, sous une pression commerciale par une firme qui agit comme le dealer, qui distribue de la bonne en espérant que les gens deviennent accros, et qui, après va les faire payer, c’est ce qui se passe maintenant ; c’est quelque chose qui ne peut pas être au centre ou au cœur d’une politique éducative. Nous avons des questions en tant qu’éducateurs, en tant que enseignants, nous avons beaucoup de questions, de soucis et de problèmes à régler. Je pense notamment aux façons de faire coopérer les gens, à apprendre aux étudiants à explorer des sujets, à examiner les sources, etc. Est-ce que c’était ce que ChatGPT nous proposait comme ça ? Non pas du tout, quelquefois c’était même l’inverse, puisqu’il était totalement incapable d’examiner les sources et, encore mieux, il en inventait. À partir de ce moment-là, il y a donc un minimum de principe de précaution, mais on a tous couru derrière. Maintenant, on se rend compte que oui, l’innovation de l’époque, le ChatGPT 3.0 ou 3.5, a déjà été totalement changée, c’est donc encore autre chose. Donc, si on veut, à chaque fois, adapter nos étudiants à une innovation à l’instant t, on risque de perdre la vision à long terme qui est une obligation éducative qui comporte aussi une dimension morale, responsable, pour ce qui est vraiment aide à apprendre. Mes collègues de l’EPFL [École polytechnique fédérale de Lausanne], avec qui j’ai travaillé sur ces questions-là, le disaient bien : effectivement, ils travaillent plus vite, mais ils apprennent moins ! Le bilan comparatif qu’ils avaient fait était celui-là.
Vous voyez donc que ce sont les conséquences de tout cela qui pourraient être traitées avant, mais, en réalité, on est tellement sous la pression commerciale qu’il faut battre pour devenir le premier entrant, effectivement tout est bon pour entrer là-dessus.
Cela dit, après, le réinterpréter, l’apprendre dans un nouveau contexte stratégique, oui c’est tout à fait possible.
François Saltiel : Marie Turcan, vous souhaitez réagir ?
Marie Turcan : Oui, parce que justement vous dites qu’on a tous couru, Je pense qu’il y a une vraie responsabilité médiatique derrière, je prendrai, du coup, mon rôle de journaliste qui a été très exposée à ça. Depuis une dizaine d’années, on le voit dans la manière dont on couvre les conférences de ces Big Tech, comme on les appelle parfois, que ce soit Apple, Google, on sent qu’il y a toujours cette course à l’innovation, à la performance de l’innovation aussi, il faut non seulement innover, mais il faut montrer qu’on innove.
Avec l’IA, il s’est passé quelque chose de très différent, qu’on n’avait pas vu auparavant : même les entreprises comme Apple qui, au début, étaient quand même connues pour ne pas suivre trop le train de la hype, se sont retrouvées, elles aussi, à devoir communiquer très majoritairement sur des innovations de l’IA, parce que, du coup, le mot magique c’était IA – il se trouve qu’elles n’utilisent pas ce mot pour être un peu en décalage. Du coup, les journalistes tech se sont aussi retrouvés complètement submergés par cette innovation-là, à se demander comment est-ce qu’on la traite, comment en prendre la mesure. En même temps, il y avait aussi l’utilisation de l’IA par les journalistes, mais, de l’autre côté, il y avait aussi décortiquer un peu le discours. Quand OpenAI a sorti ChatGPT, il y a eu ce côté un peu révolutionnaire, ensuite derrière, Google sort Bard qui devient Gemini, ensuite Apple sort son propre Apple Intelligence. Je pense qu’on a manqué de recul sur ce que ça pouvait vraiment être, parce que, parfois, on a tendance à dire « on parle d’IA, mais, derrière c’est un tableur ».
François Saltiel : C’est ça. C’est compliqué, justement, quand on est un média comme le vôtre, on le sait aussi dans Le Meilleur des mondes, notre temporalité hebdomadaire nous permet, par nature, de prendre plus de recul que lorsqu’on est un quotidien comme le vôtre, puisque vous êtes sur Internet et, tous les jours, vous publiez des articles. Comment arrive-t-on, justement, à résister un peu à ce narratif commercial de la révolution permanente et de la peur de rater quelque chose ? On parle beaucoup du FOMO à plein d’égards, FOMO des investisseurs qui ne veulent pas rater le prochain bon plan, mais aussi des journalistes en disant « il faut couvrir ce truc ». On a l’habitude, on nous vend une révolution toutes les trois secondes, mais, malgré tout, il faut savoir résister.
Marie Turcan : Oui. Je pense qu’il y a, derrière, une vraie idéologie de l’innovation. J’ai eu beaucoup de discussions autour de l’Apple Vision Pro, le casque de la réalité mixte, sorti par Apple récemment, parce qu’il ny a pas de projet de société derrière. J’ai parlé à beaucoup journalistes tech qui défendaient un peu ce produit en disant « il faut innover, il faut innover absolument et on verra derrière, c’est comme ça que ça a toujours marché. »
François Saltiel : L’offre qui crée la demande.
Marie Turcan : Exactement, et c’est en effet comme ça que les innovations tech se sont construites ces 20 dernières années. Néanmoins, aujourd’hui, on n’est plus dans le même monde. On est en réchauffement climatique, on a des questionnements sur ce que veut dire de lever 600 millions de dollars par mois.
Il y a donc des vraies réflexions à avoir qu’on n’a toujours pas, du coup on mériterait de se poser cette question : pourquoi est-ce qu’on innove et est-ce qu’il n’y a pas d’autres manières d’innover, plus calmes, plus responsables ? Ça voudrait dire vraiment remettre en question toute une idéologie.
François Saltiel : Exactement. C’est un changement de paradigme. Vous vouliez intervenir Félix Tréguer.
18’ 52 (Véro)
Félix Tréguer : C’est très juste et typiquement, sur la question de l’IA générative, on s’est retrouvé un peu coincé entre ces discours un peu de propagande de l’industrie de la tech, mettant en exergue les nouvelles promesses liées à ces innovations, ces nouvelles technologies qui étaient mises sur le marché et, en même temps, on était pris en sandwich : en fait, la critique était incarnée par les industriels de la tech avec la menace existentielle.
François Saltiel : Style Elon Musk, par exemple.
Félix Tréguer : Exactement. Les appels, même, à des moratoires, ce qui paraît être une position très technocritique et très radicale, qui venait de personnalités très puissantes dans le milieu de la tech, proches de l’extrême droite, qui n’avaient pas du tout intérêt, en fait, à mettre le holà sur l’innovation.
François Saltiel : Sauf si leurs propres outils n’étaient pas encore en place pour les concurrencer !
Félix Tréguer : Exactement, sauf à être dans des stratégies industrielles et c’était le cas, en l’espèce. C’est vrai que c’est un peu frustrant. Je suis d’accord avec ce que vous disiez tout à l’heure, Marie, sur le fait que du discours dominant et, disons, l’emphase qui était propre au discours médiatique dominant, même militant et politique de manière générale dans les années 90 jusqu’à 2010/2013, disons, on est passé à un autre paradigme, en même temps je reste souvent insatisfait, en fait, de la manière dont cette critique est portée et rendue visible dans les médias.
François Saltiel : Maryse Broustail, peut-être une question d’ordre technique puisque Marie Turcan parlait tout à l’heure d’Apple : comment les GAFAM pénètrent-ils aussi le champ de l’éducation ? On sait très bien qu’il y a des outils qui sont, je crois déployés. À travers les outils, ce n’est pas Félix Tréguer qui va me contredire, il y a forcément une politique, une idéologie derrière qui accompagnent toujours ces outils. Comment voyez-vous cela ?
Maryse Broustail : Déjà, c’est très différent selon les territoires, parce que la dotation en matériel numérique, on va dire, est liée aux collectivités et, d’une collectivité à l’autre, les choix sont très différents, il y a donc, clairement, de très fortes inégalités dans toute la France par rapport à cet équipement.
François Saltiel : En fait, ma question, c’est : est-ce que c’est un problème ? Par exemple, Félix Tréguer nous dit : « Ça devient compliqué quand l’incarnation même de la critique est portée par Elon Musk ». Je pourrais poursuivre à peu près cette question en disant que lorsqu’on fait de l’éducation au numérique et aux médias, on est forcément là pour éveiller l’esprit critique, vous l’avez dit, et quand elle est accompagnée et peut-être portée par les outils, peut-être même par un discours par les GAFAM, est-ce que ce n’est pas non plus un problème ?
Maryse Broustail : Ça peut l’être. Je vais prendre un exemple assez concret, ce sont les tablettes, dans les établissements, qu’on a fournies à des élèves, par dotation, ce qu’on appelle des flottes. On a doté des classes entières de tablettes, peut-être un peu vite, je ne donne pas la marque pour le coup, dans le sens où la dotation s’est faite assez rapidement, la formation des enseignants et des élèves s’est faite ensuite et, ce qui ne s’est pas beaucoup fait, c’est la formation des parents et il ne faut vraiment pas les oublier. On a tendance à penser que c’est vraiment à l’école qu’il faut travailler ces compétences-là, c’est effectivement certainement important, mais je pense que c’est quelque chose qui doit se faire collectivement, aussi avec les parents. Cette question de l’équipement est particulièrement inégalitaire. L’usage de l’outil doit se faire aussi en parentalité numérique, en coéducation. Ça ne peut pas être seulement l’Éducation nationale qui va résoudre ce genre de choses.
François Saltiel : Une question, Dominique Boullier, puisqu’on parle de la manière dont la critique s’incarne, elle s’incarne aussi par des chercheurs, par des jeunes chercheurs. Dans Le Meilleur des mondes, pendant trois ans, on a eu la chance et le plaisir d’en recevoir. On a l’impression qu’il y a quand même une jeune génération de chercheurs, vive, qui embrassent, justement, ces sujets à bras-le-corps, mais de quelle manière arrivent-ils, ou pas, à pénétrer l’espace médiatique ?
Dominique Boullier : C’est un problème. De fait la recherche, je parle des recherches en sciences sociales, principalement, elles ont besoin de temps pour voir ce qui est réellement mis en œuvre, c’est-à-dire qu’on ne peut pas être dans la réactivité, donner des opinions, sonder le public ou bien, encore mieux, demander des prédictions, etc. Si on veut réellement observer ce que les gens font avec les technologies, pour comprendre un peu mieux comment elles vont se transformer elles-mêmes – même une fois que l’innovation est faite, ça n’arrête pas de se transformer, d’être approprié –, il faut du temps. Donc, si vous faites des enquêtes, vous ne pouvez pas réagir, il vous faut deux ans pour publier quelque chose et encore, je suis très optimiste ! En attendant, les médias, évidemment, sont dans une autre temporalité qui est effectivement celle de nous dire non seulement ce qu’il faut en penser, ce que ça va devenir tant qu’à faire !, et puis, à partir de là, avoir un avis général alors que les choses sont très diverses, il y a des façons de faire qui vont être très différentes, malgré la créativité.
Maintenant, comme vous le disiez, il y a effectivement tout un courant de chercheurs qui font de la sociologie des algorithmes, etc., qui rentrent dans la technique ; on n’est plus dans le commentaire ou dans les discours généraux, c’est cela qui très intéressant ; c’est ce qu’on appelle les sciences and technologies ??? [23 min 20] . Elles deviennent très pertinentes pour aider à comprendre comment, au moment même de la conception, au moment de leur utilisation, on doit comprendre l’articulation, le couplage homme-technique, si vous voulez, ce qui devient très intéressant. Mais c’est quelque chose qui devient trop subtil et trop long à attendre et, là, on est court-circuité.
François Saltiel : On est court-circuité ! Justement, les médias, on le sait bien, doivent remplir, doivent combler le vide, les formats, les cases qui leur sont consacrées et, comme on n’a pas le temps d’attendre, justement, que tel chercheur passe trois années pour publier une ressource qui, d’ailleurs parfois, lorsque cette ressource est publiée, on est déjà passé à la « révolution » suivante, je mets bien sûr, entre guillemets, le mot « révolution ». Peut-être que les médias ont tendance à inviter les bons clients, des essayistes, des philosophes, des gens, des personnes qui ne comprennent pas forcément ce dont elles parlent, Dominique Boullier.
Dominique Boullier : C’est un peu le problème ! C’est une tendance assez française, c’est vrai, mais qui valorise des essais. J’ai été obligé de dénoncer, parfois, un certain nombre d’abus, de positions très générales, très catastrophistes, etc., qui se présentent comme critiques, mais qui, en réalité, ne rentrent pas dans le détail des techniques. À ce moment-là, on reproduit un certain nombre de stéréotypes et on évite, par exemple, de rentrer dans les détails non seulement techniques mais aussi des modèles économiques qu’il y a derrière. On ne comprendrait rien si on ne voyait pas ce qu’il y a derrière, parce que toutes ces technologies, toute l’IA en particulier, servent à mobiliser des investisseurs et des investissements considérables qu’il faut, d’ailleurs, avec les types de technologies adoptées qui coûtent très cher. À partir de ce moment-là, si on ne comprend pas tous ces systèmes-là, on doit être capable de nommer qui est responsable de ces choix, d’une part, et pouvoir proposer et montrer du doigt ceux qui peuvent faire autrement, ceux qui essayent de faire autrement. Et çà, non. On dit des généralités, ça passe très bien et on a quelquefois des débats qui vont être plutôt du genre philosophique ou prophétique, si vous voulez, mais, en réalité, avec des gens qui ne comprennent strictement rien à la technologie, c’est très clair. Et ça devient très énervant pour ceux qui sont du domaine. J’ai plein de collègues dans les data sciences qui me disent « tu ne vas pas laisser dire ça », parce que ça commence sérieusement à les énerver aussi.
Et puis, il ne faut pas oublier qu’en matière de recherche, vous avez quand même, aussi, des chercheurs, des data sciences, qui arrivent à faire passer un certain nombre de choses, qui peuvent aussi être embarqués par la logique de l’innovation à tout prix, et certains autres qui sont capables de montrer qu’il y a des choses différentes. Il faut rentrer dans les détails, je pense, par exemple, à quelqu’un comme Yann Le Cun. On peut le critiquer sur tout un tas de plans, d’ailleurs il a changé puisque, maintenant, il prône l’open source, etc., n’empêche que c’est intéressant de le voir dire que les Large langages Models, les grands modèles de langage qui sont utilisés par l’IA générative, c’est sans doute, en réalité, une époque très brève de l’histoire de l’IA et qu’on a besoin de faire avec toutes les IA. Ce n’était pas du tout sa position avant.
Vous voyez qu’on a plein de choses qui nécessitent aussi des experts du domaine, qui adoptent une position plus complexe, plus nuancée et qui mettent en avant le pluralisme des solutions sur tous les projets qu’on a.
François Saltiel : Justement, pour rajouter à la complexité du personnage, je rappelle que Yann Le Cun travaille comme cadre du développement et de la recherche dans le groupe Meta, donc Facebook.
Marie Turcan.
Marie Turcan : C’est ce que j’allais dire, c’est quand même la grande gueule à la mode maintenant. Autour de moi, j’ai notamment des hommes qui étaient fans d’Elon Musk il y a quelques années, qui, maintenant, sont fans de Yann Le Cun parce qu’il parle un peu pareil et puis il est cash. Je ne dis pas du tout qu’ils projettent des idées d’extrême droite sur Yann Le Cun, mais il faut quand même faire un petit peu attention à cette médiatisation.
Je voulais rajouter qu’on a exactement le même souci d’un point de vue journalistique, du côté des médias, en termes de journalistes spécialisés dans la tech et le numérique. Vous êtes aussi les premiers concernés. On a tendance, ces derniers temps, à dire que le numérique infuse partout et que, du coup, on n’a pas besoin d’avoir des journalistes spécialisés dans ces sujets-là parce que, finalement, le numérique est partout. On remarque quand même qu’on manque d’experts et d’expertes, on manque notamment de femmes journalistes dans la tech. À la base, il y a quelques années, on avait fait un réseau de soutien de journalistes femmes, parce que, justement, on se rendait compte aussi que n’étant pas un homme blanc, cisgenre, on avait des points de vue différents sur le numérique et on a peut-être réussi à faire comprendre, pas nous toutes seules, que la tech n’est pas neutre et qu’on avait besoin, aussi, d’une diversité de profils, spécialisées et expertes pour parler du numérique.
Il y a une dizaine d’années, nous étions quand même assez nombreux, journalistes, jeunes, à comprendre les codes du numérique, à pouvoir enquêter en ligne, à avoir des spécialités. C’est vrai que ces profils commencent à se diluer, c’est un peu ce que je remarque : c’est dur de trouver du travail, beaucoup ont arrêté, il y en a qui travaillent aujourd’hui pour des marques. Trouver des postes en rédaction, spécialisés dans la tech et le numérique, c’est très rare.
François Saltiel : Ce que vous dites est intéressant. On aurait plutôt tendance à croire, à priori, comme le numérique est un enjeu de plus en plus important au sein de nos sociétés, qu’il faut de plus en plus de journalistes pour le couvrir. Vous, vous dites qu’il y a moins de diversité, de pluralité.
Marie Turcan : Il y a moins de pluralité, je dirais qu’il y a surtout moins de rubriques spécialisées dans les médias. Le monde a Pixels, mais ça reste le même nombre de journalistes depuis dix ans ; Tech & Web du Figaro était très bien, à un moment, mais, finalement, on a réduit un peu à peau de chagrin le nombre de journalistes qui en faisaient partie. Les grands médias, finalement, ont peut-être un journaliste tech qui doit, du coup, passer des GAFAM à la cybersécurité en passant par une enquête sur un youtubeur. Une seule personne censée faire tout ça, c’est quasiment impossible ! Ça mériterait, en effet, des énormes pools et je pense que c’est un peu dommage, c’est même, parfois, un peu du gâchis de ne pas développer encore plus ces rubriques.
François Saltiel : On ne peut que partager votre avis. Félix Tréguer.
Félix Tréguer : Je voulais réagir en soulignant ce qui me semble manquer, aussi, dans le paysage médiatique relatif à la tech. Trop souvent, on manque d'approches matérialistes, on est beaucoup à faire le commentaire des annonces de marché de certains discours politiques, de grandes annonces de cette prophétie de l’innovation. En fait, il manque un peu une analyse des infrastructures, de leur poids écologique, de ce que veut dire, par exemple, d’avoir Microsoft qui annonce quatre milliards d’investissements dans des datacenters en France en termes de conflits d’usage sur l’eau, sur l’énergie. C’est un travail que font certains et certaines mais qui, globalement il me semble, est assez peu visible.
François Saltiel : Ça vous semble encore un impensé, justement, cette question écologique liée au numérique.
Félix Tréguer : La question écologique liée au numérique monte, mais, à mon avis, elle encore mal traitée. Le pont entre les questions numériques et le champ de l’écologie politique, de manière plus large, reste à faire et puis, surtout, je contraste un peu le paysage français vis-à-vis de ce que je peux observer, par exemple, aux États-Unis. On voit quand même une jeune génération de journalistes, de chercheurs ou de lanceuses d’alerte issus de la tech. Je pense à Meredith Whittaker ou Timnit Gebru, qui sont des personnes qui connaissent très bien la technique, très bien le monde de la tech, à la fois les technologies, les idéologies, les personnalités et les entreprises qui tirent l’innovation dans le champ de l’informatique et qui en sont venus à des positions extrêmement critiques, très bien informées et très pertinentes à mon sens, et qui me semblent encore manquer dans le champ médiatique et politique Français.
François Saltiel : Marie Turcan, rapidement justement, sur les États-Unis, vous pensez vous aussi que la presse anglo-saxonne est peut-être plus critique.
Marie Turcan : En tout cas, on fait un follow up, on fait le suivi derrière. Aujourd’hui, il y a quand même pas mal de médias qui traitent de la French Tech, par exemple sous forme de levées de fonds. C’est « machin a levé 100 millions, machin a levé 10 millions. » Très peu, ensuite, font, derrière, le suivi pour dire ce qui a été fait de ces millions, pourquoi l’entreprise est en faillite aujourd’hui, où sont les investissements qu’on nous a promis il y a deux/trois ans. Quand on regarde un peu le paysage, même des licornes, les licornes donc valorisables sur un milliard, les champions en français, 25 entreprises françaises très valorisées par Emmanuel Macron notamment, quand on va s’intéresser à ce qui se passe en réalité, il y a quand même des promesses qui ne sont pas tenues derrière, mais difficile, dans cet écosystème tech de ne pas se réjouir. Aujourd’hui, c’est Mistral AI, l’entreprise sur l’IA créée par Xavier Niel, notamment, qui lève 600 millions d’euros.
François Saltiel : Je ne sais pas si elle a été créée, en tout cas il est investisseur.
Marie Turcan : Cofondée, pardon, notamment aussi avec Cédric O qui est l’ancien ministre chargé du Numérique. Ces montants-là nous semblent absurdes. À force de les répéter, on ne les conteste pas et surtout on évite, on ne va pas assez chercher, ensuite, ce qui s’est passé avec ces millions.
François Saltiel : Donc, ne pas être aveuglé par la puissance du présent toujours prometteur et peut-être regarder, suivre les dossiers, et se projeter dans l’avenir. Tiens, Avenir, c’est le titre de la chanson qui va arriver. Albin De La Simone dans Le Meilleur des mondes.
Pause musicale : Avenir par Albin De La Simone.
Voix off : France Culture – Le Meilleur des mondes – François Saltiel
34’ 20 (Véro)
François Saltiel : Avenir par Albin De La Simone. Qu’est-ce que va nous réserver cet avenir, c’est toute la question. Autant on n’a pas trop de visibilité sur le long terme, mais, à court terme, je suis certain que Juliette Devaux va arriver dans ce studio. Bonsoir Juliette.
Juliette Devaux : Oui je suis là.
François Saltiel : Eh bien, voilà ! Parfois l’avenir tient ses promesses. J’espère qu’il en sera de même pour vos nouvelles.
Voix off : Les nouvelles d’un monde meilleur – Juliette Devaux.
Juliette Devaux : Oui. C’est en lisant les commentaires de certains auditeurs déçus sur les réseaux sociaux que je me suis dit qu’il serait opportun de vous donner, avant de partir, nos bonnes adresses pour bien s’informer sur nos sujets et les ressources ne manquent pas. J’ai découvert, ces trois dernières années, tout un écosystème de blogueurs et de chercheurs officiant dans l’ombre, loin de la lumière des plateaux télévisés, qui s’attachent à documenter le numérique à travers des analyses riches et rigoureuses, qu’ils partagent ensuite en accès libre sur Internet. C’est le cas de deux chercheurs que l’on a eu la chance de recevoir sur ce plateau :
Irénée Régnauld, qui publie très régulièrement des analyses étayées sur son blog « Mais où va le Web », depuis 2014, ou encore Anne Cordier, qui partage ses analyses toujours pertinentes sur les jeunes et l’éducation au numérique sur son blog intitulé « Carnet de recherche ». Si l’on a du temps, on peut aussi faire un tour sur le blog de l’auteur Olivier Ertzscheid, affordance.info, ou se rendre sur le site du permaculteur de pixels, au passage joli nom, pour profiter de ses recensions médiatiques.
François Saltiel : Je profite de votre première nouvelle pour vous dire que ces gens-là sont effectivement passés dans le studio du Le Meilleur des mondes et, bien sûr, ces émissions sont à réécouter en podcast. Et si on veut suivre l’actualité, Juliette, où est-ce qu’on va ?
Juliette Devaux : On peut aussi s’abonner à des newsletters, pour suivre l’actualité au quotidien des grandes entreprises de la tech à l’international. Il y a Cafétech, une newsletter gratuite, éditée par l’ancien correspondant du Monde à San Francisco, Jérôme Marin, qui propose une analyse rigoureuse et factuelle des dernières actualités qui ont agité le secteur. Pour avoir un éclairage plus critique de l’actualité du numérique, je ne peux que recommander la newsletter de Lucie Ronfaut, publiée par Numerama, qui, chaque mercredi, propose une analyse féministe de l’actualité de la tech, un prisme particulièrement pertinent et encore trop peu adopté pour analyser nos mondes numériques. Autre newsletter particulièrement riche pour avoir un recul critique sur l’actualité de la tech, « Dans les algorithmes », newsletter lancé le mois dernier et coordonnée par le journaliste et essayiste Hubert Guillaud, qui s’est donné pour mission de visibiliser les enjeux politiques et sociaux derrière le déploiement des technologies. Des newsletters denses et souvent longues qui nous rappellent que pour saisir la complexité des enjeux liés au numérique, il est indispensable de prendre le temps et de renouer avec la lenteur.
François Saltiel : Voilà de quoi résister à la tyrannie du retard dont Dominique Boullier nous parlait tout à l’heure.
Au-delà des sites et des newsletters vous recommandez aussi des événements pour bien appréhender, dans l’espace physique, les enjeux du numérique.
Juliette Devaux : Oui. Parce que si la lecture est indispensable pour bien s’informer sur ces sujets, il est aussi possible de se rendre à des événements pour échanger et rencontrer de vrais spécialistes du numérique. Pour cela, il y a les rencontres organisées par la maison d’édition C&F, maison d’édition indépendante, qui publie depuis des années les ouvrages les plus pointus sur les sujets du numérique et propose régulièrement d’échanger avec leurs auteurs.
Et si vous vous sentez d’humeur plus technocritique, il est également possible de se joindre aux événements organisés par des collectifs comme le Mouton numérique ou La Quadrature du Net qui propose, par exemple, ces prochaines semaines, des rencontres avec des chercheurs pour mieux appréhender les dérives de la vidéosurveillance à la veille du lancement des Jeux olympiques.
Si Le Meilleur des mondes s’arrête la semaine prochaine, ces quelques recommandations permettront aux auditeurs, on l’espère, de continuer à s’informer de manière pertinente sur ces sujets si essentiels pour comprendre le monde d’aujourd’hui et de demain.
François Saltiel : Donc, plein de bonnes adresses à retrouver sur le site et l’application Radio France pour le podcast de votre chronique, Juliette.
Nous sommes toujours, ce soir, en compagnie de quatre invités pour analyser, décrypter la manière dont on doit, dont on peut, justement, rendre le numérique intelligible, transmettre les bonnes informations sur ces enjeux qui sont complexes, que ce soit dans le champ médiatique, celui de la recherche ou encore le champ associatif.
Nous sommes en compagnie de Dominique Boullier, professeur des universités en sociologie du numérique à Sciences po ; nous sommes avec Félix Tréguer qui est chercheur et membre de La Quadrature du Net ; avec Marie Turcan, rédactrice en chef chez Numerama et avec Maryse Broustail qui est professeur d’histoire-géo au lycée Saint-Exupéry à Mantes-la-jolie et formatrice académique en éducation aux médias et à l’information dans l’académie de Versailles.
Maryse, je vous ai vu prendre des notes lors de la chronique de Juliette. Justement, quelles sont les sources médiatiques que vous utilisez pour faire votre éducation aux médias et au numérique.
Maryse Broustail : Déjà, je suis contente parce qu’on en a quand même quelques-unes en commun, je pense à Anne Cordier, par exemple, chez les chercheurs, ou à Olivier Ertzscheid. Je pense aussi aux éditions C&F qu’on peut utiliser. En fait, nous avons vraiment besoin d’avoir des journalistes qui vulgarisent la recherche, parce qu’on n’a pas toujours le temps d’aller chercher, on n’a pas le temps de la recherche pour se mettre à jour et s’actualiser. Je fais une veille assez régulière qui passe, entre autres par les réseaux sociaux, par les newsletters. J’ai effectivement pris plein de notes parce que ça m’intéresse beaucoup.
Quelques magazines ont été créés et lancés, parfois ils se sont arrêtés, parfois ils se sont relancés. Pour les plus jeunes, j’aime bien Geek Junior qui est sorti il y a quelques années, je crois, qui fait un travail autour de l’éducation aux médias et de l’éducation numérique auprès des jeunes qui est, je trouve, assez intéressant avec une newsletter sur la parentalité numérique, j’insiste un peu là-dessus, mais que je trouve vraiment bien quand on ne connaît pas forcément grand-chose. J’aime aussi beaucoup le travail des journalistes scientifiques quand ils essayent un peu de vulgariser, je ne sais pas si c’est le mot juste, en tout cas de transmettre ce qu’ils ont compris, par exemple, chez Epsiloon, ils ont fait un numéro sur les deepfakes, les vidéos truquées, qui m’a beaucoup intéressé parce que je vais utiliser ça avec les élèves après, je peux l’utiliser en formation pour expliquer comment développer son esprit critique. Je vais voir du côté de Usbek & Rica, de Numerama, j’écoute Le Meilleur des mondes.
On a aussi besoin de ces sources-là pour pouvoir nous former, nous actualiser et suivre, parce que ça n’arrête pas de changer, d’innover sans arrêt et c’est dur d’arriver à suivre tout en faisant autre chose à côté, l’enseignement, la formation.
François Saltiel : D’où l’intérêt, effectivement, de la pratique des journalistes spécialisés, comme le disait Marie Turcan, dans l’univers de la technologie, qui ne sont pas que des porte-paroles des nouveaux produits lancés par Apple, mais, au contraire, qui parviennent à analyser, à déposer justement un filtre critique sur l’ensemble de ces problématiques.
Félix Tréguer, on n’a pas encore parlé du monde politique et, pour autant, ça fait aussi partie de vos missions au sein de La Quadrature du Net d’aller essayer de convaincre, de faire aussi de la pédagogie, de lutter, sans doute aussi, contre ce discours des GAFAM, dont les lobbies sont très puissants à Bruxelles. À votre sens, quel est le niveau d’acculturation au numérique des responsables politiques, que ce soit en France ou en Europe à Bruxelles ?
Félix Tréguer : Quand j’ai commencé à militer à La Quadrature du Net, autour de 2009/2010, c’est vrai qu’il y avait encore une vraie inculture technique, y compris de la part des personnalités politiques qui étaient chargées de tel ou tel texte à l’Assemblée, par exemple, c’était le cas aussi, bien souvent, au niveau du Parlement européen. C’est un argument qu’on pouvait utiliser pour pointer l’incompétence, le manque de connaissances techniques et, du coup, les solutions réglementaires un petit peu mal fichues qui étaient proposées et, surtout, attentatoires aux libertés.
Je pense qu’il y a toujours un peu un problème. Par exemple, dans la dernière loi sur la sécurité dans l’espace numérique, la loi SREN – ce joli acronyme –, ce n’est pas toujours évident de faire sens des mesures techniques et des enjeux qui se cachent derrière le fait, par exemple, d’obliger tel ou tel navigateur à censurer certains sites, etc. Mais globalement, je trouve que l’argument de l’incompétence technique n’est plus vraiment valable, en fait, les choses ne se situent pas tant là.
Après, du côté de La Quadrature du Net, dans l’appréhension du champ politique, un autre changement très conséquent, c’est une forme de polarisation. C’est-à-dire qu’il y a 10/15 ans, on arrivait à parler à de nombreux partis politiques, c’est beaucoup moins le cas aujourd’hui. Je pense que les crises sécuritaires qu’on a connues autour de 2015/2016 ont été un peu un moment de bascule à cet égard et on s’est retrouvé face à des personnalités politiques qui, par rapport à un discours ancré dans la défense des droits humains, allaient nous dire « vous avez raison, mais ce n’est pas quelque chose que je peux assumer au plan politique, donc, en fait, je ne vais pas amender ou me prononcer contre telle ou telle mesure. » Le champ politique s’est donc refermé, en quelque sorte, et notre capacité à l’influencer directement aussi, je dirais.
François Saltiel : D’accord, donc ce n’est pas très rassurant.
Marie Turcan.
Marie Turcan : Il y a une prise de décision récente, notamment avec l’interdiction de TikTok en Nouvelle-Calédonie, qui est quand même un Rubicon qui a été franchi.
François Saltiel : Par les pouvoirs publics, on le rappelle.
Marie Turcan : Ils ont utilisé même pas un état d’urgence, mais les circonstances exceptionnelles, une espèce de truc qui a été mis dans une décision il y a quasiment 100 ans. C’est là où on s’est rendu compte que les pouvoirs publics pouvaient manipuler un petit peu le droit comme ils veulent pour faire interdire ce genre de plateforme, mais là, pour le coup, ça a été très attentatoire aux libertés individuelles.
Du coup, je voulais utiliser ma casquette journalistique pour dire que c’est à ce moment-là que je me suis rendu compte que c’était difficile de faire comprendre au public les dérives actuelles, les risques qu’on prend en fait aujourd’hui, que ce soit quand TikTok est annulé ou quand il y a une fuite de données immense. Aujourd’hui, on a quand même l’impression que ça ne vaut plus grand-chose. En fait, le public est tellement noyé d’informations que quand il y a quelque chose de vraiment très grave, qui pourrait basculer dans quelque chose qui ressemble à du totalitarisme, on n’arrive pas à alerter.
Typiquement la loi sécurité globale, il y a deux ans, qu’on a couverte, il y avait beaucoup de propositions qui étaient très attentatoires aux libertés individuelles, mais on voyait que ça débordait de partout. On a fait des articles, beaucoup d’articles. Je trouve que sur TikTok il y a eu une bonne couverture de certains médias, mais c’est quand même passé relativement inaperçu, alors qu’il y a un an le gouvernement voulait pouvoir bloquer Snapchat quand il y a eu les émeutes autour de la mort de Nahel. À un moment, le gouvernement n’attend un peu que ça : pouvoir bloquer des plateformes en cas d’émeute.
François Saltiel : En l’espèce, justement sur l’interdiction de TikTok en Nouvelle-Calédonie, il me semble que La Quadrature du Net a fait un recours au Conseil d’État. Le Conseil d’État a été dans le sens, justement, de l’exécutif, ce recours n’a pas été retenu.
Marie Turcan : Il a dit qu’il ne pouvait pas juger sur le référé d’urgence.
François Saltiel : Exactement. Félix Tréguer, peut-être plus globalement et pour poursuivre la question de Marie, c’est toujours cette même dialectique, que ce soit pour l’interdiction de TikTok ou pour le déploiement d’outils de vidéosurveillance, on va dire que c’est pour permettre une meilleure sécurité des gens. C’est quand même très dur de lutter contre cette idée qui est de dire que c’est pour notre intérêt, c’est pour la sécurité, que, « de toute façon, moi je n’ai rien à cacher, donc, ce n’est pas grave si on me filme ». J’imagine que c’est un discours que vous entendez depuis des années et des années. Quelle réponse peut-on apporter, puisque notre sujet c’est la transmission de l’information, pour que ces arguments soient intelligibles, qu’ils soient bien compréhensibles ?
45’ 01 (Véro)
Félix Tréguer : Tout à l’heure, on parlait un peu des discours de propagande à l’endroit de l’innovation numérique, c’est ce qu’on appelle communément le techno-solutionnisme. Je pense que nous sommes aussi baignés, depuis au moins 40 ans, mais c’est très prégnant depuis 20 ans et depuis les attentats de 2001, d’un solutionnisme sécuritaire. Cette difficulté à mobiliser l’opinion, à faire sentir les dangers et à quel point, justement, peu à peu, loi après loi, mesure discrétionnaire après mesure discrétionnaire prise par l’exécutif, on passe dans un régime qui n’est pas représentatif, qui n’est pas protecteur des droits humains, qui n’est pas respectueux de l’État de droit et qui se rapproche, en fait, d’un régime autoritaire. C’est effectivement dur de faire sentir ça. Comment le fait-on ? C’est clairement une question que l’on se pose constamment dans le cadre de notre projet Technopolice, qui porte sur les nouvelles technologies de surveillance policière, comme la police prédictive, les drones ou la vidéosurveillance algorithmique. Un des enjeux, pour nous, a été de montrer comment, concrètement, ces technologies s’articulent à des pratiques policières violentes, brutales et comment elles atteignent les corps. Je pense que c’est aussi en montrant les effets de pouvoir qui se cachent derrière ces technologies et leurs usages par les différentes formes de pouvoir qui traversent nos sociétés qu’on peut faire sentir, en fait, leur danger. Même si, forcément, les choses ne se répètent pas tel quel, je pense que, dans l’histoire, il y a des enseignements à tirer d’épisodes historiques passés. C’est donc sur tous ces leviers-là qu’on essaye de tirer pour mobiliser et informer.
François Saltiel : Dominique Boullier, on parlait tout à l’heure, avec Félix Tréguer, de ces textes, de cette réglementation qui est parfois un peu complexe. Il faut donc arriver à la faire comprendre. Avec Marie Turcan on parlait aussi du journalisme d’investigation pour enquêter, justement, dans le monde du numérique. Dans la recherche, justement, des chercheurs, pendant toutes ces années dans ces émissions, nous parlaient aussi de la difficulté de l’explicabilité. On a beau avoir accès et encore, dans le meilleur des cas, à des données sur les algorithmes, au fonctionnement des architectures numériques, ce n’est pas toujours simple d’arriver à les comprendre.
Dominique Boullier : Oui, c’est le moins qu’on puisse dire et la situation ne s’est pas arrangée avec l’IA générative, c’est un peu ça le problème. Pour moi, l’intérêt de l’informatique, c’était qu’en général, normalement, on est obligé de décomposer tous les problèmes, c’est l’opération extraordinaire de Turing : on ne traite pas des problèmes généraux, on résout des problèmes en les décomposant dans des procédures, etc., on s’oblige à expliciter les choses. Donc, tout cela va très bien, c’est dans une logique scientifique qui peut fonctionner. Or, on est en train de vivre un moment où, précisément, ça se retourne d’une autre façon. C’est-à-dire que, petit à petit, la décomposition des problèmes en opérations tellement minutieuses, qui supposent de telles masses de données qu’il faut pondérer de façon tellement ultrarapide, etc., aboutit à quelque chose qui devient, paradoxalement, totalement opaque, non seulement opaque pour le public, non seulement opaque pour les chercheurs, mais même pour les développeurs. Au bout d’un moment, ils ne sont plus capables de rendre compte de la façon dont un système a abouti à tel type de décision, à tel type d’orientation, parce qu’il a révisé lui-même, puisque c’est de l’apprentissage automatique, certaines des pondérations entre les paramètres qu’il gérait. Là on a un vrai problème.
Il faut bien remarquer, quand même, que c’est un souci qui ne vient pas seulement de chercheurs en sciences sociales qui n’y connaissent rien et qui ont un esprit critique, c’est aussi un souci des développeurs eux-mêmes de fournir une dimension d’explicabilité. Désormais, c’est un cahier des charges que se donnent un certain nombre d’entre eux, pas tous, justement, d’autres compagnies profitent très bien de cette opacité-là et vous disent « circulez, il n’y a rien à voir », alors que d’autres, effectivement, se disent qu’on ne doit plus s’autoriser à développer encore des boîtes noires, et un des impératifs éthiques des développeurs, ça doit être, justement, de rendre tout cela explicable. Certains vous disent « non, arrêtez de raconter des bêtises, ce n’est pas possible avec les milliards de paramètres, etc. ». Eh bien, peut-être, justement, que c’est pour cela que les Large Langage Models sont une impasse de ce point de vue-là, mais aussi pour d’autres raisons.
Donc, l’objectif d’explicabilité, c’est aussi une responsabilité des ingénieurs pour eux-mêmes déjà, pour savoir ce qu’ils font, et ils sont responsables de ce que leur système va faire et, ensuite, de toute la chaîne de ceux qui les commentent ou qui les utilisent. Si on veut avoir une démarche démocratique, discuter de ce qu’on peut choisir et rendre compte de tout cela, eh bien, effectivement, il va falloir que l’IA elle-même évolue vers plus d’explicabilité, c’est incontestable.
François Saltiel : Si je reprends les termes de Dominique Boullier, Maryse Broustail, j’ai entendu « boîte noire », j’ai entendu « opacité », comment fait-on, justement, pour éclairer les jeunes générations avec lesquelles vous travaillez, les enseignants aussi ? Quelles sont vos solutions ?
Maryse Broustail : Ce n’est pas très simple. J’essaye de travailler, de faire œuvre de pédagogie avec des métaphores : la boîte noire, ça va être les ingrédients qu’on va utiliser, les algorithmes ça va être la recette et puis avec des ingrédients qu’on ne connait pas, donc les données, et avec la recette, les algorithmes qu’on ne connait pas forcément, on a un contenu que peut nous fournir un outil d’IA, d’intelligence artificielle, qui va arriver, qui peut être très beau, mais on peut se questionner. Si je n’ai ni la recette ni les ingrédients, même si mon contenu, à la fin, est très beau, d’où sort-il ? Ce n’est pas simple, même pour moi. J’entends des termes. J’ai mis des années à comprendre en quoi, par exemple, le terme algorithme était important, qui, maintenant, m’est familier, sans forcément être une programmeuse, une développeuse ou une codeuse. Je pense qu’on a un vrai travail de pédagogie à faire aussi auprès des enseignants pour expliquer les mots et se dire que travailler sur le numérique ce n’est pas que la science, ce sont aussi les humanités, parce que c’est aussi un peu une guerre, je ne sais pas si c’est le bon mot, on va dire un clivage, entre humanités numériques et l’image numérique. Il y a toujours toute cette réflexion. À mon avis, il faut travailler ensemble, il y a un vrai travail de pédagogie sur expliquer les choses et prendre du temps, parce qu’il faut qu’on puisse expliquer ces outils qui s’imposent dans l’éducation comme dans la société. Je pense aussi qu’il faut les pratiquer pour les comprendre, sans forcément s’immerger à fond dedans, mais comprendre un peu comment ça fonctionne par la pratique.
François Saltiel : J’imagine que c’est aussi un peu le leitmotiv de votre enseignement, c’est-à-dire mettre les mains dans la machine, essayer le plus possible de l’utiliser, être dans la pratique, dans l’usage pour comprendre comment elle fonctionne.
Maryse Broustail : En général, je commence plutôt par l’inverse, par l’analyse de ce que peuvent produire les outils. On parlait tout à l’heure des textes ou des images, je vais travailler dessus avec les élèves pour analyser et se poser des questions : d’où vient la source, en fait le contexte de ce qui a été produit. Une fois qu’on a analysé, je passe, après, si on a le temps, à la phase de production dans ma matière, parce que je suis quand même professeur d’histoire-géographie, du coup le fait d’aller dans le dur, ce n’est pas tellement ma matière, mais je trouve ça intéressant, pour le coup.
François Saltiel : Vous dites, on l’a peut-être senti, « si on a le temps ». Vous manquez de temps ?
Maryse Broustail : Définitivement. On a parlé de temps depuis le début de l’émission, le temps long qui est nécessaire par rapport à une urgence, par rapport à, je ne sais plus quel était le mot, le rythme, la cadence, le réchauffement médiatique. Oui, il nous faut du temps pour comprendre, il nous faut du temps pour intégrer, pour voir comment on peut l’adapter à notre enseignement, comment on peut accompagner les élèves à des usages raisonnés de ces outils. L’emballement est aussi chez les jeunes, il y a des nouveaux outils, ils ont envie de les utiliser, on se plonge dedans et on ne se pose pas forcément des questions. Oui, il nous faut du temps, il nous faut du temps pour intégrer tout ça, bien sûr.
François Saltiel : Le temps aussi a ses règles, son imposition, ses préceptes dans Le Meilleur des mondes également, car on approche de la fin de cette émission. On ne va pas terminer sans essayer, peut-être, d’entrevoir une solution collective. Elle ne vient évidemment pas de moi, mais du low-tech que l’on entend beaucoup. On a parlé, même au début de cette émission, de la volonté de décélérer, même si ça devrait indiquer, justement, un changement de paradigme, casser la viralité, la propagation, pour reprendre justement les termes de Dominique Boullier, aller vers une sorte d’éloge de la lenteur. Est-ce que c’est vers ça qu’il faut qu’on se dirige, Marie Turcan ?
Marie Turcan : Je pense qu’on a quand même des espoirs, pas forcément sur le ralentissement, parce que les pratiques sont telles que, je pense, on ne va pas réussir à faire poser leur téléphone aux jeunes personnes qui utilisent leur téléphone pendant toute la journée, les mettre dans des boîtes noires. Par contre, par exemple au-delà des journalistes, il y a typiquement des influenceurs/influenceuses qui, aujourd’hui, font du travail de très bonne qualité de vulgarisation, d’aide à la compréhension. Il y a aussi pas mal de journalistes qui font des interventions dans des écoles, je l’ai fait récemment. Je me suis rendue compte que je venais parler du métier de journaliste, tout bêtement, et j’ai fini par parler d’une enquête que j’ai faite sur un youtubeur et là, soudain, vraiment dix élèves devant moi, qui me disent : « Je joue à Fortnite et un mec m’a demandé ça un jour. Celui-là il m’a demandé mon Snapchat, mais je ne lui ai pas donné », en plus c’était mon amie, j’avais une amie qui est prof et elle m’a dit : « Jamais ils n’ont osé me poser autant de questions parce que je suis leur prof au quotidien ». Du coup, je pense que le fait d’avoir des intervenants / intervenantes extérieures, qui ont ce côté très précis, peut aussi permettre d’apporter une pédagogie différente et une écoute. Ce sont des petites initiatives comme ça qui vont me permettre de faire les choses et je pense, en effet, l’éducation des parents peut être vraiment bénéfique.
François Saltiel : Et la pédagogie peut aussi se faire en lisant de la science-fiction et c’est Marcus Dupont-Besnard qui nous en parle. Bonsoir Marcus.
Marcus Dupont-Besnard : Bonsoir François.
François Saltiel : La science-fiction pour comprendre la révolution technologique.
Marcus Dupont-Besnard : Eh oui, parce que la science-fiction c’est un outil démocratique dont on a besoin. Pour vous le prouver, j’ai une affirmation quasi contre-intuitive. La SF est parfaitement ancrée dans le présent. Elle nous dit « stop, on s’arrête deux minutes et on prend du recul, on regarde le monde que nous sommes en train de créer ». C’est un refus de l’inéluctable. En SF, l’avenir n’est plus un progrès en ligne droite dont on serait les passagers passifs, et ça, c’est très politique. En nous permettant d’accéder à l’altérité, à l’ailleurs, à l’autrement, cet imaginaire est aussi un outil de premier plan contre la haine et le repli sur soi et ça marche avec presque toutes les œuvres de SF.
Prenons l’un des grands succès de l’année, au hasard la série Netflix, Le Problème à trois corps. On y trouve un casque de réalité virtuelle au fonctionnement incompréhensible et une espèce extra-terrestre incompréhensible. Comme le livre dont elle est adaptée, elle nous pousse dans nos retranchements, comme adore le faire la SF, en nous confrontant à l’inconnu.
Diverses voix off : Ça nous observe et ça nous écoute.
On ne sait même pas ce qu’ils sont !
Peut-être qu’on ne peut pas savoir.
Préparez-vous à vivre un truc qui sort de l’ordinaire.
Marcus Dupont-Besnard : En fait je crois que la SF est un road?? trip, c’est un voyage. Prenons l’œuvre d’une écrivaine française, Émilie Querbalec. Son roman, Les chants de Nüyin, démarre avec une découverte des sons émanant d’une autre planète, qui ressemblent étrangement à des chants de baleines. Une expédition spatiale est lancée et nous, en tant que lecteur ou lectrice, on pense partir explorer cette planète. Mais non ! Émilie Querbalec nous raconte surtout le voyage au sein de ce vaisseau. À l’image de tout le genre SF, c’est une belle et profonde quête humaniste vers soi et surtout vers les autres.
François Saltiel : La science-fiction est parfois sombre, Marcus. Faut-il lire plutôt de la dystopie ou de l’utopie ?
Marcus Dupont-Besnard : En fait, quand on dit qu’on en a marre des dystopies, ça ne signifie pas qu’il ne faut plus en écrire ni qu’elles sont invalides. Au contraire, c’est un constat plutôt sain. Encore heureux qu’on en a marre des dystopies ! Elles sont là pour ça. Elles nous dépriment un peu, je ne vais pas dire le contraire, mais elles nous aident aussi à refuser. Prenons, par exemple, La trilogie de la transparence numérique de Benjamin Fogel, j’en ai déjà parlé dans une précédente émission, tome 3, mais parlons maintenant du tome 2, Le silence selon Manon, qui nous montre un futur où l’omniprésence numérique avait transformé la haine en ligne en institution. Mais l’auteur contrebalance sans cesse avec notre humanité. Dans cette tension narrative, il y a une étincelle qui pousse à la mobilisation, une levée de bouclier contre, en l’occurrence, le masculinisme et le cyber-harcèlement.
Bien sûr dans la production récente, on trouve de plus en plus d’espoir, de notions d’espoir. Becky Chambers, là encore j’en ai beaucoup parlé dans cette émission, est la fer de lance de cette SF positive, optimiste, basée sur le vivre ensemble et le respect de la nature.
En fait, c’est cette cohabitation entre des futurs enviables et non enviables qui est nécessaire. Si on veut parler de nouvelles technologies, on devrait toujours parler en termes de futurs possibles. Ils sont nombreux, ils dépendent en grande partie de nous, alors même avec un smartphone en main, vous avez le choix et c’est l’un des meilleurs enseignements de la SF.
François Saltiel : Merci beaucoup, Marcus Dupont-Besnard, pour votre amour renouvelé de la science-fiction, et puis c’était inédit, car Marie Turcan a pu voir une de vos chroniques en direct, puisque, pour cette avant-dernière, vous étiez tous les deux présents dans ce studio.
Je vous rappelle donc que la semaine prochaine c’est la dernière du Meilleur des mondes. Si vous voulez nous laisser un message vocal, pourquoi pas, allez sur le site de l’émission, vous trouverez une adresse mail et vous pourrez enregistrer votre voix, promis, Félix Tréguer me regarde d’un œil suspicieux, on n’analysera pas la biométrie des voix, on pourra supprimer ça instantanément, mais on aura peut-être le loisir de diffuser vos messages la semaine prochaine. En tout cas, encore merci pour tous les messages de soutien que vous nous avez envoyés durant ces derniers jours.
Merci aussi à vous quatre pour votre engagement et votre regard pertinent sur ce sujet de la transmission.
Je remercie également à la réalisation ce soir, comme depuis deux ans Peire Legras, accompagné par Alex Dangue ???; à la vidéo, car cette émission est filmée et diffusée ensuite sur la chaîne YouTube de France Culture, Vincent René ??? ; à la préparation, comme d’habitude Juliette Devaux accompagnée par notre stagiaire, Laudine Storelli, qui était elle-même accompagnée par un autre stagiaire, de seconde cette fois-ci, qui s’appelle Gabriel Rouillac, il sera également là la semaine prochaine.
Le Meilleur des mondes continue, encore une fois, encore pour une semaine. Merci d’être avec nous jusqu’au bout. Rendez-vous la semaine prochaine.