Voir la source de Les petites mains derrière les technologies d'intelligence artificielle

==43’ 28==

<b>Thomas le Bonniec : </b>Le règlement sur l’IA précise justement qu’il ne remplace en aucun cas le RGPD. Les obligations relatives au RGPD continuent de s’appliquer. Il y a aussi un rôle qui est attribué, de base, aux agences de protection des données sur le contrôle de certains modèles d’IA, je ne sais plus exactement lesquels. En fait, ça revient à dire que le RGPD continue de s’appliquer. Puisqu’on est en train de parler de systèmes d’IA qui nécessitent souvent des données à caractère personnel, en tout cas pour ceux qui ont besoin de données à caractère personnel, le RGPD s’applique, il n’y a pas de question là-dessus. À mon avis, le Règlement général sur la protection des données est un excellent outil pour aborder ces questions-là du point de vue de la régulation.<br/>
Ce que j’avais écrit dans cet article de recherche consiste à dire que la régulation, ça n’est pas juste la loi, ça n’est pas ce que dit un texte de loi, c’est la manière dont les personnes concernées s’en saisissent. Une réglementation de ce style-là cartographie, en quelque sorte, une activité économique. Elle dit ce qu’on a le droit de faire, ce qu’on n’a pas le droit de faire, elle met des bornes. Elle dit « dans ce cadre-là vous avez le droit, par exemple, de collecter des données à caractère personnel, et voilà l’usage que vous avez le droit d’en faire, voilà l’usage commercial ». Mais la régulation, en fait, c’est la manière dont le mode de production se fait dans la réalité, c’est-à-dire que c’est le compromis entre les institutions, les acteurs qui participent à ce mode de production. Ça veut dire que, en réalité, la régulation, ce sont les entreprises qui la font en partie en plus des agences chargées de l’application de cette réglementation.<br/>
Ce que je dis, c’est qu’il y a deux acteurs fondamentaux qui sont laissés de côté, beaucoup trop laissés de côté, qui sont les travailleurs, notamment les travailleurs des plateformes et d’entraînement des modèles d’IA et les consommateurs, les usagers. Ce sont deux grands groupes qui sont absolument fondamentaux, à la fois parce qu’ils produisent du travail et des données personnelles, et puis aussi parce qu’ils sont souvent victimes d’agissements qui sont contraires à ce que dit la loi. Il serait donc temps, pour eux, qu’ils puissent s’organiser de manière à avoir une influence, à peser aussi à leur tour dans la régulation et on en a quelques exemples. On a des travailleurs pour Uber, des chauffeurs, qui ont porté plainte auprès de la CNIL, qui a ensuite transmis ça à l’Agence néerlandaise de protection des données. Ils ont exercé leur droit d’accès parce que, parmi les choses qu’ils voulaient comprendre, c’était pourquoi deux chauffeurs ayant la même course sont payés différemment, par exemple, ce genre de choses, donc c’est à ce moment-là qu’ils exercent leur droit d’accès. Très concrètement, le droit d’accès, ça veut dire « je demande à une application ou à un service que j’utilise de me transmettre toutes les données relatives à moi, ce genre de chose ». Uber ne s’étant pas exécutée s’est pris deux amendes l’année dernière, une à la fin de l’année, il me semble aussi. Une pour non-respect du droit d’accès, puisque les informations fournies aux chauffeurs étaient bateaux, c’était très loin du compte et la deuxième pour un transfert indu de données vers un pays tiers qui n’avait pas les garanties nécessaires du point de vue du RGPD.
<br/>C’est un exemple concret. Il y en a d’autres, il devrait y en avoir plus, il devrait, c’est ce que j’argumente, un début de coordination entre, par exemple, les organisations de défense des droits des consommateurs et les syndicats ou les organisations représentant les travailleurs du clic, comme d’ailleurs c’est le cas au Kenya. Désormais les ex-travailleurs, les ex-modérateurs de contenu qui étaient au Kenya, qui étaient exploités, ont commencé à s’organiser, à créer aussi leur propre syndicat, mais c’est une nouveauté dans cet univers-là.

<b>Clément Durand : </b>J’ai une question un peu plus macro. On entend quand même pas mal parler de l’impact environnemental du numérique et des systèmes d’IA, en tout cas c’est un sujet qui est sur la table, moins de celui de l’impact social, on va dire, et de la question de la captation des données personnelles. C’est juste moi qui parle, mais j’ai l’impression d’entendre une petite musique quand même assez régulièrement de « si vous n’avez rien à cacher, il n’y a pas de problème pour qu’on capte vos données personnelles et puis, c’est pour votre bien, on va améliorer les services, vous inquiétez pas, on ne fait rien de toutes ces données. ». Comment pourrait-on mieux sensibiliser à la fois le public dont tu parlais – les consommateurs, les travailleurs – les décideurs et les entreprises, pas forcément celles qui produisent ces technologies, mais celles qui les utilisent, parce qu’il y a quand même dans ces entreprises des personnes qui auraient envie, peut-être, de faire différemment ? Comment peut-on mieux sensibiliser à ces enjeux, à la fois sur la question environnementale, sur la question des données personnelles, sur la question de l’impact social de la production de ces systèmes d’IA et, peut-être, quels seraient les leviers d’action pour faire un petit peu bouger les choses ?

<b>Thomas le Bonniec : </b>Comme réaction à des gens qui disent « je n’ai rien à cacher », j’ai envie de dire « si vous n’avez rien à cacher, montrez-moi le contenu de vos poches et montrez-moi toutes vos conversations, tous vos SMS. Vous n’avez rien à cacher, ne me cachez rien ! À la limite, mettez-vous nu devant moi si c’est vraiment ce dont vous avez envie. » On a forcément des choses qu’on n’a pas envie de partager. C’est le premier élément.<br/>
Le deuxième, c’est que même des personnes qui sont très informées n’ont qu’une idée parcellaire, en fait, de la totalité des données qui sont collectées et de leur intérêt.<br/>
Le troisième élément, c’est que la protection des données et la vie privée, c’est quelque chose d’absolument essentiel et que les gens qui sont les plus susceptibles de subir des abus notamment de la part d’un État ou d’une entreprise le savent mieux que les autres. Lorsqu’on est dans une situation de travail où le patron est susceptible de nous vouloir du mal, alors à ce moment-là, on sait qu’on a intérêt à ne pas lui donner les armes dont il pourrait avoir besoin pour nous faire du tort. Même chose dans tout un tas d’autres situations.<br/>
Donc, ça, c’est faux. On a forcément des choses à cacher, parce qu’on a forcément un cercle d’intimité dans lequel on ne veut pas que tout le monde s’immisce. C’est absolument essentiel, donc, effectivement, il y a un travail monumental à faire pour contrer le discours de la part des GAFAM, parce que c’est cela aussi. Apple se met en scène pour dire qu’il protège la vie privée des gens. C’est essayer de présenter la chose comme étant plus confortable, plus facile, plus tout un tas de choses. Ça veut aussi dire que ça crée une dépendance à des outils numériques dans lesquels on se retrouve enfermé. Ça nous rend illettrés, d’un certain point de vue, ça nous rend analphabètes par rapport aux outils dont on se sert. On ne comprend pas ce qu’est Zoom, on ne comprend pas ce qu’est Microsoft Teams, on ne comprend pas ce qu’est Chrome, on ne comprend pas ce qu’est Microsoft. Tout est fait pour dissimuler ou pour empêcher les gens d’avoir un minimum de contrôle sur les outils qu’ils ont achetés et c’est aussi ça qui est un peu hallucinant. On paye deux fois tous les outils numériques dont on se sert : on les paye avec de l’argent et, ensuite, on continue de les payer avec des données. On paye une application deux fois aussi, avec des données et avec de l’argent.<br/>
Je ne suis pas certain qu’il y ait un remède immédiat, facile. Je vais quand même dire ceci. Je suis inquiet pour l’avenir et je ne suis pas du tout convaincu que le numérique puisse continuer dans sa trajectoire actuelle, que les entreprises et l’économie du numérique puissent poursuivre dans leur trajectoire actuelle parce que ça consomme une énergie monstrueuse. On est déjà en train d’assister à des luttes politiques, pour savoir, par exemple, en Irlande et aux Pays-Bas, à qui attribuer les ressources en électricité : est-ce que ça va être à des <em>datacenters</em> ou est-ce que ça va être pour assurer les nécessités des foyers qui sont dans la même ville ? Microsoft a aussi annoncé la création d’une centrale à charbon ou à gaz, je ne sais plus, pareil, en Irlande. Microsoft, Google et les autres sont en train d’exploser complètement les objectifs climat qu’ils s’étaient fixés parce qu’ils se disent qu’il faut absolument foncer dans cette lutte. Et avec l’arrivée de Donald Trump, c’est la même chose. Donc, je ne suis pas convaincu qu’ils continueront d’avoir les moyens de leurs ambitions d’un point de vue environnemental, parce que ça représente une gabegie d’électricité, d’eau et de ressources et, à un moment ou à un autre, les ressources étant finies, étant donné l’avenir à court et moyen terme qui nous attend, je ne suis pas convaincu qu’ils puissent continuer de consommer autant d’énergie, d’électricité qu’ils le souhaitent.

<b>Clément Durand : </b>Une dernière question pour clôturer cet entretien. Si tu avais des propositions, deux/trois grandes pistes d’action, justement pour, peut-être, se réapproprier un peu plus ces technologies, mieux comprendre comment ça fonctionne et mieux prendre en compte tous ces enjeux qui sont multiples dans les développements de l’IA et des technologies numériques, peut-être d’un point de vue français ou européen. Quels seraient, selon toi, les deux/trois grands axes sur lesquels on pourrait avoir un levier d’action ou une capacité à faire un peu bouger les choses ?

<b>Thomas le Bonniec : </b>Je dirais qu’à l’échelle individuelle, c’est dans notre intérêt, par exemple c’est dans mon intérêt, de me passer au maximum de Google, Microsoft, Facebook. Je sais que c’est très difficile. Si on peut se passer d’un smartphone, on s’en passe quoi ! Si on peut transférer ses données et utiliser un fournisseur de service qui soit en <em>open source</em> et qui sache minimiser l’impact environnemental, par exemple, c’est bien. Il faut passer par Framasoft, il faut utiliser Linux, ce genre de chose. Ça c’est au niveau individus, c’est dans notre intérêt personnel. Moi, en tant qu’individu, c’est mon intérêt de faire ça, de manière très concrète, très immédiate.<br/>
À l’échelle plus grande, il y a quelque chose qui s’annonce effectivement à l’horizon avec l’avènement de Donald Trump et avec la manière dont Elon Musk se mêle désormais de politique en Allemagne et au Royaume-Uni. Les discours qu’on entendait sur la souveraineté du numérique vont avoir un poids essentiel, alors que c’était ignoré. En 2022, lorsque Elon Musk a racheté Twitter, ce sont carrément des partis politiques entiers, ce sont réellement des rédactions comme celle du <em>Monde</em> qui annoncent qu’elles quittent Twitter, qu’elles s’en vont, que ce n’est plus possible. Tout d’un coup, on se rend compte maintenant qu’en fait l’Union européenne est totalement sous la coupe des GAFAM, que ce sont des acteurs étrangers, ce sont des acteurs hostiles et que, s’ils le veulent, toute cette structure leur permet d’avoir une influence démesurée sur les affaires européennes.<br/>
Il y a longtemps que les acteurs du numérique libre, que les organisations de défense des droits numériques essaient de faire valoir ce sujet aux niveaux nationaux et européens. Mais jusqu’à présent, ce qui est quand même assez hallucinant, c’est que, dans les dix dernières années, je ne sais pas si on peut compter le nombre d’accords qui ont été passés entre Microsoft, Apple, Google et le ministère de l’Éducation français. C’est cela qui s’est passé : des projets pour équiper des départements entiers de tablettes Microsoft ou Apple, pour les donner à des collégiens. À ce moment-là, les collégiens sont éduqués à vivre dans une situation de dépendance numérique. À ma connaissance, le seul service qui a développé son propre système autonome c’est la Gendarmerie. Je crois que les gendarmes sont à peu près les seuls à avoir développé leur propre système d’exploitation à part entière. À ce moment-là, ils ont effectivement un degré d’autonomie que les autres ne connaissent pas.<br/>
Je crois bien qu’il y a, à ce niveau-là, quelque chose d’absolument urgent à faire.<br/>
En résumé, c’est envisager de faire appliquer la réglementation européenne une bonne fois pour toutes, pour de bon.<br/>
La deuxième, c’est commencer à envisager des solutions, des logiciels numériques développés en Europe, idéalement sur le modèle des communs numériques et pas pour créer l’équivalent d’un Google européen, il faudra l’éviter à tout prix.<br/>
Et finalement, en fait, minimiser notre utilisation du numérique.<br/>
De manière très concrète, par rapport au sujet de l’intelligence artificielle, est-ce qu’on a vraiment besoin de ChatGPT ? Je ne suis pas convaincu. Je ne suis absolument pas convaincu que, pour la plupart des usages qui en sont faits à l’heure actuelle, ce soit vraiment nécessaire. C’est un truc qui crée aussi une forme de dépendance en termes de connaissance. Je sais que ce que je m’apprête à dire va faire un peu boomer, va faire un peu vieux jeu, n’empêche que c’est vrai, c’est quelque chose qui est fondamentalement inquiétant : si je ne m’appuie que sur ChatGPT pour m’apporter des réponses par rapport à des connaissances que je suis censé avoir, par exemple, je suis étudiant en droit et à chaque fois qu’il faut que j’aille chercher une référence de droit dans les textes de droit, je n’utilise que ChatGPT, eh bien ce sont des connaissances que je n’aurai pas. Le jour où le service cesse de fonctionner parce qu’il y a une panne informatique, parce que OpenAI décide de cesser de le mettre à disposition en Europe, c’est gênant ! Ou alors, peut-être qu’il va y avoir ce qu’ils appellent une hallucination, peut-être qu’il y aura une information qui est fausse, et je ne l’aurai pas vérifiée parce que je fais confiance à ce truc-là.

<b>Clément Durand : </b>Merci beaucoup, Thomas, d’avoir répondu à mes questions. J’espère à bientôt.

<b>Thomas le Bonniec : </b>Merci pour l’invitation. C’était un plaisir.

<b>Voix off : </b>L’épisode est maintenant terminé. J’espère qu’il vous a plu. N’hésitez pas à le partager autour de vous et à vous abonner au podcast pour écouter les prochains épisodes.<br/>
À bientôt.