|
|
| (12 versions intermédiaires par 2 utilisateurs non affichées) |
| Ligne 1 : |
Ligne 1 : |
| [[Catégorie:Transcriptions]] | | [[Catégorie:Transcriptions]] |
|
| |
|
| '''Titre :''' Technosurveillance : halte l’IA ?
| | Publié [https://www.librealire.org/technosurveillance-halte-l-ia ici] - Novembre 2024 |
| | |
| '''Intervenant·e·s :''' Olivier Tesquet - Félix Tréguer - Natacha Triou
| |
| | |
| '''Lieu :''' Podcast <em>La Science, CQFD</em> - France culture
| |
| | |
| '''Date :''' 28 octobre 2024
| |
| | |
| '''Durée :''' 53 min 30
| |
| | |
| '''[https://media.radioFrance-podcast.net/podcast09/14312-28.10.2024-ITEMA_23907041-2024C48906S0302-21.mp3 Podcast]'''
| |
| | |
| '''[https://www.radiofrance.fr/franceculture/podcasts/la-science-cqfd/technosurveillance-halte-l-ia-7212768 Présentation du podcast]'''
| |
| | |
| '''Licence de la transcription :''' Verbatim
| |
| | |
| '''Illustration :''' À prévoir
| |
| | |
| NB : <em>transcription réalisée par nos soins, fidèle aux propos des intervenant·e·s mais rendant le discours fluide.<br/>
| |
| Les positions exprimées sont celles des personnes qui interviennent et ne rejoignent pas nécessairement celles de l’April, qui ne sera en aucun cas tenue responsable de leurs propos.</em>
| |
| | |
| ==Description==
| |
| | |
| Depuis la loi relative aux JO 2024, l’expérimentation de caméras dotées de systèmes d’intelligence artificielle a été autorisée en ville pour huit cas d’usage. Le gouvernement envisage désormais de pérenniser et généraliser ce nouvel outil. Est-on en passe de légaliser la reconnaissance faciale ?
| |
| | |
| ==Transcription==
| |
| | |
| <b>Voix off : </b><em>La Science, CQFD</em> – Natacha Triou
| |
| | |
| <b>Natacha Triou : </b>Depuis la loi relative aux JO 2024, la police expérimente la vidéosurveillance algorithmique à large échelle. Le gouvernement envisage de pérenniser ce dispositif. Pourquoi cette technologie fait-elle tant débat ?<br/>
| |
| Depuis mai 2023, la vidéosurveillance algorithmique est expérimentée en ville avec 485 caméras augmentées. L’idée est de créer un réseau de vidéosurveillance intelligent en le couplant à des algorithmes entraînés pour détecter des anomalies parmi la foule. Le rapport d’évaluation de cette vidéosurveillance, boostée à l’IA, est supposé sortir d’ici la fin de l’année. Jusqu’à présent, aucune étude à grande échelle n’a démontré l’efficacité de ces systèmes. Pourquoi donc continuer à déployer ces outils et sommes-nous en passe de légaliser la reconnaissance faciale ?<br/>
| |
| « Technosurveillance : halte l’IA ? »<br/>
| |
| Félix Tréguer, bonjour.
| |
| | |
| <b>Félix Tréguer : </b>Bonjour.
| |
| | |
| <b>Natacha Triou : </b>Vous êtes sociologue associé au Centre Internet et Société du CNRS, membre de La Quadrature du Net, association de défense et de promotion des droits et libertés sur Internet, et vous publiez tout juste <em>Technopolice – La surveillance policière à l’ère de l’intelligence artificielle</em>, aux Éditions divergences.<br/>
| |
| Olivier Tesquet, bonjour.
| |
| | |
| <b>Olivier Tesquet : </b>Bonjour.
| |
| | |
| <b>Natacha Triou : </b>Vous êtes journaliste à la cellule enquête de <em>Télérama</em> et l’auteur, entre autres, de l’ouvrage <em>À la trace – Enquête sur les nouveaux territoires de la surveillance</em>, en 2020, aux éditions Premier Parallèle.<br/>
| |
| Merci à vous deux d’avoir accepté notre invitation, ici, dans nos studios à France culture, et merci à vous qui nous écoutez. N’hésitez pas à nous suivre sur X, ex-Tweeter, à nous poser des questions. Pour vous, on publie tous les jours plein de ressources complémentaires sur notre fil, @ScienceCQFD.
| |
| | |
| Alors, les caméras de surveillance algorithmique sont-elles de simples prolongements techniques des caméras existantes et pourquoi ces technologies sont-elles problématiques du point de vue des libertés publiques ? Nous sommes ensemble jusqu’à 17 heures pour répondre à ces questions, mais on commence avec notre archive du jour pour les Jeux olympiques n’ont pas de Paris, mais de Pékin.
| |
| | |
| <b>Journaliste du <em>20 Heures</em> de France 2 en 2006 : </b>Une caméra tous les 20 mètres sur la place Tian'anmen, au cœur de Pékin, la place la plus surveillée de Chine. Pas possible d’échapper à ses yeux de verre, camouflés en lampadaires, qui vous guettent partout. On estime que 260 000 caméras surveillent les rues et les gens de Pékin, comme ici, dans cette artère commerçante, une caméra tous les 50 mètres, mais les Chinois ne s’en soucient guère.
| |
| | |
| <b>Diverses voix off : </b>Ça ne me dérange pas, c’est pour garantir la stabilité de la société.<br/>
| |
| C’est dans l’intérêt de la Chine qu’on met des caméras. En tant que citoyen, on coopère, mais ça ne touche pas à notre vie privée.<br/>
| |
| Ça aide à gérer le pays.<br/>
| |
| Chez vous aussi, on a besoin de caméras pour contrôler les espaces publics.
| |
| | |
| <b>Journaliste du <em>20 Heures</em> de France 2 en 2006 : </b>Tout mouvement de foule est filmé et conservé à Pékin, comme cette manifestation anti-japonaise, soutenue par le pouvoir, mais surveillée par la police.<br/>
| |
| Les autorités ne cachent pas leur méthode. Une émission de télévision montre les images de la police, comme celles de ce criminel qui a enfermé le corps de sa compagne dans une valise. Il sera arrêté le lendemain, pour la plus grande joie du téléspectateur.<br/>
| |
| Chaque commissariat centralise les images filmées par les caméras de vidéosurveillance et les bannes seront, à l’avenir, conservées pendant deux mois.
| |
| | |
| <b>Voix off : </b>Notre centre de contrôle surveille les endroits sensibles où l’on observe souvent des troubles de l’ordre public, des crimes ou même des accidents, et nous informons les départements concernés.
| |
| | |
| <b>Journaliste du <em>20 Heures</em> de France 2 en 2006 : </b>Pour les Jeux olympiques, toutes les images seront centralisées ici et les autorités concernées auront un accès illimité aux enregistrements. De même, les bâtiments publics seront dotés d’une technologie de reconnaissance faciale, comme à l’entrée du Palais du peuple.<br/>
| |
| Dans deux ans, la ville de Pékin comptera 400 000 caméras de vidéosurveillance pour les Jeux olympiques, mais la population ne s’en soucie guère. On est bien loin ici de l’adoption d’une loi Informatique et Libertés.
| |
| | |
| <b>Natacha Triou : </b>Voilà un extrait du <em>20 heures</em> de France 2, la surveillance en Chine en 2006.<br/>
| |
| Olivier Tesquet, depuis 2001, tous les JO ont un peu servi de prétexte, quand même, au déploiement de nouvelles technologies sécuritaires.
| |
| | |
| <b>Olivier Tesquet : </b>Oui, parce qu’on aurait probablement pu trouver un peu la même archive pour la Coupe du monde de foot en Russie en 2018, qui a été l’occasion, pour les autorités russes et surtout la mairie de Moscou, de généraliser la reconnaissance faciale notamment dans le métro, reconnaissance faciale qui a ensuite pu être utilisée à d’autres fins, pour des manifs pro Navalny, pour faire respecter le confinement pendant le Covid. Il y a ce moment d’accélération au moment des grands événements sportifs. D’ailleurs, quand on entend les pouvoirs publics, ils nous parlent de la dimension d’héritage des JO, c’est un mot qui est revenu beaucoup, on l’a encore entendu avec les JO de Paris cette année. Dans la dimension d’héritage, il y a l’héritage avec les infrastructures qui restent, mais il y a aussi les dispositifs techniques de ce type-là qui ont vocation à perdurer et la pérennisation de l’expérimentation de vidéosurveillance algorithmique en est le meilleur exemple.
| |
| | |
| <b>Natacha Triou : </b>Félix Tréguer, votre réaction à cette écoute d’archive de 2006.
| |
| | |
| <b>Félix Tréguer : </b>C’est un moment important dans la généalogie de la vidéosurveillance algorithmique qui occupe beaucoup le débat public français ces dernières semaines. L’installation de la vidéosurveillance à Pékin avec, déjà, l’arrivée de la reconnaissance faciale et c’est à peu près à la même époque, en France, dans les Livres blancs du ministère de l’Intérieur, qu’on commence à envisager ces mêmes technologies et leur déploiement dans le contexte français.<br/>
| |
| Ce qui me fait aussi réagir dans cette archive, c’est la mise en exergue, par le journaliste, de la loi Informatique et Libertés comme rempart juridique efficace pour la protection des libertés dans nos contrées françaises ou européennes. On pourra peut-être revenir là-dessus, mais c’est vrai que je le trouve un petit peu optimiste. Je voudrais rappeler aussi, puisqu’on va beaucoup parler de l’expérimentation légale de la vidéosurveillance algorithmique cet été, à l’occasion des Jeux olympiques, une expérimentation qui se poursuit jusqu’en mars 2025 du fait de la loi Jeux olympiques de 2023, que cette expérimentation légale coexiste avec de nombreux déploiements et recours à ces technologies par les polices municipales, par la Police nationale française, en toute illégalité.
| |
| | |
| <b>Natacha Triou : </b>On reviendra en effet sur ces points-là. Pour revenir un peu sur ces caméras de surveillance dites classiques, en France, on a aujourd’hui, environ je crois, 100 000 caméras qui sont déployées dans toutes les villes de France depuis 15 ans. On voit que notre pays a développé de manière très rapide la vidéosurveillance de l’espace public.
| |
| | |
| <b>Félix Tréguer : </b>Oui. En réalité, les premiers déploiements datent de 1991 dans des communes comme le Levallois-Perret, à l’initiative de certains maires qui veulent utiliser ces dispositifs comme manière de rassurer la population et montrer qu’ils répondent à des attentes en matière de sécurité publique. La première grande loi c’est 95, qui vient légaliser ces déploiements à l’initiative du gouvernement de l’époque, avec la CNIL, qui est d’ailleurs évincée très largement du dispositif de contrôle qui est mis en place. Et c’est vraiment sous le mandat de Nicolas Sarkozy, à partir de 2007/2008 en particulier, que les politiques publiques françaises, notamment au niveau du ministère de l’Intérieur, viennent encourager et subventionner très massivement les déploiements de parcs de vidéosurveillance par les communes françaises.
| |
| | |
| <b>Natacha Triou : </b>Olivier Tesquet.
| |
| | |
| <b>Olivier Tesquet : </b>Il y a un effet d’entraînement ou une boucle de rétroaction qui se met en place, c’est-à-dire qu’on voit que le déploiement de ces dispositifs-là accompagne ou s’accompagne de discours politiques sur la sécurité. Ce n’est pas un hasard si ça se généralise et se massifie sous Nicolas Sarkozy. On se souvient des grands discours de Nicolas Sarkozy sur la sécurité, le karcher, etc. On pourrait citer plein d’autres exemples qui sont très symptomatiques, comme ça, de cette rhétorique de la sécurité première des libertés, qu’on a d’ailleurs entendue, finalement, des deux côtés du spectre politique depuis. C’est peut-être aussi pour cela qu’aujourd’hui il y a cette forme d’unanimisme ou du consensus un peu mou autour du déploiement de ces technologies, sans qu’on s’en inquiète outre mesure. Aujourd’hui cette rhétorique de la sécurité qui est au-dessus, finalement, au-dessus de toutes les autres libertés, au-dessus de tous les autres droits, a contaminé un peu toutes les composantes de la vie politique française.
| |
| | |
| <b>Natacha Triou : </b>Donc, on en arrive aujourd’hui à ce point où, en fait, on a trop de caméras, on ne sait plus où regarder, et c’est ainsi que vient l’idée de traiter ces images hyper rapidement pour en sortir des informations précises, on obtient la vidéosurveillance algorithmique.
| |
| | |
| <b>Olivier Tesquet : </b>La VSA, si on prend cet acronyme comme raccourci, désigne en fait le croisement des techniques d’intelligence artificielle, notamment ce qu’on appelle la vision par ordinateur, avec les flux de vidéosurveillance. L’idée, c’est d’utiliser l’IA pour automatiser l’analyse des flux et détecter des événements d’intérêt pour les forces de l’ordre ou pour les gestionnaires de l’espace public urbain.<br/>
| |
| Ce sont des technologies qui, plus exactement, ont des applications qui font l’objet de recherches depuis les tout débuts de l’informatique. Dès les années 50, les pionniers de l’intelligence artificielle travaillent déjà à la vision machinique, le fait, pour des algorithmes, de détecter des images, de reconnaître des visages, une recherche qui est largement abondée et financée par des crédits militaires, par la CIA à l’époque aux États-Unis. C’est donc une technologie qui a une longue histoire et les formidables progrès de l’apprentissage machine, ce qu’on appelle le <em>machine learning</em> qui est un peu à l’origine des avancées assez impressionnantes de ces dernières années en matière d’intelligence artificielle, c’est vraiment à partir du début des années 2010 que ces technologies commencent à avoir un peu d’efficacité, de performance, et qu’elles font, du coup, l’objet des premiers déploiements opérationnels.
| |
| | |
| <b>Natacha Triou : </b>Justement dans le cadre de cette expérimentation liée à la loi JO, Olivier Tesquet comment, concrètement, ça fonctionne ? Quels sont les algos utilisés ? Quelles expérimentations a-t-on vu se mettre en place ?
| |
| | |
| <b> Olivier Tesquet : </b>Déjà, il faut borner un certain nombre de cas d’usage qui sont présentés par les autorités. Ça fait déjà quelques années : avant les Jeux, on entendait ce qu’ils appellent les intrusions périmétriques, donc s’assurer, vérifier que quelqu’un ne rentre pas sur une zone sur laquelle il n’est pas censé rentrer, détecter les objets abandonnés, détecter les débuts de rixes, les attroupements, tout un tas de situations qui sont donc considérées comme des situations suspectes dans l’espace public. Peut-être quand même dire à ce moment-là – et Félix l’évoquait – que ce sont des recherches assez anciennes, avant l’expérimentation de vidéosurveillance algorithmique à l’occasion des Jeux olympiques. On peut avoir l’impression, quand c’est présenté comme ça, que, avant, il n’y a jamais eu, en France, d’expérimentation de vidéosurveillance algorithmique. Ce n’est pas du tout le cas. Félix l’a rappelé, il y a quand même un certain nombre de collectivités, municipalités, etc., qui l’expérimentent, la déploient – on peut discuter, d’ailleurs, de la terminologie, mais je pense qu’on en aura l’occasion un peu plus tard. Elles déploient ce genre de technologie, depuis déjà plusieurs années, dans une forme d’opacité, dans une forme aussi de partenariat public/privé assez étrange : il n’y a pas, nécessairement, de signature de marchés publics : on met à disposition une technologie, ça satisfait un peu tout le monde. Tout cela se fait quand même un peu à la marge, voire carrément à l’écart des processus habituels qui, normalement, réglementent le déploiement, l’utilisation de ce type de technologie.
| |
| | |
| <b>Natacha Triou : </b>Comme vous dites, on a à plusieurs exemples de l’expérimentation de ces technologies, Olivier Tesquet, notamment la RATP qui expérimente ces technologies depuis 2018.
| |
| | |
| <b> Olivier Tesquet : </b>Oui, et aussi des municipalités. J’ai suivi avec intérêt, comme beaucoup d’autres personnes, parce que <em>Technopolice</em>, avant d’être un livre, a été une opération menée par La Quadrature du Net qui avait vocation à localiser, identifier, puis obtenir des informations, parce qu’on se rend compte aussi qu’il y a une terrible asymétrie. En France, on a une des administrations qui sont très peu transparentes – et c’est peu de le dire –, donc les citoyens, y compris parfois les habitants des villes concernées, n’étaient pas du tout au courant du déploiement de tel ou tel outil dans leur ville, dans leur quartier. Il fallait donc aussi rétablir un peu cette asymétrie-là.
| |
| | |
| <b>Natacha Triou : </b>Félix Tréguer, sur les exemples d’expérimentation qu’on a pu voir en effet dans l’hexagone.
| |
| | |
| <b> Félix Tréguer : </b>Dans le cadre du projet Technopolice, on a en effet cherché à documenter depuis plusieurs années ces déploiements. Il y en a eu à Marseille, il y en a eu à Nice, il y en a eu dans le département des Yvelines, il y en a eu à Valenciennes. il y en a eu à Paris, dans le cadre de projets de recherche, il y en a donc eu de très nombreux. L’un des leaders du marché, la société israélienne Briefcam, prétend avoir plus de 200 communes clientes sur le territoire français.<br/>
| |
| Dans les usages qu’on a pu voir, il y a en effet à la fois des choses qui relèvent du comptage statistique, par exemple, compter des vélos, des piétons, des voitures sur certains axes, donc des applications qui sont mises en avant comme relevant de la <em>smart city</em>, la ville intelligente, et de l’optimisation de certaines fonctionnalités urbaines et d’information des politiques urbaines de manière générale, et puis il y a des applications plus directement sécuritaires, Olivier en mentionnait certaines. Et on a vu, par exemple dans un marché public à Marseille, l’expérimentation de fonctionnalités qui s’apparentent à de la reconnaissance faciale puisqu’elles visent à suivre automatiquement des corps en déplacement dans l’espace public à mesure qu’ils flashent, sous différentes caméras, tout au long de leur parcours urbain. Et cette reconnaissance est faite non pas à partir de l’empreinte faciale, mais, par exemple, de la couleur des vêtements ou de la démarche, mais, le plus souvent, c’est à partir de la couleur des vêtements.
| |
| | |
| <b>Natacha Triou : </b>Là, dans le cadre des JO, on a des caméras qui sont donc augmentées avec ces algorithmes qui étaient là pour détecter huit types de situations inhabituelles. C’est ça ? Il n’y a pas encore de reconnaissance faciale.
| |
| | |
| <b> Félix Tréguer : </b>Non. Cest ce que j’ai proposé de désigner, plutôt essayé avec une illustration de la stratégie des petits pas. Quand on a commencé, avec La Quadrature du Net et l’ensemble du collectif Technopolice, à travailler sur ces questions, c’était en 2019 à un moment où tout ce milieu techno sécuritaire, donc d’industriels, de start-ups, de chercheurs et chercheuses d’organismes de recherche publics, leurs relais administratifs, au ministère de l’Intérieur notamment, leurs relais politiques, parlaient de beaucoup de reconnaissance faciale. L’objectif était de légaliser la reconnaissance faciale en temps réel, on pourra revenir sur le fait qu’elle est déjà en partie légalisée en France, et que cette reconnaissance faciale en temps réel puissent être expérimentées à l’occasion des JO. On était donc en 2019. C’est l’époque où Cédric O, secrétaire d’État au numérique, donne une interview au <em>Monde</em>, explique qu’« il faut expérimenter la reconnaissance faciale pour que nos industriels progressent », je cite. C’est donc vraiment l’objectif.<br/>
| |
| Il se trouve qu’en 2022, ce même Cédric O annonce, juste avant la présidentielle, que les conditions politiques de ce qu’il estime être un débat nécessaire et qui doit être informée – en gros, les fantasmes d’une partie de la population – ne sont pas réunies pour légaliser cette expérimentation de la reconnaissance faciale en temps réel, donc, le choix est fait, à ce moment-là, de se concentrer sur des cas d’usages peu sensibles du point de vue des libertés publiques : détection de port d’armes, de bagages abandonnés, détection périmétrique dont parlait Olivier, le fait d’aller à contresens d’un sens de circulation pour un véhicule ou un piéton. Bref !, des cas d’usage assez divers, mais qui ne s’assimilent pas directement à de la surveillance biométrique ou à du suivi d’individus à des fins d’identification.
| |
| | |
| <b>Natacha Triou : </b>Justement. En quoi consiste plus précisément cette stratégie des petits pas ? Que disent les rapports concernant l’efficacité de la vidéosurveillance ? Restez à l’écoute.
| |
| | |
| <b>Voix off : </b>France Culture. <em>La Science, CQFD </em>- Natachaa Triou.
| |
| | |
| ==15’ 22==
| |
| | |
| <b>Natacha Triou : </b>En direct sur France Culture
| |
