Technopolice : la France sur la route de la Chine
Titre : Technopolice : la France sur la route de la Chine ?
Intervenant·es : Félix Tréguer - Salomé Saqué
Lieu : Podcast Blast
Date : 20 novembre 2024
Durée : 44 min 16
Licence de la transcription : Verbatim
Illustration : Déjà prévue.
NB : Transcription réalisée par nos soins, fidèle aux propos des intervenant·es mais rendant le discours fluide.
Les positions exprimées sont celles des personnes qui interviennent et ne rejoignent pas nécessairement celles de l'April, qui ne sera en aucun cas tenue responsable de leurs propos.
Description
Et si la France suivait le chemin de la Chine en matière de surveillance des citoyens ? Une population sous le regard permanent des caméras, où l’intelligence artificielle donne les moyens de contrôler les moindres faits et gestes de tout le monde, le tout entre les mains d’une police surpuissante, avec des pertes de libertés publiques inédites ?
Transcription
Salomé Saqué : Sommes-nous sur le point, en France, de basculer dans un système de surveillance des citoyens à la chinoise ? Une population sous le regard permanent des caméras, où l’intelligence artificielle donne les moyens de contrôler les moindres faits et gestes de tout le monde.
Diverses voix off : En Chine, la surveillance digitale est synonyme d’un contrôle total. Grâce au big data, ils peuvent prendre rapidement des mesures pour contrôler une population.
Ceux qui ne respectent pas les règles sont sanctionnés et parfois humiliés, comme dans ce cinéma où leurs photos sont affichées, le tout entre les mains d’une police surpuissante, avec des pertes de libertés publiques inédites.
Salomé Saqué : Pour Félix Tréguer, chercheur associé au Centre Internet et Société du CNRS, la question se pose. Entre les drones, les logiciels prédictifs, la vidéosurveillance algorithmique ou encore la reconnaissance faciale, le recours aux dernières technologies de contrôle se banalise au sein de la police. Loin de juguler la criminalité, selon lui, toutes ces innovations contribueraient en réalité à amplifier la violence d’État. De l’industrie de la sécurité aux arcanes du ministère de l’Intérieur, de la CNIL au véhicule de l’officier en patrouille, son dernier livre, Technopolice – La surveillance policière à l’ère de l’intelligence artificielle , retrace les liens qu’entretient l’hégémonie techno-solutionniste avec la dérive autoritaire en cours.
Christian Estrosi, Voix off : Sur la reconnaissance faciale. On va y venir, c’est incontournable.
Salomé Saqué : Alors, que se passe-t-il du côté des nouvelles technologies et de la police très concrètement ? Sommes-nous réellement en train de perdre des libertés fondamentales ? Quelle est la position du gouvernement actuel sur le sujet ? Réponse tout de suite dans cette nouvelle émission pour Blast.
Félix Tréguer. Bonjour. Vous êtes chercheur associé au Centre Internet et Société du CNRS, Vous êtes également membre de La Quadrature du Net, un collectif dédié à la défense des droits humains face au processus d’informatisation, et vous êtes l’auteur de Contre-histoire d’Internet – Du XVe siècle à nos jours , aux éditions Agone, en 2023, et de ce livre Technopolice – La surveillance policière à l’ère de l’intelligence artificielle , aux éditions Divergences.
Avant qu’on aille plus loin, expliquez-nous pourquoi vous avez choisi ce terme « technopolice » et que veut dire technopolice ?
Félix Tréguer : Technopolice est un néologisme qu’a trouvé une amie au début de la campagne qu’on a menée depuis cinq ans, à La Quadrature du Net, en lien avec plein de collectifs locaux et, au niveau national, avec des organisations comme La ligue des droits de l’Homme. C’est une campagne qui visait à lutter contre ce processus que désigne la technopolice qui est la technologisation croissante de la surveillance policière, de l’activité policière de manière générale, et le recours croissant aux technologies issues des recherches en intelligence artificielle dans les pratiques policières.
Salomé Saqué : Donc, dans ce livre, vous revenez aussi sur l’histoire de toute l’utilisation de ces intelligences artificielles, de ces technologies. Honnêtement, en tout cas dans mon cas, on apprend beaucoup de choses, parce que c’est quelque chose qui est très méconnu, ce qu’il se passe exactement du côté des services de police. Avant de lire le livre, j’avais l’impression que vous alliez nous parler de ce qui allait se faire et on découvre qu’il y a beaucoup de choses qui sont déjà là et depuis un petit moment, notamment la reconnaissance faciale, qui est déjà largement intégrée aux pratiques policières ; vous dites que c’est déjà le cas en 2019. « La comparaison faciale couplée, depuis 2011, à un fichier qui sera connu à partir de l’année suivante, qui se nomme le fichier TAJ, pour Traitement d’Antécédents Judiciaires, déjà, en 2019, il y a six téraoctets de données. Il est l’un des plus importants fichiers du ministère de l’Intérieur. Il comporte les fiches de la plupart des personnes qui ont eu affaire à la police – et là, c’est vraiment étonnant –, c’est-à-dire pas seulement des personnes qui ont été condamnées au pénal, mais simplement, parfois, des personnes qui sont suspectées, victimes ou même témoins. » C’est-à-dire qu’on va être témoin dans une affaire, on va être recensé, comme ça, dans un fichier. Donc, déjà à l’époque, en 2019, ça représente 20 millions de fiches individuelles au total et 8 millions de photographies de face. Et grâce à cette comparaison faciale, les agents de police n’ont qu’à soumettre au système par exemple la photographie d’une personne qui serait suspecte pour que l’algorithme leur remonte une douzaine de clichés présentant une ressemblance. À l’époque – encore une fois, on est en 2019, donc il y a déjà cinq ans – c’est utilisé 1600 par jour par la police. »
Est-ce qu’on peut revenir un peu sur l’existence de ce fichier et pourquoi est-ce que cela a déjà attiré votre attention à l’époque ?
Félix Tréguer : En fait, le fichier TAJ est un fichier à tout faire qui s’est imposé un peu dans les pratiques. Il y avait d’autres noms, mais il s’est imposé, en gros, à partir de la fin des années 90. Le journaliste Jean-Marc Manach a beaucoup enquêté sur sa genèse. Et effectivement, à partir de 2011, la police et la Gendarmerie nationale font appel à une entreprise, qui s’appelle Cognitec, pour utiliser un algorithme qui va permettre de trouver des correspondances statistiques entre les photos soumises, d’un suspect par exemple, notamment des images issues des flux de vidéosurveillance en cas d’une infraction qui serait constatée, donc dans le cadre de l’enquête. Des officiers de police judiciaire, mais, en réalité, un très grand nombre de personnes peuvent procéder à cette comparaison faciale et essayer de trouver des concordances statistiques avec les photographies de visages contenues dans le fichier TAJ, sachant que le fichier TAJ comporte beaucoup de données d’état civil, la couleur de la peau, plein d’indices morphologiques, c’est vraiment un fichier à tout faire. En fait, comme il sert énormément, ce ne sont pas simplement les personnes suspectées ou qui sont directement impliquées dans des affaires pénales qui sont Inscrites dans ce fichier, ce sont également, on le mentionnait, des témoins.
Salomé Saqué : Ça veut dire que je suis témoin d’un événement, je peux me retrouver inscrite dans ce fichier, alors que je n’ai absolument rien demandé.
Félix Tréguer : Tout à fait. À priori, ce n’est pas le cas pour les photographies, il y a 8 millions de photographies sur plus de 20 millions de fiches, mais c’est quand même colossal. Du coup, la police française, c’est le cas dans d’autres pays aussi, a utilisé ces algorithmes de reconnaissance faciale pour automatiser le travail qui consistait à faire défiler les fiches ou, à partir des critères renseignés dans la base de données du fichier, pour accélérer le fait de retrouver des fiches correspondant un petit peu aux critères de l’enquête.
On le disait, il est utilisé près de 1600 fois par jour. Il faut donc se poser la question du nombre d’équivalents temps plein de fonctionnaires dont la police fait l’économie en recourant à cet outil algorithmique pour sonder le fichier et c’est colossal ; pour la police, le temps gagné est colossal. On pourrait s’en réjouir, peut dire que c’est bien, la police fait son travail.
Salomé Saqué : On peut dire que ça va être plus efficace.
Félix Tréguer : Il y a plusieurs problèmes.
Le premier problème, c’est qu’il n’y a aucun réel contrôle sur qui est dans le fichier, comment sont inscrites ces photographies dans le fichier. Il y a très peu de contrôle de la CNIL, notamment sur ces fichiers. Elle l’avait déploré, il y a quelques années, dans un rapport.
L’autre problème, c’est que cette automatisation de l’analyse du TAJ, donc toute cette accélération et cette aide à l’analyse, s’est faite sans aucun débat démocratique. C’est passé par un décret. Le gouvernement a, en fait, légalisé des choses qui étaient en train de se faire et en projet depuis quelques mois et à priori, d’après ce que nous ont dit des gendarmes, dès 2011 on l’utilise ; le décret date de 2012. Donc là, encore une fois, on est dans le cas d’une pratique illégale qui est légalisée à posteriori.
Salomé Saqué : Vous allez me dire que c’est le cas pour beaucoup d’autres pratiques.
Félix Tréguer : Absolument. C’est donc légalisé par voie de décret, sans qu’il y ait vraiment de base légale et de débat, c’est donc passé très largement sous les radars. On pourrait estimer que, dans un État de droit qui se respecte, ce passage à la reconnaissance faciale policière est quelque chose de suffisamment grave et sérieux sur le plan des libertés publiques pour que ça mérite un débat, et ça n’a pas été le cas.
Salomé Saqué : Récemment une autre actualité, sur un autre dispositif, a beaucoup fait parler. C’est vraiment ce que vous décrivez dans le livre, je pense, avant que cette actualité nous arrive, c’est l’avènement de la surveillance algorithmique, la VSA, qui a fait débat il y a quelques semaines, puisque le premier ministre Michel Barnier s’est dit en faveur d’une généralisation de caméras utilisant des algorithmes pour surveiller l’espace public.
Michel Barnier, voix off : « Une demande forte, on l’a bien compris aux dernières élections et vous la relayez aussi, que celle de la sécurité dans chaque territoire. On va essayer de généraliser la méthode de travailler en commun qui a fait ses preuves pendant les Jeux olympiques et paralympiques.
Salomé Saqué : Il faut bien préciser qu’il a dit ça sans attendre le rapport d’évaluation prévu pour la fin d’année, puisque, on le rappelle, son utilisation avait été annoncée dans le cadre des Jeux olympiques et on nous avait dit « ce dispositif est provisoire, il ne sera que pour les grands événements. » On apprend que ça va être généralisé, visiblement sans même attendre de savoir si c’est efficace ou pas, de savoir quels problèmes ça peut potentiellement poser.
Qu’est-ce qu’implique ce type de surveillance exactement, encore une fois que vous traitez dans le livre, et pourquoi est-ce que, selon vous, ça peut être dangereux pour nos libertés ?
Félix Tréguer : La vidéosurveillance algorithmique, la VSA, c’est le couplage de l’intelligence artificielle et de ce qu’on appelle, dans le champ de l’intelligence artificielle, la computer vision, la vision machinique, donc la capacité pour ces algorithmes de détecter des patterns, en fait des agencements de pixels sur des images, pour détecter des situations, des événements, des personnes.
La reconnaissance faciale, c’est l’une des applications possibles de ces techniques de computer vision.
Je vous le disais, le fichier TAJ avait autorisé la reconnaissance faciale à posteriori, donc après la commission d’une infraction dans le cadre d’une enquête. L’un des buts au début, pour le gouvernement, au moment où on lance la campagne Technopolice en 2019, c’est de légaliser la reconnaissance faciale en temps réel, de pouvoir coupler, en temps réel, des images de vidéosurveillance à ces algorithmes pour détecter des personnes dans l’espace public.
Un autre problème du fichier dTAJ, c’est qu’il est détourné de son usage. Il n’est pas simplement utilisé pour des enquêtes pénales à posteriori, il est aussi utilisé pour faire des contrôles d’identité. Ça a été peu documenté, mais on a plein d’anecdotes : lors d’une éviction d’un squat ou d’une personne racisée croisée dans l’espace public, tel ou tel policier de terrain va prendre la photo de la personne et la flasher dans le fichier TAJ pour faire une vérification d’identité, ce qui est complètement illégal.
Il y a donc déjà beaucoup d’abus et, comme je disais, pas de débat public sur le recours à ces technologies de reconnaissance faciale à posteriori.
En 2019, les promoteurs de la technopolice, notamment de Cédric O qui, à l’époque, est secrétaire d’État au Numérique, proposent de légaliser la reconnaissance faciale en temps réel à l’occasion des Jeux olympiques de 2024. Et c’est parce qu’on a fait cette campagne, nous et d’autres, les collectifs de lutte contre les violences policières, l’opposition au pass sanitaire en 2020 sous l’aspect surveillance, avec ces oppositions que le coût politique de légaliser la reconnaissance faciale en temps réel à l’occasion des JO est paru comme trop important. Donc Cédric O, à la veille de la présidentielle en 2022 dit : « La France n’est pas prête, le débat n’est pas mûr, il y a des associations libertaires – nous nous sommes sentis un peu visés – qui disent n’importe quoi à la population, donc il faut un débat informé pour éduquer les gens.
Salomé Saqué : La fameuse pédagogie dont on a besoin sur tous les sujets.
Félix Tréguer : Exactement. Très condescendant. En tout cas il acte, à ce moment-là, que, politiquement, la reconnaissance faciale ça ne va pas le faire. Ils vont donc adopter une stratégie des petits pas, c’est-à-dire légaliser des applications de la vidéosurveillance algorithmique moins sensibles du point de vue des libertés publiques, c’est la loi JO votée au printemps 2023 qui légalise des cas d’usage type détection de port d’arme, qui d’ailleurs, techniquement, marche très mal, une personne ou un véhicule qui irait à contresens, une personne qui resterait statique trop longtemps. Il y a, comme cela, six ou sept cas d’usage listés dans la loi, prévus dans la loi et qui ont fait l’objet d’expérimentations cet été à l’occasion des Jeux olympiques.
Salomé Saqué : Ce que vous mentionnez est important. Ça montre quand même que quand il y a une opposition de l’opinion publique forte, dans un régime à peu près démocratique, ça dissuade de légaliser certaines choses, d’aller trop loin. J’insiste sur l’importance de ce type d’ouvrage, l’importance de votre travail, de ce type d’émission où on essaye de vulgariser et d’expliquer ce qui se passe, parce que quand les gens sont informés, c’est quand même plus compliqué de faire accepter ce type de mesures et de les faire réellement passer. Ça a donc des conséquences puisque, vous l’avez dit, ils nomment ces associations dites libertaires. Ça montre bien que vous êtes un obstacle à ce que ça puisse arriver donc, on a aussi une forme de pouvoir en tant que citoyens.
Félix Tréguer : Bien sûr. À La Quadrature du Net, nous sommes un petit groupe d’une dizaine de personnes qui travaillons sur ces questions et tout seul, on n’y arrivera pas. L’enjeu, c’est d’arriver à mobiliser, d’informer la population, c’est pour cela qu’on a lancé, au printemps, une campagne qui s’appelle « Pas de VSA dans ma ville », c’est accessible sur lqnt.fr/vsa. Il y a une brochure, il y a des posters, il y a des guides d’action sur comment s’investir dans la bataille, parce que, effectivement, il n’y a pas d’inévitabilité. Il ne faut pas se résigner, croire que la partie est jouée d’avance. Si on arrive effectivement à construire un rapport de force politique, il y a moyen de faire obstacle à cette légalisation programmée, non seulement de la VSA dans le format loi JO sur ces cas d’usage relativement peu sensibles, et encore, il faudrait en discuter plus longuement. Clairement, le but final, c’est bien de légaliser la reconnaissance faciale et plein d’autres applications de la vidéosurveillance algorithmique extrêmement sensibles, qui visent à suivre les personnes dans l’espace public et, du coup, imbriquer ces formes de surveillance à des pratiques policières dont on connaît la violence et la brutalité.
13’ 05
Salomé Saqué : Quels sont
