Le politique à l’ère numérique. Entretien avec Asma Mhalla

Titre : Le politique à l’ère numérique. Entretien avec Asma Mhalla

Intervenant : Asma Mhalla

Lieu : Chaîne Youtube officielle de Politika, Le politique à l'épreuve des sciences sociales - École Des Hautes Études En Sciences Sociales

Date : 19 juin 2024

Durée : 21 min 03

Vidéo

Licence de la transcription : Verbatim

Illustration : À prévoir

NB : Transcription réalisée par nos soins, fidèle aux propos des intervenant·e·s mais rendant le discours fluide.
Les positions exprimées sont celles des personnes qui interviennent et ne rejoignent pas nécessairement celles de l'April, qui ne sera en aucun cas tenue responsable de leurs propos.

Description

Des champs de bataille jusqu’aux réseaux sociaux, de l’analyse des flux financiers jusqu’aux conseils de santé, de l’IA générative jusqu’aux implants cérébraux, les technologies numériques ont envahi nos sphères publiques et privées. Qui contrôle ces infrastructures colossales intervenant subrepticement dans nos représentations et nos valeurs ? Qui seront les bénéficiaires de ce qui s’annonce comme une pure et simple privatisation de l’avenir ? Se plaçant dans la perspective interdisciplinaire des studies, Asma Mhalla dessine, dans Technopolitique (Seuil, 2024), les contours de ces entités de droit privé dont l’incidence sur nos vies intimes et publiques est de plus en plus manifeste. Multiforme, tentaculaire, l’impact politique des technologies numériques appelle de nouvelles grilles de lecture.

Dans votre domaine de recherche – l’impact politique des technologies numériques – vous préconisez l’approche transdisciplinaire des « Studies ». Pourquoi ?

Quel était le sujet initial qui m’intéressait, pour ne pas dire qui m’obsédait ? C’était la compréhension, le décryptage, des nouvelles formes de pouvoir, mais aussi de puissance, puisque je distingue pouvoir de puissance, à la suite de Raymond Aron d’ailleurs. Quelles étaient ces nouvelles formes de pouvoir et de puissance qui se structuraient autour de nouveaux acteurs, assez inédits je dois dire. Je sais qu’on aime bien trouver une historicité aux choses, une généalogie, mais je dois bien dire que tous les parallèles qu’on a faits autour de ces géants technologiques, qu’on appelle les Big Tech ou les Tech Giants aux États-Unis, ont un caractère que je trouve, et c’est ce que je voulais qualifier, d’inédit et absolument systémique et transverse.
Or, la difficulté que j’ai eue d’un point de vue pratiquement méthodologique, même en termes juste de sens, quand j’ai voulu comprendre pour moi, avant même de dire thèse ou essai ou je ne sais quoi, vraiment pour essayer d’appréhender, de saisir, ce monde-là, ce nouveau monde, ce nouveau siècle politique qui est en train de se structurer autour de ces nouveaux acteurs, j’ai eu une difficulté dans ce qui existait, d’une certaine façon, parce que c’était siloté. On avait l’entrée sociologique, qui est extrêmement prolifique, c’est vrai ; on peut avoir l’entrée qui commence vraiment maintenant à s’industrialiser, mais qui pouvait être un tout petit peu balbutiante en termes de relations internationales ; évidemment, toute la partie droit, juridique, qui, elle aussi, un peu comme la sociologie, ce sont un peu les matières qui ont très vite, et les premières, pris ces sujets-là, mais il me manquait quelque chose, c’est-à-dire la vision globale. Or moi, de façon extrêmement subjective, parce que mon cerveau est fait, est formé comme ça, j’avais d’abord besoin d’avoir une vision globale avant d’avoir la vision des détails ou d’experts.
Il se trouve que dans l’approche, disons académique anglo-saxonne, il y a, en effet, cette tradition des studies : se dire qu’on va développer sur un champ donné, sur un sujet donné, peu importe lequel d’ailleurs, une approche transdisciplinaire ou interdisciplinaire. On va mettre des disciplines ensemble et elles vont se parler, compléter entre elles, pour essayer de comprendre, en tout cas, disons, une tentative, modeste, le sujet dans son entièreté, de façon holistique, à 360 degrés. C’est donc ce que j’ai tenté de faire.
L’exercice que je fais n’est pas complet, n’est pas parfait, comporte peut-être des failles de raisonnement. D’ailleurs, la question de l’interdisciplinarité, ce n’est pas se dire qu’un individu ou un essai ou une thèse va tout regrouper, pas du tout ! C’est se dire « j’ouvre une brèche et qui veut bien me joindre dans cette conversation-là, dans ce dialogue-là, disciplinaire ou interdisciplinaire, est absolument le bienvenu pour apporter, lui, sa pierre à l’édifice ». Mais surtout, par pitié, je crois vraiment et sincèrement que la pensée en couloir d’expertise, pile dans ce moment-là de l’histoire qu’on est en train de vivre, ce 21^e siècle plein de soubresauts, de chaos, où le monde est en train de se recomposer, ne peut plus souffrir le couloir de l’expertise dans son coin. Il faut absolument qu’on se parle et qu’on ouvre les vannes pour discuter ensemble.

Qu’implique la nature des Big tech, à la fois économique, technologique et idéologique?

Si je devais résumer le problème que j’ai avec ces acteurs, il n’est pas sur ce qu’ils font. D’ailleurs notre débat public, mais aussi nos approches réglementaires se fixent sur l’aval, ce qu’ils font de mal : la modération des réseaux sociaux, les abus de position dominante, envoyer des satellites en orbite basse en Ukraine, on ne sait pas trop sous quel lien, sous quel format et selon quel deal avec le Pentagone quand il s’agit de Elon Musk, etc., mais, c’est en effet travailler l’aval et il le faut, je ne dis pas qu’il ne le faut pas, mais on oublie donc de penser l’amont. Or, l’amont, c’est ce qu’ils sont et non pas ce qu’ils font. Et ce qu’ils sont, ce sont, aujourd’hui, d’un point de vue du statut juridique, des entreprises privées qui rendent compte à qui ? Aux marchés ou à elles-mêmes quand elles sont sorties de la cote. Quand Elon Musk rachète X/Twitter, il va très vite sortir X de la cote. Donc, à la fin, on n’a plus qu’un pouvoir ultra-centralisé. D’ailleurs, on a la même architecture chez Zuckerberg, chez Meta, etc. Ce sont des architectures de pouvoir très centralisé et où règne une forme d’arbitraire. J’ai presque envie de dire que la principale boîte noire, avant d’être algorithmique, est d’abord politique dans leur gouvernance.
Ces entités ne sont pas simplement, pourtant, des entreprises privées, contrairement à ce qu’elles pourraient bien faire valoir, ce sont aussi des entités géopolitiques, militaires, des véhicules de soft et de hard power, et aussi des acteurs ou des agents idéologiques. Aujourd’hui, dans la Silicon Valley, une partie de ces acteurs technologiques, des géants de la tech, ont une tentation de pencher, de se rapprocher de l’alt-right américaine, la droite extrême américaine qui est, d’ailleurs, elle-même un magma qui peut être très élastique, voire liquide, en tout cas avec des lignes qu’on retrouve assez souvent sur l’isolationnisme, America first, l’anti-woke ou une forme d’anti-wokisme qu’on appelle même une forme d’anti-woke capital. Il y a donc aussi des batailles culturelles ou des contre batailles culturelles qui se jouent autour non pas simplement de l’usage de l’outil, mais des sous-jacents politiques et géopolitiques.
Donc, de ce point de vue-là, quand je disais que le principal problème que j’ai est celui-là, avant même de me poser la question des dérives et des risques de l’aval, j’ai un problème avec ce qu’elles sont, donc leur statut juridique. Elles ne peuvent pas simplement être des boîtes privées quand elles ont autant de prérogatives, c’est-à-dire quant elles sont propriétaires d’infrastructures d’utilité publique.

Vous identifiez un nouveau type d’État, le Big State, qui a émergé avec les Big Tech. Comment s’y redéfinissent les concepts de « pouvoir », de « puissance » et de « souveraineté » ?

Les Big Tech est un terme qui existe et c’est mon objet d’étude. Ça ne veut pas dire que c’est un bloc à comprendre comme étant quelque chose de parfaitement homogène. J’avais besoin de prendre le concept Big Tech pour poser mon système et faire ma démonstration, mais, en réalité, quand on descend dans la granularité, ils ont des rivalités entre eux, des dissonances, des guerres de leadership, etc., et, d’ailleurs, pas forcément toujours la même vision du monde. Ce qui me manquait, c’était ce qu’on avait en miroir, c’est-à-dire les États, les États comme appareil d’État, comme appareil politique, et, de ce point de vue-là, vous avez une extrême ambivalence.
Par exemple aux États-Unis, qui est un peu mon champ d’étude principal, en tout cas dans un premier temps, les Big Tech américains sont dans des relations de coopération de plus en plus fluides, une fusion civil et militaire ou techno-militaire avec le Pentagone, le DoD, le département de la Défense américain, etc. D’ailleurs à tel point, qu’au début de la guerre d’Ukraine s’est posée la question de quelle gouvernance, quelle architecture trouver pour, en fait, maîtriser aussi nos outils de projection de puissance que sont les géants technologiques : Microsoft dans la cyberdéfense, Starlink sur les satellites et les réseaux de télécommunications, etc. Et en même temps, il y a des relations extrêmement conflictuelles, aussi et dans le même temps, avec l’administration américaine, notamment sur l’action des réseaux sociaux par exemple, sur les risques énormes de polarisation, sur la santé mentale des jeunes ou, dans un autre champ encore, l’antitrust, c’est-à-dire les abus de position dominante, où, là, vous allez avoir plutôt un antagonisme, où l’État va essayer de mettre de l’ordre et les garder sous contrôle, sachant que la souveraineté finale reste celle de la loi, donc celle de l’État. Il ne faut pas non plus entrer dans une forme de collapsologie totale, où les géants technologiques –~c’est ce qu’on a lu pendant longtemps~– remplaceraient les États, que c’est la fin de la souveraineté, etc. On n’observe pas du tout ça.
Il y a en effet une liquéfaction du concept de souveraineté, dans cette ambivalence Big Tech.
Big State n’est pas un concept qui existe, c’est un concept que je propose, que je pose et que j’essaye de développer. On verra s’il prend ou pas, d’ailleurs tous les États ne sont pas des Big States. Les Big States sont ces États qui ont réussi à faire émerger leurs Big Tech, États-Unis et Chine ; l’Europe, par exemple, n’est pas du tout un Big State. Dans ma proposition conceptuelle, un Big State, c’est un état qui a une politique de puissance, une power politics qui est dopée, qui est alimentée, qui est structurée par ses acteurs technologiques, notamment privés, et qui, donc, alimentent sa puissance. La technologie étant donc un des véhicules de la puissance, soft et hard power.
De ce point de vue-là, se pose aussi en creux cette fameuse troisième voie européenne : que sommes-nous puisque nous ne sommes pas des Big States ou un Big State ? Donc, comment gouverner, comment régler, plus même que réguler, nos rapports de force, nos dépendances, nos interdépendances avec des technologies qui ne sont pas les nôtres ? C’est une question existentielle pour nous Européens.

Quels sont les grands traits de la « guerre cognitive » déjà en cours ?

La question de la guerre cognitive est assez sensible parce que, en tout cas au moment où l’on se parle, elle n’est pas encore complètement posée en termes de doctrine, elle fait encore énormément de débats, mais elle est intéressante.
Jusqu’à présent, dans le champ des nouvelles conflictualités, on a compris que, aujourd’hui, le cyberespace, c’est clair, est le cinquième domaine des conflictualités et des guerres avec terre, mer, air, espace. C’est là où vont se jouer les sabotages de câbles sous-marins, les cyberattaques, le cyberespionnage, la lutte informationnelle sur les réseaux sociaux, les manipulations de l’information, etc. C’est ce qu’on a appelé des nouvelles conflictualités hybrides, la guerre hybride. Dans ce champ-là, je disais qu’il y a des luttes informationnelles ; toutes les tentatives de déstabilisation des démocraties par, en fait, des puissances étrangères, d’abord la Russie et la Chine.
La lutte informationnelle, ou les manipulations de l’information, se concentrent sur le contenu, sur la manipulation de l’information –~décontextualisation, on peut aussi fabriquer aujourd’hui, avec les IA génératives, des deep fakes, des audio fakes, etc. ; d’ailleurs, on va aller dans un continuum assez sans couture, les pousser sur les réseaux sociaux, qui vont les viraliser en micro ciblant, en ayant, d’ailleurs, une capacité à bien adapter le contenu à la cible.

La guerre cognitive, c’est le cran d’après, en travaillant, encore une fois, l’amont. Qu'est-ce que l'amont ? Ce sont nos perceptions. Ce n’est pas simplement manipuler du contenu et le pousser de façon fine par les trolls, les bots, etc., c’est, sur du très long terme, et j’insiste sur du très long terme, bouger nos lignes de représentation. C’est ce qu’on appelle, au niveau des états-majors, la guerre des perceptions. C’est, de façon subreptice, petit à petit, changer votre représentation du monde, votre lien de confiance dans notre modèle, dans la capacité à faire société, dans la confiance qu’on peut donner à telle ou telle parole, etc. ; ce qui, en fait, sédimente une nation. C’est ça la guerre cognitive et elle peut prendre forme par un certain nombre d’outils technologiques qui en sont le véhicule. Ça peut être, encore une fois, les réseaux sociaux, ça peut être les intelligences artificielles génératives qui vont construire ce contenu qu’on va injecter pour, en fait, au fur et à mesure, bouger ces fameuses lignes de perception pour vous sidérer ou vous empêcher de prendre des décisions au bon moment, etc.
Après, il y a autre chose, parce que ces technologies-là, et c’est peut-être l’autre changement de paradigme le plus intéressant dans ce qu’on est en train de vivre, sont des technologies qui sont duales, c’est-à-dire qu’elles sont civiles et militaires à la fois.

Un implant cérébral, comme Neuralink, qui est présenté par Elon Musk d’abord avec des promesses thérapeutiques, ensuite dans sa vision long-termiste de sauver l’homme, de l’augmenter face à des IA qui seraient soi-disant super intelligentes, qui pourraient avoir des agendas malveillants de détruire l’humanité ; ça c’est le récit d’Elon Musk et de certains tycoons de la Silicon Valley.

Si on se détache de ça, n’empêche qu’avoir des implants cérébraux, ce qui pourrait être tentant, on pourrait avoir une tentation pour plein de raisons différentes, à un moment donné, avec une forme d’accoutumance, à se les implanter dans le cerveau, eh bien automatiquement, plus on technologise nos vies, nos quotidiens, nos corps, nos esprits, plus, en fait, on les fragilise puisqu’ils deviennent piratables, puisque ça peut tomber en panne. Et puis qui contrôle notre activité cérébrale ? Et pour faire quoi ? Donc, ça pose des questions énormes.
Si on élargit le spectre, l’acception même de ce qu’on entend par luttes ou nouvelles batailles cognitives, ça peut aller jusque-là !
Et puis tous ces devices qu’on met pour le bien-être, pour déstresser, son rythme cardiaque, ce sont autant de données biologiques qui sont récupérées, au début toujours de façon inoffensive, mais, à la fin, qu’en sait-on réellement ? Donc aujourd’hui, aux États-Unis, apparaît un débat que je trouve absolument passionnant, porté par un certain nombre de chercheurs, qui parle de vraiment construire, inventer de nouveaux droits fondamentaux, dont celui, par exemple, de la liberté cognitive.

Qu’est-ce que le droit à l’indétermination invoqué notamment pas Mireille Delmas-Marty ?

Avant de parler de l’indétermination de Mireille Delmas-Marty, je vais faire un petit détour par Deleuze. Dans le Post-scriptum sur les sociétés de contrôle, Deleuze, à un moment donné, a cette fulgurance, cette intuition qui va être ensuite reprise par tous les travaux d’Antoinette Rouvroy, Thomas Berns, qui est de dire que le risque principal de ces dispositifs –~parce que, avant d’être des outils ce sont des dispositifs de contrôle qui captent toutes ces données-là avec une invasivité énorme malgré la loi, malgré nos lois~– serait de transformer l’individu en « dividuel » où, tout d’un coup le « in » de l’indétermination, le droit de ne pas être prévisible, prédictible, le droit à la surprise, le droit de la contingence, le droit au risque, le droit à ne pas savoir, donc le droit à la liberté en creux, eh bien Deleuze va dire « attention à ce qu’il ne disparaisse pas, parce que, tout d’un coup, nous serions, nous, parfaitement réductibles aux algorithmes binaires ».
Mireille Delmas-Marty, dans un autre champ, dans une réflexion probablement plus large et juridique, elle était juriste, parlait non seulement de souveraineté solidaire, élargie, entre les États-nations, précisément parce qu’on a une espèce d’augmentation très aiguë de la conflictualité globale du monde et, en sous-jacent, parlait du droit à l’indétermination. Je sens que c’est très beau de dire que peut-être, en lien avec cette réflexion émergente sur nos libertés cognitives, on pourrait raccrocher ça à ce que Mireille Delmas-Marty disait, évoquait ou présentait, défendait sur le droit à l’indétermination, c’est-à-dire une capacité à rester complexe, ambigu, ambivalent, imprévisible ; l’indétermination algorithmique peut avoir des traductions juridiques extrêmement concrètes, ça peut se penser et ça reboucle, d’ailleurs, avec la première partie du propos : pourquoi nous faut-il des studies ? Pourquoi nous faut-il de l’interdisciplinarité ? Parce que, à partir de la théorie politique, que j’aime porter, il va bien falloir qu’il y ait une traduction des juristes sur ces nouveaux droits à articuler.

Comment la pensée de Marx trouve-t-elle sa place dans votre analyse du monde numérique ?

Marx, c’est arrivé de façon assez drôle parce que ce n’était pas du tout quelque chose que j’avais en tête et ce n’est pas quelque chose qu’on a l’habitude de lire ou de voir : Marx et les géants technologiques, ça a l'air extrêmement antinomique et, en fait, pas du tout. Cette idée-là est arrivée de façon assez surprenante, un jour, dans une discussion totalement informelle, j’ai dit : en fait, ce fameux conceptuel infrastructure/superstructure de Marx, c’est exactement ce que sont, en réalité, les géants technologiques. Ils sont bien propriétaires d’infrastructures qui sont en train de devenir des infrastructures socles, systémiques, des goulots d’étranglement : les intelligences artificielles, les réseaux sociaux, les satellites, les implants, tout cela fait système –~Jacques Ellul~–, ça fait système, surtout qu’ils ne sont que quelques-uns à les posséder aujourd’hui. Donc, en fait, ils ont accès eux-mêmes à des écosystèmes entiers de captation de données par ces infrastructures-là. Ce sont donc des infrastructures pratiquement d’utilité publique : qu’est-ce qu’un réseau social si ce n’est pas un espace public ? Or, ils appartiennent à quelques-uns. Cette infrastructure appartient à quelques-uns et ces quelques-uns, on le disait, ont des idéologies en patchwork, multiples, parfois pas très ordonnées. Par exemple un Peter Thiel, qui est le fondateur de PayPal et de Palantir, un des grands argentiers de la Silicon Valley, est beaucoup plus sédimenté, a une colonne vertébrale beaucoup plus fixe et beaucoup plus claire qu’un Elon Musk qui est encore, disons, dans des formes d’aller-retour et d’indécision idéologique. Toujours est-il que ce sont des hommes –~et je dis bien des hommes parce qu’il y a très peu de femmes~– qui sont alimentés déjà par des imaginaires de la science-fiction, qui ont énormément de références autour du libertarianisme dont la fameuse et l’inénarrable Ayn Rand et, par ailleurs, ont une vision du monde ; sur la démocratie, ils sont plutôt assez anti-démocratie plus que, d’ailleurs, anti-État, puisqu’ils travaillent énormément, finalement, avec l’État, qui est, d’ailleurs, un de leurs principaux marchés ; sur la question du long-termisme, du transhumanisme, voire, chez certains, de l’eugénisme, etc. ; ils ont donc des visions du monde. On pourrait dire que ce sont des hurluberlus, mais ils ont des milliards à disposition et, par ailleurs, ils ont les infrastructures qui permettent, peut-être, de mettre en place une partie, je dis bien une partie, de cette hubris.
Donc, Marx est parfaitement opérationnel, est parfaitement opérant.
Infrastructures, que j’appelle infra-système, ce sont des infrastructures systémiques à partir desquelles se déploie tout le reste : le fait politique, le fait militaire, le fait géopolitique, le fait social. Leur superstructure est, en fait, ce que j’appelle le projet de technologie totale, c’est-à-dire la volonté de contrôle.
Et ce qui est absolument incroyable, dans ce que je pose et qui est sujet à débat, on peut parfaitement discuter, mais c’est ma conviction et c’est ce que j’essaie de démontrer, c’est que le projet de technologie totale est bizarrement totalement agnostique du point de vue de nos idéologies, qui deviennent des micro-idéologies. Ce que je veux dire, c’est que, quoi que vous pensiez, ça n’a, au fond, que peu d’importance. L’essentiel est que vous le disiez, que vous likiez, que vous shariez, followiez, que ça devienne des micro-pensées, des clics de pensée. Et tout cela alimente l’essentiel qui est que vous fabriquiez de la donnée. Votre pensée devient une data qui alimente le projet de technologie totale qui est celui de la poursuite du contrôle de l’espace et du futur. Donc, en fait, vous avez même cet espace-temps qui est indirectement privatisé par ces acteurs-là, puisqu’ils pensent notre avenir et ils quadrillent notre espace.