L'affaire TikTok et le spectre de la guerre cognitive

Titre : L'affaire TikTok et le spectre de la guerre cognitive : nos cerveaux comme ultimes champs de bataille ?

Intervenant·e·s : François du Cluzel - Bernard Claverie - Asma Mhalla

Lieu : CyberPouvoirs - France Inter

Date : 30 juillet 2023

Durée : 34 min 35

Podcast

Page de présentation du podcast

Licence de la transcription : Verbatim

Illustration : À prévoir

NB : transcription réalisée par nos soins, fidèle aux propos des intervenant·e·s mais rendant le discours fluide. Les positions exprimées sont celles des personnes qui interviennent et ne rejoignent pas nécessairement celles de l'April, qui ne sera en aucun cas tenue responsable de leurs propos.

Description

Asma Mhalla pose la question de la militarisation de nos cerveaux : sont-ils devenus des armes de guerre ? Pour y répondre, elle s'est entourée de François du Cluzel et Bernard Claverie, deux références de la notion de guerre cognitive.

Transcription

Asma Mhalla : Aujourd’hui l’affaire TikTok et sa dimension géopolitique avec deux des meilleurs experts français de la guerre cognitive, François du Cluzel et Bernard Claverie.

Bernard Claverie : , voix off : Un des principes de l’IA cognitive c’est empêcher les personnes de prendre des décisions. Ces personnes sont atteintes dans le fonctionnement de base de leur cerveau, c’est-à-dire qu’elles ne peuvent plus prendre de décision.

Asma Mhalla : Bonjour. Je suis Asma Mhalla et mon job consiste à décrypter les nouvelles formes de pouvoir et de puissance qui sont en train de se recomposer actuellement autour de la question technologique. Chaque semaine, nous allons nous plonger dans une grande affaire pour tirer méticuleusement le fil de cette histoire, lever le voile sur ce qui est en train de se jouer en coulisses, déchiffrer ensemble les enjeux politiques, géopolitiques qui s’affrontent et qui nouent le cœur de ces nouveaux jeux de pouvoir et de puissance de ce début de 21e siècle.
Aujourd’hui, cette grande affaire c’est la polémique mondiale autour du réseau social chinois TikTok.
CyberPouvoirs sur France Inter, c’est parti.

Voix off : États-unis, Canada, Danemark, le boycott de TitTok initié fin février par la Commission européenne gagne toutes les puissances occidentales. Les fonctionnaires européens, américains, canadiens et danois ont une trentaine de jours pour supprimer l’application de leurs appareils mobiles. Le but de cette décision : protéger les institutions contre un potentiel espionnage de la Chine.

Voix off : CyberPouvoirs Asma Mhalla sur France Inter.

Asma Mhalla : TikTok est l’une des applications les plus téléchargées au monde et surtout l’un des derniers litiges en date entre États-Unis et Chine. Le scandale de l’affaire vient initialement directement des États-Unis. L’administration américaine reproche à TikTok trois choses : d’abord l’accès à la donnée collectée. Vous le savez, vous produisez de la donnée sur les réseaux sociaux, évidemment vous en produisez donc sur TikTok si jamais vous l’utilisez. Que lâchez-vous comme informations ? Des données sur vos loisirs, votre santé, votre religion peut-être, vos croyances, vos appétences politiques, vos détestations, etc. Ces données-là sont souvent utilisées à des fins publicitaires, pour vous cibler. Mais vous voyez bien la difficulté : ces mêmes données peuvent être collectées pour vous manipuler ou pour faire du cyberespionnage et c'est ce point-là qui est reproché à TikTok, être un cheval de Troie de Pékin. Par exemple, la journaliste britannique Cristina Criddle, qui enquêtait sur les conditions de travail de la société à Londres, a été traquée par TikTok via le compte qu’elle avait créé pour son chat.

Voix off : La journaliste Cristina Criddle a été pistée par TiTok. Regardez ce chaton. Il a l’air complètement inoffensif, mais c’est grâce à son compte que les enquêteurs du Financial Times ont découvert que la journaliste était espionnée. La maison mère de TikTok a reconnu la fuite et a déclaré que les employés concernés avaient été licenciés.

Asma Mhalla : La deuxième accusation des États-Unis vis-à-vis de TitTok c’est d’organiser des opérations d’influence et de manipulation de l’information. Pour l’administration américaine, il s’agit d’un principe de précaution : toutes les données, celles que j’évoquais tout à l’heure, celles qui concernent votre historique de recherche, de navigation, potentiellement même les modèles de frappe, les données biométriques, par exemple votre visage ou le pouce si vous avez enregistré ces données-là, le micro, les empreintes faciales, vocales, peuvent être utilisées pour des campagnes d’influence. Pour le directeur du FBI, Chris Wray, l’algorithme de recommandation, qui est ultra-puissant, pourrait bien être détourné par Pékin, On l’écoute.

Chris Wray, voix off du traducteur : Tout le monde parle de la capacité de TikTok à être utilisé par la Chine à la fois pour siphonner les données personnelles mais aussi pour servir d’outil de propagande.

Asma Mhalla : Le troisième reproche des Américains concernant TikTok c’est la fameuse démence numérique. Certaines thèses circulent aux États-unis disant que TikTok serait une arme biologique de Pékin contre le public américain. Par quoi ? Par l’addiction qui est créée par des mécanismes algorithmiques bien rodés : des formats très courts de vidéos, le scrolling sans fin qui capte le cerveau, la répétition des contenus, tout un tas de mécanismes d’addiction et d’obsession pour renforcer l’empreinte de certains contenus sur votre cerveau. La thèse est d’autant plus renforcée que l’intention politique supposée de la Chine repose sur le fait que PCC, le Parti communiste chinois, a exigé, dès 2019, que Douyin, le versant chinois de TikTok, limite l’usage du réseau social aux enfants à 40 minutes par jour et qu’il ne peut pas être consulté entre 22 heures et six heures du matin. En gros, on aurait un deux poids deux mesures.

Voix off : L’affaire TiTok, le spectre de la guerre cognitive, nos cerveaux ultime champ de bataille.

Asma Mhalla : La grille de lecture de l’affaire, et sans doute beaucoup la plus sulfureuse et plus sensible, c’est celle de la militarisation des cerveaux, c’est-à-dire que tout d’un coup on aurait une affaire qui visibiliserait, qui démontrerait que nos cerveaux sont en train de devenir des champs de bataille.
La manipulation de l’information dans le champ militaire, ce qu’on appelle la guerre de l’information, n’a rien de nouveau, mais l’ultime vague, celle qui risque de déferler, c’est ce qu’on appelle la guerre cognitive. Concrètement c’est quoi, une guerre cognitive ? Ce sont des opérations cognitives qui, en fait, vont essayer de cibler l’amont, c'est-à-dire les conditions mentales de réception des contenus. L’objectif est assez simple, c’est attaquer, détériorer, voire détruire des représentations collectives ou individuelles du monde. C’est aussi détériorer les capacités de prise de décision qui sont toujours nécessaires au fonctionnement d’un groupe, d’une société ou d’une nation, en gros, la paralyser. Chaque cerveau devient alors un bastion à conquérir et c’est là la nouveauté : la massification des attaques via des canaux à priori anodins, sympas, ludiques, comme les réseaux sociaux. Comment alors rester vigilant ? À qui donner sa confiance dans un monde où le vrai, le faux, le virtuel, le réel, sont devenus totalement fusionnels. Peut-être qu’en démocratie on établira un jour une nouvelle liberté, la liberté cognitive. Allez savoir !

Les cerveaux comme champ de bataille, le ludique comme arme de guerre, vous comme cible, de nouvelle règles du jeu et de nouvelles lignes de front, les guerres cognitives donnent à voir des formes renouvelées de puissance et de pouvoir, des cyberpouvoirs émergents qu’il va nous falloir domestiquer.
Dans un instant nous essayerons de mieux comprendre ce concept de guerre cognitive avec François du Cluzel et Bernard Claverie, les deux auteurs français à l’origine du rapport de l’Otan sur le sujet.

Voix off : Les enjeux technologiques d’aujourd’hui, les enjeux politiques de demain. CyberPouvoirs sur France Inter.

Pause musicale : Home par Depeche Mode.

Asma Mhalla : Nous venons d’écouter Depeche Mode sur Inter. On continue à explorer la guerre cognitive dans CyberPouvoirs

Voix off : France Inter. Asma Mhalla. CyberPouvoirs

13’ 25

Asma Mhalla : Dans le domaine, je reçois aujourd’hui deux rockstars : François du Cluzel qui a été responsable de projets innovants, l’Innovation Hub de l’Otan et Bernard Claverie, professeur, psychologue et cogniticien, fondateur de l’Institut de cognitique en France. Vous êtes surtout, tous les deux, parmi, je crois, les références françaises et même peut-être mondiales du concept de « guerre cognitive » et les auteurs du rapport référent sur le sujet de l’Otan, qui est paru en 2019.

François du Cluzel : Bonjour Asma.

Asma Mhalla : Merci beaucoup d’être avec nous.
Est-ce qu’on peut vraiment, s’il vous plaît, définir déjà ce dont on parle ? D’après vous qu’est-ce que la guerre cognitive ?

François du Cluzel : Le terme est apparu en 2017 aux États-unis, sous le vocable de Cognitive Warfare utilisé par le général Goldfein qui était chef d’état-major de l’armée de l’air des États-Unis. Il désigne plus précisément « les moyens d’action qu’un acteur étatique ou un groupe d’influence – ça peut d’ailleurs être un grand groupe commercial – pour manipuler les mécanismes spontanés de la cognition d’un adversaire, quel qu’il soit, à des fins qu’il s’est choisies ». Quand c’est un État, c’est pour affaiblir un État adverse, le pénétrer, l’influencer, voire le soumettre, peut-être même le détruire ; quand c'est un grand groupe commercial, c’est naturellement déterminer les comportements futurs pour vendre quelque chose.

Asma Mhalla : En gros, en termes d’objectif, c’est venir cibler peut-être, et vous m’arrêtez si je me trompe, les fragilités ou les mécanismes cognitifs de chacun. Peut-être, Professeur Claverie, que vous pourriez nous expliquer de quoi il retourne quand on parle des mécanismes cognitifs pour essayer de comprendre comment, en fait, on décortique le système cognitif global humain pour le cibler et en faire, comme le disait justement peut-être -up et , l’ultime champ de bataille ?

Bernard Claverie : On pourra dire qu’il y a deux doctrines : une doctrine qu’on appellera top down, descendante, qui consiste à penser qu’on peut influencer, l’??? russe, qu’on peut démoraliser avec des systèmes qui sont des systèmes descendants, c’est-à-dire que des phénomènes sociaux vont aller agir sur les individus.
Il y a une autre école qui consiste à penser qu’on peut taper directement dans la pensée des individus et que, évidemment, les effets seront des effets collectifs.
On a la conjonction de ces deux niveaux. Autant le niveau supérieur va taper sur les pensées les plus sophistiquées, autant le niveau montant va s’attaquer directement au fonctionnement du cerveau.

Asma Mhalla : C’est très intéressant cette histoire de bottom-up/top-down, et surtout, du coup, ça donne les mécaniques ou les techniques très concrètes de manipulation et de guerre cognitive.

Voix off : France Inter. CyberPouvoirs Asma Mhalla.

Asma Mhalla : Nous sommes toujours en compagnie de François du Cluzel et Bernard Claverie, deux de meilleurs spécialistes du concept de guerre cognitive.
Professeur Claverie, on était à essayer d’expliquer, d’illustrer ces techniques de guerre cognitive concrètement.

Bernard Claverie : Le plus bas niveau c’est l’intervention sur le fonctionnement des cerveaux. Il y a plusieurs méthodes : fonctionnement altéré par des drogues de manière positive. On peut très bien avoir aussi de la guerre cognitive favorable, positive, pour faciliter le fonctionnement des cerveaux des opérateurs ou de nos forces. Mais il y a aussi les actions négatives.
Un phénomène très étrange c’est celui du syndrome de La Havane. Le syndrome de La Havane a été constaté auprès de diplomates en poste à l’ambassade des États-Unis à La Havane. Ces diplomates ont présenté des symptômes très étranges de déséquilibre, maladies, vomissements, etc. On a soupçonné des irradiations soit par des ondes, soit par des infrasons ou ultrasons, on ne sait pas. Ces personnes sont atteintes dans le fonctionnement de base de leur cerveau, c’est-à-dire qu’elles ne peuvent plus prendre de décision. C’est un des principes de la guerre cognitive : empêcher les personnes de prendre des décisions. Ces personnes sont atteintes dans le fonctionnement de base de leur cerveau, c‘est-à-dire qu’elles ne peuvent plus prendre de décisions. Voilà typiquement un exemple qui consiste à attaquer le plus bas niveau.

Asma Mhalla : Là, disons, ce sont des interférences chimiques. D’un point de vue un peu plus invisible, quand on parle justement de la guerre cognitive. On a beaucoup parlé – ça a d’ailleurs été tout le propos de la première partie de l’émission –, par exemple de l’affaire TikTok. L’affaire TikTok est très intéressante, parce que l’un des prétextes ou l’une des raisons, l’un des reproches qui est fait par les États-Unis à la Chine via TikTok est précisément de commencer à manipuler des applications de réseaux sociaux hyper-ludiques, qui ont l’air totalement inoffensives, comme arme biologique dans le cadre de cette émergence, de ce domaine qui est le domaine de la guerre cognitive.
Quand on préparait cette émission, on évoquait également, par exemple, le cas de Cambridge Analytica, qui aurait été peut-être la Préhistoire de ce qu’on peut anticiper comme technique.

François du Cluzel : Le cas de Cambridge Analytica est particulièrement intéressant parce que c’est une attaque masquée, finalement, d’un État contre un autre, à un point tel que le résultat final c’est la manipulation d’une élection présidentielle. Je vais rappeler ce que disait James Comey, l’ancien patron du FBI, en juin 2017, il disait « nous parlons d’un gouvernement étranger qui, avec des intrusions technologiques et d’autres moyens, a essayé de façonner la manière dont nous pensons, votons, agissons. C’est très grave. »
Cambridge Analytica est une société anglaise qui a été mandatée par un candidat américain, qui a été influencée par une société russe, une fabrique de trolls, utilisant donc des moyens dits hyper-connectifs, de l’hyper-connectivité, le monde cyber, pour utiliser ces moyens dans la guerre, et qui a spotté, identifié un swing state, un État hésitant, mais dont le rôle est extrêmement important dans la balance électorale américaine. Au sein de cet État, ils ont identifié un certain nombre de gens, jusqu’à 22 000. Ils ont créé des faux profils souvent alimentés par des gens qui se sont mis dans la peau de ces personnes-là, c’est-à-dire des fermiers blancs du Michigan, etc., l’État était le Michigan en l’occurrence, et, au final, ils ont envoyé des messages anonymisés, permanents, récurrents, avec la même teneur finalement, pour influencer, favoriser, manipuler les mécanismes cognitifs et arriver à les faire voter pour le candidat, Donald Trump en l’occurrence. C’est finalement une ingérence dans les processus cognitifs qui a fini par fonctionner.
Si on veut résumer, le Cognitive Warfare c’est finalement une forme de guerre non conventionnelle qui s’appuie notamment sur les outils cyber mais pas que, ce sont aussi des techniques de guerre de l’information un peu plus classiques, dont le but est d’altérer les processus cognitifs de l’adversaire, d’exploiter les biais cognitifs, les automatismes, les processus mentaux, de provoquer des distorsions des représentations, des altérations de la décision, voire des inhibitions de l’action, et d’entraîner des conséquences parfois non voulues par les États à un point tel que ça peut changer les données d’une élection présidentielle.

Asma Mhalla : J’aimerais beaucoup qu’on revienne sur le détail, avoir des exemples très concrets de technique. On en parlera après la pause.

Pause musicale : The foolpar Jain.

Asma Mhalla : C’était Jain sur Inter, dans CyberPouvoirs, avec mes deux invités ce matin, François du Cluzel et Bernard Claverie, deux des meilleurs spécialistes du concept de guerre cognitive. On continue d’explorer le cerveau comme arme de guerre.

CyberPouvoirs Asma Mhalla sur France Inter.

24’ 56

Asma Mhalla : Le ludique comme arme de guerre