Guerre de l'information : le grand hack de nos démocraties - Trench Tech

Titre : Guerre de l'information : le grand hack de nos démocraties

Intervenant·e·s : David Colon - Virginie Martins de Nobrega - Emmanuel Goffi - Mick Levy - Thibaut le Masne - Cyrille Chaudoit

Lieu : Podcast Trench Tech - Esprits Critiques pour Tech Éthique

Date : 20 mars 2024

Durée : 1 h 09 min 36

Podcast

Présentation du podcast

Licence de la transcription : Verbatim

Illustration : À prévoir

NB : Transcription réalisée par nos soins, fidèle aux propos des intervenant·e·s mais rendant le discours fluide.
Les positions exprimées sont celles des personnes qui interviennent et ne rejoignent pas nécessairement celles de l'April, qui ne sera en aucun cas tenue responsable de leurs propos.

Description

Nous sommes entrés dans une ère de « propagande totale ». Surtout avec l’essor de l’IA. Pilotée par les autorités russes, chinoises ou les Big Tech américaines, la tech est devenue le bras armé de la guerre de l’information.

Transcription

Diverses voix off : Allô, allô.
Yes, Thibaut.
Je suis désolé, je ne pourrai pas être parmi vous pour l’enregistrement de cette émission.
Encore !
Ce sont les grèves à la SNCF, je n’avais pas de train.
La grève. Thibaut, attends, tu ne peux pas prendre cette excuse. Ça, ça participe à la désinformation. Tu prends cette excuse, elle va te paraître évidente.
Le train est en retard.
Encore pire. Tu n’arrêtes pas de dire qu’il y a la grève, que les trains sont en retard, du coup, tout le monde va y croire. Tu participes à la désinformation. Assume !
Franchement, tu ne peux pas te planquer avec ça. Un vrai spécialiste de la désinformation, lui, va t’en parler, c’est David Colon

Diverses voix off, Thank You for Smoking : Et si ça se passait dans le futur ?
Le futur !
Oui, quand on ne parlera plus constamment de santé.
Un monde où fumeurs et non-fumeurs vivent en parfaite harmonie.
Ça tombe bien, Sony a un film de science-fiction en projet, message du secteur six, une station spatiale comme lieu d’action et ils cherchent justement à cofinancer.
Des cigarettes dans l’espace, c’est la dernière frontière.

Voix off : Trench Tech. Esprits Critiques pour Tech Éthique.

Cyrille Chaudoit : Bienvenue à toutes et à tous. Vous êtes bien dans Trench Tech, le podcast qui titille votre esprit critique pour une tech plus éthique.
Cyrille Chaudoit au micro avec Thibaut le Masne.

Thibaut le Masne : Hello tout le monde.

Cyrille Chaudoit : Et Mick Levy.

Mick Levy : Bonjour à tous.

Cyrille Chaudoit : Dans Thank You for Smoking, sorti en 2006, la dernière frontière semblait donc être celle de l’espace et de la crédibilité pour faire la propagande de l’industrie cigarettière grâce au cinéma.

Mick Levy : J’avoue, fumer en orbite, il fallait oser quand même.

Cyrille Chaudoit : Ce n’est pas pratique, Mick, mais, depuis, si les écrans de fumée ont changé de camp et si l’art de la propagande, elle, n’a pas pris une ride, c’est désormais au cyberespace que nous sommes tous devenus accros. Pas vrai Thibaut.

Thibaut le Masne : Ouais, d’ailleurs, je me demande si je ne préférais pas l’odeur du tabac froid finalement !

Cyrille Chaudoit : Il faut voir ! En tout cas, ce qui ne vous laissera pas de glace, c’est l’Histoire que nous allons vous conter l’histoire, l’histoire avec un grand « H » mes amis, de cet art de la manipulation que certains ont été jusqu’à qualifier de « fabrique du consentement » et qui, de nos jours, avec les technologies modernes, a pris une envergure telle que notre invité la déclare, quant à lui, « guerre de l’information ». Et face à une telle guerre, où tous les coups semblent permis, nous allons nous demander s’il est possible de résister sans sacrifier une certaine éthique démocratique.
Notre invité c’est David Colon, historien, professeur à Sciences Po, spécialiste de la propagande et des techniques de communication persuasive, il est aussi l’auteur de plusieurs ouvrages, dont le dernier en date, paru en 2023 : La Guerre de l’information – Les États à la conquête de nos esprits aux éditions Tallandier. Et dans cette guerre, nous sommes tous concernés, car l’objet de cette guerre ce n’est pas un territoire ou plutôt, si, le plus intime des territoires, notre cerveau. Oui, nous sommes en guerre, et nous ne le savons pas. Alors, restez avec nous jusqu’à la fin de cet épisode, car voici le programme. D’abord, nous reviendrons avec David aux racines du mal, la guerre mondiale, sans fumée, initiée par les États-Unis pour paraphraser un ancien président chinois, puis, nous interrogerons le double jeu des acteurs privés dans cette conquête de nos cerveaux, avant de tenter de nous rassurer, en demandant à David sur quelle ligne Maginot compter pour nous défendre.
Mais ce n’est pas tout. Comme d’habitude vous retrouverez également deux chroniques dont vous êtes fans, « Débats en Technocratie » de Virginie Martins de Nobrega, qui nous parlera de l'IA Act et la « Philo Tech » d’Emmanuel Goffi, bien sûr, où nous parlerons d’anthropomorphisme.
Et n’oubliez pas, dans moins d’une heure à présent, nous débrieferons juste entre vous et nous, cher public, des idées clés partagées par David dans cet épisode. Restez donc jusqu’au bout. Vous êtes prêts ? OK. Alors accueillons ensemble David sans plus tarder.
Bonjour David.

David Colon : Bonjour.

Cyrille Chaudoit : David, est-ce qu’on sacrifie à la tradition de Trench Tech ? Est-ce qu’on peut se tutoyer ?

David Colon : Affirmatif.

Cyrille Chaudoit : C’est parfait. Alors c’est parti pour notre grand entretien. Vous êtes bien dans Trench Tech et ça commence maintenant.

Voix off : Trench Tech. Esprits Critiques pour Tech Éthique.

Une guerre mondiale sans fumée

Mick Levy : « La masse est incapable de juger correctement des affaires publiques », même si je dois le confesser, je ne suis pas complètement en désaccord avec cette citation, elle n’est pas de moi, mais d’Edward Bernays. Qui ? Edward Bernays. Publicitaire, américain, pionnier du marketing, considéré comme le père de la propagande politique, c’est donc certainement par lui que, dans les années 1940, tout a commencé. Finalement, si la propagande et la désinformation ne sont pas l’apanage du numérique pourquoi, David, cela devient-il une telle préoccupation aujourd’hui ?

David Colon : Ça devient une préoccupation, parce que nous sommes entrés dans une ère de propagande totale où nos esprits sont exposés plusieurs heures par jour à la propagande, où cette propagande est désormais une propagande interactive dès lors que nous produisons des données exploitées par les propagandistes et enfin, une propagande qui est désormais automatisée, cybernétisée et ce, de plus en plus, avec l’essor des outils d’intelligence artificielle. Autrement dit, il est devenu aujourd’hui quasiment impossible d’échapper à la propagande.

Mick Levy : J’ai le sentiment qu’il y a cette peur-là depuis toujours. Je lisais un papier qui disait qu’à l’époque de Gutenberg, quand l’imprimerie est arrivée, il y avait déjà eu cette crainte de dire « on va pouvoir faire de la propagande et puis il va y avoir des mauvaises informations, parce qu’on va pouvoir les diffuser beaucoup plus largement » ; l’arrivée de la radio, même peur ; l’arrivée de la télé, même peur. Là, n’est-on pas face à des comportements qui se reproduisent, finalement ? Et bon !, c’est l’air du temps !

David Colon : La racine du mot propagande, c’est « propagation », le verbe propager. Il s’agit de propager des idées, de propager des comportements, autrement dit, de propager des conduites. La différence fondamentale entre notre époque et les époques antérieures, c’est précisément la capacité de propager des contenus à une échelle absolument inédite dans l’Histoire, quand vous songez par exemple à ces hashtags sur TikTok qui peuvent atteindre des milliards d’individus. Nous sommes en présence de quelque chose de tout à fait nouveau, de tout à fait distinct de tout ce que nous avons connu par le passé.

Mick Levy : D’accord. C’est aussi qu’à chaque époque, du coup, cette capacité d’atteinte est encore, à chaque fois, plus forte entre l’imprimerie, la radio, la télé et maintenant le numérique. Il y a aussi cette question d’échelle, finalement.

David Colon : Elle l’est parce que, fondamentalement, la propagande est un art appliqué, une science appliquée. Elle vise un objectif pratique qui peut être de voter, de ne pas voter, d’acheter, de ne pas acheter, de cliquer sur un lien ou ne pas cliquer sur un lien. Pour atteindre cet objectif pratique, ceux qui recourent à la propagande s’appuient sur les progrès des technologies et les progrès des sciences pour, sans cesse, perfectionner leur art. Tu mentionnais tout à l’heure Edward Bernays, il s’est inspiré, à la fin de la Première Guerre mondiale, de la pensée de son oncle Freud parce que, le premier, il s’est demandé ce qui, dans la pensée freudienne, pouvait être appliqué à l’art de la persuasion de masse, aussi bien dans des campagnes publicitaires que, déjà, dans des campagnes politiques.

Mick Levy : Je ne savais qu’il y avait un lien de parenté entre les deux, tu m’épates.

Cyrille Chaudoit : C’est peut-être bien de rappeler, quand même, un petit peu l’histoire d’Edward Bernays, de rappeler simplement à quel moment ça arrive dans l’histoire, aux États-Unis, post Première Guerre mondiale. Peux-tu nous en dire deux mots ?

David Colon : Bernays est né à la fin du 19e siècle. Il a émigré tout de suite aux États-Unis, il a ensuite entamé sa carrière de publiciste, comme on disait avant, il s’est spécialisé dans les relations publiques à la fin de la Première Guerre mondiale. Il est celui qui a eu la plus grande longévité il a publié en 1928 un livre qui s’appelle Propaganda, qui est un best-seller jusqu’à nos jours. Mais, au risque de vous choquer, de vous heurter, il n’est pas le génie de la propagande qu’il prétendait être, il en est d’autres qui ont eu beaucoup plus d’importance soit avant lui soit après lui. Fondamentalement, les États-Unis ont été le creuset de la publicité scientifique, ils ont été le creuset des relations publiques, du lobbying, ils ont été le creuset, également, des études de marché, des sondages, ils ont été le creuset d’écoles vouées à l’étude des courants de la communication et des laboratoires voués à l’influence sur les comportements humains. Dès lors, c’est cette fabrique de la persuasion à grande échelle qui, de proche en proche, a gagné le monde industrialisé dans son ensemble et pas simplement le monde démocratique, puisque ces maîtres de la manipulation, comme je les ai appelés dans un précédent ouvrage, ont souvent été recrutés par des régimes autoritaires, pour mener leurs propres campagnes.

Cyrille Chaudoit : Et justement, un autre auteur, Noam Chomsky, disait que la propagande est à la société démocratique ce que la matraque est à l’État autoritaire. On est donc un petit peu confus. C’est vrai que le les propos d’Edward Bernays, cités par Mick en introduction, ne sonnent pas très démocratiques finalement, dans l’esprit. Quelle différence fais-tu entre la propagande issue du monde publicitaire, donc d’une volonté d’influencer, on pourrait penser gentiment, les opinions d’abord pour de la consommation, et la désinformation telle qu’on la vit à l’heure actuelle, certes sous un angle plutôt politique, mais ça a l’air d’être le même combat quand même ?

David Colon : La désinformation est un outil au service de la propagande. On la définit comme toute stratégie de communication de masse qui vise à agir sur les conduites des individus, à grande échelle. En l’occurrence, dans un régime autoritaire, la propagande est le prolongement de la terreur. Il s’agit d’imposer une idéologie, d’imposer l’image d’un dictateur, il s’agit d’empêcher, comme aujourd’hui en Russie, l’expression d’une opinion dissidente. Tandis qu’en démocratie, la propagande repose nécessairement sur une autre démarche qui est celle de l’art de la persuasion. Il s’agit de conduire les individus à adopter le comportement, notamment électoral ou en termes de versement des impôts, que l’on attend d’eux. Dès lors, ce que traduit cette référence à Chomsky et, avant Chomsky, la pensée des théoriciens de la fabrique du consentement, dont Walter Lippmann, c’est l’idée qu’au fond, si on ne peut pas suivre le peuple, parce que le peuple ne nous semble pas digne d’être suivi dans ses volontés, il faut alors fabriquer le consentement du peuple à ses décisions, ses politiques que l’on juge nécessaires, bonnes et justes.

Cyrille Chaudoit : « Que l’on juge nécessaires, bonnes et justes » et c’est peut-être là que se situe la véritable question.

David Colon : Qu’est-ce qui est juste ou qu’est ce qui est nécessaire ?

Cyrille Chaudoit : Oui. Ou qui sommes-nous pour décréter ce qui est bon et juste, parce que, de l’autre côté, dans les camps adverses, ils ne sont pas loin d’avoir la même idée, finalement, que leur combat est juste et bon, est meilleur que le nôtre.

David Colon : Oui, bien évidemment. La propagande n’est pas un mal en soi. Ce qui doit être jugé à travers la propagande, c’est, d’une part, le but poursuivi : si vous faites de la propagande pour exterminer un peuple, ce n’est pas exactement la même chose que de faire de la propagande pour vendre des yaourts.

Cyrille Chaudoit : On est d’accord.

David Colon : Ensuite, il faut juger le mode de propagande auquel vous avez recours. Si vous faites de la propagande blanche, c’est-à-dire officielle, sans masquer l’origine de votre discours et sans recourir à la désinformation, comme le font généralement les diplomaties publiques des régimes démocratiques, vous êtes dans quelque chose que l’on considérera comme normal. Quand, en revanche, vous recourez à des officiers de renseignement pour mener des actions de subversion à l’extérieur de vos frontières, pour agir sous faux drapeaux et manipuler l’opinion ou exacerber les tensions, vous recourez là à un mode de propagande, propagande noire, qui est hautement contestable.
Il ne faut pas s’en tenir, en matière de propagande, à la question de la désinformation. En réalité, vous pouvez tout simplement mettre en évidence des choses tout à fait vraies, mais qui sont dommageables à la société adverse. Le KGB n’a pas inventé la ségrégation raciale pendant la guerre froide, simplement, le KGB a fait de la ségrégation raciale l’un des thèmes privilégiés de sa propagande et de ses campagnes de déstabilisation pour fragiliser l’image des États-Unis.

Cyrille Chaudoit : Tu nous parles de propagande blanche. J’ai un peu de mal à matérialiser. Quels seraient des exemples de propagande blanche, transparente d’une certaine manière, en tout cas la démarche fait l’objet d’une certaine forme de transparence ?

David Colon : Le 4 février, l’agence TASS, qui est l’agence officielle de la Russie, a publié une déclaration de Dmitri Medvedev, le vice-président du Conseil de sécurité de la fédération de Russie et président du parti politique de Vladimir Poutine, dans laquelle il explique que oui, bien évidemment, la Russie va chercher à soutenir les partis anti-système en Europe, parce qu’il est dans son intérêt que ces partis obtiennent de bons résultats. Il s’agit d’une campagne de propagande tout ce qu’il y a de plus officiel : on connait la source, elle ne se cache pas, le contenu n’est, pour le coup, manifestement pas mensonger, puisqu’il est étayé dans les faits par tout ce que l’on sait aujourd’hui des opérations russes, c’est ce que l’on appelle de la propagande blanche, puisqu’il en attend un effet, en l’occurrence auprès des opinions publiques européennes.

Thibaut le Masne : Pour prolonger un peu la pensée. Dans les démocraties, normalement, l’information circule relativement librement, on va même dire plutôt très librement, on parle souvent de cette fameuse expression « la liberté d’expression », c’est vraiment notre leitmotiv. Du coup, très régulièrement, les outils web ou les réseaux sociaux sont l’expression, justement, de cette liberté d’expression. Pourquoi n’assiste-t-on pas à une espèce de forme d’autorégulation dans ce cadre-là ? Pourquoi tout cela exacerbe-t-il un peu ce sujet ?

David Colon : Thibaut, tu présentes là une vision extraordinairement libérale, classique, avec cette idée que les marchés s’autorégulent, se stabilisent, l’offre, la demande, etc. Tu supposes aussi qu’il y a une demande d’informations de qualité et d’informations authentiques, je ne suis pas sûr que c’est la première information que nous recherchons nécessairement quand tu vois le succès, par exemple, de photos de chats sur les réseaux sociaux.
Plus sérieusement Ivan Agayants, qui était le grand chef du service de désinformation du KGB pendant la guerre froide, qui a été deux fois ambassadeur à Paris, avec une formule que je trouve très révélatrice, il disait : « Si la liberté d’expression n’existait pas en Occident, il faudrait l’inventer pour les Occidentaux. » D’autres manipulateurs de masse russes se sont maintes fois félicités de la simplicité et de la facilité avec laquelle ils parvenaient à instrumentaliser les libertés pour les retourner contre les régimes démocratiques, parce que nous sommes des sociétés ouvertes, nous sommes des sociétés de liberté, nous valorisons la contradiction, nous respectons les différents points de vue, à la différence des régimes autoritaires où le point de vue qui n’est pas celui de l’État est réprimé, parfois extrêmement durement, comme on le voit aujourd’hui en Russie. De la sorte, les régimes autoritaires n’ont aucun mal à, comment dire, faire basculer le marché de l’information à leur avantage. Ils le font ouvertement, de façon transparente, en recourant à la propagande blanche dont on a parlé. Ils recourent aussi à des formes de propagande plus discrètes comme celles qui ont été révélées dans Le Point, très récemment, avec le cas de journalistes français qui étaient traités par des services de renseignement étrangers ; ils le font en recourant aux services de sociétés occidentales spécialisées dans le lobbying, l’influence. C’est-à-dire qu’ils arrivent à peser sur le débat public, à façonner le débat public.

Thibaut le Masne : Je ne suis pas pour la liberté complète, mais j’ai plutôt envie de croire en l’esprit collectif plus qu’autre chose et je me dis que, finalement, dans l’image que tu as l’air de dépeindre, ça sous-entendrait que nous sommes beaucoup plus malléables et beaucoup plus influençables qu’une autre civilisation qui serait peut-être sur un régime un peu plus dictatorial. Donc, je pensais qu’on avait au moins la richesse intellectuelle d’aller contrôler, enrichir et chercher un petit peu la quête de vérité et être moins sensibles à ce genre d’influence.

Mick Levy : Si je comprends bien, c’est que nous sommes véritablement en guerre.

David Colon : Non. Avant de dire que nous sommes en guerre, Mick, il faut considérer le fait que l’information, en Occident, repose sur un marché et ce marché de l’information est un marché économique. Sur les réseaux sociaux c’est très simple, ce marché économique est tributaire des revenus publicitaires. Donc, l’intérêt des plateformes est de valoriser le type d’information qui va maximiser le revenu publicitaire, ce qui ne valorise pas, Thibaut, l’information de qualité, on le sait.
Ensuite, en ce qui concerne les médias traditionnels, c’est la même logique qui est à l’œuvre, dès lors que ces médias, depuis une trentaine d’années, dans les pays démocratiques occidentaux, traversent une crise sans précédent de leur modèle économique. Lorsque Google Trends et Google News ont modifié leurs algorithmes, il y a quelques mois, à la rentrée dernière, cela a placé les journaux, les médias occidentaux, dans une situation de dépendance considérable à l’égard de tendances qui sont influençables par le recours à des dispositifs de search engine optimization. Ça les rend à la portée de ces agences spécialisées dans le trucage du marché de l’information. C’est à cela que nous devons faire face aujourd’hui. C’est un marché qui ne garantit plus l’intégrité de l’information.

Mick Levy : Très bien. Merci David. C’est d’ailleurs aussi comme ça que l’Europe cherche à réguler et c’est ce dont on va parler dans cette chronique « Débats en Technocratie ».

Voix off : Débats en Technocratie.

==18’ 55 « Débats en Technocratie » de Virginie Martins de Nobrega « Une guerre mondiale sans fumée »==Mick Levy : Virginie, aujourd’hui tu nous emmènes explorer le volet réglementaire de l’IA. Les États membres de l’Europe ont approuvé à l’unanimité, le 2 février 2024, la loi sur l’IA le fameux IA Act. Que doit-on retenir des quelque 250 pages de texte ?

Virginie Martins de Nobrega : Huit points.
Le premier, c’est que c’est le premier texte réglementaire en matière d’IA.
Deuxième point, il s’applique à tout le cycle IA pour tous les secteurs, à l’exclusion du militaire et de la Défense, ce qui est assez classique.
Troisièmement, il s’applique également aux entreprises ou aux individus étrangers qui placent sur le marché ou utilisent pour la première fois le système IA en Europe, c’est ce qu’on appelle l’effet extraterritorial.
Quatrième point à retenir : il y a une classification des risques à trois niveaux – faible, modéré inacceptable – et des obligations afférentes différentes, qui vont de l’obligation de transparence, la traçabilité, système d’évaluation et de gestion des risques, gouvernance des données, etc.
En sus de cette obligation générale de transparence, tu auras des règles spécifiques pour les modèles d’IA à usage général qui présentent des risques systémiques.
Sixième point, tu as une évaluation droits et libertés fondamentales pour les systèmes à haut risque et les applications liées au secteur public et obligatoires.
Septième point, tu auras des amendes forfaitaires qui pourront aller de 1 à 7 % du chiffre d’affaires.
Et, dernier point, huitième point, les différentes autorités seront au niveau national et européen et superviseront la mise en œuvre de ce texte.

Mick Levy : Avec ces huit points et 250 pages, l’Europe confirme donc sa stature mondiale en matière de réglementation de la technologie. Peut-on aller jusqu’à parler d’exception européenne ?

Virginie Martins de Nobrega : Si tu mets en perspective ce texte avec les déclarations politiques d’Hiroshima, du G20, de certains pays du Sud, de la Chine et des États-Unis qui sont quand même très prévalents sur le domaine, nous sommes en phase, je dirais, avec les déclarations d’intention pour une IA de confiance, centrée sur l’humain, respectant les droits de l’homme et les libertés fondamentales et devant être encadrée pour en limiter les impacts néfastes sur les utilisateurs et les populations les plus vulnérables.
Il confirme aussi la volonté de l’Europe d’avoir une IA de confiance, axée sur le facteur humain.
Ça s’inscrit également dans le momentum lancé par le texte de l’Unesco, par l’ITU [Union internationale des télécommunications], l’OCDE, le Conseil de l’Europe. On est donc vraiment dans la mouvance actuelle, en tout cas au niveau des déclarations politiques.
Maintenant, en effet, l’Union européenne est le premier bloc à mettre en place un régime complet et particulier, couvrant l’entièreté des applications IA, les services numériques, le marché du numérique. Donc, dans un contexte international instable, avec une course effrénée à l’IA qui est vue comme un facteur de croissance, de productivité, d’avantages stratégiques, on pourrait dire que c’est un choix politique, unique, assumé, de trouver un équilibre entre la loi du marché, l’innovation et les valeurs humaines, donc oui, peut-être, une exception européenne.

Mick Levy : Cool ! Alors en pratique, pour moi utilisateur et citoyen, quel est l’impact de ce fameux IA Act ?

Virginie Martins de Nobrega : Je pense que pour nous, utilisateurs et citoyens, l’exemple le plus parlant ce sont les interdictions qui sont faites au titre d’un risque jugé inacceptable pour nous, citoyens, et la société telle que nous la voyons, telle que nous la concevons et telle que, peut-être, nous voulons la développer ou la nourrir par l’IA. Là, je donnerai peut-être plusieurs exemples qui vont montrer e à quel point ça peut être impactant :

• interdiction des techniques subliminales pour manipuler et influencer les comportements humains ;
• interdiction du profilage biométrique pour catégoriser les personnes en fonction de critères ethniques, de pensée ou de croyance ;
• interdiction du profilage criminel pour la prédiction des crimes, c’est-à-dire prédire en fonction de critères ethniques, religieux, de croyances, qui va commettre un crime ou qui est plus susceptible de commettre un crime, ce qui, en fait, s’opposait vraiment à la notion d’État de droit ;
• interdiction, présente dès le début, du scoring social ; le scoring social, c’est comment permettre l’évaluation et la classification des personnes en fonction de leurs comportements jugés conformes, ou non, à une norme sociale, pouvant anticiper des traitements différenciés et moins favorables, notamment le retrait des aides sociales ou le retrait d’un droit ;
• en matière de police, interdiction de l’utilisation en temps réel des techniques biométriques, typiquement la reconnaissance faciale, de façon généralisée, sauf exceptions. Encore une fois, là c’est peut-être le modèle européen, l’exception européenne, mais ce n’est pas le cas dans tous les pays, puisque tu as une généralisation de la reconnaissance faciale dans l’espace public, notamment en Europe centrale, en Asie ou dans le Caucase du Sud ;
• et enfin, interdiction de la reconnaissance des émotions sur le lieu de travail ou au niveau éducatif, sauf pour exception de sécurité et de santé. Concrètement, si tu es en télétravail, tu ne peux pas avoir un logiciel dans ton ordinateur pour voir si tu travailles ou si tu ne travailles pas ; si tu es à l’école, on ne peut pas juger, savoir si tu es attentif, si tu es en colère, donc induire une forme de régulation sociale du comportement, des émotions.

Donc oui, c’est un peu important et c’est intéressant pour nous puisqu’on défend aussi une vision de l’Europe, une vision de nos sociétés. Encore une fois la question c’est : pour qui, pourquoi et comment nous le faisons ?

Voix off : Trench Tech. Esprits Critiques pour Tech Éthique.

23’ 30 Le double jeu des acteurs privés

Cyrille Chaudoit : Walter Lippmann. Ce nom a déjà été prononcé tout à l’heure par David, contemporain de Bernays. Il disait que quiconque maîtrise le processus de formation de l’opinion publique est capable de la manipuler. Nous venons de voir que cette guerre de l’information est surtout une guerre cognitive, les territoires à conquérir sont, désormais, nos cerveaux. Or, qui possède aujourd’hui notre attention ?, disposant ainsi d’une porte béante sur notre cognitif, sinon les acteurs de la tech, ces faiseurs d’algos, qui, pour reprendre Lippmann, « maîtrisent le processus de formation de l’opinion publique ».
David, quelle est leur véritable place dans cette guerre ? Ces acteurs privés sont-ils le bras armé des États comme le pense, par exemple, Asma Mhalla, ou des francs-tireurs ?

David Colon : Il faut savoir de quels acteurs on parle. Si on parle des plateformes, oui, Asma a tout à fait raison de souligner le fait qu’elles sont des acteurs géopolitiques à part entière et, bien évidemment, elles sont tributaires de l’environnement politique qui est le leur. Il est difficile, pour une plateforme américaine, de ne pas autoriser des backdoors pour les services de renseignements américains, tout comme il est difficile, pour une plateforme chinoise, de ne pas autoriser les mêmes backdoors, portes dérobées, pour les services de renseignement en Chine.

Cyrille Chaudoit : Elles répondent à une demande spécifique, dans ce cas-là.

David Colon : Elles répondent à une obligation qui est la subordination d’une l’entreprise de technologie aux intérêts stratégiques de l’État qui l’abrite. En l’occurrence, il ne faut pas oublier l’histoire : dans les années 1990, la guerre froide était finie, il y avait beaucoup moins d’investissements dans les services de renseignement et, lorsque Internet s’est développé, la difficulté pour la NSA et pour la CIA c’était de ne pas disposer des outils nécessaires pour monitorer l’Internet commercial naissant. Raison pour laquelle ils ont investi dans un certain nombre de startups pour ne pas passer à côté de cette révolution. On a vu, par exemple, Google rendre des services importants à la NSA pour se doter d’outils de catalogage du Web à l’époque.
De façon générale, il est très difficile pour une entreprise de la tech, d’échapper totalement à un environnement industriel militaire, dès lors que les contrats des plus petites d’entre elles en dépendent très nécessairement.

Cyrille Chaudoit : Justement by design, par rapport à leur business modèle, avec cette idée d’aller conquérir la planète comme ce fut le cas, par le passé, avec la pop culture, avec les grandes marques de grande consommation type Coca, etc., est-ce que c’est une façon aussi d’être le bras armé de ces États, pas uniquement dans une logique de subordination à ces États lorsqu’on leur demande d’ouvrir des backdoors ?

David Colon : Il est certain que ces plateformes ont une ambition qui leur est propre. J’ai consacré un chapitre d’un livre récent à Mark Zuckerberg. Mark Zuckerberg n’a pas pour projet de subordonner son entreprise aux intérêts géostratégiques des États-Unis. Il se pense en empereur mondial de la tech et, au contraire, il essaye, depuis longtemps, de séduire le régime chinois pour accéder à l’esprit des Chinois. Il était prêt à adapter Facebook aux attentes du Parti communiste. Il a même demandé à Xi Jinping d’être le parrain de sa fille à naître. Xi Jinping lui a répondu que c’était trop d’honneur, c’était trop de travail, trop de responsabilités.

[Rires]

Mick Levy : Emmener sa filleule au cinéma et tout, non !

David Colon : Cet honneur impliquerait trop de responsabilités.
Plus sérieusement, la difficulté à laquelle on est confronté, c’est précisément le fait que, à partir du moment où vous êtes intéressé par des marchés au-delà des frontières de régimes démocratiques, et toute entreprise globale est nécessairement intéressée par les marchés de régimes autocratiques, vous ne pouvez pas ignorer les attentes de ces régimes autocratiques. Et vous ne pouvez pas, par exemple, fermer l’accès de votre API, quand vous avez une API, à des plateformes ou des développeurs de régimes autoritaires, pas plus que vous ne pouvez refuser, ou ne vous sentez le besoin ou l’envie de refuser, l’argent qui vient d’agents qui opèrent pour le compte de la Russie ou de la Chine.
C’est ce que je raconte longuement dans le dernier livre à propos des technologies de Cambridge Analytica.

Mick Levy : Précisons juste au passage : une API c’est un service ouvert, typiquement par une plateforme comme Facebook ou autre, pour permettre à des développeurs de développer eux-mêmes d’autres services en se basant sur Facebook, en se basant sur des services ouverts sur Facebook.

Cyrille Chaudoit : Oui, on n’a pas que des geeks dans l’audience.

David Colon : Vous n’avez pas que des geeks ! Je pars !

Mick Levy : Non. D’ailleurs, si on avait un super geek qui puisse venir recâbler le studio, tout est en train de lâcher peu à peu ! Revenons à nos moutons.

Cyrille Chaudoit : Revenons à Cambridge Analytica, justement.

Mick Levy : Tu nous parles des API. Ces API, ces mécanismes en particulier qui sont des mécanismes techniques, rappelons-le, ont servi, effectivement, à Cambridge Analytica et à cette fuite de données massive par des applis qui ont été développées on topde Facebook. Que s’est-il passé avec ça et qu’est-ce que cela révèle sur ce sujet ?

David Colon : Le sujet ce n’est pas la fuite de données. Les médias français sont focalisés sur la fuite de données Cambridge Analytica, mais le vrai sujet c’est ce qu’on faisait des données.

Mick Levy : C’est la manipulation qu’il y a eu avec, c’est clair.

David Colon : Le fait que ces données ont permis à des systèmes qu’on appellerait aujourd’hui d’intelligence artificielle, des systèmes d’apprentissage profond, de prédire les caractéristiques des individus, politiques, psychologiques, sur la base de ce qu’ils aimaient sur Facebook.

Mick Levy : Pour ensuite leur afficher des campagnes personnalisées, donc influencer leurs votes.

David Colon : Pas simplement des campagnes personnalisées. Steve Bannon, le vrai patron de Cambridge Analytica, s’intéressait à la constitution de son armée de trolls, harceleurs en ligne, et il était très intéressé par les travaux d’Aleksandr Kogan, qui est l’ingénieur vraiment central dans l’affaire Cambridge Analytica, parce que celui-ci se focalisait sur des personnalités extrêmes, qu’on appelle de la Triade sombre, qui sont les plus susceptibles d’adhérer à des théories du complot et de s’engager dans des actions violentes. Ce sont précisément les travaux de Kogan qui ont intéressé aussi, à cette époque, c’est-à-dire l’hiver 2013/2014, le renseignement russe, qui a dupliqué les expériences de Cambridge Analytica avec le concours d’Aleksandr Kogan, qui a été recruté pour travailler avec une équipe de psychologues de l’université de Saint-Pétersbourg. Tout cela participe d’une caractéristique fondamentale de la propagande numérique russe depuis plus de dix ans, qui est leur maîtrise absolument éblouissante de ce qu’on appellerait le marketing digital. Ils ont recruté de nombreux spécialistes de cette question du marketing, ils se sont préoccupés du search engine optimization [Optimisation pour les moteurs de recherche] et aujourd’hui, quand vous regardez les opérations russes, elles sont, le plus souvent, confiées par le Kremlin ou les services de renseignement russes à des petites sociétés russes, spécialisées.

Cyrille Chaudoit : Mick, juste un instant.

Mick Levy : On a trop de questions à te poser, David. Il y a une négo par le regard entre nous, depuis le début de l’épisode.

Cyrille Chaudoit : D’ailleurs, ça vire même à la baston. Il faut absolument que David nous parle deux secondes d' Aleksandr Kogan. Il a passé très brièvement sur la Triade sombre, c’est quand même, il vient de nous le dire, à la source même de ce qui a inspiré ensuite les Russes avec ces techniques de marketing digital. Rappelle-nous s’il te plaît, en quelques mots, Aleksandr Kogan et cette Triade sombre. C’est quoi exactement ?

David Colon : Kogan est né en Moldavie, c’est-à-dire en Union soviétique en 1987, il a brièvement vécu à Moscou avant d’émigrer aux États-Unis, puis d’obtenir un doctorat en physique à Hongkong, puis, enfin, il s’est spécialisé dans la psychographie, dans une équipe de psychologues de l’Université de Cambridge qui, précisément, élaboraient des tests de personnalité en ligne pour prédire des caractéristiques à partir de données Facebook qui étaient croisées avec les données des tests psychométriques.
À l’origine, ses travaux portaient sur la pro-sociabilité, c’est-à-dire les émotions positives, mais, en creux, il étudiait les émotions négatives et, un jour, il a focalisé ses recherches sur les émotions négatives pour le compte de Cambridge Analytica. L’un des premiers contrats de Cambridge Analytica, c’était pour un État des Caraïbes qui voulait identifier les personnalités les plus extrêmes pour recruter des futurs hommes de main.

Mick Levy : Si ça se trouve, c’est pour cela qu’ils ont ciblé Cyrille, c’est à ce moment-là.

Thibaut le Masne : Fais gaffe au contrat sur la tête.

David Colon : La dark triad, ce sont des personnalités extrêmes, asociales, des gens qui ont des traits à la fois psychopathiques, machiavéliens et narcissiques. Statistiquement, il y a très peu de chances qu’il y en ait un dans le studio.
À l’échelle des réseaux sociaux tels que Facebook, Instagram ou TikTok, il y a de quoi remplir plusieurs stades de France. Et, à partir du moment où vous êtes capable de cibler ces individus, en les identifiant sur la base de ce qu’ils aiment – par exemple, en 2013, quelqu’un qui aimait les soucoupes volantes, le paranormal et les couteaux avait une forte probabilité de relever de ce type de personnalité –, vous les touchez par des publicités ciblées sur la base de ce qu’ils aiment, sans avoir aucune donnée personnelle sur eux, puis vous les engager dans une propagande, dans une chambre d’écho et enfin, vous les engager dans l’action en les faisant passer à l’acte.

Cyrille Chaudoit : Là, tu les retrouves au Capitole.

David Colon : On n’est pas, ici, dans de la science-fiction. On est dans quelque chose qui, aujourd’hui, est bien étayé, c’est-à-dire que les gens qui relèvent de cette catégorie-là étaient aux premières loges, le 6 janvier 202, pour l’insurrection du Capitole.

Thibaut le Masne : Si on regarde un petit peu l’autre bloc qui essaye de se lever face aux USA, c’est la Chine, on pense, notamment, avec TikTok, on a beaucoup entendu parler des craintes d’espionnage que l’on peut avoir, notamment dans l’administration US ou française, mais finalement, en fait, ce que tu es en train d’ouvrir comme porte, qui est déjà bien grande ouverte, ce n’est pas uniquement l’espionnage la vraie crainte que l’on a derrière, ça va un peu plus loin que ça ?

David Colon : Ça va bien plus loin ! Par exemple, pour prédire la personnalité des individus, les Russes, il y a dix ans, travaillaient sur des traces numériques, les likes. Là, le renseignement chinois dès lors qu’il a un accès à TikTok – ce qui semble aujourd’hui bien étayé – peut non seulement élaborer des prédictions sur les caractéristiques des individus, sur la base d’une approche inductive, une inférence statistique sur la base des données disponibles, mais il peut aussi le faire par voie déductive, c’est-à-dire que le système peut, une fois qu’il a prédit qu’un utilisateur de TikTok était anxieux, l’exposer à des vidéos anxiogènes pour valider ou invalider cette prédiction, et enfin, recourir à l’apprentissage profond, le deep learning, pour identifier des émotions.
Tout à l’heure il a été question de ces techniques qui sont interdites par l’IA Act, c’est une très bonne nouvelle qu’elles le soient. Maintenant, ces techniques sont interdites en Europe, il est très difficile d’interdire leur usage en Chine. Il va être extraordinairement compliqué à la Commission européenne, le moment venu, si elle lance une enquête contre TikTok en application de l’IA Act, d’établir ce qu’il en est réellement, parce que c’est une boîte noire.
Je termine sur les menaces. Ça, c’est la capacité de l’outil à inférer des caractéristiques personnelles, mais, ensuite, il y a la capacité de l’outil à les exploiter pour fragiliser la psychologie des individus. Les études disponibles montrent, par exemple, que quelqu’un d’un peu déprimé TikTok est exposé en quelques dizaines de minutes, sur TikTok, à des contenus encore plus déprimants avant d’être progressivement poussé au suicide. Il y a quelques jours, une enquête a été ouverte sur la base du DSA, par la Commission européenne, qui porte précisément sur le soupçon d’un défaut de respect des obligations à l’égard des plus jeunes, à l’égard des mineurs.
Je pense que la question cruciale que l’on doit se poser à propos de TikTok, au-delà de la propagande, au-delà du caractère additif, au-delà, également, de la collecte massive de données qui est réalisée, c’est celle de l’enjeu sanitaire pour la psychologie de ses utilisateurs, à commencer par les jeunes utilisateurs.

Cyrille Chaudoit : Bien. Sur ces joyeusetés, nous allons voir que, parfois, on n’a pas besoin d’être poussé trop fortement pour avoir, nous-mêmes, une tendance à faire des choses assez étranges. On va parler à nouveau d’IA dans la Philo Tech d’Emmanuel Goffi puisqu’on va parler de notre tendance à considérer ces IA comme nos alter egos.

Voix off : De la philo, de tech, c’est Philo Tech.

La Philo Tech, d’Emmanuel Goffi : « Anthropomorphisme quand tu nous tiens… » 37 ‘ 55

Cyrille Chaudoit : On le sait tous