Justice sociale et environnementale : quelle place pour le numérique ? - Maïtané Lenoir

L'impact sur notre vision du monde

L'autre partie c’est l'impact sur notre conception du monde. Je vais peut-être vous parler de choses que vous connaissez mieux, je vais vous parler des géants du numérique.

Petit sondage. Qui a un compte Facebook ? Messenger ? WhatsApp ? Instagram ? Pour ceux qui ne savent pas, tout ça c'est la galaxie Facebook, ou Meta, ils changent de nom pour que tout ça passe inaperçu. Twitter ? Tik Tok ? Vous êtes si vieux ! SnapChat ? Le moteur de recherche Google ? Gmail ? Google Maps ? Comment ça ce sont les mêmes ? Oui, vous utilisez le service. « Si j’utilise Gmail, est-ce que j’utilise vraiment Google Maps ? » Pour venir aux JdLL, est-ce que tu as cherché ton chemin sur Google Maps ? Tu ne l’as pas cherché sur Gmail ! YouTube ? Et Waze ?, qui appartient à Google aussi.

Quel est leur modèle économique ? – La vente de données personnelles, la pub, la pub ciblée, la prédiction et l'orientation comportementale, donc la publicité et la prédiction des comportements.

Comment ces géants du numérique font-ils pour qu'on utilise le plus possible leurs outils, pour qu'on serve leur modèle économique ? – Capitalisme de surveillance. – OK. Plus concrètement ? – Ils travaillent avec des psys pour que les interfaces soient addictives. – C'est bien ça ! – Les dark patterns. – Oui. – Ils captent notre attention, ils mesurent tout, ils rachètent la concurrence. – Vous êtes bons !

Je vais passer rapidement. Voyons par exemple la partie notification. Quand j'ai commencé à designer des logiciels, je me suis rendu compte de l'énorme impact qu'un choix qui pouvait être microscopique avait, en fait, sur les utilisateurs. Par exemple là [écran de téléphone portable, NdT], la vignette qui affiche les notifications est rouge. Qu'est-ce que ça donnerait si elle était bleue ? Ou verte ? Ou noire ? Elle pourrait être grise, mais niveau accessibilité ça ne suffirait pas, il n'y a pas assez de contraste.

J'espère que personne, dans cette salle, ne pensera que les outils sont neutres. En fait juste la couleur ! Le rouge vous happe le regard, si c'est vert, dégueulasse, vous vous en fichez, vous avez l'information, mais ce n'est pas la même chose qu'essayer de vous accrocher.

Il y a aussi la partie mécanismes addictifs dont on a parlé rapidement. En très grossier, il y a des choses qui ressemblent au fonctionnement dans les casinos. Quand vous avez une notification, parfois c'est intéressant, mais parfois, franchement, ça ne l'est pas. En fait, si les notifications étaient tout le temps intéressantes, ça vous donnerait moins envie d'y aller. C'est comme le mécanisme de la machine à sous où vous tirez sur le bandit manchot, parfois vous gagnez, et parfois non. Si vous gagniez tout le temps, ça ne serait pas intéressant. Donc, parfois, vous gagnez le gros lot : quelqu'un a « liké » votre photo, quelqu'un vous a écrit un message privé, d'autres fois non, mais ça vous donne un petit shoot qui vous donne envie de revenir.

Il y a aussi la partie « susciter des émotions négatives ». Ce sont les émotions négatives qui font que les gens restent et s'engagent, on va dire émotionnellement, sur les réseaux sociaux, donc interagissent. Par exemple, à une période, dans l'algorithme de Facebook vous pouviez réagir avec des émotions. Le titre de l'article à l'écran, c'est : « Cinq points pour la colère, un seul pour le like : comment l'algorithme de Facebook promeut la colère et la désinformation ». Plus un contenu a de points, plus il va être montré à différentes personnes, là on est sur mon fameux clivage gauche-droite. Il y a une culture, à gauche, d'expliquer les tenants, les aboutissants, faire potentiellement des articles de 300 pages pour bien expliquer le problème systémique. Et potentiellement, à l'extrême droite, être plus sur la petite phrase qui va faire réagir. Donc soit vous réagissez parce que vous êtes d'accord, et ça a marché, soit vous réagissez parce que vous n'êtes pas d'accord. Par exemple, je suis féministe et dans le milieu féministe, c'est très courant d'expliquer en 12 tweets pourquoi le propos est problématique. C'est bien si l'outil ne lutte pas contre nous, parce que le fait de réagir et expliquer pourquoi c'est problématique, ça viralise quand même le contenu.

Ils ont changé la façon dont se répartissent les points, franchement on s'en fout parce que le problème est dans le temps, il apparaît toujours sous de nouvelles formes, mais c'est toujours le même souci. Les ingénieurs disent : « Oh mon dieu, Facebook fait ça, on ne se rendait pas compte. On est vraiment très désolés ! On va vraiment tout changer très rapidement ! » Et, un an plus tard : « Il y a encore un problème ? On est vraiment très désolés ! ». On n'y croit plus !

Autre exemple, j'adore cet article : « Twitter admet qu'il amplifie plus la droite française que la gauche – c'est le mécanisme dont je vous ai parlé tout à l'heure – et le réseau social ne sait pas pourquoi ». La main sur le cœur, les yeux dans les yeux, « on ne comprend pas ce qui peut bien se passer ». Si tu ne sais pas, tu désactives ton algorithme, tu arrêtes de faire n'importe quoi ! On dirait Mickey dans L'apprenti sorcier qui dit « Oh mon Dieu, il y a plein de balais, je n’ai pas compris pourquoi ils se sont multipliés ! » Tu arrêtes de faire de la magie ! Là c'est pareil.

Qu'est-ce qui pourrait mal se passer ?

Voici le tweet d'un maire, quelqu'un qui pouvait donner un parrainage, qui dit : « Face au déni démocratique des parrainages, je parrainerai l'un des trois principaux candidats risquant de ne pas avoir les 500 signatures, je signerai pour celui qui obtiendra le plus de voix en 48 heures pour que vive notre démocratie ». Et les trois propositions sont Marine Le Pen, Jean-Luc Mélenchon, Éric Zemmour.
On pourrait se dire que ce n'est que sur les réseaux sociaux. L'impact là, par exemple, est que la personne donne son parrainage à la personne qui va potentiellement avoir le plus de voix dans un sondage sur un réseau social qui facilite la propagation des idées d'extrême droite plus que celles d'extrême gauche. D’où, peut-être, les militants d'extrême gauche se barrent parce qu'ils se font harceler.
Qu'est-ce qui pourrait mal se passer ? Que des candidats n'aient pas assez de voix de parrainage et que d'autres en aient suffisamment ? Je ne sais pas ce que c'était. Je n'ai pas répondu au sondage, étrangement. Ça m'a beaucoup trop énervée !

Il y a toute cette partie-là, mais il y a une partie qui me semble un peu plus critique.

Un autre truc que permet la récupération des données, c'est mettre les gens dans des petites cases. Bon ! Vous pouvez vous demander en quoi votre petite personne peut être intéressante pour les autres. Le problème c'est que vous, peut-être, vous n'êtes pas intéressant, mais que l'on soit tous dans des petites cases et d'autres petites cases et encore d'autres petites cases, ça veut dire qu'on peut être calés dans des groupes, dans des tendances sur plein de critères différents. Voici une slide qu'on retrouve sur le site de hacking-social.com, qui a fait plusieurs articles très intéressants sur le scandale Cambridge Analytica, dont je vais vous parler, qui liste un peu l'ensemble des critères que la société réussit à déterminer sur les profils des personnes qu'elle a récupérés via Facebook.

Je ne vais pas tous vous les faire.
Il y a des trucs, c'est évident qu'il les récupère : l'âge, le genre, où vous habitez, comment vous vous appelez, est-ce que vous êtes propriétaire, locataire. Bon ! Vous le savez ! Mais il y a d’autres choses, des choses que je ne savais même pas quand j'ai lu la liste : sensibilité à la publicité. Qui sait ici, entre 0 et 100 %, combien il est sensible à la pub ? Qu'est-ce qu'il y a d'autre ? Habitudes d'achat, style de vie, jusque-là ça va. Ensuite il y a des trucs encore plus compliqués, j'imagine : psychologie, niveau d'ouverture, amabilité, extraversion, neuroticisme – j'ai aussi appris des mots, c'est la tendance persistante à l'expérience des émotions négatives. Qui sait ici s'il a une tendance persistante à l'expérience des émotions négatives ? Quelqu'un qui a levé les bras très haut !

Côté persuasion, c'est pareil. Autorité, peur, preuve sociale. Qui sait s’il a tendance à adopter facilement le comportement des autres personnes, ou pas ? C'est vraiment impossible à savoir et eux le savent, le savent ou pensent savoir, en tout cas ils estiment qu'ils sont assez précis pour pouvoir réaliser des choses avec ça.

Je pense que je ne vais pas vous parler de Cambridge Analytica pour réussir à faire la conférence dans les temps, mais je vais faire une petite expérimentation.

Je vous demande de tous lever les mains ; si vous n’avez pas de mains, vous pouvez vous lever ou demander à votre voisin de le faire pour vous. Vous pouvez mentir si jamais vous n'êtes pas à l'aise : pour le premier tour des prochaines élections, que celles et ceux qui sont sûrs de s'abstenir baissent la main. Parmi ceux qui ont la main levée, que celles et ceux qui sont sûrs de pour qui ils vont voter baissent la main. Donc, normalement, il ne reste qu’une certaine catégorie de gens : ceux qui hésitent entre deux candidats, ou plus, et ceux qui hésitent entre s'abstenir et aller voter. Il y a un, deux, trois, quatre, cinq, six, une dizaine, une douzaine de mains, peut-être plus, une quinzaine. Merci. Vous pouvez baisser la main.

Voilà, c'est cela qui est intéressant pour les entreprises type Cambridge Analytica qui font, par exemple, des campagnes de marketing sur Internet demandées par des partis politiques. Il y a eu le sujet dans plusieurs pays, on le sait notamment pour Trump et pour le Brexit.

Ce qui intéresse ces gens ce n'est pas que les gens qui vont voter pour un candidat aillent voter pour un autre : si jamais vous votez Poutou, il y a peu de chances que vous alliez voter Zemmour. Mais si vous hésitez entre vous abstenir et aller voter pour le candidat qui leur plaît bien, on a plutôt envie de vous pousser à ne pas vous abstenir. Par contre, si vous hésitez à aller voter pour le candidat opposé et vous abstenir, on a envie de vous dire : « Abstiens-toi. Franchement, ça ne vaut pas le coup. Ils sont tous nuls ces politiques ! », un truc comme ça. Et c'est là où c'est très intéressant, c'est-à-dire qu'il n’y a pas besoin de faire des grandes campagnes pour un candidat. Il y a juste besoin de décaler un tout petit peu certaines personnes d'un côté et certaines personnes de l'autre, donc de convaincre certaines d'aller voter, de convaincre d'autres à ne pas y aller. Bref ! Si jamais vous hésitez à aller voter Trump, on vous dit « allez voter Trump. Franchement Clinton n’est pas fiable, ce n'est pas une bonne idée ». Ensuite on est élu !

2010 – Les élections de Trinité-et Tobago

Rapidement, je vais vous faire la partie élections de Trinité-et-Tobago. Je vous le fais en méga rapide. Trinité-et-Tobago est un tout petit pays. Pareil, Cambridge Analytica a lancé une campagne de marketing. Je vous présente Alexander Nix, le PDG de Cambridge Analytica, de la maison-mère de Cambridge Analytica, qui explique qu’à Trinité-et Tobago il y a deux partis : le parti des Indiens et le parti des Noirs. Les Indiens votent pour le parti des Indiens, les Noirs votent pour le parti des Noirs et chacun plébiscite sa catégorie raciale.

Dans le pays, il y a deux choses : tous les jeunes se sentaient délaissés et on savait qu’il y a une forte autorité hiérarchique dans les familles indiennes et pas dans les familles noires. Alexandre Nix dit cette phrase de méchant : « On n’avait rien besoin de savoir de plus, c'était tout ce qu'on avait besoin de savoir ». Cambridge Analytica a fait une campagne pour pousser tous les jeunes à l'abstention, tous les jeunes, les Indiens et les Noirs, tous, qui a super bien marché. Ils taguaient des choses, ils en parlaient à tous leurs copains, ils faisaient des vidéos, ça a super bien fonctionné. Sauf que, au moment des élections, dans les familles indiennes les jeunes ont dit : « Je ne veux pas voter » et les parents ont dit : « Si, si, tu vas voter » et les jeunes Indiens sont allés voter et pas les jeunes Noirs. Il y a eu une différence d'abstentions de 40 % entre les deux catégories, ce qui fait que le parti a eu suffisamment d'avance pour gagner les élections.

Ce que je trouve très intéressent, c'est que si on n'a pas la partie culturelle de l'information, on ne peut pas savoir. On se dit : « Tous les jeunes se révoltent, c'est normal, ils ne sont pas d'accord, ils sont tous délaissés de la même façon ». Mais, à la fin, il y en a qui vont voter, il y en a qui ne vont pas voter et, du coup, ça fait la différence.
Par rapport à la justice sociale et environnementale, c'est majeur, parce que si jamais c'est Trump qui est élu, on peut se dire que niveau justice sociale et environnementale, on s'en prend une dans les dents ! Toute ressemblance avec de futures élections proches dans votre pays est totalement fortuite !

C’est cool, il me reste cinq minutes.

Cette image vous rappelle quelque chose ? Je n'ai pas précisé que c'était une campagne de marketing via Facebook notamment. Pour moi, c'est très problématique que toutes les grandes entreprises du numérique, les médias sociaux, les choses comme ça, s'en emparent et disent : « Vous êtes bien inscrit sur la liste d'attente ! », pour qu’à un moment donné on ne se dise pas « il n’y a que les gens de telle catégorie socioprofessionnelle qui ont eu le message » de « est-ce que vous êtes bien inscrit sur la liste électorale ? ».

Le problème c'est que ces personnes ont beaucoup trop de connaissances sur nous, beaucoup trop de pouvoir et du coup, un message montré à certaines personnes et pas à d'autres peut avoir un impact majeur.

Il me reste cinq minutes pour le positif.