France Inter 2018-06-08 comment se fabriquent les fake news

Titre : Comment se fabriquent les "fake news" ?

Intervenants : Sonia Devillers, Antonio Casilli

Lieu : France Inter

Date : 8 juin 2018

Durée : 18min

Source de la bande son : https://www.franceinter.fr/emissions/l-instant-m/l-instant-m-08-juin-2018

Lien direct vers la bande son : https://media.radiofrance-podcast.net/podcast09/13938-08.06.2018-ITEMA_21705355-3.mp3

Transcription

Il est 9h40 sur France Inter et c'est le dernier instant M de la semaine.

Le vote de la loi contre la manipulation de l'information s'est embourbé cette nuit à l'assemblée nationale. Pas d'adoption en première lecture. La majorité aurait sous-estimé les assauts de la France Insoumise, du Front National et des Républicains qui hurlent à la mort de la liberté d'expression.

Cette loi les empoisonne écrit l'Obs ce matin, pourtant dans son édito Le Monde la juge délibérément inefficace pour qu'elle ne soit pas justement dangereuse. Après la matinale de France Inter ce matin l'instant M vous propose de creuser le sujet. Nous ne discuterons pas forcément confiance ou vérité, mais focus. C'est ce que nous vous proposons sur ces armées de l'ombre payées pour répandre des fausses nouvelles. Nous vous racontons comment ce système est complètement artificiel.

## 01:04 - Jingle L'instant M"

Sonia Devillers : Bonjour à vous Antonio Casilli.

Antionio Casilli : Bonjour

SD : Sociologue du Web, spécialiste des usages du numérique, maître de conférence à Télécom Paritech. Qu'est ce que c'est Télécom Paritech ?

AC : C'est l'ancienne école nationale supérieure des télécommunications, grande école Française.

SD : Et également chercheur à l'EHESS. Je vous propose d'abord un petit coup d'œil sur l'actualité des médias. D'ailleurs je vais vous demander éventuellement de nous aider à comprendre les mécaniques dont je vais vous parler dans un instant et puis ensuite nous plongeons dans ce débat national sur les fake news.

Coup d'arrêt hier, net et brutal, pour BuzzFeed France, décision totalement inattendue de son actionnaire américain en difficulté financière. Ce site, une équipe de 14 personnes, avait développé une ligne éditoriale très nouvelle et très remuante : au départ des classements rigolos et anecdotiques partagés à gogo sur les réseaux sociaux, et puis en France comme aux États Unis un deuxième fil, d'info celui-là, recrutant des journalistes d'investigation "capés" *(ndr que signifie capé ???)* : scoops et révélations. Je vous en cite quelqu'uns : "le restaurant l'Avenue refusant les clients arabes", "Enquête sur les candidats aux législatives du Front National et leurs activité numériques", "actes de violence commis par Jean-Michel Bailey, ancien ministre, à l'encontre d'une de ses collaboratrices"... Bref pour tout ça, tout ce que je vous ai dit, fin de partie.

SD : Antioni Casilli, il y a peut-être quelque chose qu'on peut expliquer aux auditeurs, c'est à dire que ces médias numériques sont extrêmement dépendants en termes d'audience, et du coup économiquement parlant, des réseaux sociaux. Puisque ce sont les réseaux sociaux, et principalement Facebook, qui diffusent, qui disséminent leur contenus.

AC : En effet il s'agit d'une manière de faire média, de faire information, qui est basée sur la circulation, sur la répétition et sur le partage. Ce sont des aspects qui sont cruciaux pour comprendre que le contenu est important mais que le contenu n'est que le coup d'envoi de quelque chose qui est un processus beaucoup plus vaste qui est basé sur la participation du public. Alors de ce point de vue là, si vous enlevez la caisse de résonnance représentée par une plateforme comme Facebook, qui est une plateforme univers, qui a une ambition à remplacer l'Internet en tant que tel, vous vous retrouvez dans des situations comme celle dans laquelle se retrouve aujourd'hui BuzzFeed et d'autres médias de ce type dans la mesure où Facebook, au début de l'année, a décidé de changer radicalement son algorithme de classification des informations pour se recentrer ce qu'ils appellent les liens forts. Finalement de faire apparaître dans vos newsfeed, sur vos murs, plutôt des contenus qui viennent de vos connaissances, amis, membres de votre famille. Et c'est pour ça que vous voyez d'avantage peut-être de vos connaissances et collègues ou alors plutôt votre grand-mère qui parle de ses chatons, et un peu moins de médias classiques qui sont considérés comme des liens faibles. Vous n'avez pas un lien direct avec Le Monde ou avec BuzzFeed en l'occurrence. Alors évidemment si vous êtes un média traditionnel ancré papier ou écran comme ce qu'on connait partout en France et dans le monde, alors vous avez une base qui ne change pas. Malgré les changements de l'algorithme de Facebook.

SD : C'est ça. Et quand vous êtes un pur média numérique toute nouvelle génération comme l'est BuzzFeed, alors pour le coup on en souffre et on en souffre directement.

AC : Vous êtes dépendant de l'algorithme et du modèle d'affaire de Facebook.

SD : Voilà, un dernier mot quand même Antonio, cher Antonio, tous les jeudis nous invitons les auditeurs de France Inter à jouer, vous vous n'avez pas le droit de jouer, c'est notre madeleine. Cette semaine figurez-vous qu'on vous offre avec l'INA un an d'abonnement à INA Premium. Alors INA Premium c'est le site proffesionnel de l'INA auquel vous aurez complètement accès, c'est une mine d'or d'archives sans limites de durée. Vous pourrez tout voir, même les longs métrages et les séries de l'ORTF. Une seule adresse : linstantm-AT-radiofrance.com. Voici ma question : Comment s'appelait l'ancêtre de la caméra cachée ?

<Extrait sonore d'une émission ancêtre de l'émission de la caméra cachée>

Comment s'appelait cette première émission de caméra cachée à la télévision ? linstantm-AT-radiofrance.com. Bonne chance à vous tous et un grand merci à toute l'équipe de l'Instant M qui m'a accompagné cette semaine : Anne-Cécile Perrin à la réalisation, Marion Philipppe et Redouane Tella qui ont préparé les émissions et puis Stéphane Beaujat qui est à la technique ce matin.

## 5:55

SD : Antonio Casilli, contrairement à ce qu'on dit, la diffusion des fake news n'est pas le fait d'une horde de colporteurs numériques qui répandent librement des fausses nouvelles et qui le font par conviction. Ça c'est très important, c'est l'un des axes majeurs de vos écrits et de vos recherches. Vous ce qui vous intéresse c'est la façon dont google, dont Facebook, dont Twitter sélectionnent l'information. Alors on va commencer par ça parce que c'est très important d'expliquer comment fonctionnent ces régies publicitaires qui collectent des données personnelles. Les données personnelles c'est nos historiques de navigation, c'est nos listes d'amis, c'est notre localisation géographique, c'est les photos qu'on like, les vidéos qu'on a regardé, etc. Pour collecter un maximum de données, ces plateformes, et donc leurs régies, ont besoin qu'on reste un maximum de temps chez elles et qu'on consomme un maximum de contenu. Peu importe la nature de ces contenus.

AC : Exactement. Il faut que les contenus soient attachants, "compelling" comme disent les anglais, c'est à dire qu'ils attirent votre attention et qu'ils vous obligent à rester scotché à votre écran ou à votre mobile. Qu'il s'agisse d'un animal merveilleux qui fait des choses sympas, comme votre chaton qui joue du piano ou alors qu'il s'agisse de quelque chose d'extrêmement problématique comme par exemple de la fausse information orientée propagande politique, il n'y a pas en principe de différence pour les plateformes qui sont agnostiques du point de vue des contenus. Évidemment elles sont aussi sensibles aux actions en justice et au tollés médiatiques. Donc bien évidemment elles ne vont pas faire passer n'importe quoi. Il y a donc énormément de sélection de contenu, il y a de la modération de contenu, il y a des armées de modérateurs, qui sont souvent des personnes très très mal payées qui se trouvent au Philippines ou en Inde et qui regardent à longueur de journée des contenus problématiques. Tout cela fait partie d'un énorme modèle d'affaires qui est basé sur la collecte de données et sur l'appariement algorithmique des données. Il faut expliquer rapidement de quoi il s'agit. En gros il faut croiser les données d'une manière intelligente pour d'une part proposer de l'information sélectionnée d'une certaine manière, par exemple si je saisis une requête dans le moteur de recherche Google il faut que la page qui s'affiche ensuite soit significative, soit pertinente pour moi. Donc ça si vous voulez c'est le service de façade. Derrière il y un autre service assuré par les grandes plateformes, qui est un service d'appariement entre des consommateurs (même si ça se discute qu'ils soient complètement des consommateurs) et des annonceurs, des marques. Alors de ce point de vue-là, rien de différent par rapport à certains médias traditionnels de nature commerciale, des journeaux gratuits, basés sur le même principe. Mais en même temps la question est que, sur les médias numériques et sur les grandes plateformes numériques, cela devient quelque chose dont les conséquences sont inattendues, parfois y a des effets pervers, des effets de complication....

## 9:02

SD : C'est extrêmement intéressant parce que on voit bien que la logique est quand même une logique de rupture par rapport la presse traditionnelle c'est à dire on a besoin que vous restiez le plus longtemps possible sur Facebook, on a besoin que vous restiez le plus longtemps possible sur Youtube, on a besoin que vous restiez pour mieux vous connaître, pour mieux vous dessiner etc. Ça c'est quand même extrêmement important...

AC : Est-ce si différent ? Par rapport à la télévision, par rapport au médias du siècle passé.

SD : À la durée d'écoute en radio.

AC : Voilà, par exemple. Mais la différence, je dirais, est surtout dans le rôle, du spectateur, du public qui cesse d'être du public passif, donc qui deviennent des audiences actives qui doivent cliquer, qui doivent partager, qui doivent commenter, qui doivent qualifier l'information. Et finalement, la qualification de l'information devient la partie la plus problématique, la plus difficile à contrôler.

SD : Alors justement, on y vient, je vous propose d'aller en Macédoine. Une région du monde qui a énormément fait parler d'elle puisque c'est une région du monde qui a été bassin de production et de conception de fake news. On va voir pourquoi la encore une fois, c'est exactement ce que je vous disais tout à l'heure en introduction, pas de militantisme, pas de convicton, juste un intérêt économique.

Bande son de reportage : Certains de mes étudiants ont compris qu'ils pouvaient faire de l'argent avec la politique. Ça s'est répandu comme une trainée de poudre. Aujourd'hui, quatre de mes étudiants sont millionaires. Beaucoup d'entres eux investissent, ils ont pu faire des emprunts à la banque pour développer leur page. Je pense que le président Donald Trump est un personnage intéressant. Il veut tout, tout le temps : ambition, ego, argent, puissance... l'american way. Et parfois il va même mentir sur son succès pour aller au degré supérieur.

SD : c'est à dire qu'avant de légiférer sur les fake news, il faut en comprendre la logique. Et là on voit bien qu'il n'y a pas de logique politique, il n'y a pas de volonté de propagande, il n'y a pas de volonté de déstabilisation de l'opinion. Il y a volonté de se faire de l'argent.

AC : Entendons-nous bien. Quelque part il y a une volonté de déstabiliser le panorama politique. Après on passe par les petites mains de cette information, de cette manipulation de l'information. Qui sont ces petites mains ? Il s'agit parfois de jeunes en rupture scolaire qui ont besoin de faire de l'argent rapidement et dont les perspectives d'emploi sont très limitées, c'est le cas de la Macédoine, qui se sont adonnés à cette activité de production de mèmes. Les mèmes c'est des images choc, accompagnées parfois de messages tout à fait problématiques, parfois très chargés de contenu raciste, sexiste et ainsi de suite...

SD : des contenus comme PayLink, sticky comme vous dites, c'est à dire qui vous scotchent à l'écran.

AC : c'est ça. Parce que même si je ne suis pas d'accord et surtout si je ne suis pas d'accord je vais peut-être partager l'information parce que je suis scandalisé, parce que je suis heurté, parce que je suis insulté. Donc du coup, double circulation. Circulation de personnes qui adhèrent au message, donc les racistes et les sexistes de service, et de l'autre côté par contre les personnes qui censurent. Ce qui fait le succès en termes de clics.

SD : On voit bien qu'il y a là un bassin de production de fake news. Et ce bassin de production il est ni libre ni inspiré politiquement. Il est là et il est fait pour gagner de l'argent. Maintenant on va aller de l'autre côté de l'ordinateur. Qui clique ? Je vous emmêne dans une usine du côté du Sri Lanka.

<bande son de reportage> : Notre formule basique coûte entre 100 et 200 dollars. Et cela inclut les like sur Facebook. Le principal sera Facebook, après Twitter, Instagram et Youtube. - Combien de temps vous faut-il pour obtenir 2000 likes ? - Cela prendra environ 2 semaines. Nous allons créer des profils avec des noms français, de personnes françaises et ensuite nous allons utiliser ces profils pour faire des commentaires sur votre page, pour que ça semble plus vrai

SD : Il y a une part d'artifice dans la diffusion et l'ampleur que prend la diffusion des fakes news, et ça peu de gens les savent. Ça s'achète la diffusion d'une fake news. On parle beaucoup de la crédulité du public. On parle très très peu de ce que vous vous décrivez très bien dans vos articles.

AC : Les fermes à clic ce sont des usines qui parfois ont pignon sur rue et parfois il s'agit de millions de personnes qui se connectent depuis chez eux.

SD : Dans quels pays ?

AC : Il s'agit souvent de pays qu'on définit comme émergents ou en voie de développement, à faibles revenus dans lesquels les perspectives d'emplois et surtout le salaire moyen est très limité, parfois on parle de 130 dollars par mois, dans lesquels il devient intéressant de travailler dans ces fermes à clic, dont le principe est celui du travail à la pièce. La pièce veut dire que chaque clic est rémunéré. Mais entendons-nous bien...

SD : quelques centimes

AC : Même moins que ça. Personnellement j'ai été témoin de certaines fermes à clic qui payaient 0,0006 centimes par clic.

SD : Alors on est au Bangladesh, au Pakistan, au Népal, au Sri Lanka, en Inde au Kenya, à Madagascar et il faut savoir que tout s'achète : les commentaires, les partages, les retweets, des faux followers même par exemple qui suivraient votre compte twitter, des messages haineux ça s'achète, des messages diffamatoires aussi, faire augmenter le visionnage d'une vidéo aussi, créer des profils qui s'abonnent à des profils d'extrême droite xénophobe aussi, ça s'achète. C'est extrêmement intéressant et vous vous citez une enquête qui aurait révélé que Trump aurait acheté 60% des fans de sa page Facebook aux Philippines.

AC : Pas seulement aux Philippines et manière assez ironique une bonne partie de ces faux fans de la page Facebook de Trump venait du Mexique. Ce qui est absolument paradoxal si on pense à l'énormité des choses que Trump a pu débiter contre les mexicains, comme cette idée selon laquelle il va obliger le Mexique à payer son mur. Alors de ce point de vue là on se trouve dans une situation de travailleur du clic qui travaille contre son propre intérêt.

SD : Alors j'ai deux questions pour vous Antonio Casilli. Comment on peut décrire un système aussi artificiel qui n'est qu'une grande machine économique et comprendre qu'au bout du compte il y a une modification bien réelle de l'opinion, primo ? Et secundo, est-ce que les lois sur lesquelles on travaille en France, mais pas seulement en France, prennent en compte cette dimension-là ?

AC : Pour la décrire malheureusement il faut tout simplement s'adonner à un travail de recherche beaucoup plus poussé que celui qu'on mène aujourd'hui. Personnellement je fais partie d'un volet de la recherche scientifique en sciences sociales qui insiste sur le fait qu'il faut regarder ce qu'on appelle le "digital labor", c'est à dire le travail numérique, le travail du clic. Ça se discute à l'intérieur de la discipline, à l'intérieur de nos disciplines, parce que tout le monde n'est pas d'accord. Il y a certains qui continuent d'insister sur le fait que non, il s'agit de consommateurs, non il ne faut pas regarder les conditions de travail de ces personnes à l'autre bout du monde.

SD : Est-ce que c'est pris en compte ça, par les autorités, par les gouvernements, par les députés, par l'assemblée nationale, cette dimension-là ?

AC : Pas dans cette loi sur la manipulation de l'information qui est basée sur une certaine vision du monde politique et la circulation des informations mais aussi des infrastructures numériques que sont les plateformes qui n'est pas du tout capable d'envisager la circulation comme un phénomène artificiel. En gros si vous regardez ce qui est écrit dans le texte de la loi qui a été débattue hier, c'est marqué qu'on peut passer par le juge des référés quand on a eu affaire à une circulation massive et automatique d'informations. Donc normalement ceci veut dire que le législateur cherche à bloquer les bots, c'est à dire des robots. Mais la réalité c'est que ces robots-là ne constituent qu'une partie un peu automatisée de certaines campagnes menées par des êtres humains qui font semblant d'être des robotos qui font semblant d'être d'autres humains. C'est une longue histoire mais grosso modo derrière il y a toujours une ferme à clics et quelque part une boite qui fait du travail à la pièce au Sri Lanka, aux Philippines ou à Madagascar.

SD : Donc on est en train de passer complètement à côté du nerf de la guerre ?

AC : Je dirais qu'il y a aussi un risque que la loi soit inefficace, comme d'autres lois qui ont cherché à certifier l'information sur Internet. je pense à la loi 2007 qui instituait la haute autorité de Santé et par la même occasion le label Health Online pour les sites qui parlaient de santé. Quelques années après on a complètement laissé tomber cette initiative et on risque de se retrouver dans cette situation. Mais avec une autre loi sur les fake news on a plutôt le risque de faire le jeu de l'ennemi, si l'ennemi est celui qui cherche à partager la fausse information. Pourquoi ? Parce que si on commence à monter à chaque fois un cas qui passe devant la justice autour de la fausse information, on réplique la fausse information et donc on créé une deuxièmen news, une troisième news qui cherchent à déjouer la première, ce qui fait une caisse de résonnance énorme et qui fait le jeu même de cette fause information qui, je le répète est basée sur la copie, sur la répétition.

SD : Merci beaucoup Antonio Casilli, parce que voilà des dimensions qu'on a peu entendu dans le débat public et qui a mon avis peuvent éclairer la réflexion et les prochaines discussions. Merci à vous.

AC : Merci.