Des algorithmes à l'art de gouverner les hommes

Titre : Des algorithmes à l'art de gouverner les hommes : face au numérique, sommes-nous tous Moutons ?

Intervenants : Tristan Nitot - Philippe Vion-Dury - Yaël Benayoun - Irénée Regnauld - Représentant de Mediaschool

Lieu : Institut Européen de Journalisme - Paris

Date : Mars 2017

Durée : 1 h 25 min 22

Visualiser la conférence

Licence de la transcription : Verbatim

Statut : Transcrit MO

00'

Représentant de ??? : Ici, c’est un lieu d’apprentissage, de réflexion, d’expérience et c’est la raison pour laquelle lorsqu’on m’a demandé si nous pouvions vous accueillir ici ce soir pour le Mouton numérique, eh bien j’ai naturellement accepté. Donc ce soir vous êtes ici chez vous. On verra si nous sommes tous des moutons numériques ou pas. En tout cas je vous souhaite de passer une très belle soirée. Je crois qu’elle va être riche et intéressante vu les invités, les intervenants que vous avez. En tout cas bravo pour cette initiative.

Irénée Regnauld : Merci.

Applaudissements

Irénée Regnauld : Bonsoir. Je m’autorise une petite parenthèse de cinq minutes pour vous présenter le déroulé de la soirée, le Mouton numérique, et puis on va peut-être un tout petit peu parler du sujet.

Tout d’abord soyez les bienvenus. Merci d’être venus pour cette première rencontre qui ouvre le cycle de débats du Mouton numérique pour 2017. Il y aura six débats, c’est le premier, donc encore merci de votre présence.

Pour commencer je vais déjà remercier Mediaschool qui nous accueille ce soir, comme vous venez de voir. Ils ont activement participé au montage de cette première, la régie, la salle, etc. Également l’agence Mélocotonfilms au bout, qui filme, qui nous apporte la partie régie. Cet évènement va être streamé sur YouTube donc vous pouvez, si vous le voulez évidemment, utiliser les réseaux sociaux et notamment Twitter avec le hashtag MoutonNum qui est juste là.

Vous verrez, il y aura tout à l’heure des tables dehors avec les ouvrages de nos intervenants, donc des ouvrages qui seront vendus par la librairie l'Attrappe-Coeurs qui est aussi partenaire de l’évènement. Et enfin mais pas des moindres la Quinzaine Littéraire qui n’est pas là ce soir mais qui sera également vendue et qui est aussi partenaire de l’évènement.

Le Mouton numérique. Nous sommes une association avec une ambition, montée avec une ambition : éclairer la société qui innove. Le faire avec de la justesse, de la bienveillance, avec le souci du débat contradictoire, le souci, toujours, de garder l’esprit critique sur la chose numérique et de sans cesse raccrocher cet esprit critique à ces solutions concrètes, au moins quand elles existent ; ce n’est pas toujours le cas, évidemment.

En somme c’est quoi ? C’est prendre ce que les penseurs, les intellectuels ont à nous dire, mettre en face ce que font les gens sur le terrain, dans la réalité, faire et penser, penser et faire, sans dissocier les deux, évidemment. On fait tous les deux dans la vie, on en est conscients, nous les premiers.

Pour le format de ce soir, on part sur une petite heure d’échanges avec ces messieurs et Yaël. Ensuite on réservera le temps qu’il faudra pour les questions et on espère que vous aurez des questions, c’est quand même le but. Ensuite on organisera un pot juste dans la salle en face. Vous y êtes conviés évidemment, on vous ouvre les bras là-dessus. L’évènement est gratuit. On souhaiterait conserver des évènements gratuits. Cependant une participation volontaire est possible si vous souhaitez nous aider dans cette démarche.

Tristan Nitot : Donc la sortie est payante, en fait !

[Rires]

Irénée Regnauld : Voilà, c’est ça. Ce ne sont que 40 euros, ça va. Sachant que ces 40 euros serviront à deux choses : d’abord l’autofinancement de l’association, évidemment, d’une part.

Tristan Nitot : Et la Porsche.

Irénée Regnauld : Et la Porsche, voilà exactement, c’est ça !

Tristan Nitot : Et puis les assistants parlementaires, etc.

Irénée Regnauld : Mais sachez qu’on a quand même très envie de prendre tout ce qui sera en supplément, et il y en aura, pour récompenser chaque année un prix de l’innovation Mouton qui sera décerné à une initiative innovante, sociale, solidaire, puisque, en tout cas pour nous en tant que Mouton numérique, l’innovation ce n’est pas seulement une question de technologie, c’est rendre la vie des hommes et des femmes plus facile. Évidemment, quand j’ai dit ça je n’ai un peu rien dit, parce que rien n’est aussi simple, enfin rien n’est simple plutôt, et on n’est pas du tout les seuls à penser qu’innover c’est améliorer la vie des gens. Pas du tout ! En voilà une affirmation bien banale !

Finalement, si vous vous mettez depuis la perspective d’une société qui vendrait par exemple des vidéos en ligne, faciliter la vie des gens ce serait faire en sorte que la prochaine vidéo que vous allez regarder vous n’ayez pas franchement à la choisir. Éventuellement, qu’on la choisisse pour vous. Si vous vous mettez depuis la perspective d’une société qui vendrait par exemple des assurances, améliorer la vie des gens ce serait faire en sorte que vous conduisiez mieux, ou que vous vous conduisiez mieux, ce qui est quand même totalement différent. Donc vous voyez sans doute où je veux en venir, je pense, déjà. Là où je veux en venir c’est que, il y a 70 ans exactement, en 1947, l’immense Norbert Wiener, le mathématicien qui fut parmi les gens qui sont aujourd’hui à l’origine de l’informatique, forgeait ou plutôt reprenait le terme cybernétique.

La cybernétique c’est quoi ? La cybernétique c’est l’art de gouverner les hommes. Alors aujourd’hui on parle de cybernétique, on parle aussi d’algorithme et on parle même de gouvernementalité algorithmique. Alors un algorithme, c’est quoi ? On va le voir pendant toute la séance, mais je vais déjà faire un petit peu de teasing. Un algorithme c’est une suite d’instructions qui permet de résoudre un problème. Il y en a plein sur Internet, dans les exemples que je vous ai donnés tout à l’heure. Une suite d’instructions, au final c’est un peu une machine qui résout un problème. Une machine qui peut aussi, éventuellement, en créer des problèmes, puisque comme toute machine, comme toute technique, elle couvre des enjeux qui sont des enjeux politiques, des intérêts, éventuellement économiques, des projections et même parfois des conflits.

Pour en parler ce soir, on a le plaisir, même l’honneur de recevoir deux invités. D’abord Tristan Nitot. Tristan Nitot qui est hacktiviste avec un h, qui est un des dirigeants de la start-up CozyCloud et qui a également fondé l’association Mozilla Europe en 2003. Il est l’auteur de l’ouvrage Surveillance:// Les libertés au défi du numérique : comprendre et agir.

Pour lui donner la réplique, on a aussi le grand plaisir de recevoir Philippe Vion-Dury, je ne sais si on peut aussi l’appeler un hacktiviste. Peut-être ?

Philippe Vion-Dury : Non !

Irénée Regnauld : Non ! Tant pis. Il est journaliste et c’est déjà bien. Il est auteur d’un livre qui s’appelle La nouvelle servitude volontaire : enquête sur le projet politique de la Silicon Valley.

Et bien sûr pour animer cet échange on a aussi le plaisir et honneur d’avoir Yaël Benayoun, cofondatrice du Mouton numérique. Bon débat.

Applaudissements

Yaël Benayoun : Merci à tous. Est-ce que vous m’entendez tous ? On commence comme ça. Super ! Déjà, je ne vais pas revenir sur tout ce qu’a dit Irénée. On est vraiment très heureux de commencer cette soirée ici avec vous. Et c’est vrai que quand on a monté le Mouton numérique, il y a un peu la question qui est revenait toujours c’est : « Mais pourquoi vous voulez montrer que le numérique est politique ? » Évidemment, ce n’est pas si évident pour tout le monde. Et du coup, c’est peut-être par ça que je vais commencer. C’est par vous demander, en fait, comment vous avez eu cette, on va dire prise de conscience ou ce déclic que peut-être le numérique et les algorithmes en l’occurrence, c’est un peu plus compliqué que juste une petite suite d’opérations comme vient de le dire Irénée. Donc voilà, Tristan si tu veux bien commencer.

Tristan Nitot : On avait dit qu’on se vouvoyait, quand même.

Yaël Benayoun : Alors on se vouvoie !

[Rires]

07’ 27

Tristan Nitot : D’accord. Je dois d’ailleurs vous avouer qu’on ne va pas réussir à, mais ce n’est pas grave ; on va essayer quand même. En fait je ne pensais pas du tout que c’était politique le numérique. Mais alors pas du tout ! Je me souviens avoir lu avec émotion la déclaration d’indépendance du cyberespace qui date de, je ne sais plus, ça doit être début des années 80, je pense. Qui justement dit : « Vous savez nous dans le cyberespace, on n’est pas comme vous politiciens. On vit dans un autre monde, on n’a rien à voir avec vous. Vous êtes faits de chair et nous on est des signaux dans l’espace. Etc. » Donc c’était rigolo. Je trouvais que c’était, à l’époque, assez intéressant de dire on s’affranchit complètement du politique. Mais bon, j’avais complètement tort. Et en fait, je l’ai vraiment réalisé quand j’ai travaillé sur mon livre, ou plutôt je l’ai réalisé et ça m’a donné envie d’écrire ce livre, donc Surveillance://, parce que je me rends compte, et c’est toute la thèse de la première partie du livre, c’est « on n’est pas habitués au numérique généralement. »

Il se trouve que moi je suis informaticien, je fais un peu tâche, mais généralement les gens ne sont pas éduqués du tout au numérique. Un jour on leur a montré un ordinateur et dedans il y avait un navigateur et on leur disait : « Si tu cherches quelque chose tu fais Google et puis tu tapes des mots-clefs et tu fais entrer et là il y a des résultats. Et puis ça c’est le mulot et tu cliques sur les liens bleus et là, tu vas trouver ce que tu cherches ». Et voilà. Temps de formation vingt secondes. Maintenant, ça c’était dans les années 90, en gros.

On arrive dans les années 2010, maintenant ça se passe surtout dans une boutique Orange ou SFR ou Bouygues. [Tristan montre son téléphone portable] « Vous voyez, donc là c’est le bouton allumer et là vous avez le bouton, c’est pour revenir au menu. Ça c’est le volume. Et il y a des boutons et vous lancez des applications. Vous voyez, là il y a des applications, et vous lancez des applications et voilà. » C’est ça. Et donc temps de formation quarante secondes dans la boutique Orange debout devant le comptoir. Et vous avez choisi tel ou tel téléphone parce qu’il était en promo ou que la couleur vous plaisait. Et vous demandez au vendeur : « C’est bien ça ? » « Oui, oui, c’est bien ! » Donc voilà.

Et c’est à peu près toute la formation qu’il y a et seulement à choisir ça, on se retrouve à donner sans s’en rendre compte, sans du tout réaliser, on refile nos données à des géants, souvent dans la Silicon Valley, lesquels font des trucs avec nos données ; lesquels permettent, par forcément en le voulant, de faire de la surveillance de masse. Et au final, on met en place des éléments qui vont permettre à une dictature d’arriver. Je vous la fais vraiment très, très gros. J’ai mis quand même 250 pages à vous l’expliquer normalement dans le livre. Mais en gros c’est ça : on est les idiots utiles des GAFA. On achète des smartphones qu’on pourrait vraisemblablement appeler des mouchards de poche, qui ont des tas de données, qui les concentrent dans des datacenters américains, lesquels sont utilisés par des agences de renseignement, dont la NSA. Et eux-mêmes, donc, sont les idiots utiles de la NSA parce qu’ils collectent ces données pour nous fidéliser, gagner de l’argent avec de la publicité, etc., et ils sont les idiots utiles de la NSA parce que la NSA voudrait espionner tout le monde, mais il suffit de se pencher, d’aller chercher ces informations chez Google et chez Facebook. Et voilà, la boucle est bouclée ! Vous vouliez juste un téléphone qui vous permette de jouer à 2048 ou à Candy Crush Saga ou accéder à Facebook et vous vous retrouvez avec un État totalitaire au bout.

Et donc, c’est évidemment politique même si vous ne le saviez pas au départ. On reviendra sur le sujet, parce que là c’est un débat qui est quand même !

Yaël Benayoun : Eh bien ça va être toute l’heure. Et toi, vas-y !

Philippe Vion-Dury : Alors moi j’ai un parcours. Je voulais faire court, mais je vais faire long, du coup.

Tristan Nitot : Ah !

Philippe Vion-Dury : J’ai un parcours très différent du tien.

Tristan Nitot : On n’avait pas dit qu’on se vouvoyait !

Philippe Vion-Dury :On se vouvoie. Oui.

Yaël Benayoun : Je pense qu’on va abandonner le vouvoiement parce que ça ne va pas marcher.

Philippe Vion-Dury :J’étais journaliste culture à la base. Je suis venue aux algorithmes et à la donnée par hasard, parce qu’on m’a demandé de prendre ces sujets-là dans ma rédaction. Je suis arrivé au moment de l’affaire Snowden donc c’était assez intense et j’étais été assez frustré de voir, c’est un long processus ce bouquin, mais le premier déclencheur ça a été de lire un article sur le Time qui s’appelait Big Data, Meet Big Brother qui était, en fait, un article qui expliquait les techniques prédictives. En fait, ça expliquait que les données n’existent pas elles-mêmes, on les traite, et que ce traitement visait à anticiper les comportements, prévenir les évènements. En fait, de fil en aiguille, quand on réfléchit à ce concept, ça veut dire que des acteurs, qui sont des entreprises principalement, tentent de prédire nos comportements, soi-disant pour nous fournir des services, trop bien, trop cool, parfaitement personnalisés, etc. Mais dans la capacité de prédiction, il y a la capacité de manipulation, c’est-à-dire d’action sur les comportements. Si je sais comment vous allez réagir à tout ce que je vais faire, tout ce que je vais dire, je peux donc faire en sorte que vous ayez le comportement que je souhaite. C’est ça la manipulation et c’est ça ce que permettent ces techniques.

En fait, là s’ouvre un champ quand même assez immense, qui est qu’on dépasse les données, la surveillance, la vie privée, etc., vers vraiment une nouvelle forme de pouvoir, et de relations de pouvoir et de servitude entre des acteurs privés et étatiques aussi, on y reviendra je pense sur cette différence-là et les être humains et les individus ; et par renforcement le collectif aussi, puisqu’on verra qu’il y a des actions individuelles, des actions collectives. Et on revient à la cybernétique dont on a un petit peu parlé tout à l’heure.

Donc moi j’arrive aussi à la conclusion d’une dictature, pas tout à fait la même, avec un grand arc un peu différent, je l’ai surnommé par big mother parce que ce n’est pas du tout un big brother comme on nous vend je pense dans les médias qui veulent présenter comme les méchants États qui essaient de contrôler la population. C’est quand même plus complexe que ça. Il y a d’autres formes, aujourd’hui, de contrôle et de servitude par les États, qui sont d’ailleurs largement largués sur ces questions, on y reviendra aussi. Après, je pense qu’on assiste aussi à des mutations à travers le numérique et une mutation du pouvoir en lui-même qui suit une continuité historique de 50 ans quand même et que se créent des nouvelles servitudes qui sont avec le titre un peu provocateur de servitude volontaire, parce qu’il n’y a pas vraiment de liberté, c’est une liberté aliénée donc ce n’est pas vraiment volontaire, mais c’est un peu volontaire. Comme tu disais tout à l’heure, on achète quand même le smartphone, on s’inscrit quand même sur Facebook. Donc c’est d’une certaine manière volontaire. On y reviendra.

Tristan Nitot : Non ! Mais attends, de plus en plus on nous vend des télés connectées, des, comment ça s’appelle, des Amazon Teco qui vont bientôt arriver en France, ces boîtiers que vous mettez dans votre salon avec un micro qui est branché en permanence et qui écoute ce que vous dites, et on les paye une blinde quoi ! Donc voilà, c’est volontaire, on peut le dire.

Yaël Benayoun : Et du coup, justement, là vous avez parlé quand même de plusieurs problèmes, notamment surveillance de masse et notamment tout le lien avec les GAFA, enfin Google, Amazon, Facebook, etc. Est-ce que vous pouvez faire peut-être un petit bilan sur les acteurs qui sont en jeu derrière ça ? Parce que c’est vrai qu’à priori on ne voit pas forcément le lien entre les services secrets, Google et la différence entre l’espionnage, les données qui sont données. Est-ce que vous pourriez peut-être expliquer un peu la boucle, en fait ?

Tristan Nitot : J’y vais ? C’est pour moi celle-là, non ? Alors ! C’est très simple. Quand vous achetez un smartphone, aujourd’hui 85 % du marché c’est Android. C’est-à-dire si vous achetez du Samsung, de l’HTC, du Sony, etc., ça utilise le logiciel Android, le système d’exploitation Android qui est fait par Google. Qui a un téléphone Android dans la salle ? Levez la main ! Pas moi, parce moi non, plus maintenant, mais j’avais ! OK, Merci. Qui a un smartphone Apple, iPhone ? Ouais ! On voit bien qu’on est dans le 16e arrondissement, il y a du pognon ! Eh bien vous avez raison parce que, en termes de vie privée, Apple est quand même bien meilleur qu’Android. Je vais vous expliquer pourquoi.

En fait, Android donne, enfin Google donne Android à Samsung, etc. – Samsung est un énorme conglomérat coréen, ils ont énormément d’argent – et aussi aux autres, alors que ça vaut très cher. Probablement plus d’un milliard de dollars de développement ont été invertis dans Android pour le créer. Et ils le donnent ! Ils le donnent, mais il faut signer un contrat et dans ce contrat il dit : « Vous êtes obligés de prendre d’autres trucs gratuits avec ! » Ah pas de chance ! Alors on vous donne Gmail, on vous donne Google Maps, on vous donne Google Search, on vous donne Google Calendar, on vous donne toute la flopée, Google Chrome, plein d’applications Google qui donc vont avec Android et que vous devez vous, fabricants de smartphones, vous devez intégrer dans les smartphones et les mettre bien visibles. Bon d’accord ! Si vous voulez être concurrent d’Apple et comme vous ne savez pas développer un logiciel du genre Android, ça coûte très cher, ça prendrait des années, vous êtes pressé, vous voulez concurrencer Apple, donc vous allez choisir Android. Et pourquoi ils font ce cadeau-là ? Eh bien parce que, ensuite, c’est mis sur des téléphones. Il s’en fabrique des milliards, littéralement des milliards par an, et ça finit dans nos poches, et donc on utilise les services de Google, lesquels collectent des données.

En fait, vous avez payé très cher un cheval de Troie. Donc on est aussi cons que les Troyens, mais en plus on a payé le cheval ! Vous voyez ? C’est quand même assez sordide cette affaire. Et donc c’est là que c’est intéressant et c’est comme ça que Google, en fait, collecte vos données, pour vous donner des services personnalisés, dont on ne peut plus se passer. Aujourd’hui, Gmail ce n’est pas facile de s’en débarrasser. YouTube, non plus. Enfin bon ! Donc il y a plein services qu’on utilise comme ça. Ils sont personnalisés, on n’arrive plus à s’en passer et ça collecte des données. Par exemple, si vous utilisez Gmail, c’est écrit dans les conditions générales d’utilisation, Gmail, enfin Google, lit vos courriers, les pièces jointes, les endroits d’où c’est envoyé, à qui vous les envoyez. Il a une copie de votre carnet d’adresses donc il sait de quoi vous parlez, à qui vous parlez, etc. Ils accumulent énormément de données. Et puis bon, on leur donne, parce que c’est pratique, puisque, de toutes façons, personne n’a jamais lu les conditions générales d’utilisation. Qui a lu les conditions générales d’utilisation dans la salle ? [Tristan lève la main] Mais c’était pour un livre, j’ai une excuse. Effectivement, quasiment personne. Madame vous avez lu ?

Public : Un peu le début.

Tristan Nitot : Un peu le début, oui c’est ça. Certains disent que c’est le meilleur endroit pour que tout le monde… On mettrait Mein Kampf en deuxième page, tout le monde signerait. Bref !

On accumule des données, enfin Google accumule des données sur nous. Et c’est pareil pour Facebook, en échange d’un service qui coûte finalement très peu cher. Facebook, si on regardait l’application Facebook, il veut vous pomper votre carnet d’adresses, vos photos, vos textos, etc., quand vous l’installez sur votre téléphone. Il vous pompe tout ça, il l’envoie chez Facebook et en échange il vous donne le service Facebook gratuitement. Et si vous regardez un peu la compta de Facebook, Facebook ça coûte 5 euros par personne et par an. C’est ça que ça coûte à faire fonctionner Facebook, 5 euros. Donc vous avez refilé toutes vos données personnelles, et vous continuez de le faire régulièrement, en échange d’un service de 5 euros. Alors Voilà ! Ça c’est la première partie.

Deuxième partie, les révélations de Snowden. Donc Edwrd Snowden, contractuel de la NSA et ancien de la CIA s’est rendu compte, c’est un patriote américain, il s’est rendu compte que son pays espionnait les gens en violation de la constitution américaine. Il n’a pas aimé du tout. Il a lancé l’alerte. D’abord il est allé voir ses responsables. Ils lui ont dit : « Ouais, ouais, quand même, ce n’est pas bien ! Ta gueule Snowden, retourne bosser, laisse-nous travailler ! » J’abrège, en fait, ça ne s’est pas vraiment complètement passé comme ça, et donc il est parti de la NSA avec les poches pleines de clefs USB sur lesquelles il y avait des présentations PowerPoint de la NSA et ils les a données à des journalistes. Ça a donné les révélations de Snowden en juin 2013. Et il y a des centaines de milliers de documents, visiblement, on est encore en train d’en découvrir, d’en explorer, etc. Mais fondamentalement, ce qui ressort de l’analyse des documents de Snowden, c’est que la NSA veut surveiller absolument tout le monde pour asseoir la domination des États-Unis, économique, diplomatique, etc. Que, évidemment, espionner tout le monde c’est très compliqué et c’est trop cher pour eux, même s’ils ont d’énormes budgets et donc, eh bien qu’est-ce qu’ils font ? Ils se tournent vers les GAFA qui ont accumulé des données, qui les ont analysées et donc la surveillance de masse est rendue économiquement possible grâce à la centralisation des données dans les mains des GAFA.

21’ 00

Philippe Vion-Dury : Moi je vais renchérir là-dessus. En fait, je pense que la question c’était qui sont les acteurs puissants là-dedans. En fait, ce sont ceux qui sont en capacité de traiter les données. Je pense que c’est aussi simple que ça au final, si on peut le résumer. C’est-à-dire que là je crois qu’il faut faire de la pédagogie pour bien comprendre tout le débat. C’est qu’il y a d’un côté la donnée et d’un autre côté il y a le traitement de la donnée. La donnée qui va parler par elle-même c’est, par exemple, si on a signalé « je suis catholique ». Une donnée elle parle d’elle-même, elle est informative.

Souvent les données ne parlent pas par elles-mêmes : elles parlent quand on les corrèle entre elles, quand on met plein de petites données entre elles qui fournissent une nouvelle information. C’est-à-dire qu’on produit de l’info à partir de l’info. Un exemple de corrélation : on peut inférer ou prédire. Inférer ça va être : je vois que vous achetez hallal et que vous vous arrêtez tous les vendredis matin devant une épicerie hallal ou une mosquée ou quelque chose. Deux données suffisent déjà à prédire à 90 % que vous êtes musulman. On produit de l’info par l’info. Là on infère quelque chose : on a une nouvelle information sur vous.

Et après, il y a la prédiction : si vous avez acheté ça, si vous appartenez à tel profil sociologique, vous habitez dans tel lieu, vous connaissez telle personne, alors peut-être que vous allez vouloir regarder cette série ou acheter ce produit, ou, etc. Donc là on prédit quelque chose.

En fait, aujourd’hui, les acteurs qui sont capables d’avoir accès aux données – ça c’est bien sûr le plus important, c’est vital – mais au-delà de ça, d’avoir la capacité de traitement des données, une capacité conséquente, là ils deviennent puissants, là ils deviennent des acteurs questionnables et ça peut-être effectivement des États, mais ce n’est pas toujours le cas. Par exemple, je pense qu’aujourd’hui l’État français est moins puissant à ce niveau-là qu’un Google, beaucoup moins ! Par contre, si on compare l’État français avec l’État chinois, par exemple, qui a tout centralisé les données, etc., et qui a des capacités de traitement intégrées à l’État, là on est sur un État, effectivement, qui a une capacité totalitaire, très différente de celle d’un État libéral occidental. Ce qui ne veut pas dire qu’on ne va pas aller dans cette direction-là, non plus. Ça c’est un autre débat. Mais voilà, je pense que c’est vraiment la question de centralisation des données, de traitement des données qui définit la puissance d’un acteur.

Yaël Benayoun : Et du coup, justement, parce que par exemple quand vous entendez Mark Zuckerberg, donc le PDG de Facebook, lui va dire : « Ah ben moi je ne peux rien parce que, finalement, ce sont les utilisateurs qui vont donner eux-mêmes leurs données. » Et donc c’est toute la question du « ah, mais je n’ai rien à cacher, c’est moi qui donne mes données. » Et donc là on revient sur ce que tu disais tout à l’heure sur la servitude volontaire qui, finalement, ne change pas beaucoup de ce que disait La Boétie déjà au 16e siècle. Qui n’est, en fait, pas tant volontaire dans le sens où on veut être asservi, mais volontaire dans le sens où on ne se rend même pas compte qu’on pourrait changer nous-mêmes des choses. Et du coup c’est une sorte de servitude passive. Finalement, c’est le même problème justement au 16e siècle, c’est pour ça que tu en parles dans ton livre, Philippe. Qu’est-ce que ça change ? Enfin où est-ce que le numérique change vraiment la donne aujourd’hui ?

Philippe Vion-Dury : Moi je ne vais pas faire de comparaison, une étude de texte de La Boétie, je l’ai lu.

Yaël Benayoun : Parce que justement, en fait, j’y pense parce que La Boétie dit par exemple, que si on ne se rend pas compte de l’asservissement c’est parce que le roi va faire des grandes fêtes et qu’on va être dans un confort sans fin. Et c’est vrai quand on pense que le numérique, on parle d’une bulle de confort.

Philippe Vion-Dury : Ouais. Parce qu’il y a distraction. Je pense qu’on peut diviser les cas en trois catégories. Il y a déjà le consentement éclairé. En droit on parle de consentement éclairé, c’est-à-dire que donner son consentement sur une information qu’on ne maîtrise pas, c’est nul et non advenu, en fait. C’est être censé être ???, c’est l’idéal du droit. Aujourd’hui, quand on signe une CGU, donc conditions générales d’utilisateur d’une application, quasiment personne ne lit les textes. Je crois qu’on avait calculé qu’il fallait un mois ou deux mois par an pour lire toutes les CGU auxquelles on souscrivait, donc personne ne le fait. Donc là ce n’est pas un consentement éclairé déjà. Donc on ne peut pas parler vraiment de consentement, je pense.

Ensuite il y a le deuxième cas de scénario des gens qui savent mais qui ont la flemme. C’est-à-dire que soit ils sont trop habitués, soit ils n’ont pas assez de forces pour trouver une alternative, pas assez de temps, soit il n’y a pas beaucoup d’alternatives. Ça aussi. Il faudra qu’on parle de la concentration aussi à un moment, on parlait de Gmail tout à l’heure, mais aujourd’hui, trouver une alternative à Gmail c’est Hotmail, il y a mieux ! Donc c’est compliqué.

Et ensuite, il y a ceux qui s’en foutent, ça c’est la troisième catégorie, elle existe aussi, il faut le dire.

Tristan Nitot : Tu veux faire un sondage dans l’audience ?

[Rires]

Philippe Vion-Dury : Ouais ! Je pense que voilà ! Effectivement la question de la servitude volontaire, elle est complexe à aborder parce que je pense que c’est un mélange de consentement non éclairé, et c’est pour ça qu’on est là aussi, c’est pour essayer – peut-être vous n’êtes pas tous au courant tout ça, moi je ne l’étais pas avant d’écrire mon bouquin – d’apporter un éclairage satisfaisant pour que vous fassiez des choix souverains.

La deuxième chose c’est aussi que la critique soit suffisamment forte, la prise de conscience soit suffisamment forte, les problèmes suffisamment forts pour que vous fassiez l’effort de choisir autre chose. Et ça ce n’est pas du tout gagné, puisque moi-même j’utilise encore Gmail, je suis sur Facebook, comme quoi ce n’est pas facile. Donc voilà !

Yaël Benayoun : Et du coup, on va dire, que sont devenues un peu les promesses du début d’Internet ? S’il y en avait c’est « tout le monde a accès à tout, de manière libre pour tout le monde ». Est-ce que, finalement, ça c’est un modèle totalement révolu ? Oui, ça c’est pour toi ! [en s’adressant à Tristan Nitot] Ou est-ce que justement il y a des alternatives qui sont viables, c’est juste qu’on ne les connaît pas ?

Tristan Nitot : Alors il y a des promesses du Web qui fonctionnent encore. Enfin Wikipédia ça existe toujours et c’est toujours très bien. Ce n’est pas parfait, mais c’est vraiment très bien. C’est toujours gratuit, on l’améliore. Enfin bon, bref ! Disclaimer ??? Je suis wikipédien, amateur. Et c’est génial. C’est un truc qu’on n’avait jamais fait avant, ça existe toujours.

Le Web aujourd’hui, je vais vous dire un gros mot, mais moi j’ai un blog depuis 2003. C’est-à-dire j’ai un endroit où je publie, j’ai publié deux billets hier dont la recette du chou farci, c’est vous dire si c’est intéressant. Donc j’ai une espace de publication personnelle qui était un genre d’eldorado à une époque, à la fin des années 90, et ça existe toujours. Et vous pouvez toujours ouvrir un blog si vous le souhaitez. Donc ça n’a pas disparu. C’est juste noyé sous le tsunami facebookien. Aujourd’hui les gens postent sur Facebook comme s’ils étaient chez eux, ce qui n’est pas complètement le cas. C’est-à-cire que mon blog, il est à moi ; Facebook n’est pas à vous, ou ni à moi d’ailleurs. C’est pour ça que je ne vais pas sur Facebook. C’est parce que je préfère publier chez moi et que les gens viennent. Mais ça fait de moi un vieux con finalement !

Philippe Vion-Dury : Qu’est-ce que je voulais dire ?

Tristan Nitot : Donc ça existe toujours, mais c’est remporté par la facilité de services plus modernes.

Philippe Vion-Dury : Effectivement, sur les promesses du numérique, c’est un peu comme les promesses du capitalisme. Il y en a certaines qui ont été tenues, sinon on aurait arrêté. Évidemment que ça a tenu ses promesses. Pour faire un blog, on peut échanger plus rapidement, etc. Ça c’est une chose. Néanmoins des problèmes ont émergé. Des nouvelles servitudes ou des nouveaux rapports de domination ont émergé avec. Et là je pense que, c’est une critique ouverte ce n’est pas accusation, mais je pense que beaucoup de gens de l’époque, de ton époque [en s’adressant à Tristan Nitot], de l’époque, qui étaient un peu libertaires, voire libertariens pour certains, mais surtout libertaires, qui ont vraiment cru que le Web serait cet espace pas souillé par les géants de chez ??? qui étaient les États, espace de purs esprits, etc., où les gens se rencontreraient dans un grand village mondial, sans leur chair, sans leur identité, sans rien, eh bien ils ont pêché par naïveté. Parce qu’en fait, ils appartiennent à une tradition qui est assez ancienne maintenant et qui, en France, aux États-Unis et ailleurs, libertaire, qui a beaucoup, qui a quasiment exclusivement focalisé sa critique sur l’appareil étatique et qui, malheureusement, a oublié les entreprises, tout simplement. C’est-à-dire qu’à force de critiquer l’État, capitaliste, bourgeois, autocratique et autres, il en a oublié que les entreprises étaient aussi des instruments de pouvoir, étaient aussi des acteurs de pouvoir, et de plus en plus, et qu’on se retrouve du coup avec des États très faibles par rapport au numérique – même si, encore une fois, c’est à relativiser – et puis des tentatives aujourd’hui, boîtes noires, etc., on pourra en parler. Mais on voit des États surtout faibles par rapport au numérique et des entreprises incroyablement fortes. Voilà ! Et ça, ça ne se serait peut-être pas passé si on avait eu une critique plus globale à cette époque, une approche plus globale de ce que devait être Internet.

29’ 25

Yaël Benayoun : Et justement, sur ce basculement entre à l’époque, je pense au 18e siècle, où il y a eu l’État qui s’est servi de la statistique pour, en fait, on va dire essayer de normaliser les comportements de sa population dans le sens où comme il avait l’idée de combien il y avait d’habitants sur tel territoire, c’était plus facile de pouvoir prédire telle production, par exemple ; et qu’aujourd’hui ce n’est plus l’État, finalement, qui gère ces comportements avec les statistiques, mais ce sont les entreprises qui essayent de normaliser ces comportements avec le big data, avec l’ensemble de toutes ces données, ces métadonnées qu’elles récoltent sur nous. Est-ce que vous avez une idée de ce basculement ou qui est juste qu’on a raté une étape à un moment ?

Philippe Vion-Dury : Tu vas vite en besogne, quand même !

Yaël Benayoun : Oui, je sais.

Philippe Vion-Dury : Je pense que ce n’est même pas de quoi on parle encore. On peut parler d’assurance, de police, etc. avant, parce que ! Oui, ce dont tu parles, c’est du vieux pouvoir. C’est l’idée que, ça ce sont les termes foucaltiens, Foucault, qui disait qu’en en gros on sort d’une société féodale, on arrive dans les sociétés disciplinaires qui sont celles du 19e siècle et l’État devient l’acteur fondamental de la société et gouverne la production, gouverne les êtres afin qu’ils soient productifs, qu’ils donnent une économie qui permette de faire la guerre, qui permette de faire le commerce, d’enrichir une bourgeoisie ou une monarchie, etc. Et, effectivement, le pouvoir est un instrument de pouvoir qui visait à contrôler la population en prédisant les récoltes, la production, etc. Et c’était une situation assez bâtarde, on a quand même une société féodale qui survivait un peu et ensuite qui s’est effondrée. Donc après une société bourgeoise, disciplinaire, et maintenant on arrive, effectivement, à des nouvelles formes de pouvoir où il est exercé de plus en plus par l’intermédiaire du numérique et des technologies, et par des acteurs nouveaux, que ce soient les entreprises, effectivement, qui se sont appropriées, réappropriées, cette capacité de contrôle des comportements, des individus, du collectif par les données, par le traitement de données. Et aujourd’hui, je ne sais pas par où commencer, mais aujourd’hui il y a des tentatives d’une forme de police préventive qui vise à mettre des scores de dangerosité sur les gens, ça se fait déjà aux États-Unis, qui vise à essayer de prédire là où le crime va se produire dans une ville en fonction de paramètres divers et variés comme la météo, l’éclairage public et la sociologie du quartier, etc. On a des assurances qui tentent de faire en sorte d’avoir accès à vos données biométriques, voire génétiques, pour ensuite faire des profils de dangerosité sur vous, enfin des profils à risque : est-ce que vous êtes une personne à risque ? Est-ce que vous êtes une personne saine ? Est-ce que du coup il faut vous faire payer plus cher, vous mettre des amendes, vous mettre des bonus parce que vous vous comportez bien et vous faites votre footing le matin ? Donc là on est quand même !

Tristan Nitot : Ou un mauvais patrimoine génétique. Risque de cancer. Bim ! Surprise ! » Juste à la naissance, quoi !

Philippe Vion-Dury : On avait vu ça avec ???, qui était une entreprise qui tentait un peu de glisser là-dedans. Pour l’instant elle est stoppée par les pouvoirs publics, mais c’est quand même en marche, comme dirait l’autre !

[Rires]

Et donc voilà. Là ce sont deux exemples, on pourrait en donner beaucoup plus, et je pense qu’il faudrait quand même donner pas mal d’exemples, mais ce sont des exemples qui montrent que les acteurs privés, souvent, essaient d’avoir une vraie action sur nos comportements, sur la façon dont on détermine nos vies. Ça c’est le principe du pouvoir. Effectivement, c’est un nouveau type de pouvoir qui se fait à l’échelle de tous les individus, puisque aujourd’hui tout le monde, enfin tout le monde, par exemple pour Facebook tout le monde va l’utiliser ou presque, pour YouTube aussi. Pour les acteurs de santé c’est déjà beaucoup plus limité c’est surtout aux États-Unis pour l’instant dans certaines mutuelles, mais ça a vocation quand même, il faut toujours dérouler une logique jusqu’à son terme, ça a quand même vocation à s’étendre, puisque, par exemple, un assureur n’est pas là pour vos beaux yeux, c’est un acteur privé qui veut optimiser ses recettes.

Tristan Nitot : C’est pour qu’on ouvre notre porte-monnaie !

Philippe Vion-Dury : Voilà. Donc il faut étendre la logique et voir qu’il y a quand même une volonté d’étendre ça à une population entière et de faire en sorte de pouvoir nous contrôler, avoir un pouvoir sur nous.

Yaël Benayoun : Et du coup, pour revenir un peu à la place que l’État pourrait reprendre aujourd’hui, c’est-à-dire est-ce qu’il y a une place à prendre ? C’est vrai qu’on entend souvent le discours de dire que finalement l’État est un peu contrit, enfin coincé entre d’un côté les acteurs locaux de l’autre côté les acteurs qui le dépassent totalement. Est-ce que la solution peut venir de l’État ?

Tristan Nitot : Non !

[Rires]

Tristan Nitot : Non ! C’est la version courte. La version un tout petit peu plus longue c’est que l’État n’est pas dans une position facile. Déjà par sa taille : quand on est en France, réguler les GAFA, c’est quand même vachement compliqué. Parce que justement ils sont à l’extérieur et qu’ils sont finalement beaucoup plus importants. Il y a aussi une histoire de rythme de déroulement en fait. C’est-à-dire que quand vous voulez mettre en place une loi ça prend beaucoup de temps et l’évolution technologique se fait beaucoup plus vite. On peut voir, par exemple, ce qui se passe avec Uber qui arrive, qui déboule sur un marché, qui met même en place des systèmes, ces systèmes, le système Greyball, je ne sais pas si vous avez suivi, c’est juste hallucinant où en fait ils repèrent les policiers et les gens de la régulation et ils leur servent, ils leur envoient une fausse application Uber que les policiers essaient d’utiliser et ça ne marche jamais parce qu’en fait c’est une application Uber comme l’application Uber mais elle ne voit pas les VTC, quoi ! Ça ne marche pas ! En fait il intoxiquait les gens qui faisaient la régulation. Les gens d’Uber, ils tournent autour du régulateur qui avance comme il peut quoi, et qui essaye de bien faire, mais qui part avec un handicap énorme, c’est-à-dire qu’il travaille sur un rythme qui est infiniment plus lent que la technologie.

Aujourd’hui on est capable, en fait, en technologie, de déployer des nouvelles versions d’une application plusieurs fois par jour. Ou sur un site web plusieurs fois par jour. Il y a une intégration continue qui fait tel que quand vous corrigez un bug, vous pouvez sortir plusieurs versions d’une application par jour. Vous ne voyez la CNIL ou le G209, son équivalent européen, faire la même chose ! Ils ne peuvent juste pas quoi !

Cela dit ils ont quand même un pouvoir certain. Il y a un règlement européen qui s’appelle la GDPR, ou la RGPD en français, Règlement général pour la protection des données, qui est en cours de mise en place, qui sera sur l’ensemble du territoire européen à partir du mois de mai 2018, et là, ils ont quand même un certain nombre de choses importantes dont la portabilité des données qui va permettre aux gens de prendre leurs données et puis de les envoyer ailleurs pour changer de fournisseur, en substance. Et un certain nombre de règles aussi pour lutter contre le piratage, contre la mauvaise gestion des données, etc. Et ils ont aussi une grosse massue qui est que si jamais quelque se fait attraper, une société se fait attraper, ils peuvent avoir une amende jusqu’à 4 % du chiffre d’affaires mondial. Ça, ça fait très très mal.

Donc ils avancent, ils peuvent faire des choses, mais c’est compliqué parce qu’il y a du lobbying à Bruxelles sur ces sujets-là, où on voit chaque mot et chaque article est négocié pied à pied. Ils font traîner les trucs, etc. C’est vraiment très intense et en même temps, il ne faut pas non plus que la puissance publique régule top vite, enfin avec précipitation et qu’elle arrive à coincer quelque chose qui finalement serait peut-être une injustice très intéressante, qui pénaliserait les industriels locaux et pas les industriels étrangers.

Donc ce n’est vraiment pas facile d’être régulateur dans le monde numérique.

37’ 24

Yaël Benayoun : Je crois que tu as un autre point de vue Philippe sur la question ?