Web débat surveillance numérique et libertés fondamentales . Part5

Titre : Web débat surveillance numérique et libertés fondamentales - Confiance ou défiance des citoyens dans le numérique ?

Intervenant·e·s : Laurence Devillers - Antoinette Rouvroy - Irénée Regnault - Karolien Haese - Valérie KokoszKa

Lieu : Vidéoconférence

Date : juin 2020

Durée : 14 min 02

Visualiser la vidéo

Licence de la transcription : Verbatim

Illustration :

NB : transcription réalisée par nos soins, fidèle aux propos des intervenant·e·s mais rendant le discours fluide.
Les positions exprimées sont celles des personnes qui interviennent et ne rejoignent pas nécessairement celles de l'April, qui ne sera en aucun cas tenue responsable de leurs propos.

Transcrit : MO

Transcription (relu avec audio par véro)

Antoinette Rouvroy : Je voulais revenir sur cette question, ce postulat suivant lequel le public est méfiant. Moi je le trouve au contraire d’une confiance absolument naïve envers tous ces dispositifs. Il y a littéralement un amour pour ce qu’on appelle encore de la surveillance, que moi je n’appellerais peut-être plus comme ça, puisque personne ne veille dans cette surveillance et personne ne regarde plus personne. Je m’explique : cet amour, cette sorte d’autorité un peu incompréhensible qu’ont pris ces dispositifs, justement par une sorte d’aura de neutralité axiologique.

Laurence Devillers : Non, c’est faux ça !

Antoinette Rouvroy : C’est bien parce que ces dispositifs nous dispensent d’avoir à faire de la politique, nous dispensent de nous rencontrer dans l’espace public pour délibérer à propos de la chose publique qui est, comme le disait très bien Alain Desrosières, irréductible à la seule juxtaposition des petits intérêts de chacun, c’est bien parce qu’au contraire ces dispositifs nous individualisent et promettent à chacun de le gaver par avance de tas de choses par rapport auxquelles il n’a même pas eu l’occasion de forger son désir, c’est bien parce qu’on est dans cette sorte d’économie de la pulsion et que ça flatte précisément l’individualisme méthodologique des uns et l’individualisme consommateur des autres, que tout cela ne suscite véritablement pas du tout la méfiance, mais au contraire une très grande confiance.
Ce que à quoi nous avons affaire, c’est à une promesse de désintermédiation radicale et de dispense des institutions. L’idée serait finalement, je pousse le bouchon un peu plus loin, de pouvoir se passer complètement de toutes les institutions. Qu’est-ce que c’est qu’une institution ? Jacques Rancière disait qu’une institution c’est d’abord ce qui fait la distinction entre ce qui relève du bruit et ce qui relève du signal. Dans la démocratie athénienne ancienne, le bavardage de femmes, comme moi par exemple, relèverait du pur bruit, le papotage, ça ne compte pas comme signal, c’est du bruit, tandis que ce que Irénée dirait, par exemple, notable comme il est, relève véritablement du signal.

Laurence Devillers : C’est important.

Antoinette Rouvroy : Les dispositifs numériques mettent tout ça à plat et c’est aussi pour ça qu’il y a une sorte d’aura justement de très grande démocratie, mais une démocratie totalement désintermédiée.
Donc cette idée d'un accès au monde en très haute définition, une définition qui nous dispense ou qui nous émancipe du joug de la représentation, et dieu sait comme c’est important aujourd’hui, cette idée que la représentation par le langage humain est toujours biaisée. On parle des problèmes des racisés, le langage lui-même est beaucoup trop colonial, etc. À cela qu’apporte comme réponse cette sorte d’immanence numérique, c’est précisément de dire « vous n’avez plus rien à représenter puisque le monde parle par lui-même à travers des phéromones numériques que vous émettez ou que les machines produisent à votre propos ou à propos des relations que vous avez avec vos objets ou que les objets ont entre eux quand ils chuchotent à votre propos». Cette désintermédiation est absolument, pour beaucoup, bienvenue, elle n’est pas source de méfiance, elle est bienvenue.

Irénée Regnault : On n‘a jamais vu de manifestation contre le big data. On a vu des manifestations contre la 5G, contre la reconnaissance faciale. Tout à l’heure on parlait de méfiance envers le big data, moi je ne vois pas méfiance envers le big data si ce n’est chez certains experts ou associations techno-critiques durs mais pas dans la société. On l’a dit au début, tous les gens sont sur Facebook et contents de l’être.

Laurence Devillers : Pas par paresse, parce que c’est pratique.

Antoinette Rouvroy :  Tout de suite caricaturé comme l’ayatollah de la vie privée, alors que l’enjeu n’est pas du tout la vie privée comme on l’a déjà dit.
Il y a aussi un autre élément que je trouve assez intéressant : dès qu’on se rend compte qu’il y a un problème de sous-financement d’un service public, que ce soit la justice, l’éducation ou la santé, qu’est-ce qu’on propose ? On propose la transition numérique. Vous voyez ! C’est une sorte de feuille de vigne qu’on met pour montrer qu’on fait bien quelque chose mais sans assumer la charge de véritablement gouverner qui serait la charge de faire des choix d’investissement conséquents dans tous les domaines, le domaine de la justice par exemple qui est vraiment sous-doté. Par contre qu’est-ce qu’on pousse pour l’algorithmisation de la justice qui doit soi-disant résorber l’arriéré judiciaire, etc. Mais ça transforme les métiers, évidemment, d’une façon absolument substantielle, un jugement algorithmique ne relève plus du tout de la justice.

Laurence Devillers : Oui. Ça vous l’avez dit, bien sûr.

Karolien Haese : Je peux peut-être intervenir deux petites secondes, moi je pense de nouveau que l’algorithmisation de la justice ou de l’enseignement ou de la médecine ou de l’environnement, du contrôle sur l’environnement, ce sont effectivement des outils qu’aujourd’hui on doit pouvoir pousser en avant. On doit pouvoir les pousser en avant sans l’anxiété d’un shift de souveraineté vers la machine. Tout le problème est là aujourd’hui. L’anxiété de la population, qui n’est pas nécessairement exprimée effectivement dans les grandes manifestations anti big data, provient du fait qu’en réalité on ne sait pas où on va. À partir du moment où on ne sait pas où on va, on peut, et je rejoins Laurence, vendre pratiquement n’importe quoi, vendre des promesses, vendre l’efficience algorithmique qui est, en fait, une efficience qui va durer le temps de constater qu’en réalité ça ne fonctionne pas comme on voudrait que ça fonctionne.
De nouveau on a ici des outils qui sont des outils qu’il faut pousser en avant, mais avant de pousser ces outils en avant, il faut non seulement démystifier, mais comprendre d’où vient finalement cette anxiété populaire lorsqu’elle est exprimée assez curieusement pour un tracing covid et lorsqu’elle n’est pas exprimée parce qu’on est en train de parler de Facebook. C’est totalement différent de donner ses données à Facebook et de faire une photo avec son chien en se disant c’est effectivement une entreprise privée qui va garder ma photo, que de dire, et je vais reprendre l’exemple de Frank Robben qui était bien connu en Belgique sur les banques centrales, de concentrer et de centraliser toutes les données entre les mains d’un organisme d’État qui va en même temps effectivement collecter, structurer, anonymiser, user et finalement appliquer. Donc il y a une gradation réelle entre ce que l’on considère déjà aujourd’hui comme étant normal de donner, même à la limite confortable, et entre ce besoin, on le voit effectivement pour des raisons financières, pour des raisons d’efficience, pour des promesses, de concentrer, de centraliser toutes les données entre les mains finalement d’un État dont on ne sait pas où il va aller.
Donc cette méfiance est en train de s’accroître et je ne suis pas sûre qu’à la prochaine crise, qui sera probablement effectivement une intervention écologique avec une traçabilité écologique, on ne va pas avoir, à un moment donné, avoir un stop en disant cette fois-ci ça suffit. Bientôt on aura effectivement des caméras qui vont nous dire « vous avez roulé à 111 km/h donc vous avez une empreinte carbone qui a augmenté de tant, donc une amende de tant ». Je dis pas que c’est demain mais c’est quelque chose qui serait techniquement possible.

Irénée Regnault : S’il y en a bien qu’on n’embête pas, ce sont les automobilistes !

Laurence Devillers : Ce n’est pas vrai ! Non ! On a parlé du 110 km/h, tout le monde a dit ça.
Je vais revenir sur un truc sur la représentation des femmes si vous voulez bien. Pour rebondir sur ce que disait Antoinette j’ai une petite phrase que je dis partout : 80 % des codeurs et des gens qui sont impliqués dans le numérique sont des hommes, d’ailleurs 80 % c’est peut-être en dessous de la réalité, et 80 % des objets dits intelligents capables de nous parler, etc., ont des noms féminins, des voix féminines, voire des apparences féminines. Donc qu’est-ce qu’on est en train de faire à travers ça ? La représentation de la femme, c’est un assistant virtuel un peu frustre qu’on peut éteindre quand on veut. Cette prise en compte, back row comme vous disiez, me gêne beaucoup ; c’est un des problèmes. Un autre c’est la solidarité par exemple dans l’assurance. Pour chaque personne si on sait absolument quel est le risque précis et si on surveille tous ses faits et gestes, peut-être qu’il n’y aura plus cette solidarité possible. Or il faut maintenir cette solidarité dans la société, les fondements même de notre intelligence c’est d’être en groupe.
Donc pour moi, c’est toute la tension qui existe entre des outils qui, finalement, ne sont pas tellement que pour l’individu ; si ça leur permet quand même, peut-être, de mieux se comprendre de temps en temps ce n’est pas mal, mais c’est surtout comment on fait pour gérer collectivement les outils numériques. C’est à ce niveau-là qu’on devrait les gérer pour en tirer le maximum de profit et pas en remplacement d’un humain x fois. Mais, en même temps, c’est quand même assez anxiogène d’imaginer que nous allons être de plus en plus dans ces deux mondes, à la fois physique et non-physique.
Là il y a besoin d’éduquer, encore une fois je reviens sur ces sujets. La réalité virtuelle, le fait de passer d’un monde à l’autre, ce n’est pas si évident. Je pense que ça va arriver, indéniablement. Est-ce qu’on peut une fois pour toutes dire arrêtons d’être sceptiques, arrêtons d’avoir peur. Si on anticipait en essayant de mieux comprendre ce qui va se passer et puis, pour moi, il faut vraiment renforcer les expérimentations, c’est-à-dire comment on peut inclure les gens. À chaque fois que j’ai parlé devant des auditoires assez larges où il n’y avait pas beaucoup de gens qui connaissaient vraiment, finalement il suffisait qu’il y ait dans la salle une infirmière ayant travaillé dans un univers avec des personnes âgées pour dire d’un seul coup : « Vous avez raison. À un certain moment je n’arrive plus à être en phase avec quelqu’un parce que c’est trop lent. Il réagit de façon tellement différente que peut-être une machine, là, pourrait réagir de façon à relancer l’interaction sociale ». Vous levez les sourcils. Je m’explique.
Par exemple le robot Paro qu’on prend dans les bras, je l’ai vu pris dans leurs bras par des personnes Alzheimer très avancées, qui ne réagissaient plus du tout à l’interaction sociale. Ce truc qui se présentait finalement comme un animal qui se tortille, qui répond à vos caresses, ramenait un sourire sur les visages, physiquement, c’est-à-dire que le toucher physique de cette chose, qui bougeait avec vous, ramenait cet aspect vivant et les gens autour venaient parler à la personne. En ayant fait des tests dans des Ehpad je me suis rendu compte plusieurs fois, on parle beaucoup d’isolement des autres, de perte d’interaction sociale, qu’on pouvait médier par ces machines la sociabilité entre plusieurs personnes qui se sont éloignées. Allez voir dans les Ehpad, il y a un travail qu’on pourrait amener non pas parce que les gens ne sont pas bien, mais en complément de ce qui existe ; avec ces outils, peut-être qu’on aurait justement un lien qui n’est pas les isoler totalement. C’est en ça que c’est compliqué, c’est en cette compréhension de ce que ça peut apporter à la fois en créativité dans des domaines. On n’a pas tout l’univers. Si je pense au juridique par exemple, je crois que c’est dans l’affaire Grégory qu’ils ont remonté les pistes différemment en trouvant finalement peut-être une possibilité de culpabilité qu’ils n’avaient pas vue alors que tous les documents étaient là.
Quand on compare l’intelligence humaine à ce qu’on sait faire avec une machine qui joue par exemple au jeu de go et qui bat les humains, on ne compare pas humain/machine. On compare 100 ingénieurs extrêmement brillants avec une capacité d’énergie fulgurante, ce qui n’a rien à voir avec cette comparaison et, encore une fois, ce n’est pas du tout la même intelligence qui est mise en jeu. J’évite aussi de comparer. Je pense que dans la comparaison on fait des erreurs. L’anthropomorphisation des objets nous amène encore plus à croire cela.
Dans le langage il y a ce pouvoir, en fait, de manipulation réelle. Mon sujet est de faire parler les machines ou de faire qu’elles comprennent. L’intelligence affective dont j’ai parlé tout à l’heure ce sont trois choses technologiquement : ce n’est pas du tout comprendre parce que la machine ne comprend rien. C’est décrypter dans le langage parlé à travers la musique de la voix et les mots un état émotionnel, je ne vais pas dire les émotions de la personne parce qu’elles sont cachées, mais ce qu’elle a exprimé. Et, de l’autre côté, c’est synthétiser et dire « je vous aime, vous êtes formidable ou je ne sais pas quoi ». Au milieu il n’y a pas énormément d’informations utilisées, ce sont des stratégies, c’est encodé c’est encore soit à partir de big data soit avec des règles d’expert. En tout cas ce n’est en rien intelligent, en rien ! Et c’est ça qu’il faut arriver à décrypter, c’est bien montrer qu’on se fait manipuler par ces objets.
Je travaille sur le nudge qui n’est même pas une manipulation visible, c’est un peu une suggestion ; on vous met devant le nez quelque chose pour que vous le preniez. Le nudge c’est facile : si vous prenez une chambre d’hôtel avec Internet, il y a une petite ligne rouge en dessous qui va vous dire « 25 autres personnes sont en train de regarder cette chambre »  et là vous dites « je la prends tout de suite parce que je ne l’aurai pas ». C’est travailler sur ces biais.

Valérie KokoszKa : C’est absolument de l’influence.

Laurence Devillers : C’est de l’influence, mais on ne se rend pas compte à quel point. De la même façon que j’ai dit tout à l’heure qui n’est juste que renforcer les stéréotypes vis-à-vis des femmes dans certains cas, c’est-à-dire qu’elles sont plus douces, plus proches pour soigner, plus ci, plus ça, les stéréotypes vont être énormément renforcés par tous ces outils et ça, c’est très invisible !
Donc mes peurs qui sont en connaissance de cause de ces objets et de la manipulation qu’il y a derrière sont réelles aussi. Il ne faut pas ne pas avoir peur. Il faut avoir peur pour des choses qu’on a étudiées, non pas peur pour des choses qui n’existent pas et qui sont de la science-fiction.