Vers une informatique éthique - Daniel Pascot

Titre : Vers une informatique éthique

Intervenant·e·s : Daniel Pascot - Présentatrice

Lieu : 6e Colloque libre de l’Adte - Montréal - Québec

Date : 4 juin 2019

Durée : 40 min 07

Vidéo

Licence de la transcription : Verbatim

Illustration :

NB : transcription réalisée par nos soins, fidèle aux propos des intervenant·e·s mais rendant le discours fluide.
Les positions exprimées sont celles des personnes qui interviennent et ne rejoignent pas nécessairement celles de l'April, qui ne sera en aucun cas tenue responsable de leurs propos.

Transcription

Présentatrice : Daniel Pascot est professeur retraité du département dans lequel j’œuvre actuellement. Professeur qui a été pendant plusieurs années également le directeur du département, qui a fait beaucoup pour développer la sensibilité au Libre des étudiants, des professeurs, des collègues et même de la haute administration. C’est l’ancien directeur, fondateur également du centre de recherche en architecture d’entreprise qui n’existe plus maintenant, je crois, avec ton départ Daniel, mais sache que nous avons maintenant créé le centre de recherche en TI et affaires [Centre de recherche en technologies de l'information et affaires] le 1er mai dernier au département. Tu seras certainement t’inviter à participer.
Aujourd’hui il va nous parler de l’information éthique. Daniel, c’est avec plaisir que je t’invite à t’adresser à nous.

Daniel Pascot : Je remercie en entrée mes petits copains de Linuq parce que la réflexion que je vais vous faire est basée sur une expérience pratique. Sans cette expérience pratique probablement que je n’aurais pas avancé autant.
Quand ça vient dans des cartoons ou les bandes dessinées d’un journal, on prend tous conscience qu’il y a un problème. Ce problème est probablement ce qui nous pend au nez qui est aussi important, peut-être, que le problème écologique.
Tout à l’heure notre vice-recteur nous a dit que l’université se voulait le champion du développement durable, vous allez voir que je vais militer pour qu’elle soit le champion du respect de la vie privée.
Ce n’est pas un problème nouveau, informatique et liberté, dès qu’on a eu des ordinateurs on s’est préoccupé de ça et on a fait toute une série de lois. En ce moment en Europe il y a une loi intéressante à étudier, c’est le Réglement général sur la protection des données qui détermine qu’en tant qu’individu dans la société on a un certain nombre de droits vis-à-vis des données qui sont créées à notre sujet : un droit de rester informé, un droit de s’opposer à un usage des données, un droit de vérifier. On a même pensé un peu Internet avec le droit de se déréférencer dans les autres endroits, parce que vous allez voir que c’est un problème, en fait, cette chose-là est le problème clef.
Donc, d’un point de vue de moral, on a défini que si vous êtes une entreprise ou une organisation, ça vaut pour les universités, qui avez des données sur des citoyens européens – parce que la portée est européenne, mais elle inspire un peu dans le monde entier – vous devez les savoirs, vous devez les déclarer, vous devez demander aux gens leur autorisation, leur consentement. Cette loi est intéressante parce que si vous faillez à ça vous pouvez être très sévèrement puni avec 4 % du chiffre d’affaires, ce qui est significatif. En plus comme elles sont sensibles, vous devez les protéger. Et si vous avec un échec sur la protection, le patron de la boîte peut partir en prison. Ça c’est dans les racines, en quelque sorte, de Informatique et libertés, mais vous voyez qu’on a pensé un peu à Internet, mais c’est très récent.
Si je prends simplement ce petit livre [21 leçons pour le XXIe siècle, Yuval Noah Harari], dans son introduction il nous dit juste « on n’a jamais voté sur ça ! ». La situation dans laquelle on est dans Internet aujourd’hui elle s’est construite par des tas de gens mais cette chose-là a échappé au politique. Le problème c’est que vous voyez, le RGPD a été pensé dans une situation locale : j’ai une entreprise, j’ai ses clients. Mais avec Internet c’est global et c’est là le problème fondamental.
Là on a des alerteurs, parce que ça s’est passé derrière nous, on ne savait pas ; si vous ne connaissez pas Snowden, il va falloir vous réveiller. En fait il nous a fait ça pourquoi ? Il a dit parce que mon métier, mon travail, mon employeur me demandait de faire des choses qui violaient la Constitution américaine et je ne supporte pas ça. Donc il nous a dit ce qui est en train de se passer. Il faut que vous le sachiez. Pourquoi ? Parce que ce qui est en train de se passer, comme un attentat, en quelque sorte, à votre vie privée, c’est vous priver de liberté. Je ne vais pas détailler tout ça, mais ça se fait assez bien.
Si vous pensez que vous n’avez rien à cacher, il va falloir que vous réfléchissiez un petit peu et je vous conseille d’aller voir un des liens. Incidemment j’ai écrit, mon texte, je ne fais pas ça souvent, Josiane le sait, mais je l’ai écrit longuement, ça m’a pris deux ou trois mois à l’écrire, en plus c’était fun parce que je n’avais pas d’objectif de publication scientifique, donc je pouvais me lâcher. Le texte est disponible et il a été beaucoup travaillé.br/> Est-ce que vous savez ce qui se passe en Chine ? Eh bien 1984 c’est pour aujourd’hui ! Le crédit social a été mis en place en Chine. En Chine, vous pouvez aller acheter un billet de train et on vous dit « non, votre crédit social n’est pas bon, tu ne prendras pas le train ». Je n’ai pas mis beaucoup de liens ici, c’est pour ne pas surcharger, mais sur mon papier il y a suffisamment de liens, même quelques-uns scientifiques.

Avez-vous entendu parler de Cambridge Analytica ? Savez-vous vraiment ce qui s’est passé ? C’est très intéressant parce que là on est dans un domaine où si je ne comprends pas un minimum la technologie qui se trouve derrière, si je ne comprends pas un minimum Internet, alors je ne pourrai pas vraiment comprendre ce qui se passe et je ne pourrai pas réagir face à ça.
J’ai essayé. Pourquoi je remercie les gens de Linuq ? C’est que, arrivant à la retraite, je me suis dit je vais prendre mon problème en main moi-même, donc je vais essayer de protéger ma vie sur Internet. Pour ça il a fallu que je reconstruise les services que j’utilisais les uns après les autres ; j’ai fait mon propre serveur sur un petit Raspberry à la maison, donc ça m’a obligé de rentrer dans Internet. J’ai découvert quelque chose, je ne sais pas si ça fera plaisir à Josiane, mais j’étais illettré en ce qui concerne Internet. Je ne savais pas comment ça marche et j’étais prof en système d’information ! C’est assez grave !
Vous pouvez aller voir. Je vais décortiquer très rapidement. J’ai mis ici un lien. C’est passionnant, allez regarder ça, c’est un reportage d’Arte [1] pour comprendre ce qui s’est passé derrière Cambridge Analytica. Il y a aussi des publications mais lui est facile à suivre. Il n’est plus sur Arte, mais j’ai triché, vous allez sur achive.org et vous pourrez le trouver.
Qu’est-ce qui s’est passé ? Cambridge Analytica c’est quoi ? C’est une filiale d’une compagnie anglaise. Et quel est son rôle, que fait cette compagnie anglaise ? C’est un spécialiste de la manipulation psychologique des foules dont les clients sont les États. C’est intéressant !
Cambridge Analytica est créée à l’intérieur de ça par des Américains, évidemment pour satisfaire cet objectif, et savez-vous qui est le président de Cambridge Analytica ? Vous ne le savez peut-être pas, mais vous connaissez son nom, il s’appelle Steve Banon. Derrière Steve Banon il y a un riche américain qui a réussi à faire en sorte, en 2010, qu’on n’ait plus de plafond aux supports privés dans les campagnes politiques aux États-Unis.
Qu’est-ce qu’a fait Cambridge Anlytica ? Ils sont allés chercher des données sur 230 millions d’adultes américains. Beaucoup de données, 5000 éléments de données. Où les ont-ils trouvées ? Ils les ont achetées, des fois un peu pillées, des fois achetées, et ils ont couplé ça au profil psychologique de ces gens-là.
Comment fait-on un profil psychologique ? Eh bien je vais voir un de nos collègues – j’exagère un peu là – il est prof en administration à Stanford, Michal Kozinsky et il travaille sur les questionnaires de personnalité. Il a développé une démarche, quelque chose qu’on appelle OCEA, Ouverture, Conscience, etc., [Openness, Conscientiousness, Extroversion, Agreeableness, and Neuroticism] et il a, en s’arrangeant légalement avec Facebook, pu faire passer son test à six millions de personnes. Vous vous rendez compte un chercheur qui a une banque de données de tests psychologiques sur six millions de personnes ! C’est vachement bon !Qu’est-ce que c’est son test. ? C’est simplement de demander : quel acteur aimeriez-vous ? Quel personnage aimeriez-vous ? Etc.. Et à partir de là il a eu une idée : qu’est-ce qu’on peut apprendre avec les « likes » ? Vous savez les petits pouces sur lesquels il y a de gens qui cliquent et qui sont contents de cliquer dessus ? Il s’est aperçu qu’avec 10 « likes » il pouvait reconstituer un profil psychologique à peu près aussi bon que celui que fait une vague connaissance de nous ; avec 100, il fait aussi bien que nos collègues et les membres de la famille ; et avec 230 il fait mieux que le conjoint, parce qu’on dit à Internet des choses qu’on ne dit pas à notre conjoint.
Qu’est-ce qu’a fait Cambridge Analytica ? Ils sont allés chercher toutes ces données. Avec ça on est capable de savoir qui vote, où, à quel moment, c’est l’enfance de l’art de ce côté-là. À partir de là ils se sont dit ce n’est pas la peine d’aller tripoter la tête de tout le monde à la fois, il faut aller voir ceux qu’on peut faire changer d’avis. En faisant ça ils sont allés voir trois États, ils ont trouvé trois États, le Wisconsin, [Michigan, Pennsylvanie] d’ailleurs les journalistes se sont demandé pourquoi Trump va là-dedans, ce n’est pas la peine, ce n’est pas là qu’il va gagner des voix. Eh bien c’est là qu’il a gagné ses voix. Pourquoi ? Dans Facebook ils ont passé le test à 300 000 personnes et là où est le scandale c’est qu’ils en ont profité pour aller chercher les amis de ces 300 000 personnes. Ils en ont récupéré 87 millions. Ça faisait une bonne base. Et à partir qu’est-ce qu’ils ont fait ? Ils ont pu sélectionner des gens et ils ont fait quelques sites bidons sur Facebook qui envoyaient, pendant quelques instants, un message aux gens qu’ils avaient pointés dans ces endroits-là. Un message du style « sais-tu que Hillary Clinton veut te piquer ton flingue ? » Et le résultat, vous le voyez ici, c’est que le vote a basculé.

Qu’est-ce qu’on peut retenir de ce scandale ? il y a des données qui existent à travers Internet qui sont accessibles à n’importe qui est capable de le faire. Les algorithmes qu’on a développés là-dessus sont vachement puissants, mais on va voir, j’insisterai un peu à un moment, intelligence artificielle et Internet sont deux choses qui s’appuient l’une sur l’autre, mais ce n’est pas forcément la même chose, l’algorithme c’est autre chose. Pas de hasard. Si on manipule, s’il y a quelqu’un qui peut manipuler soit pour des raisons politiques soit pour des raisons économiques, il y a de multiples intervenants, ce qui s’est passé n’est pas tout illégal, mais c’est borderline.
Facebook est coupable mais qui est le vrai coupable ? Est-ce que ce sont ceux qui ont créé Cambridge Analytica ? Est-ce que c’est Facebook ? Est-ce que ce sont les gens qui, innocemment, ont alimenté Facebook ? Ce qui m’apparaissait à ce moment-là c’est que progressivement on est tous coupables et on est tous responsables. Ça m’a obligé à aller rentrer dans l’Internet et c’est là que je me suis aperçu que je ne savais pas trop ce que c’était.
Si vous êtes un responsable quelque part, je vous conseille vraiment le livre de Stéphane Bortzmeyer [Cyberstructure]qui m’a considérablement aidé à comprendre ce qui se passe derrière ça, parce que j’étais illettré. On n’est pas analphabète, on sait à peu près un peu de choses, mais comment pour de vrai ça marche, quels sont les ressorts derrière ?

12’ 12

Très cavalièrement je vais vous parler un tout petit peu d’Internet.
Pour comprendre, Internet ce sont trois couches. Il y a une couche des applications qu’on connaît, celles qui sont dans nos ordinateurs, les programmes qu’on utilise soit nous-mêmes soit à travers des intermédiaires, le programme qui est chez Facebook, chez Twitter, ceux de l’université, etc.
Internet qu’est-ce qu’il fait ? Il permet à n’importe quel ordinateur connecté sur le réseau internet, qui est un réseau de réseaux de réseaux en fait – c’est un plus difficile à comprendre, mais on n’en a pas besoin tout de suite – de se connecter avec n’importe lequel. On est tous égaux. Tous les ordinateurs qui sont connectés sur Internet sont égaux en ce sens qu’ils peuvent émettre et recevoir des informations. Il y a une infrastructure pour ça. Qui finance ça ? Eh bien c’est nous. Il y a une infrastructure derrière ça : pour que tout le monde communique ça prend des méchants câbles, ça prend des centres d’échanges de données. Là aussi ce n’est pas tellement abstrait cette chose-là. Savez-vous que cet Internet génère autant de CO₂ que le trafic aérien mondial. Donc c’est vachement beau Netflix, mais d’un point de vue écologique ça consomme ! Donc il y a tout ça derrière.
Là aussi, surprise pour moi, il n’y a pas de grand chef. Les gens sont autonomes. Pourquoi ça arrive à marcher quand même ? C’est parce qu’il y a une certaine transparence et tout le monde a intérêt à ce que ça fonctionne.
Et au milieu il y a une couche qui va relier cette infrastructure de façon à ce que n’importe quel ordinateur puisse passer par n’importe quel tuyau qui se trouve derrière ça. Pour pouvoir les trouver il y a des problèmes d’adressage. Vous avez entendu parler d’adresse IP. Vous avez entendu parler de noms de domaines, ulaval.ca c’est un domaine. Moi j’ai dû acheter pour pouvoir me libérer, maintenant j’ai pascot.ca. Je ne savais pas comment ça marchait donc j’ai dû aller fouiller à l’intérieur de ça et là aussi, surprise, il n’y a pas de grand chef, il y a une multitude d’organisations, une multitude de choses comme ça. Est-ce ça a des conséquences politiques ? Oui, parce que ulaval.ca ne veut pas se faire voler son nom, ça fait son identité, donc on sent tout de suite qu’il y a des choses derrière. Donc je plongeais là-dedans.

J’ai parlé du « like » tout à l’heure, est-ce que vous savez comment ça marche ? Quand j’en parle aux gens ils ne savent pas trop. C’est très simple : ce que vous voyez sur votre écran, ce n’est pas une image, c’est un programme. C’est un programme que celui qui a fabriqué la page web que vous recevez est allé chercher chez Facebook et il s’est entendu avec Facebook sur des conditions économiques d’utilisation parce qu’on ne fait pas ça gratuitement. Facebook n’est pas très riche en ne faisant que nous donner des choses. Il a bien fallu qu’il ait des clients. Le client ce n’est nous, si ce n’est pas nous, eh bien c’est quelqu’un d’autre et ce quelqu’un d’autre c’est quelqu’un qui va exploiter ces choses-là.
Quand le « like » arrive sur votre écran, qu’est-ce qu’il fait ? Il s’active. Et quand il s’active, qu’est-ce qu’il fait ? Il se connecte à Facebook et il lui dit « tel ordinateur qui a telle empreinte, qui est sur tel machin, tel jour, vient d’activer le « like » pour lequel tu t’étais entendu avant ». Comme ça on capte énormément de données. Où se fait le captage ? De programme à programme. C’est une utilisation d’une infrastructure commune qui existe déjà.
Ça s’est beaucoup développé et on a commencé souvent par la publicité. La publicité amène de l’argent et l’argent c’est le nerf de la guerre, on le sait bien de ce côté-là.
Quand quelqu’un achetait un journal il y a 50 ans – on peut le faire encore aujourd’hui, mais la plupart il y a 50 ans – l’éditeur ne savait pas qui avait acheté le journal, il était allé l’acheter chez le buraliste à côté. Les gens ne savaient pas quel article il a lu, à qui il a passé cet article, avec qui il en a parlé. Aujourd’hui on se connecte sur Internet et là je me connecte sur Le Devoir. Et que je me connecte en étant abonné ou en étant non abonné, c’est pareil, j’ai le même pistage. Dans mon Firefox j’ai mis une petite extension, Privacy Badger, qui me dit à qui cause mon programme quand mon ordinateur va sur la page du Devoir. Eh bien il cause à du monde et je vois que j’ai 20 traceurs. Il y a 20 morceaux de programme qui viennent de s’activer pour faire comme fait le « like » de Facebook. Vous vous rendez compte du captage !, et à qui ça va ? Je ne sais pas ! Mais ça va à quelqu’un.
Ce mécanisme-là a permis, je cite au moins une scientifique, Shoshana Zuboff, à travers d’un bel article qui est passé dans Le Monde informatique au moins en français, pour la plupart d’entre nous c’est plus simple, même pour moi, qui est encore disponible [2], j’ai vérifié hier. Qu’est-ce qu’elle nous dit ? C’est vraiment intéressant. L’article est intéressant. Elle nous rappelle dès le début de l’article qu’en 2003 il y a trois ingénieurs de Google qui ont déposé un brevet intitulé « Générer des informations utilisateur à des fins de publicité ciblée et le but c’est « d’établir les informations de profils d’utilisateurs et à utiliser ces dernières pour la diffusion d’annonces publicitaires ». Ce n’est pas caché, c’est un brevet. En fait c’est le moteur qui a créé ça.
Évidemment Google est devenu le champion. Il y a une multitude de services de Google qui sont offerts et chacun capte des données. Un remarquable ! Souvent les gens ne sont pas conscients. C’est Google Search. Avec Google sait tout ce qui vous intéresse. C’est fun ! C’est pour ça que Google dit « moi j’aime bien Google Search parce qu’il répond à ce que je veux ! » Eh bien oui il répond ce que vous voulez, c’est fait pour !, parce que ça va améliorer l’efficacité publicitaire de Google Search quand il va le faire. Il y a des conséquences.
En fait, ce qui s’est passé là, c’est que vous êtes devenu le produit de cette industrie-là. Puisque ce n’est pas vous payez quand vous utilisez un service gratuit alors qui est-ce qui paye ? Ce sont ceux qui vont exploiter les données que vous leur avez généreusement confiées.
Il s’est construit une énorme industrie autour de ça. Je vais passer, mais s’il y a des gens qui veulent le savoir, vous pouvez aller voir, les gens de Cambridge Anlytica le savaient très bien, c’est là qu’ils se sont servis.

Donc qu’est-ce qui nous menace par rapport à ça dans Internet ?
Il y a trois niveaux possibles : le programme, l’infrastructure ou les protocoles.
Eh bien ce ne sont pas vraiment les protocoles. Les protocoles qui ont servi à Facebook et à Google pour nous dominer sont les mêmes que ceux qu’on peut utiliser pour s’en sortir. Donc ce n’est pas vraiment cette couche intermédiaire qui est le problème, même si on l’utilise un peu bêtement comme fait le gouvernement français en ce moment, mas c’est un autre problème.
Donc c’est le réseau. Dans le réseau il y a les métadonnées. Je ne vais pas rentrer dans les métadonnées, parce que je ne peux pas y faire grand-chose, c’est vraiment un problème politique.
Il y a les programmes, donc c’est au niveau de programmes que je peux jouer. Alors c’est là qu’arrive le logiciel libre. Quand j’ai eu l’année dernière l’idée de dire je vais vous parler d’éthique, eh bien pour moi c’était simple. On va faire du logiciel libre une armure. Eh bien non !, vous allez voir que c’est plus compliqué que ça, mais ça va être un préalable. Il faut quand même s’occuper de ces choses-là.

Je remonte à Stallman. J’a mis le lien vers la conférence que Stallman a faite pour l’ADTE l’année dernière – comme ça Pierre Cohen ne pourra pas me dire tu ne nous cites pas !, donc je fais ça. C’est intéressant : quand vous écoutez Stallman, il parle de bons et de mauvais logiciels. Bons et mauvais logiciels ! À partir du moment où on parle de bon et de mauvais, c’est une approche éthique. Qu’est-ce que c’est un bon logiciel ? C’est un logiciel qui ne m’espionne pas. Et pour que je sache qu’il ne m’espionne pas, il faut que je puisse avoir accès à son code source, d’où le logiciel libre. Si je ne peux pas savoir ce que fait le logiciel parce qu’on me l’a caché, c’est un mauvais logiciel, c’est le logiciel non libre. C’est là que se trouvent les choses.
Pourquoi c’est une dimension éthique. Il y a d’ailleurs une double dimension éthique dans le logiciel libre. Le contrôle de nos informations dans les communications c’est la base, c’est la source de la liberté : liberté de presse, liberté d’association, liberté, etc. Il nous présente ça comme l’arche de la liberté. C’est ce qui motive Stallman avec le logiciel libre et qui a motivé la plupart des militants du logiciel libre.
Il y a une autre dimension, la dimension bien commun, parce que, dans la licence du logiciel libre, il y a une clause qui dit « si tu as fait quelque chose d’autre il faut le redonner aux autres ». Le bien commun c’est ça, c’est le passage : mes parents m’ont légué quelque chose que je vais léguer à mes enfants. Si je ne peux pas le léguer, il faut que je le lègue à quelqu’un d’autre. C’est ça l’idée du bien commun, c’est le passage de ce dont on a bénéficié aux autres. C’est une dimension purement éthique.
Là je vous dis faites attention. Souvent les gens parlent d’open source en disant que c’est la même chose. Pas du tout ! Les gens qui sont vraiment open source n’ont pas la dimension éthique. ils la rejettent même. Je vous ai mis ici un lien d’une magnifique interview de Linus Torvals et vous comprendrez bien, en l’écoutant, ce qu’est un bon programme pour lui : c’est un programme élégant qui ne bugue pas. Pourquoi aime-t-il les licences libres ? En fait, ce n’est pas la liberté qui l’intéresse, c’est juste le fait de pouvoir facilement partager son travail avec d’autres pour avoir un meilleur programme de geek. C’est très différent d’un point de vue éthique.
Au début on ne s’en rend pas compte, mais vous pouvez vous en rendre compte. Est-ce que les GAFAM utilisent du logiciel em>open source ? Oui, en quantité. Si on enlevait le logiciel em>open source des GAFAM, eh bien ils fermeraient leurs serveurs, donc ça en utilise en quantité. Est-ce que les GAFAM sont éthiques du point de vue de nos deux dimensions derrière le logiciel libre ? La réponse est non, évidemment. Ce n’est pas forcément qu’ils sont méchants mais c’est qu’ils ignorent cette chose-là.

Si je fais mon poste de travail en logiciel libre, parfait, je peux me protéger et c’est possible. À la maison, mon ordinateur est complètement libre, à deux trois détails près parce qu’il y a des drivers pour lesquels on ne peut pas faire autrement.

[Si maintenant je demande à quelqu’un d’exécuter ce programme libre pour moi parce que c’est plus pratique, parce que je ne suis pas capable, parce que, etc.]

Une autre idée. Moi je ne suis pas capable de lire le logiciel, mais je sais que le logiciel a été défini par une communauté dans laquelle j’ai confiance. Ce tiers est très important. Je ne peux pas me débrouiller tout seul, j’ai besoin d’une communauté autour d’un logiciel ou d’un assemblage de logiciels libres. Ça marche parce que je peux faire confiance à cette communauté. Ça veut dire que quand vous allez chercher un logiciel libre, il faut aller le chercher au cœur de la communauté, pas dans un autre endroit qui va en profiter pour mettre des cochonneries dedans. Ça, ça marche.
Si maintenant je ne l’utilise pas tout seul ça ne marche plus, parce qu’on peut le truquer. Pour un service informatique on a réglé. On a dit OK, mais ça c’est quand même possible, je peux définir une charte d’utilisation éthique d’un logiciel et demander au fournisseur de respecter la charte. Évidemment, pour ça il faudra que je paye un peu parce qu’à ce moment-là il ne pourra plus revendre mes données, donc il va falloir que je paye, il va falloir que j’accepte un certain nombre de choses.
À travers le monde, il y a par exemple Framasoft – Alexis Kauffman ne pouvait pas venir, c’est dommage, c’est le fondateur de Framasoft – qui nous a beaucoup inspirés. Sans eux, je pense qu’on n’aurait pas pu avancer comme on avance à l’heure actuelle. Framasoft. Aujourd’hui. ce sont huit personnes qui sont capables de le faire. En allant chercher des logiciels libres, elles sont capables – allez regarder la liste – de nous offrir à peu près tous les services gratuits que l’on connaît. Quand même ! Ça veut dire que ce logiciel existe de ce côté-là, donc on peut faire ça. Donc on peut aller utiliser Mastodon. Là ils se sont entendus. Il y a une norme de communication, Active Pub, qui a été faite avec Fediverse qui permet de faire ensemble. Intéressant de regarder.
PeerTube fait le job de YouTube. Ce n’est pas un clone de YouTube. YouTube est centralisé ce qui est d’ailleurs quelque chose qui est dangereux. La centralisation qu’a réussie les GAFAM est très dangereuse pour nous. En plus, on ne sait pas dans quelles mains ça va tomber. Il y a des gens qui disent ça ne peut pas ! Qui, en 1930 en France, pensait que les nazis allaient faire ce qu’ils ont fait ? Est-ce qu’aujourd’hui ça peut nous retomber sur la tête ? Il y a des gens qui espèrent que non !
Qu’est-ce que fait PeerTube ? Ils utilisent le peer-to-peer : vous créez un petit serveur dans lequel vous allez pouvoir stocker des vidéos et les gens vont pouvoir se connecter à travers l’Internet justement, mais maintenant en mode peer-to-peer ce qui fait que s’il y a 100 personnes qui vont en même temps, ces 100 personnes vont s’échanger des bouts de vidéos en déchargeant le serveur central. C’est une bien meilleure utilisation d’Internet que celle que fait YouTube à l’heure actuelle. Là aussi ce sont quelques personnes qui ont mis trois ou quatre ans à le rendre opérationnel. Vous pouvez y aller aujourd’hui, d’ailleurs vous pouvez aller voir une petite vidéo qui a été déposée dedans, qui interviewe des créateurs de l’attraction dans Internet commun et qui commencent à regretter ce qu’ils ont fait.

26’ 27

Donc moi je pouvais, grâce à mes copains de Linuq, aller installer sur mon petit serveur Raspberry à la maison l’ensemble des services. Pourquoi aller sur Google Date ou quelque chose comme ça, je peux m’installer en deux minutes, sur mon ordinateur. Évidemment, c’est juste une démonstration, je ne veux pas dire que l’université peut faire tout ça tout de suite immédiatement. Mais si moi je peux le faire tout seul avec l’aide de trois petits copains dans Linuq, il faudrait quand même regarder ce qui s’est passé là-dedans. Josiane tu parlais d’aquarelles, vous pouvez aller sur mon site [3], c’est un wiki qui tourne soit sur mon Rapsberry soit sur un truc OVH et vous verrez que la vitesse de réponse est étonnante. C’est la même que si je le mettais sur un des serveurs que j’ai à l’université. Installer un wiki comme ça c’est facile.

Pour préserver mon intimité et mon choix, je dois utiliser du logiciel libre, c’est un préalable. Je dois utiliser des services qui me respectent, mais là il y a un problème. Je mets mon courriel daniel@pascot.ca, je vais sur un chaton pour pouvoir le faire parce que j’ai eu peur de mettre le courriel tout seul, c’est un peu plus difficile, mais là maintenant, OK, ça va. Et si on m’envoie un Gmail ? Je suis foutu ! Je suis foutu, mon effort est cassé. Est-ce que moi j’ai accepté les conditions d’utilisation de Gmail ? Non ! Voilà le problème. Et là, tout d’un coup, je découvre qu’irrémédiablement je suis lié à tous les autres. À partir du moment où je passe par Internet, je suis lié.
Alors on est tous responsables et arrive le problème éthique. Je pensais que ça allait être simple quand j’ai proposé à Pierre d’être retraité. Eh bien non ! Donc au mois de janvier l’angoisse. C’est même un peu avant. Là je plonge dans l’éthique et là je ne comprends plus rien, parce que ce n’est pas forcément facile et je me pose des questions. Je ne peux pas me séparer des autres. Qu’est-ce que je vais faire ? Est-ce qu’il faut attendre qu’un gouvernement impose cela à tout le monde ? Est-ce qu’on dit tant pis, la vie privée c’est foutu, c’est comme en Chine on est foutus ? Etc.
Alors je plonge sur l’étique et je vais voir ma collègue Anne Chartier et je lui demande ce qu’on donne dans le cours d’éthique. Je vais regarder ce qu’on utilise dans ce domaine, il y a livre [Ethics for the Information Age, Michael Quinn] qui fait à peu près référence ; je prends le livre et je le lis ; ça ce n’est pas très compliqué. Les philosophes c’est plus difficile à lire mais ces choses ce n’est pas très compliqué. Je comprends effectivement que derrière ça il y a une première notion de morale. Ce qui va définir ce qui est bon et ce qui est mauvais c’est la morale. À partir de là, la déontologie c’est quoi ? C’est pratiquer comme il faut la morale, exactement comme nous, chercheurs à l’université, on a un code de déontologie auquel il faut répondre ; on nous dit « un bon comportement moral vis-à-vis de tes enquêtés c’est ça ». Donc on a mis une procédure pour le comportement, c’est la déontologie pour pouvoir faire ça.
Maintenant où arrive l’éthique ? Et c’est là que je butais. Pourquoi on fait ça ? Pourquoi quelque chose est moral ? On commence à se poser des questions : quelle est la validité de ma réponse ? Est-ce qu’elle est absolue ? Et là il faut plonger dans Kant, dans tous ces gens-là. Là ça allait à peu près.
Si je prends le livre, que fait ce livre-là, il fait à peu près ça, il va dire qu’il existe une informatique, voici ce qu’est l’informatique, ça c’est bon, on le savait.
Maintenant quelles sont les démarches philosophiques qui peuvent exister ? On nous parle du relativisme spécifique, du relativisme culturel, etc. Je ne veux pas rentrer là-dedans, mais juste pouvoir positionner ça. Ensuite on prend chacune de ces approches philosophiques, en quelque sorte, et on les met en regard de cas pratiques en disant « si vous avez cette approche vous allez faire ça ». C’est utile, ça m’a aidé pas mal à résoudre. Qu’est-ce qui ressort quand on va faire ça ? On va dire qu’on est toujours dans la situation où un codeur fait face à des clients. Dans toutes ces réflexions-là c’est ce qui se passe : un codeur est face à des clients. Qu’est-ce qu’on dit au codeur ? On lui dit : « Il va falloir que tu produises un logiciel qui respecte tes clients en respectant en même temps au mieux les lois et la doxa existante ». C’est à peu ce qu’on trouve, ce qui est déjà utile de ce côté-là.
Les gens qui commencent à penser impact global, on voit qu’il y a un thème qui apparaît, un concept, la responsabilité. Et quand je lisais la nouvelle mission de l’université, j’ai vu que la valeur numéro 1 c’était la responsabilité. J’étais bien content de voir ça.
Je vais voir la déclaration IA de Montréal, Je ne sais pas si vous l’avez lue, je l’ai lue. La première fois que je l’ai lue, je l’ai lue un peu vite, j’avais lu le résumé, mais ça nous donne une toute série de choses : qu’est-ce qui est moral, en quelque sorte. Une fois que je lis ça et que je mets en face du problème que j’avais, je dis so what!. Il y a beaucoup de choses là-dedans. Pourquoi je vais les utiliser. En allant on voit déjà apparaître un certain nombre de choses.
On a une limite, l’approche client et nous connaissons bien cette limite-là. Par exemple, une des personnes qui m’a beaucoup inspirée c’est Benjamin Bayart ; dans une conférence il disait : « J’ai vu un médecin qui venait dire on a construit un beau système pour aider les infirmières à bien soigner les patients », mais malheureusement il y a un cadre qui a dit : « Oh !, avec ça, je peux connaître les infirmières, je peux contrôler les infirmières », et là-dessus il a construit, il a fait dériver le système pour faire un système de contrôle. Ça existe même dans l’université ça ! Quel a été le résultat ? Eh bien l’inverse. On a moins soigné les patients, mais on a contrôlé et oppressé les infirmières au nom du contrôle de la qualité. Des fois je disais à mes étudiants allez donc lire La Revanche du Rameur du docteur Dominique Dupagne, vous allez être éduqués, vous comprendrez les ravages que peut faire l’approche contrôle de qualité dans nos organisations.
Prenons un logiciel d’intelligence artificielle. On a une équipe qui travaille sur faire du code pour pouvoir contrôler un robot qui va récupérer des gens par exemple après un tremblement de terre. On peut utiliser le même code pour faire un robot tueur. Il y a un problème, qui était le client au départ ? Vous voyez, j’arrive à qui est le client. On peut multiplier les exemples de cette manière-là.
Et là heureusement j’étais en France pour échapper à l’hiver, en Provence, et il faisait beau. J’achète le numéro spécial Philosophie Magazine qui est consacré à Emmanuel Levinas et tout d’un coup j’ai eu un éclairage. Il construit en partie, c’est plus que ça, il explique sa philosophie, son éthique à partir d’une phrase de Dostoïevski dans Les Frères Karamazov – j’avais lu dans le temps, mais je ne m’en étais pas rendu compte – « chacun de nous est coupable devant tous pour tout et moi plus que tous les autres ». C’est vraiment une position éthique fondamentale. Et là j'ai cliqué. J'ai dit « là je suis dans un problème où on est tous responsables, qu’est-ce que je dois faire ? » Là je suis conscient des autres dont je partage l’existence. Je ne suis pas tout seul sur Internet, je sais qu’il y a d’autres personnes. Chacun, en commençant par moi, a la responsabilité de bien se comporter. C’est mon interprétation, je suis allé lire, au début je n’ai rien compris. Allez lire Levinas, c’est spécial – j’ai presque fini, merci. Donc j’avais toute une série de choses comme ça. Je saute sur Levinas. Donc en raison de cette éthique chaque fois qu’un autre est impliqué je suis responsable pour les autres. Et pire que ça, je suis responsable sans les entendre, je dois donc avoir un comportement exemplaire en ce qui concerne la vie privée et, au minimum, en utilisant un logiciel libre.
Là juste un parallèle que j’ai déjà fait un peu : les deux grands murs auxquels nous faisons face en termes de civilisation maintenant c’est probablement l’écologie et le contrôle social de nos vies. Et là je vais voir l’université et je pose la question : l’université doit-elle être exemplaire en ce qui concerne le respect de la vie privées numérique de ses étudiants, employés, partenaires et du public. La réponse est difficilement non ! La réponse va être oui. Alors si c’est ça, il va falloir faire des efforts. Quand je regarde les critères qui ont été utilisés jusqu’ici pour faire les choix informatiques actuels, je vois des tas de critères, je les comprends, mais jamais quand j’étais dans l’université je n’ai vu apparaître le critère éthique.
Quand je vais maintenant regarder la mission de l’université qui a été révisée en 2018, je ne le savais pas mais du coup je suis retourné la voir, eh bien on commence à dire qu’on est responsable sur l’écologie. Pourquoi ne serait-on pas aussi responsable sur l’informatique ?
Je regarde la situation actuelle. C’est sûr qu’au départ ça a l’air immense et très compliqué, mais finalement ça ne l’est pas tant que ça parce qu’il y a des bonnes choses. Il suffit d’aller lire les conditions d’utilisation d’ulaval.ca qui est, je pense, toujours sur du logiciel libre de toute façon. C’est bien fait, il y a une politique de sécurité de l’université. C’est bien fait. Il y a ??? qui est un logiciel maison, comme s’il était libre. Donc il y a beaucoup de choses qui sont faites comme ça.
Cela fait que la route semble impossible. Eh bien je pense qu’elle est quand même possible : il y a de nombreux logiciels qui existent ; toutes les « fautes » n’ont pas la même conséquence et il faut faire suivre d’un peu de pragmatisme.
Une petite idée importante au passage, de Roberto Di Cosmo, qui est un militant du logiciel libre, qu’on a eu à l’ ADTE l'année dernière. Je l’avais d’ailleurs invité dans mon premier cours « logiciel libre et société » pour nous parler de qu’il faisait. Il vient de faire un projet magnifique Software Heritage. Je me dis que tous les logiciels qu’on utilise dans un endroit, responsables éthiquement, devraient être déposés dans Software Heritage pour une garantie d’ouverture, de loyauté et de pérennité.

Je vais conclure en disant un truc bizarre. Les gens savent qu’on a vécu une longue opposition Linux/Windows, Linux/Microsoft. Eh bien c’est chose du passé. Je vais vous donner un petit exemple : Qwant. Qwant est le moteur de recherche que j’utilise parce qu’il est éthique, il nous respecte. C’est européen. Il vient de s’associer à Microsoft pour compléter son service informatique. Mais on peut le faire d’une manière éthique. Pourquoi ? Parce que construire un moteur de recherche ça demande d’aller chercher des dizaines de milliards de pages sur Internet, c’est gros quand même ! Ça demande de l’indexer. Alors ils ont leurs propres serveurs, etc., mais à un moment donné, ils manquent de ressources. Donc ils sont allés voir Microsoft de plusieurs manières, mais d’une manière en disant « j’ai besoin de ressources. Vous utilisez l’infrastructure de support qu’il faut. Vous utilisez Kubernetes, vous utilisez des trucs comme ça, donc je peux transporter, donc je vais aller prendre de la ressource informatique chez vous. Mais attention ! Chez vous il n’y aura jamais que des données publiques. Les données privées que j’aurais fabriquées avec mes utilisateurs vont rester chez moi ». Donc on se trouve dans une situation où il faut réinventer.
Je vais conclure en 30 secondes : dans la démarche que j’ai faite j’étais un peu tout seul. Eh bien non j’avais besoin des gens et j’ai dû comprendre la technologie qui était derrière. À un moment donné, j’ai dû faire un saut dans l’éthique. Ça n’a pas été très facile, mais du coup je me dis quand même un petit fait à l’idée, je suis allé voir Thomas De Koninck, on s’est rencontrés une ou deux fois, il m’a fortement encouragé. Il m’a dit la piste de la responsabilité de Levinas est probablement une bonne piste. C’est l’état de ma réflexion. Vous savez que Michel Serres est mort la semaine dernière, dimanche, et Michel serres militait pour enlever cette barrière entre le Nord et le Sud, l’Est et l’Ouest. Les scientifiques doivent parler aux philosophes. Et ce sont probablement les philosophes qui vont nous aider à réinventer l’avenir dont on a besoin.
Merci.

[Applaudissements]