|
|
| (11 versions intermédiaires par 2 utilisateurs non affichées) |
| Ligne 1 : |
Ligne 1 : |
| | [[Catégorie:Transcriptions]] | | [[Catégorie:Transcriptions]] |
| | | | |
| − | '''Titre :''' Faut-il avoir peur des algorithmes ?
| + | Publié [https://www.april.org/faut-il-avoir-peur-des-algorithmes-aurelie-jean-jean-francois-bonnefon-grand-bien-vous-fasse ici] - Juillet 2020 |
| − | | |
| − | '''Intervenant·e·s :''' Aurélie Jean - Jean-François Bonnefon - Ali Rebeihi
| |
| − |
| |
| − | '''Lieu :''' Émission <em>Grand bien vous fasse</em>, France Inter
| |
| − | | |
| − | '''Date :''' février 2020
| |
| − | | |
| − | '''Durée :''' 45 min 20 [la chronique « Pas son genre » de Giulia Foïs n'est pas transcrite]
| |
| − | | |
| − | '''[https://rf.proxycast.org/65322e2d-6129-4ec3-bf7f-07a7e6831da0/16173-20.02.2020-ITEMA_22287503-0.mp3 Écouter ou enregistrer le podcast]'''
| |
| − | | |
| − | [https://www.franceinter.fr/emissions/grand-bien-vous-fasse/grand-bien-vous-fasse-20-fevrier-2020 Présentation de l'émission]
| |
| − | | |
| − | '''Licence de la transcription :''' [http://www.gnu.org/licenses/licenses.html#VerbatimCopying Verbatim]
| |
| − | | |
| − | '''Illustration :'''
| |
| − | | |
| − | '''NB :''' <em>transcription réalisée par nos soins, fidèle aux propos des intervenant·e·s mais rendant le discours fluide.<br/>
| |
| − | Les positions exprimées sont celles des personnes qui interviennent et ne rejoignent pas nécessairement celles de l'April, qui ne sera en aucun cas tenue responsable de leurs propos.</em>
| |
| − |
| |
| − | Transcrit : MO
| |
| − | | |
| − | ==Transcription==
| |
| − | | |
| − | <b>Ali Rebeihi : </b>Bonjour à tous. Soyez les bienvenus en direct ou en podcast. Vous le verrez ce matin un algorithme est une suite d’opérations ou d’instructions qui permettent de résoudre un problème ou d’obtenir un résultat.<br/>
| |
| − | Les algorithmes numériques nous accompagnent dans tous les domaines de notre existence quand nous utilisons, par exemple, nos smartphones ou nos ordinateurs ? Faut-il vraiment avoir peur des algorithmes numériques ? Quels dangers réels représentent ces algorithmes dont on ne peut plus se passer ?<br/>
| |
| − | Le vrai danger c’est peut-être les biais algorithmiques, l’équivalent des biais cognitifs pour les humains. Des biais algorithmiques qui peuvent conduire à des erreurs et à des discriminations quand, par exemple, les premiers outils de reconnaissance faciale ne prenaient pas en compte les peaux noires.<br/>
| |
| − | On s’intéressera également aux vertigineux dilemmes moraux que posent les algorithmes des voitures sans conducteur qui devront privilégier soit la sécurité des passagers soit celle des piétons.
| |
| − | | |
| − | Pour nous éclairer ce matin, l’entrepreneur Aurélie Jean et le chercheur Jean-François Bonnefon.<br/>
| |
| − | Avez-vous peur des algorithmes ou alors pas du tout ? 01 45 24 7000, sans oublier la page Facebook de <em>Grand bien vous fasse</em> et l’appli France Inter.<br/>
| |
| − | Vers 11 heures moins 25 vous retrouverez la chronique « Pas son genre » de Giulia Foïs.
| |
| − | Bienvenue dans <em>Grand bien vous fasse</em>, la vie quotidienne, mode d’emploi.
| |
| − | | |
| − | <b>Voix off : </b>France Inter, <em>Grand bien vous fasse</em>, Ali Rebeihi.
| |
| − | | |
| − | <b>Ali Rebeihi : </b>Bonjour Aurélie Jean.
| |
| − | | |
| − | <b>Aurélie Jean : </b>Bonjour Ali.
| |
| − | | |
| − | <b>Ali Rebeihi : </b>Vous êtes docteur en sciences et chef d’entreprise, ancienne élève de Normale Sup, de Mines Paris Tech, chercheuse au MIT aux États-Unis.
| |
| − | | |
| − | <b>Aurélie Jean : </b>Ancienne chercheuse.
| |
| − | | |
| − | <b>Ali Rebeihi : </b>Ancienne chercheuse mais tout de même. Vous publiez aux éditions de L’observatoire <em>De l’autre côté de la machine. Voyage d’une scientifique au pays des algorithmes</em>, ce titre fait évidemment référence à Lewis Carroll, <em>De l’autre côté du miroir</em>, c’était la suite de <em>Alice au pays des merveilles</em>
| |
| − | | |
| − | <b>Aurélie Jean : </b>Oui. Absolument c’est une belle référence à Lewis Carroll et je parle d’ailleurs dans le livre de cette œuvre qui m’est très chère.
| |
| − | | |
| − | <b>Ali Rebeihi : </b>Pourquoi ce titre ?
| |
| − | | |
| − | <b>Aurélie Jean : </b>Déjà parce que c’était dans le concept, l’ADN de la collection De facto créée par Gaspard Koenig au sein de L’observatoire et c’est vrai que c’est intéressant parce que le meilleur moyen pour faire comprendre les choses aux gens c’est de les emmener de l’autre côté de l’objet qui les sépare de ce monde et en l’occurrence, dans mon cas, c’étaient les algorithmes et c’est une manière assez douce pour les amener gentiment, justement, vers ce monde dont ils ont peur.
| |
| − | | |
| − | <b>Ali Rebeihi : </b>Bonjour Jean-François Bonnefon.
| |
| − | | |
| − | <b>Jean-François Bonnefon : </b>Bonjour.
| |
| − | | |
| − | <b>Ali Rebeihi : </b>Vous êtes docteur en psychologie cognitive, directeur de recherche à la fameuse <em>Toulouse School of Economics</em>, vous êtes médaille de bronze du CNRS et vous publiez chez HumenSciences <em>La voiture qui en savait trop. L’intelligence artificielle a-t-elle une morale ?</em>. Votre titre se réfère bien évidemment au célèbre film de Hitchcock, <em>L’Homme qui en savait trop</em>.
| |
| − | | |
| − | <b>Jean-François Bonnefon : </b>C’est ça.
| |
| − | | |
| − | <b>Ali Rebeihi : </b>Il sera question de psychologie morale, avec vous, dans la seconde partie de l’émission. Expliquez-nous ce qu’est la psychologie morale en quelques mots.
| |
| − | | |
| − | <b>Jean-François Bonnefon : </b>La psychologie morale c’est comprendre comment les gens décident de ce qui est bien ou ce qui est mal. C’est très différent, par exemple, de la philosophie morale qui essaie de déterminer ce qui est bien et ce qui est mal. La psychologie morale c’est une description de comment les gens arrivent à ce genre de jugement.
| |
| − | | |
| − | <b>Ali Rebeihi : </b>Comment expliquer ce qu’est un algorithme à un enfant de dix ans, Aurélie Jean ? J’ai parfois utilisé, dans cette émission, l’exemple de la recette de cuisine pour expliquer ce qu’est un algorithme et je mérite un gros pan sur le bec, Aurélie Jean.
| |
| − | | |
| − | <b>Aurélie Jean : </b>Non parce qu’en fait, comme vous l’avez très bien dit, vous avez donné un exemple. La recette de cuisine est un algorithme mais dire que l’algorithme est une recette cuisine, je trouve que c’est un petit peu…
| |
| − | | |
| − | <b>Ali Rebeihi : </b>Simpliste.
| |
| − | | |
| − | <b>Aurélie Jean : </b>Oui. En fait c’est trop simpliste parce qu’après, du coup, on a du mal à comprendre les concepts un peu plus abstraits qui sont propres à l’algorithmique. Donc ce que je dis c’est que la recette de cuisine est un algorithme, mais que l’algorithme n’est pas une recette de cuisine.
| |
| − | | |
| − | <b>Ali Rebeihi : </b>Alors c’est quoi un algorithme ?
| |
| − | | |
| − | <b>Aurélie Jean : </b>C’est ce que vous avez dit en introduction et c’est très bien dit, c’est-à-dire que c’est un ensemble d’opérations à exécuter selon une certaine logique pour résoudre un problème, répondre à une question, obtenir un résultat par rapport à un problème donné.
| |
| − | | |
| − | <b>Ali Rebeihi : </b>Vous comprendrez que ça fasse peur les algorithmes ? Le mot algorithme ?
| |
| − | | |
| − | <b>Aurélie Jean : </b>Oui, le mot fait peur parce qu’en fait on l’associe à tous les scandales qu’on a pu entendre, voir, sur lesquels on a pu lire ces deux dernières années. C’est vrai que dès qu’on parle d’algorithmique et des algorithmes, on les personnifie, c’est-à-dire qu’on leur attribue des caractères anthropomorphiques : on parle d’algorithmes sexistes, injustes, discriminatoires, racistes. Ce sont des choses qui font relativement peur, donc il faut sortir de cette passion pour raisonner sur les débats actuels.
| |
| − | | |
| − | <b>Ali Rebeihi : </b>Pouvez-vous nous donner des exemples d’algorithmes numériques utilisés dans la vie de tous les jours, des algorithmes présents dans notre vie quotidienne, du matin au soir, toute l’année, qui nous accompagneront certainement jusqu’à notre dernier souffle.
| |
| − | | |
| − | <b>Aurélie Jean : </b>Il y en a plein, la liste est longue. Par exemple, quand vous décidez d’utiliser une application qui va vous définir le chemin le plus optimal pour aller d’un point à un autre, que ce soit dans les transports en commun ou à pied ou en voiture, ce sont trois modes différents, ça va dépendre des outils. Il y a des algorithmes qui vont regarder le chemin le plus court, d’autres algorithmes qui vont prendre en considération le trafic des voitures et d’autres algorithmes qui vont aussi prendre en considération le trafic des transports en commun à savoir lorsqu’il y a des grèves ou des accidents. Donc c’est un exemple parmi tant d’autres.
| |
| − | | |
| − | <b>Ali Rebeihi : </b>Les applis de rencontre aussi ?
| |
| − | | |
| − | <b>Aurélie Jean : </b>Les applis de rencontre aussi, plein de choses. Quand vous allez, par exemple, sur un site pour aller acheter un produit en particulier il y a des algorithmes, entre autres, de captologie ou des algorithmes d’optimisation pour optimiser votre « parcours client », comme on dit, des choses comme ça.
| |
| − | | |
| − | <b>Ali Rebeihi : </b>Quelle est l’origine du mot « algorithme », qui s’écrit sans « y ». Il faut partir du côté de la Perse.
| |
| − | | |
| − | <b>Aurélie Jean : </b>Oui, exactement, vous avez très bien dit. Même si aujourd’hui on parle d’algorithmes numériques qui sont essentiellement écrits, codés dans un programme informatique pour tourner sur un ordinateur, traditionnellement, historiquement l’algorithme est fait pour être écrit à la main et résolu à la main. Le mot « algorithme » vient du mot latin <em>Algoritmi</em> qui est, en fait, le nom latin du grand mathématicien perse Al-Khwârizmî dont le nom provient aussi, en fait, du mot algèbre. En fait, le concept de science algorithmique est même bien plus ancien, au 3e siècle avant notre ère : Al-Khwârizmî c’est 9e siècle de notre ère. C’est aussi 3e siècle avant notre ère avec les cours de logique d‘Euclide et son livre, son œuvre les <em>Éléments</em> qui donne des processus de raisonnement logique pour résoudre des problèmes et entre autre démontrer les théorèmes.
| |
| − | | |
| − | <b>Ali Rebeihi : </b>Je redis le nom de ce mathématicien, Muhammad Ibn Mūsā al-Khuwārizmī, et son nom a été latinisé en <em>Algoritmi</em> qui donnera donc algorithme.<br/>
| |
| − | Vous, votre premier algorithme vous l’écrivez à l’âge de 19 ans, Aurélie Jean ?
| |
| − | | |
| − | <b>Aurélie Jean : </b>Oui. C’est intéressant parce que je le fais écrire dans le livre par les gens. C’est une belle manière de démystifier la discipline et leur montrer que c’est possible.<br/>
| |
| − | Moi c’est à l’âge de 19 ans. Je faisais des cours de maths et de physique à Sorbonne Universités et j’ai décidé de prendre un cours optionnel de sciences informatiques, d’abord par une frustration de ne pas comprendre ce que sont les sciences informatiques, je ne sais pas si c’est la meilleure motivation mais c’est un driver comme un autre. Et en fait, durant ce cours, j’ai passé mes six premiers mois avec un papier et un crayon à écrire des algorithmes. Ça a été la découverte de cette science. Mon premier algorithme, dont je parle dans le livre et que les gens peuvent écrire avec moi, c’est un algorithme assez simple en soi.
| |
| − | | |
| − | <b>Ali Rebeihi : </b>Je l’ai compris !
| |
| − | | |
| − | <b>Aurélie Jean : </b>Vous l’avez compris ? C’est bien. C’est un algorithme pour trier dans l’ordre croissant des nombres entiers, des nombres naturels dans un tableau. C’est très rigolo. Au début, quand j’explique, je dis « tout le monde sait résoudre ce problème, c’est facile, maintenant c’est : est-ce que vous allez pouvoir le résoudre le plus rapidement possible ? » Et c’est là où la science algorithmique intervient.
| |
| − | | |
| − | <b>Ali Rebeihi : </b>Qu’est-ce qui vous fascine dans la science algorithmique ?
| |
| − | | |
| − | <b>Aurélie Jean : </b>Il y a plusieurs choses. Déjà parce que j’adore le caractère mathématique appliquée de la science algorithmique. Ce que j’aime beaucoup, en fait, c’est que ça permet de résoudre des problèmes concrets par une voie optimale en termes de nombre d’opérations à exécuter. C’est vraiment le côté résoudre des problèmes concrets.
| |
| − | | |
| − | <b>Ali Rebeihi : </b>Un exemple ?
| |
| − | | |
| − | <b>Aurélie Jean : </b>Typiquement, le cas du tableau est un exemple parce que c’est vrai qu’on passe sa vie à trier des choses dans les problèmes aujourd’hui. Par exemple ce que j’ai fait dans ma thèse ou même plus tard dans ma recherche quand j’ai travaillé sur le traumatisme crânien, c’est grâce à des modèles mathématiques que j’ai traduits sous forme algorithmique pour faire des simulations, que j’ai pu établir une loi qui a estimé, qui estime toujours d’ailleurs, les risques d’un humain d’avoir un traumatisme crânien par rapport à l’énergie, au type de choc qu’il ou elle a pu recevoir à la tête. Je trouve que c’est quand même fascinant d’arriver à résoudre un problème concret. Après c’est un ensemble, ce n’est pas un algorithme, il y a plein d’algorithmes dans ce modèle, mais c’est quand même dingue de voir qu’on arrive à résoudre des problèmes concrets en passant par le virtuel parce que, quelque part, l’algorithmique, en tout cas numérique, c’est aussi passer par la virtualisation des phénomènes, de l’autre côté de la machine, dans la machine, en l’occurrence dans l’ordinateur.
| |
| − | | |
| − | <b>Ali Rebeihi : </b>Jean-François Bonnefon, on peut peut-être avoir peur des algorithmes des voitures sans conducteur ? C’est toute la question de votre livre.
| |
| − | | |
| − | <b>Jean-François Bonnefon : </b>Oui, parce que l’algorithme d’une voiture sans conducteur c’est vraiment un cas extrême de décision automatique, en partie à cause de ses enjeux puisque là on parle de l’intégrité physique des passagers ou des gens qui sont sur la route donc de conséquences qui sont assez graves potentiellement. Et puis aussi parce que, en général, quand il y a une décision qui est prise par un algorithme, c’est plutôt une suggestion, surtout quand il y a des conséquences potentiellement graves, il y a un humain qui va, à un moment, être dans la boucle, valider la décision, l’examiner.<br/>
| |
| − | Les voitures sans conducteur la prise de décision automatique se produit à un tel rythme qu’on est dans un cas où il est difficile de mettre un humain dans la boucle à chaque fois.
| |
| − | | |
| − | <b>Ali Rebeihi : </b> « Faut-il avoir peur des algorithmes ? », c’est le titre de cette émission, mais n’oublions pas leurs bienfaits, notamment dans le domaine de la recherche médicale. Aurélie Jean.
| |
| − | | |
| − | <b>Aurélie Jean : </b>Oui, pas que dans la recherche, même dans la pratique médicale clinique aujourd’hui, les algorithmes interviennent par exemple pour faire des tests biologiques où on va pouvoir analyser des prélèvements de façon automatique, mais ça fait très longtemps qu’on est capables de faire ça. Par exemple, on parle beaucoup des algorithmes qui vont aller détecter, pré-détecter des tumeurs sur des radiographies. Ça peut être beaucoup de choses, des algorithmes qui vont peut-être optimiser certains diagnostics, il y a plein de choses qui se font. Comme le dit très bien Jean-François, il faut le redire, l’algorithme fournit une suggestion. La décision nous appartient.
| |
| − | | |
| − | <b>Ali Rebeihi : </b>Ça, on l’oublie souvent !
| |
| − | | |
| − | <b>Aurélie Jean : </b>On l’oublie souvent et je trouve que c’est intéressant de le dire parce que ça nous permet de nous positionner par rapport à ces algorithmes qui nous donnent des suggestions. Et je le dis d’autant plus que dans le cas de la voiture autonome, comme vous l’avez dit, c’est un peu une décision unilatérale, mais c’est vrai qu’il y a beaucoup de choses où on a l’impression qu’on n’a pas le choix alors qu’en fait on l’a. Par exemple lorsque vous parliez des applications de rencontre, l’application de rencontre vous donne une suggestion d’individu, ça ne veut pas dire que c’est la bonne personne !
| |
| − | | |
| − | <b>Ali Rebeihi : </b>Est-ce que nous sommes atteints d’anti-algorithmie primaire, dans le grand public, dans les médias ?
| |
| − | | |
| − | <b>Aurélie Jean : </b>Je n’espère pas sinon mon métier est en danger ! Plus sérieusement, je pense que les gens ont peur de cette discipline parce qu’ils ne la comprennent pas et parce que, aussi, il y a beaucoup de gens qui créent des fantasmes autour de ces entités mathématiques : on imagine que l’algorithme va tout remplacer, l’algorithme va pouvoir avoir des émotions, va pouvoir avoir une âme. Non, ce n’est pas possible, c’est impossible. Le vrai discours est un peu moins sexy, peut-être, mais en tout cas vrai et beaucoup plus rationnel.
| |
| − | | |
| − | <b>Ali Rebeihi : </b>Nous avons peur parce que nous n’avons pas la culture scientifique suffisante, peut-être, dans le grand public pour comprendre tous ces grands enjeux ?
| |
| − | | |
| − | <b>Aurélie Jean : </b>Oui. C’est le cas de beaucoup de sujets, en fait, ce n’est pas propre aux algorithmes. Lorsqu’on a commencé à travailler sur la génétique, par exemple, ça a créé beaucoup de fantasmes et ça a fait très peur, alors qu’aujourd’hui on fait beaucoup de choses en génétique et ça nous parait normal. Je pense que c’est vraiment essayer de démystifier, essayer aussi de montrer les vraies menaces. Vous parliez de biais algorithmiques, c’est une vraie menace que les gens commencent à connaître, mais en fait ça fait longtemps, très longtemps qu’on travaille dessus.
| |
| − | | |
| − | <b>Ali Rebeihi : </b>Expliquez, en deux mots, parce qu’on va y revenir largement dans l’émission. Qu’est-ce qu’un biais algorithmique ?
| |
| − | | |
| − | <b>Aurélie Jean : </b>En fait, comme vous l’avez très bien dit, on a tous de biais cognitifs liés à notre histoire, liés à notre langue, à notre religion, peu importe, notre culture, et en fait, typiquement, on a tendance à introduire des biais cognitifs dans les choses qu’on développe. Ça peut être un texte, ça peut être un produit tangible, donc ça peut être aussi un algorithme. En fait on transfère nos propres biais cognitifs aux algorithmes et ça devient des biais algorithmiques qui ont comme conséquence, par exemple comme vous l’avez très bien dit, d’écarter une partie de la population de l’usage de l’outil et c’est le cas des premiers algorithmes de reconnaissance faciale qui ne reconnaissaient pas les peaux noires.
| |
| − | | |
| − | <b>Ali Rebeihi : </b>Je m’adresse au docteur en psychologie cognitive. C’est quoi un biais cognitif ? Donnez-nous un exemple de biais cognitif.
| |
| − | | |
| − | <b>Jean-François Bonnefon : </b>Par exemple, on peut avoir le biais de ne chercher que des informations qui nous confortent dans ce que nous croyons déjà et d’éviter des informations qui nous mettent en doute. Un biais cognitif c’est un processus psychologique qui nous pousse toujours dans la même direction pour des résultats qui sont suboptimaux.
| |
| − | | |
| − | <b>Ali Rebeihi : </b>Avez-vous peur des algorithmes ou alors pas du tout ? N’hésitez pas à nous appeler, à poser toutes vos questions au 01 45 24 7000.<br/>
| |
| − | Alexia Rivière, Julia Macarez et Clément Martin m’ont aidé à préparer cette émission réalisée par Claire Destacamp. Belle journée à l’écoute de France Inter.
| |
| − | | |
| − | <b>Pause musicale : </b><em>Aline</em> par Christophe.
| |
| − | | |
| − | <b>Ali Rebeihi : </b>Christophe interprétait em>Aline</em>.
| |
| − |
| |
| − | <b>Voix off : </b>« Je pense avoir trouvé l’algorithme pour se faire des amis. – Arrête il n’y a pas d’algo pour se faire des amis. – Allô ! Peut-être le temps de boire une boisson chaude, les plus appréciées sont le café ou le chocolat. »<br/>
| |
| − | Ali Rebeihi sur France Inter.
| |
| − | | |
| − | | |
| − | ==15’38==
| |
| − | | |
| − | <b>Ali Rebeihi : </b>10 heures 21. Faut-il avoir peur des algorithmes ?,
| |
