« L’impact des algorithmes sur nos vies » : différence entre les versions

De April MediaWiki
Aller à la navigationAller à la recherche
Ligne 39 : Ligne 39 :


<b>Matthieu Trubert : </b>Merci Gauthier. Bonsoir tout le monde.<br/>
<b>Matthieu Trubert : </b>Merci Gauthier. Bonsoir tout le monde.<br/>
Il faut revenir rapidement sur l'origine du management algorithmique. Effectivement, depuis même pas quelques années, on en parle de plus en plus, mais c'est à une terminologie qui est assez récente, de 2015, qui coïncide avec l'apparition des plateformes. C’est une fameuse étude d'une université américaine justement sur l'impact de ce management qui est basé sur les données, cet impact sur les travailleurs humains et les pratiques de travail ; c’était dans le contexte d'Uber et de Lift ??? [4 min 37]. Donc apparition conjointe avec les plateformes.<br/>
On a un donc concept qui associe ces deux mots de management et d'algorithmes. Ce qui est intéressant c'est que le mot management vient du vieux français « ménager », tenir les rênes d'un cheval. C'est un mot qui a été repris aux États-Unis et qui n'est pas si vieux que ça puisque ça se répand au début des années 50 avec le livre de Peter Drucker sur les pratiques du management, mot qui a posé énormément de problèmes à la traduction. C'est intéressant, je pense, de revenir à cette notion de « celui qui tient les rênes de l'attelage ou du cheval ».<br/>
Algorithme est effectivement un très vieux mot, qui date de bien avant l'informatique, qui dérive du nom d'un mathématicien persan du 9e siècle, Al-Khwârizmî, je le prononce très mal je suis désolé. Il y a aussi une étymologie que je trouve intéressante si on la ramène au grec, à la fois <em>algos</em> et <em>aritmos</em>, le calcul douloureux, sous-entendu à faire à la main.<br/>
Du coup, si on applique ça au management, il y a cette idée qu’on est arrivé à une époque et à des organisations du travail où, finalement, tenir les rênes de l'attelage pour le management et comprendre le management de proximité est devenu quelque chose de pénible, de douloureux, de fastidieux.
Si on se penche un peu plus sur l'usage et la pratique du management algorithmique, un point que je trouve fondamental et très intéressant c'est qu'il va concerner toutes les catégories socio-professionnelles.<br/>
Dans un très grand écart, le premier exemple qui peut venir en tête ce sont les entrepôts d'Amazon, la partie distribution d'Amazon avec des travailleurs dans ces entrepôts qui se font dicter leurs consignes de travail par une machine, directement dans l'oreillette, avec, du coup, la suppression du management, quelque part, puisqu'il est remplacé complètement par une machine, par un système informatique, et eux sont également départis d'une certaine autonomie entre le travail prescrit et travail réel. On pourrait citer à nouveau les plateformes évidemment. Ne serait-ce que si on prend l'exemple des VTC, c'est le système informatique qui va dicter la ou les prochaines courses à proximité pour les chauffeurs, donc, quelque part, ordonnancer, cadencer le travail.
Néanmoins il y a toujours cette spécificité, même si on est sur toutes les catégories socio-professionnelles, sur deux rôles et deux profils plus particuliers.<br/>
En premier, c'est le management de proximité. Bien évidemment, si on remplace le management par des algorithmes, ce management de proximité, qui pourtant est de plus en plus départi de ses prérogatives depuis quelques décennies maintenant, il n'est plus partie prenante dans les décisions stratégiques de l'entreprise, là on en est à le départir vraiment de ses dernières prérogatives d'organisation du travail et d'organisation des collectifs de travail.<br/>
La deuxième catégorie, le deuxième profil intéressant qui se voit vraiment concerné par ce management algorithmique, ce sont les ressources humaines et, à fortiori, les ressources humaines de proximité qui sont un des deux piliers, avec le management de proximité, dans la vie de l'entreprise et l'organisation dans l'entreprise, pour ceux qui sont ce qu'on appelle contributeurs individuels, ceux qui ne sont pas managers. Sur ces ressources humaines, tous les champs sont à peu près touchés, en tout cas en capacité de l'être, aussi bien le recrutement que l'évaluation, jusqu'à la rupture des contrats. On a eu un exemple récent dans la presse avec des décisions de rupture de contrat qui étaient purement induites par un algorithme.<br/>
Le dernier exemple qui, lui, est très récent et qui est encore plus parlant, mais ça répond à des questions qui s'étaient posées il y a déjà quelques années, c'est une entreprise, en Chine, qui se retrouve dirigée par une IA et non plus par un PDG ou un DG humains. C'était une question déjà posée à l'époque : est-ce qu'un jour mon patron sera une IA ou un algorithme ? Avec cet exemple ça en prend le chemin, à voir ce que ça donne, évidemment.
Un autre point, et tu l'as évoqué, Gauthier. Tu as indiqué la définition d’algorithme un petit peu en tiroir. J’aimerais indiquer, rappeler celle de Gérard Berry qui est professeur au Collège de France sur la chaire « Algorithmes, machines et langages » qui est pour moi vraiment extrêmement pertinente. Il dit que l'algorithmique c'est la science de l'organisation des opérations à effectuer – jusque-là on est complètement raccord avec la définition que tu as évoquée – et il ajoute son petit grain de sel en disant que le but final c'est d'évacuer la pensée du calcul afin de le rendre exécutable par un ordinateur, par un système informatique, qui est fabuleusement rapide et exact, mais qui est fabuleusement stupide et dénué de pensée. Ça met vraiment le doigt sur les toutes les problématiques sous-jacentes du sujet. Si on déborde un petit peu sur la partie IA – on l'appellera intelligence artificielle ou informatique avancée, ce n'est pas forcément le débat ce soir, on pourrait en parler longtemps –, en fait, la vraie problématique sous-jacente c'est que ces systèmes-là sont, malheureusement, implémentés et pensés la plupart du temps pour décider plus vite que pour décider mieux.<br/>
On en revient donc à ce qui est assez prescrit et recommandé un petit peu partout dans différents textes, différentes études sur le sujet : il faut absolument éviter de tomber dans le piège que l'humain n'est plus en contrôle et que l'outil n'est plus un outil mais que l'outil devient presque une sorte de d'allégorie quasi-divine, qui est à la fois une boîte noire, qui n'est pas questionnable, dont on ne remet pas en cause les décisions, qu'elles soient déterministes ou non, et qui enlève vraiment cette dernière part d'autonomie qu'on peut avoir dans le travail pour organiser, penser et vivre son activité au quotidien.
Je ne serai pas plus long, Gauthier. Je pense plus intéressant de laisser du temps pour les questions à la fin.
<b>Gauthier Fradois : </b>OK. Très bien. Merci beaucoup Matthieu. Sans transition, du coup, je cède la parole à Fabrice Flippo.
==11’ 30==
<b>Fabrice Flippo : </b>Moi aussi je reviens

Version du 17 octobre 2023 à 09:10


Titre : L’impact des algorithmes sur nos vies

Intervenant·e·s : Fabrice Flipo - Hélène Jeannin - Matthieu Trubert - Simon Woillet - Gauthier Fradois

Lieu : En ligne - Silo, Fondation Gabriel Péri, Le Vent Se Lève

Date : 22 octobre 2022

Durée : 1 h 23 min 17

Vidéo

Licence de la transcription : Verbatim

Illustration : À prévoir

NB : transcription réalisée par nos soins, fidèle aux propos des intervenant·e·s mais rendant le discours fluide.
Les positions exprimées sont celles des personnes qui interviennent et ne rejoignent pas nécessairement celles de l'April, qui ne sera en aucun cas tenue responsable de leurs propos.
Les positions exprimées sont celles des personnes qui interviennent et ne rejoignent pas nécessairement celles de l'April, qui ne sera en aucun cas tenue responsable de leurs propos.

Présentation

De Parcoursup à nos navigations sur le web ou les réseaux sociaux en passant par les rencontres amoureuses et l’achat d’un billet de train, notre vie quotidienne est désormais conditionnée par les algorithmes. Il en va de même dans le travail, dans le management des entreprises et dans celui des salariés, dans l’attribution et le contrôle des prestations sociales, dans la santé ou encore dans la finance. Cette question est souvent considérée comme étant l’apanage de spécialistes, alors qu’elle est en fait très politique et nous concerne toutes et tous. Elle est directement liée à la question du pouvoir qui s’exerce aux différents niveaux. En effet, les algorithmes sont avant tout la traduction de la volonté de quantifier le monde et d’imposer des critères de décision et d’évaluation qui relèvent des partis pris des classes qui dominent la société.

Transcription

Gauthier Fradois : Bonjour à toutes et à tous. Je vais très brièvement introduire cette rencontre avant de laisser la parole aux intervenants et aux intervenantes qui présenteront leur texte en 10/15 minutes, que je remercie chaleureusement d'avoir accepté d'être avec nous ce soir. Suivront 30 minutes de discussion collective et dans ce cadre, si vous souhaitez poser des questions, c'est dans l'onglet QR qu'il faut les poser et on les lira après la présentation des intervenants qui durera une heure.
Cette soirée est coorganisée par la fondation Gabriel Péri et Le Vent Se Lève. Elle est consacrée au dernier numéro de la revue <em<Silomag, qui porte sur le pouvoir algorithmique.
Notion floue, qui plus est grossière pour les non-initiés du code binaire et des mystères de l'informatique, l'algorithme qu'on peut définir comme une série d'instructions pour un ensemble d'opérations mathématiques, relève bien souvent d'un savoir technique peu accessible au commun des mortels. Mais, en s'interrogeant sur les usages sociaux de cette technologie, il est néanmoins possible d'en comprendre quelque chose, à commencer par les enjeux politiques qui sous-tendent son expansion actuelle. C'est le pari qu'on a fait en préparant ce dossier.
Cet intérêt pour la place qu'occupent les algorithmes dans nos vies est partie de la question du travail, de l'immixtion croissante de cette technologie dans le monde du travail, notamment dans le management dont nous parlera Matthieu Trubert, ingénieur chez Microsoft France et coanimateur du collectif numérique UGICT-CGT.
Loin de se cantonner au monde du travail, l'essor des algorithmes participe de la transformation actuelle du capitalisme. À n'en pas douter, le développement du marché de l'informatique, ces 30 dernières années, a radicalement transformé les rapports de production économique, que ce soit par l'automatisation d'un nombre croissant de tâches professionnelles grâce aux systèmes d'intelligence artificielle, que ce soit par le trading haute fréquence ou encore par le changement du modèle logistique de distribution des marchandises, toujours plus interconnectées les unes aux autres.
De nouvelles firmes ont ainsi pu se construire des positions dominantes et parfois quasi monopolistiques, fondées sur une économie de l'information numérique : Amazon,Facebook, Google Alibaba, Tinder, pour citer les plus connues.
On peut poser ici la question des conséquences écologiques de cette croissance numérique dont discutera Fabrice Flipo, philosophe et chercheur au Laboratoire de Changement Social et Politique de l’université Paris-Cité. En effet la rationalisation des ressources, vantée par les promoteurs de la révolution numérique, oblitère l'explosion d'une consommation nouvelle de biens technologiques dont les coûts écologiques sont loin d'être négligeables bien que trop souvent négligés.
Peu de secteurs de l'activité humaine échappent aujourd'hui à la mesure chiffrée, au tri et au traitement des conséquentes bases de données constituées et analysées par des entreprises privées. Celles-ci concurrencent désormais, pour les plus puissantes d'entre elles, les États, dans la production de données biographiques sur les populations. Mais les États ne sont pas en reste dans l'usage des algorithmes grâce aux systèmes d'intelligence artificielle et à une armée de caméras fixes ou mobiles toujours plus nombreuses. Les États surveillent tout autant les comportements qu'ils cherchent à les orienter. C'est cet aspect que présentera plus amplement Hélène Jeannin, sociologue et chercheuse à Orange Innovation.
La surveillance n'est pas que collective, elle peut être également individualisée comme en témoignent les pratiques de data mining au sein des entreprises publiques pour contrôler les allocataires ou les usages récents des algorithmes pour les assurances santé. Simon Woillet, responsable de la rubrique idées du média en ligne Le Vent Se Lève, membre de l’Institut Rousseau et co-auteur avec Audrey Boulard et Eugène Favier de l'ouvrage Le business de nos données médicales, interrogera ainsi les enjeux économiques et politiques de la mise en place de partenariats entre des entreprises privées et l'État, pour le dire vite, afin de stocker et de traiter Les données médicales initialement produites dans le cadre du service public de santé français.
Je n'en dis pas plus, je m'arrête là et je laisse la parole de suite à Matthieu Trubert pour 10/15 minutes de présentation.

Matthieu Trubert : Merci Gauthier. Bonsoir tout le monde.
Il faut revenir rapidement sur l'origine du management algorithmique. Effectivement, depuis même pas quelques années, on en parle de plus en plus, mais c'est à une terminologie qui est assez récente, de 2015, qui coïncide avec l'apparition des plateformes. C’est une fameuse étude d'une université américaine justement sur l'impact de ce management qui est basé sur les données, cet impact sur les travailleurs humains et les pratiques de travail ; c’était dans le contexte d'Uber et de Lift ??? [4 min 37]. Donc apparition conjointe avec les plateformes.
On a un donc concept qui associe ces deux mots de management et d'algorithmes. Ce qui est intéressant c'est que le mot management vient du vieux français « ménager », tenir les rênes d'un cheval. C'est un mot qui a été repris aux États-Unis et qui n'est pas si vieux que ça puisque ça se répand au début des années 50 avec le livre de Peter Drucker sur les pratiques du management, mot qui a posé énormément de problèmes à la traduction. C'est intéressant, je pense, de revenir à cette notion de « celui qui tient les rênes de l'attelage ou du cheval ».
Algorithme est effectivement un très vieux mot, qui date de bien avant l'informatique, qui dérive du nom d'un mathématicien persan du 9e siècle, Al-Khwârizmî, je le prononce très mal je suis désolé. Il y a aussi une étymologie que je trouve intéressante si on la ramène au grec, à la fois algos et aritmos, le calcul douloureux, sous-entendu à faire à la main.
Du coup, si on applique ça au management, il y a cette idée qu’on est arrivé à une époque et à des organisations du travail où, finalement, tenir les rênes de l'attelage pour le management et comprendre le management de proximité est devenu quelque chose de pénible, de douloureux, de fastidieux.

Si on se penche un peu plus sur l'usage et la pratique du management algorithmique, un point que je trouve fondamental et très intéressant c'est qu'il va concerner toutes les catégories socio-professionnelles.
Dans un très grand écart, le premier exemple qui peut venir en tête ce sont les entrepôts d'Amazon, la partie distribution d'Amazon avec des travailleurs dans ces entrepôts qui se font dicter leurs consignes de travail par une machine, directement dans l'oreillette, avec, du coup, la suppression du management, quelque part, puisqu'il est remplacé complètement par une machine, par un système informatique, et eux sont également départis d'une certaine autonomie entre le travail prescrit et travail réel. On pourrait citer à nouveau les plateformes évidemment. Ne serait-ce que si on prend l'exemple des VTC, c'est le système informatique qui va dicter la ou les prochaines courses à proximité pour les chauffeurs, donc, quelque part, ordonnancer, cadencer le travail.

Néanmoins il y a toujours cette spécificité, même si on est sur toutes les catégories socio-professionnelles, sur deux rôles et deux profils plus particuliers.
En premier, c'est le management de proximité. Bien évidemment, si on remplace le management par des algorithmes, ce management de proximité, qui pourtant est de plus en plus départi de ses prérogatives depuis quelques décennies maintenant, il n'est plus partie prenante dans les décisions stratégiques de l'entreprise, là on en est à le départir vraiment de ses dernières prérogatives d'organisation du travail et d'organisation des collectifs de travail.
La deuxième catégorie, le deuxième profil intéressant qui se voit vraiment concerné par ce management algorithmique, ce sont les ressources humaines et, à fortiori, les ressources humaines de proximité qui sont un des deux piliers, avec le management de proximité, dans la vie de l'entreprise et l'organisation dans l'entreprise, pour ceux qui sont ce qu'on appelle contributeurs individuels, ceux qui ne sont pas managers. Sur ces ressources humaines, tous les champs sont à peu près touchés, en tout cas en capacité de l'être, aussi bien le recrutement que l'évaluation, jusqu'à la rupture des contrats. On a eu un exemple récent dans la presse avec des décisions de rupture de contrat qui étaient purement induites par un algorithme.
Le dernier exemple qui, lui, est très récent et qui est encore plus parlant, mais ça répond à des questions qui s'étaient posées il y a déjà quelques années, c'est une entreprise, en Chine, qui se retrouve dirigée par une IA et non plus par un PDG ou un DG humains. C'était une question déjà posée à l'époque : est-ce qu'un jour mon patron sera une IA ou un algorithme ? Avec cet exemple ça en prend le chemin, à voir ce que ça donne, évidemment.

Un autre point, et tu l'as évoqué, Gauthier. Tu as indiqué la définition d’algorithme un petit peu en tiroir. J’aimerais indiquer, rappeler celle de Gérard Berry qui est professeur au Collège de France sur la chaire « Algorithmes, machines et langages » qui est pour moi vraiment extrêmement pertinente. Il dit que l'algorithmique c'est la science de l'organisation des opérations à effectuer – jusque-là on est complètement raccord avec la définition que tu as évoquée – et il ajoute son petit grain de sel en disant que le but final c'est d'évacuer la pensée du calcul afin de le rendre exécutable par un ordinateur, par un système informatique, qui est fabuleusement rapide et exact, mais qui est fabuleusement stupide et dénué de pensée. Ça met vraiment le doigt sur les toutes les problématiques sous-jacentes du sujet. Si on déborde un petit peu sur la partie IA – on l'appellera intelligence artificielle ou informatique avancée, ce n'est pas forcément le débat ce soir, on pourrait en parler longtemps –, en fait, la vraie problématique sous-jacente c'est que ces systèmes-là sont, malheureusement, implémentés et pensés la plupart du temps pour décider plus vite que pour décider mieux.
On en revient donc à ce qui est assez prescrit et recommandé un petit peu partout dans différents textes, différentes études sur le sujet : il faut absolument éviter de tomber dans le piège que l'humain n'est plus en contrôle et que l'outil n'est plus un outil mais que l'outil devient presque une sorte de d'allégorie quasi-divine, qui est à la fois une boîte noire, qui n'est pas questionnable, dont on ne remet pas en cause les décisions, qu'elles soient déterministes ou non, et qui enlève vraiment cette dernière part d'autonomie qu'on peut avoir dans le travail pour organiser, penser et vivre son activité au quotidien.

Je ne serai pas plus long, Gauthier. Je pense plus intéressant de laisser du temps pour les questions à la fin.

Gauthier Fradois : OK. Très bien. Merci beaucoup Matthieu. Sans transition, du coup, je cède la parole à Fabrice Flippo.

11’ 30

Fabrice Flippo : Moi aussi je reviens