IA : pourquoi les femmes doivent être au coeur de cette révolution

Titre : IA : pourquoi les femmes doivent être au cœur de cette révolution ?

Intervenant·es : Élodie de Nascimiento - Hélène Deckx van Ruys -Frédéric Pierron

Lieu : Question d'innovation - IBM

Date : 17 avril 2024

Durée : 19 min 49

Enregistrement

Présentation de l'épisode

Licence de la transcription : Verbatim

Illustration : À prévoir

NB : Transcription réalisée par nos soins, fidèle aux propos des intervenant·es mais rendant le discours fluide.
Les positions exprimées sont celles des personnes qui interviennent et ne rejoignent pas nécessairement celles de l'April, qui ne sera en aucun cas tenue responsable de leurs propos.

Description

L'IA est-elle sexiste ?

Transcription

Voix off : Il y a une citation que j’aime bien, qui dit : « On aura atteint l’égalité professionnelle quand il y aura autant de femmes incompétentes que d’hommes incompétents à des postes à responsabilité. On sait aussi que dans les métiers qui vont disparaître la plupart des métiers sont exercés par une femme. »

Frédéric Pierron : Bonjour et bienvenue dans ce nouvel épisode de Question d’innovation par IBM.
Aujourd’hui, nous nous penchons sur un sujet crucial mais trop souvent sous-estimé, la place de la diversité et de l’inclusion dans le monde de la tech et de l’intelligence artificielle. Comment ces secteurs, moteurs d’innovation, reflètent-ils la diversité de notre société ? Quelles actions concrètes sont menées pour promouvoir une représentation plus équitable ? Rejoignez-nous pour une discussion éclairée avec nos invitées, Élodie de Nascimiento et Hélène Deckx van Ruys, deux femmes à la pointe de ce combat pour l’équité.
Élodie, pouvez-vous nous éclairer sur votre rôle chez IBM et comment vous vous engagez personnellement en faveur de la diversité et de l’inclusion ?

Élodie de Nascimiento : Bonjour. Je suis Élodie de Nascimiento, consultante en transformation digitale chez IBM depuis cinq ans et spécialisé sur les sujets d’expérience client et d’accompagnement au changement dans les organisations. Me concernant, mon poste n’est lié pas lié directement au sujet de diversité et d’inclusion. Dès le début de ma carrière, ça a été très important, pour moi, d’être alignée avec ces valeurs là et aujourd’hui je suis l’heureuse très fière présidente d’un réseau d’entreprises, chez IBM, qui promeut les valeurs de diversité et d’inclusion.

Frédéric Pierron : À votre tour, Hélène pouvez-vous vous présenter ?

Hélène Deckx van Ruys : Bonjour Frédéric. Je suis Hélène Deckx van Ruys, j’ai deux casquettes : je suis directrice RSE diversité et inclusion dans une entreprise de la tech et, parallèlement, je suis copilote du think tank « les femmes et l’IA » au Laboratoire de l’Égalité. Pour ceux qui ne connaîtraient pas, je rappelle que le Laboratoire de l’Égalité est une association qui a été créée il y a plus de 13 ans et qui promeut l’égalité professionnelle femmes-hommes et, à ce titre, nous sommes particulièrement actifs et actives dans le groupe de l’IA

Frédéric Pierron : Élodie, quelles initiatives le réseau RÏSE [Réseau international pour l’innovation sociale et écologique], que vous présidez, a-t-il lancé pour promouvoir activement la diversité et l’inclusion au sein d’IBM ?

Élodie de Nascimiento : Nous sommes un réseau d’une vingtaine de recrues qui, pour ne citer que quelques exemples, organisent notamment des événements de tables rondes, débats, autour des sujets de diversité et d’inclusion, comme la question des quotas en entreprise, qui peuvent mener à des actions de sensibilisation, comme cela a déjà été le cas, par exemple sur le harcèlement en entreprise.

Frédéric Pierron : Hélène, plus largement, que mettez-vous en œuvre, avec le Laboratoire de l’Égalité, pour améliorer la situation ?

Hélène Deckx van Ruys : Il y a tout d’abord la collection Égale à égal et le livre L’intelligence artificielle, pas sans elles ! de Aude Bernheim et Flora Vincent, qui a été préfacé par Cédric Villani. Je voudrais vous parler également du Pacte du laboratoire d’égalité, pour une IA plus égalitaire entre les femmes et les hommes, qui est sorti en 2019.
Actuellement, nous faisons suite à notre mois de l’IA égalitaire qui consistait à avoir des webinaires faisant intervenir les cinq parties prenantes : associations, entreprises, médias, recherche, écoles. Nous avons récolté énormément de data et nous n’avons pas voulu en rester là, donc nous avons décidé de <em<cruncher cette data, d’aller plus loin dans les perspectives, de lancer notre Guide pour une Intelligence Artificielle égalitaire entre les femmes et les hommes.

Frédéric Pierron : Élodie, en observant l’évolution de la place des femmes dans le monde professionnel, quels progrès et quels obstacles avez-vous identifiés ?

Élodie de Nascimiento : Je suis dans l’entreprise depuis cinq ans, mais on va prendre une échelle de temps un peu plus grande et parler de manière plus générale de tous les secteurs. Des progrès ont été faits, bien sûr : entre 1982 et 2019, la part des femmes cadres dans l’emploi a quadruplé ; c’est indéniable, ce sont des beaux progrès dont il faut se féliciter. Par contre, au sein du CAC 40, on compte trois femmes dirigeantes. Seulement un quart des entreprises ont une parité dans les plus grosses rémunérations et des différences de salaires, à travail équivalent, subsistent et ne s’expliquent pas.
Même quand on a des femmes dans l’entreprise, elles ont du mal à monter l’échelle et puis elle diminue au fur et à mesure qu’on monte dans la pyramide. La réalité c’est qu’il y a toujours, aujourd’hui, un plafond de verre pour les femmes en entreprise, plus ou moins important en fonction des secteurs, des différentes entreprises, des cultures qui sont dans les entreprises, mais qui existent et c’est factuel.

Frédéric Pierron : Factuel et propre au monde du travail en général.
Hélène, avez-vous des chiffres qui illustreraient la place des femmes dans la tech aujourd’hui ?

Hélène Deckx van Ruys : Je voudrais juste rappeler quelques chiffres : aujourd’hui, il y a 27 % de filles qui sortent des écoles d’ingénieurs. Évidemment, c’est trop peu parce que ça veut dire que cet écart se retrouve plus loin dans les différentes étapes d’IA, de création d’algorithmes, etc. Si elles sont 27 % à sortir des écoles d’ingénieurs, elles sont aussi 27 % à rentrer, il y a 27 % de femmes dans la tech aujourd’hui et, plus particulièrement, il y a 15 % de femmes dans les métiers du numérique.
Je voudrais rappeler deux chiffres qui, pour moi, sont édifiants : il faut savoir que 60 milliards d’euros ont été générés par le numérique en 2022, c’est énorme et ce chiffre qui me « touche » entre guillemets : les deux tiers des enfants qui sont en maternelle aujourd’hui exerceront un métier qui n’existe pas encore. Certains ont peur de l’IA parce qu’on sait que certains métiers vont disparaître, d’autres qui vont apparaître, et on sait aussi que, dans les métiers qui vont disparaître, la plupart sont exercés par une femme. Donc, effectivement, les femmes sont touchées de plein fouet par cette nouvelle révolution.

Frédéric Pierron : Oui, la situation paraît en effet préoccupante.
Alors, Élodie, comment inciter les femmes à prendre le virage de la tech et de l’IA le plus rapidement possible ?

Élodie de Nascimiento : Je pense qu’on sous-estime grandement l’importance que peut avoir la représentation dans les entreprises : montrer tout simplement, dès le plus jeune âge, que ces métiers sont possibles, font partie du champ des possibles. Dans le réseau RÏSE, par exemple, et également grâce au réseau WoMen@IBM qui œuvre depuis plus de 20 ans, on a à cœur de mettre en avant des femmes inspirantes, des femmes compétentes, à essayer de démocratiser et d’encourager l’entraide, le mentorat, etc.

Frédéric Pierron : Selon vous, les intérêts pour la tech sont-ils innés ou plutôt le résultat de l’influence culturelle ?

Élodie de Nascimiento : Mon avis c’est qu’on n’arrivera jamais à déterminer si c’est quelque chose qui est lié à des intérêts qui sont de l’ordre du biologique ou bien si ce sont des intérêts qui, tout simplement, sont cultivés par la culture.
Toujours est-il qu’il existe des stéréotypes de genre, qu’on les voit depuis le plus jeune âge et effectivement, dans notre société, dans notre quotidien, dès le plus jeune âge, on va pousser un petit peu plus les filles vers un certain type d’activité, jouer à la poupée, ce qui les amène à avoir plus de rôles et de responsabilités dans ce qu’on appelle aujourd’hui, par exemple, les métiers du care. Et puis on va amener les hommes vers des activités où il y a plus de plus de risque, où on va valoriser la prise de décision rapide, ce genre de choses. C’est indéniable. Nous sommes effectivement, tous aujourd’hui,, le fruit d’une société dans laquelle sont ancrés des stéréotypes de genre.

Frédéric Pierron : D’accord, mais Hélène, que pourrait-on mettre en œuvre pour améliorer la situation ?

Hélène Deckx van Ruys : Je suis persuadée qu’on a une responsabilité tripartite pour avoir plus de femmes dans la tech, plus de filles dans les ??? [7 min 47], il y a la responsabilité des parents, leur montrer que oui, on peut, que rien n’est impossible et que ce n’est forcément un environnement que pour les garçons et que les filles n’y ont pas leur place, non il faut briser ça ; il y a évidemment le rôle de l’école et puis, on relaie, il y a effectivement l’entreprise. L’entreprise a également un rôle énorme à jouer en accueillant des femmes comme il se doit dans la tech.

Frédéric Pierron : À ce propos, on entend parler du principe du tuyau percé. Est-ce que vous pouvez nous expliquer ce que c’est ?

Hélène Deckx van Ruys : Le tuyau percé : 50 % des femmes quittent la tech au bout de huit à dix ans. Pourquoi ? Parce qu’il y a un sexisme ambiant, parce qu’elles sont pas reconnues, parce que n’il y a pas d’organisation de plan de carrière, etc. Ce n’est pas un phénomène isolé, ça existe.

Frédéric Pierron : On voit que la tech n’est pas un milieu franchement favorable aux femmes. Élodie, pourquoi avoir choisi le secteur de la tech en tant que femme ?

Élodie de Nascimiento : C’est personnel, mais je vais répondre quand même parce que j’ai une réponse à apporter. Me concernant, j’ai toujours été quelqu’un de très curieuse, notamment très curieuse par rapport aux nouvelles technologies. Très vite, je me suis rendu compte que beaucoup de choses étaient en train de changer par rapport aux nouvelles façons de consommer, aux nouvelles façons de se comporter, aux nouvelles façons d’interagir et je me suis dit « soit je prends le train en marche, je fais partie de ce changement et j’ai mon mot à dire aussi sur tout ce qui va changer, soit je laisse le train passer et je le regarde. »
C’est vrai que quand on arrive dans le secteur informatique, dans le secteur des technologies, on se rend compte qu’il y a majoritairement des hommes. Alors, oui, on se retrouve à être la seule femme dans une réunion, ça m’arrive très souvent, et il arrive qu’on ne soit pas forcément écoutée, valorisé ou ce genre de chose, c’est une réalité. Par contre, c’est vrai que je suis dans une entreprise, IBM, où il y a une grande conscience de ces sujets-là. Si on reprend l’index égalité professionnelle, chez IBM, aujourd’hui, il est de 89, quand on est dans un secteur où la moyenne est à 84.
Bien sûr, il y a moins de femmes dans le secteur. Je suis dans une entreprise où ça se démocratise et je pense que ça se démocratise de plus en plus dans les entreprises du secteur où on va favoriser le recrutement des femmes, on va favoriser les promotions des femmes et, tout simplement, où on va être attentif à la progression qu’elles peuvent avoir.

Frédéric Pierron : Petit à petit les femmes investissent quand même le secteur de la tech ? Non.

Élodie de Nascimiento : Les femmes sont présentes, oui, cependant elles sont largement sous-représentées dans la recherche et dans la conception de ces technologies. On peut citer quelques chiffres : seuls 20 % des employés qui occupent des fonctions techniques liées à l’intelligence artificielle dans les entreprises sont des femmes, seulement 12 % des chercheurs en intelligence artificielle, au niveau mondial, sont des femmes et seulement 6 % des développeurs de logiciels professionnels sont des femmes. Et pourtant, l’enjeu est de taille.

Frédéric Pierron : Hélène, vu la faible représentativité des femmes dans l’IA, est-ce que cela a un impact sur la technologie elle-même ? Autrement dit, l’IA est-elle sexiste ?

Hélène Deckx van Ruys : Quand on parle notamment des algorithmes et des bases de données, et c’est là où je réponds. L’IA est-elle sexiste ? Oui. Pourquoi est-elle sexiste, parce qu’elle est fabriquée, elle construite à 90 % par des hommes. Inconsciemment ou non ces hommes retransmettent leurs biais, d’où l’importance, de créer, d’avoir, dans les entreprises, des formations sur les biais inconscients. Comment peut-on faire pour contrecarrer ces 90 % d’algorithmes construits par des hommes ?, justement en attirant plus de femmes dans les métiers un peu techniques. Si les femmes ne sont pas assez nombreuses, il faut montrer aux hommes qu’il faut déconstruire et mettre un cadre éthique dans la construction des algorithmes pour pouvoir s’assurer qu’on est à parité et qu’il n’y a pas de biais inconscients qui se sont introduits dans la construction des algorithmes et des bases de données.

Élodie de Nascimiento : Il faut comprendre que les intelligences artificielles sont le reflet de notre société et, si on n’y met pas de garde-fous, elles seront aussi le reflet de ce qu’il y a de plus discriminatoire dans notre société. Pour le coup, un choix de société s’impose. Si on veut en faire un outil pour tous, il faut indéniablement qu’il soit crée par tous.

Frédéric Pierron : D’accord. Est-ce que vous pouvez nous expliquer plus concrètement ce que cela signifie.

Élodie de Nascimiento : Les modèles de langage sont entraînés sur un grand ensemble de données qu’on va leur fournir. Donc, dans leur mode de fonctionnement, ils sont sujets à plusieurs biais.
Tout d’abord, il y a le biais sur les données d’entraînement. En fait, quelles sont les données qu’on va fournir à ces intelligences artificielles pour pouvoir s’entraîner ? Elles peuvent contenir des biais, tout simplement parce qu’il a des biais dans notre société : ça peut être des stéréotypes de genre, mais également des préjugés raciaux ou bien d’autres formes de discrimination et, en apprenant à partir de ces données-là, les modèles vont, du coup, intégrer et perpétuer ces biais.
Ensuite, on a un second biais qui est le biais dans l’entraînement. Ces modèles vont apprendre, à partir des données qu’on leur aura données, grâce à des algorithmes d’apprentissage et ces algorithmes-là sont aussi réalisés par des humains. On a dit que le pourcentage de femmes qui travaillent aujourd’hui sur la conception de ces algorithmes-là est minime. C’est pour cela qu’ils peuvent aussi introduire des biais en fonction de la façon dont ils vont être conçus, de la façon dont ils vont être optimisés.

Frédéric Pierron : Alors, comment fait-on pour éviter ces biais ?

Élodie de Nascimiento : Comment fait-on pour éviter ces biais ? Eh bien, en face de chaque biais on met une solution pour essayer de le contrer.
Par exemple on s’assure que les données fournies soient bien représentatives de l’ensemble de la société. Si on parle, par exemple, des intelligences artificielles de reconnaissance faciale qui ont eu, par le passé, du mal à reconnaître des visages de personnes noires ou bien des visages de personnes asiatiques tout simplement parce qu’il n’y en avait pas assez dans leurs bases de données d’apprentissage au départ.
On s’assure également que parmi les personnes qui conçoivent les intelligences artificielles et leurs algorithmes il y ait de la diversité· On ne parle pas seulement des femmes et des hommes, mais aussi de la représentation des personnes racisées, des personnes en situation de handicap, même des personnes avec des âges différents, simplement de tout ce qui fait la diversité de notre société.
On peut également mettre en place des mécanismes de contrôle des données par des tiers, de contrôle des algorithmes, puisque tout ne peut pas parfaitement fonctionner, sans aucun biais, en étant l’œuvre d’une seule personne. Pour la plupart, en fait, les bais sont inconscients, il ne s’agit pas de pointer du doigt quelqu’un en disant : cette personne a été volontairement misogyne, cette personne a été voulant volontairement raciste, ce n’est pas ça. On a tous des biais, j’ai des bais, vous avez des biais et c’est important d’en prendre conscience. Par contre, c’est important de mettre en place des garde-fous.
Chez IBM, par exemple, on utilise des modèles de langage pour nous aider au quotidien, on les utilise dans un environnement informatique qui est sécurisé, avec certaines règles de confidentialité, bien sûr, et, sur la version qu’on utilise on a un petit bouton qui s’appelle « checker les biais » et là, derrière, il y a un algorithme de contrôle, qui a été créé spécialement pour ça, pour nous permettre d’éviter d’avoir des biais dans les contenus qu’on va produire. Ne serait-ce que le fait d’avoir ce petit bouton, ça nous fait peut-être déjà plus réfléchir, prendre conscience du fait qu’il pourrait y avoir des biais dans ce qu’on va produire et, après, on peut toujours le faire revérifier par un tiers, par un algorithme qui a été créé pour ça.

Frédéric Pierron : Donc, si je comprends bien, on peut avoir une réponse technologique.
Hélène, est-ce qu’il peut y avoir d’autres types de réponses en faveur de l’égalité ?

Hélène Deckx van Ruys : Beaucoup de choses sont mises en place. Il y a déjà les compétences propres, les talents des collaboratrices et des collaborateurs quand ils arrivent, donc, là, parmi les collaboratrices, il y a leur éducation, leur formation, leur talent intrinsèque. Et, tout au long de leur parcours dans l’entreprise, il y a du mentoring, des formations et je crois beaucoup au sponsoring. Le sponsoring c’est la façon dont moi, en tant que femme, je vais rechercher quelqu’un, avec une position plutôt élevée, qui va m’épauler, qui va m’aider à grandir, qui va me donner les différents codes et m’introduire dans les différents cercles.

Élodie de Nascimiento : On pourrait également parler de la dernière loi qui a été promulguée sur le sujet, la loi Rixain, qui, dans les entreprises de plus de 1000 salariés vise, à 2030, d’avoir 40 %de femmes aux postes dirigeants des grandes entreprises.

Frédéric Pierron : À votre avis, Élodie, quand allons-nous réussir à obtenir cette égalité hommes-femmes ?

Élodie de Nascimiento : Il y a une citation que j’aime bien qui dit : « On aura atteint l’égalité professionnelle quand il y aura autant de femmes incompétentes que d’hommes incompétents à des postes à responsabilité. » Je pense qu’il est important de rappeler qu’on a un historique où des hommes ont été favorisés alors qu’ils n’avaient pas forcément les compétences, alors qu’ils n’avaient pas forcément l’expertise, tout simplement parce que c’étaient des hommes.

Frédéric Pierron : Hélène, quel message peut-on envoyer à nos auditeurs qui souhaitent contribuer à l’avènement de cette parité ?

Hélène Deckx van Ruys : Je dirais, si vous avez des filles, des nièces, des cousines, si vous avez des filles dans votre entourage, n’hésitez pas, dites-leur d’abord qu’elles ont de la valeur, parce que c’est fondamental, que rien n’est impossible pour elles et que si, en plus, elles peuvent rejoindre les ??? et dépasser le fait qu’elles seront peut-être en minorité, mais c’est ce qui va faire leur force, allez-y, accompagnez-les pour qu’elles puissent, à leur tour, être des femmes qui seront performantes, reconnues et installées dans la tech.

Frédéric Pierron : Ça fait une quinzaine de minutes qu’on parle de la parité hommes-femmes dans le secteur de la tech. Élodie, est-ce que vous ne ressentez pas une certaine fatigue ? Et, plus sérieusement, pouvez-vous nous parler de ce phénomène nouveau, dont on entend parler, qui s’appelle la « gender fatigue » ?

Élodie de Nascimiento : Qui touche aussi les jeunes populations. On peut en parler. La « gender fatigue », ça va être, d’un côté, la fatigue, de celles et ceux qui combattent les inégalités et qui considèrent que les résultats se font vraiment attendre, que ce n’est encore assez ; d’un autre côté, ça va être de l’agacement du fait que c’est un sujet dont on parle tout le temps, qu’on en parlerait trop, qu’on en ferait trop pour les femmes. Ce qui est drôle, c’est que la « gender fatigue » navigue, en fait, entre le pas assez et le trop-plein.

Frédéric Pierron : Pour conclure, Élodie comment imaginez-vous la suite de la lutte pour l’égalité hommes-femmes ?

Élodie de Nascimiento : Il y a un challenge : comment continue-t-on à communiquer sur ces enjeux-là ? Parfois certaines personnes peuvent avoir l’impression qu’il y a des hommes, qu’il y a des femmes en entreprise, que le plafond de verre n’est plus un sujet, les inégalités salariales ne sont plus un sujet, mais la réalité c’est que les chiffres montrent autre chose. Donc comment continue-t-on à expliquer que ces sujets sont importants, qu’il faut continuer d’en parler et puis comment arrive-t-on à faire prendre conscience aux hommes qu’ils ont été favorisés, qu’ils ont eu des privilèges sur ces sujets-là ? Tout à l’heure, on a parlé des stéréotypes de genre qui pouvaient être aussi défavorables aux hommes qu’aux femmes, c’est un vrai enjeu.

Frédéric Pierron : Et pour vous, Hélène, quelles sont les prochaines étapes ?

Hélène Deckx van Ruys : Je voudrais juste insister sur une dernière chose : pour que les femmes osent, il faut aussi qu’elles soient accompagnées et qu’elles soient accompagnées par des hommes. Les hommes sont les alliés des femmes et on le perd parfois de vue. Je trouve que la réussite de la femme passe aussi par avoir des hommes qui croient en elles, je parlais du sponsor sheap tout à l’heure, qui les font avancer. La parité ne pourra pas avancer et être gagnée si ça n’est que l’affaire de femmes. Il faut aussi que la considérer que la parité c’est l’affaire des hommes et avoir des hommes qui se considèrent comme nos alliés pour pouvoir bouger les lignes et avancer sur cette thématique.

Frédéric Pierron : Merci infiniment à nos invitées, Élodie et Hélène, pour leurs insights et leur engagement.
Si cette conversation vous a inspirés, n’oubliez pas de vous abonner et de partager Question d’innovation par IBM autour de vous.
À très bientôt pour un nouvel épisode.