Plongée dans la « révolution »
Titre : Plongée dans la « révolution » ChatGPT avec Asma Mhalla
Intervenant·e·s : Asma Mhalla
Lieu : Siècle digital
Date : 4 mai 2023
Durée : 12 min 06
[URL vidéo Vidéo] https://twitter.com/AsmaMhalla/status/1654129735268708355
Licence de la transcription : Verbatim
Illustration : À prévoir
NB : transcription réalisée par nos soins, fidèle aux propos des intervenant·e·s mais rendant le discours fluide.
Les positions exprimées sont celles des personnes qui interviennent et ne rejoignent pas nécessairement celles de l'April, qui ne sera en aucun cas tenue responsable de leurs propos.
Transcription
Journaliste : Peux-tu te présenter rapidement ?
Asma Mhalla : Je m’appelle Asma Mhalla, je suis spécialiste des enjeux politiques et géopolitiques de la technologie. Donc toutes les questions de rapport forces, de projections de puissance, la question démocratique qui est posée aujourd’hui par la technologie en général, par les réseaux sociaux ou l’intelligence artificielle par exemple. Et j’enseigne à Science Po, à Columbia et à Polytechnique. Et puis je travaille aussi sur un sujet de thèse sur ces questions là.
Journaliste : Comment expliquer l’explosion du sujet médiatique de l’IA (Intelligence Artificielle) ?
Asma Mhalla : L’IA n’est pas un sujet nouveau. Et en particulier, ce qui s’est passé fin 2022, autour en réalité de ChatGPT et la version qu’ils avaient mis en bêta-test, c’est-à-dire la version 3.5, technologiquement ce sont des modèles qui pré-existaient mais qui n’étaient pas mis à disposition parce que les grands géants de la technologie, les start-ups qui travaillaient sur ces questions là avaient toujours cette appréhension du bad buzz et du risque réputationnel parce que les antécédents jusque là de ce type, de ce qu’on appelle des « IA[1] génératives » n’était pas vraiment probants. On se rappelle des aventures de Microsoft[2] en 2016 par exemple. Et en fait, ce n’est pas tant une révolution technologique en tant que telle que plutôt une adoption de ces nouveaux usages là qui interpelle et qui pose de ce point de vue là beaucoup beaucoup de questions.
Journaliste : Est-ce-que ChatGPT renouvelle le débat autour de l’IA ?
Asma Mhalla : Je vous le disais, il n’y a pas tellement d’éléments nouveaux dans ce qui est en train de se passer, si ce n’est le passage à l’échelle, l’accoutumance que ça créé et la pénétration de ces usages là dans nos quotidiens. Ce qui me gêne dans la façon dont le débat public est posé, c’est ce que ce sont toujours les mêmes questions qui sont posées. On avait exactement les mêmes questions qui étaient posées en 2016-2017 qui était la vague présidant de super hype autour ( ??? 1min 50) de l’IA. Et les questions sont toujours les mêmes : « Est-ce-que l’IA c’est un danger ou un progrès ? » ; « La fin de l’humanité oui ou non ? ».
Il y a un enfermement binaire d’un sujet beaucoup plus complexe que ça. L’IA est déjà là. Elle est déjà là. La révolution, si tant est qu’il y en ait eu une, a déjà eu lieu, elle est derrière nous ou plus exactement, elle est en cours. La façon pourtant dont le débat est posé, parce que sans doute mal maîtrisé, c’est comme si tout d’un coup, un jour on aura une IA, en plus dans l’imaginaire et dans le fantasme les IA « fortes » qu’on appelle aujourd’hui les AGI[3] (IA Générales) et qui seraient là et qui viendraient, qui détruiraient tout et qui aurait une pensée par elle-même, complète, autonome et en plus, plutôt malveillante à l’endroit de l’humanité et de notre civilisation. C’est extrêmement fantasmé, c’est très très loin de la réalité et surtout, c’est très vieux comme débat et c’est très binaire.
Journaliste : Concrètement qu’est-ce-que ChatGPT ?
Asma Mhalla : ChatGPT c’est une IA conversationnelle ou dite « générative » donc elle génère du texte et du contenu en fonction des prompts, c’est-à-dire des consignes que vous allez mettre dans la machine. Elle va aller regarder tout ce qu’elle a emmagasiné en base et en entraînement pour vous donner pour vous sortir la ou les réponses les plus pertinentes possibles.
Journaliste : En quoi l’IA est une technologie « duale » ?
Asma Mhalla : Toutes les technologies aujourd’hui dites numériques sont des technologies duales, c’est-à-dire qu’elles sont à la fois civiles et militaires. En l’occurrence, dans le cas de ChatGPT, ce n’est pas encore documenté parce qu’on a pas encore le recul nécessaire mais ça peut potentiellement aussi être un outil de campagne de désinformation, d’ingérence, de manipulation des opinions. Donc vous avez tout d’un coup à disposition, un outil qui est capable d’amplifier ce qu’on faisait déjà sur les réseaux sociaux, c’est-à-dire des campagnes de manipulation personnalisées et ciblées à la fois. ChatGPT peut devenir, comme les réseaux sociaux. Initialement les réseaux sociaux c’était des espaces sympas, ludiques, égotiques, confortables, pratiques. Au tout départ, au jour zéro de Facebook, je crois que personne ne s’était dit : « ça va devenir une arme de guerre ». Or, ça l’est.
Journaliste : Est-ce-que l’IA est un danger pour l’emploi ?
Asma Mhalla : Sur la question du travail, parce que c’est celle qui aujourd’hui, avec la question de l’éducation, cristallise un peu toutes les hystéries, les peurs,le craintes, les fantasmes. Attention, ce narratif là de « l’IA va détruire tous vos jobs » vient d’un courant philosophique, idéologique qui a commencé à essaimer d’ailleurs à Oxford, qui s’appelle le « long-termisme »[4] qui ne se disait d’ailleurs pas exactement comme ça, et qui a commencé à distiller dans les opinions publics occidentales, dès 2016, l’idée que les IA allaient détruire tous les jobs et que ça allait être la catastrophe. Ce sont des narratifs qui sont repris en partie par Sam Altman [5] qui réfléchit à des systèmes post-capitalistes de taxation quand il n’y aura plus de job pour tout le monde.
Maintenant, de façon beaucoup plus concrète, les IA existent déjà. Ce qu’on observe c’est que oui, vous allez avoir une nécessité de repenser vos jobs, c’est clair, avec une montée en compétence de plus en plus sur des fonctions à haute valeur ajoutée ou en tout cas complémentaire. L’IA peut aussi être un atout, c’est-à-dire pour aller très très vite dans les premières tâches en amont sur de la consolidation de documentation etc.
Journaliste : L’IA est-elle une arme de désinformation ?
Asma Mhalla : Oui, ça peut l’être. Aujourd’hui, en effet, ce sont des usages civils, sympathiques, c’est marrant etc, encore que, la première salve de photos, de contenu qu’avait été déployée c’était même pour dire « attention ». C’était une façon de nous projeter dans un futur dystopique et donc peut-être aussi, de façon pédagogique, de l’éviter dès aujourd’hui. Macron ramassant des poubelles ou Trump arrêté dans une ambiance insurrectionnelle c’est aussi pour nous dire : « projetons nous ». C’est un peu ce qu’avait fait d’ailleurs, et c’est très intéressant, l’Ukraine quand au tout début du conflit, l’émotion en Occident commençait à baisser et donc l’adhésion à la cause ukrainienne commençait à baisser, c’était la fameuse vidéo de Paris bombardée. Ça nous projette dans de l’émotion immédiate.
Est-ce-que ça a un intérêt pédagogique sur le long terme ? Je n’en sais strictement rien. C’est en tout cas le discours qui est apporté sur ces questions là. Mais plus généralement, l’IA au sens général est un enjeu géopolitique de rivalités stratégiques entre les États-Unis et la Chine absolument fondamental.
Journaliste : Quel est le positionnement de l’Europe sur l’IA ?
Asma Mhalla : C’est une posture normative. Donc c’est de la régulation. Aujourd’hui, le grand texte européen qui est en discussion c’est l’IA Act[6] qui va donner les limites, les garde-fous à ces usages de l’IA en général et donc des IA génératives en particulier avec une gradation en fonction de l’évaluation du risque. À l’échelle nationale, l’Italie a par exemple interdit ChatGPT sous la houlette disons des prérogatives du RGPD (Règlement Général sur la Protection de Données), du non-respect des données personnelles et en particulier de l’usage de ChatGPT pour le public mineur de moins de treize ans. Donc aujourd’hui ChatGPT peut être bloqué aussi. Et puis surtout c’est la question plus large de qu’est-ce sont ces outils là et comment est-ce-qu’on développe des gouvernances plus ouvertes c’est-à-dire avec de l’accès au jeu de données, l’accès à la façon dont les algorithmes sont construits pour comprendre, et pouvoir faire de la rétro-ingénierie ou a minima comprendre comment c’est construit et donc dans quelle intention politique c’est construit. Quand on met des filtres, ça veut dire que vous avez des choix, si vous avez des choix, vous avez renoncé à d’autres choses. Et donc selon quel critère et pour quel fin? Et c’est ça qui est fondamentalement démocratique, c’est-à-dire d’avoir accès aux arbitrages politiques qui prédéfinissent votre conception technologique.
Journaliste : Quel est l’enjeu géopolitique actuel de l’IA ?
Asma Mhalla : Aujourd’hui ce qui est vraiment au cœur de la rivalité stratégique entre les États-Unis et la Chine, ce sont en particulier les IA à usage militaire. On parle notamment demain du développement des armes autonomes par exemple, mais pas que. C’est aussi toute la façon dont les armées vont organiser leur chaîne de commandement autour de la data, de données multi domaines, inter-armées etc. Donc c’est potentiellement, ce qu’on appelle une révolution dans les affaires militaires. C’est ça, ce que peut apporter aujourd’hui l’IA appliquée à la chose militaire. Et évidemment elle est au cœur de la crispation sino-américaine. Il y a deux sujets aujourd’hui d’un point de vue géopolitique qui cristallisent la rivalité entre les deux, c’est la question climatique et la question technologique. Mais la rivalité est aujourd’hui fondamentalement cristallisée sur ces deux questions là. Et sur la question des IA militaires, évidemment, le premier qui aura développé ça, prend le dessus sur l’autre. Et attention, parce que les IA à usage militaire posent des questions juridiques et éthiques fondamentalement énormes et qui ne sont aujourd’hui que très peu voire pas encore préemptées par la communauté internationale. Ce sont potentiellement des armes de destruction massive et avec des risques d’erreur, parce qu’on voit la fiabilité des IA qui n’est absolument pas optimale, qui peuvent vraiment créer des problèmes absolument énormes et des dégâts surtout collatéraux importants. Voilà où est-ce-qu’on en est aujourd’hui sur la vraie question des IA.
Journaliste : Faut-il s’inquiéter de la croissance de l’IA et de cette guerre technologique ?
Asma Mhalla : Moi, je ne m’inquiète jamais de rien. Il faut prendre les choses comme elles sont et les traiter froidement, c’est-à-dire rationnellement. Quelles sont toujours la balance des coûts et des bénéfices ( ??? 9min 19) et qu’est-ce-qu’on fait si on ne sait pas ? C’est très simple. La question en réalité n’est pas du tout compliquée. Si on ne sait pas quelle société on veut construire évidemment que toutes ces questions vont inquiéter, vont devenir anxiogènes. On prend toujours le sujet à rebours et c’est comme si la question technologique drivait toutes nos réflexions politiques. Et encore, les réflexions politiques on les a pas tout à fait en plus. Il faut inverser les choses : c’est à nous de définir ce qu’on veut comme société. Si demain on veut dire : « c’est une société sans guerres sans armes autonomes », il faut se mettre en ordre de bataille d’ores et déjà. Vous voyez bien que les luttes de puissance, les luttes de pouvoir sont telles qu’aujourd’hui, il y a une confiscation de ces sujets là.
Journaliste : La France a-t-elle un poids face à ces deux superpuissances ?
Asma Mhalla : Non, c’est une question de rapport de forces. Ce n’est pas la France qui va régler le problème. La question c’est : est-ce-qu’il va y avoir une communauté internationale qui se mobilise ? Pour l’instant, sur la question des IA militaires, le sujet éthique, c’est-à-dire, quelles sont les règles du jeu, qu’est-ce-qu’on développe et qu’est-ce-qu’on développe pas par exemple, a été bloquée par la Russie et les États-Unis et la Chine ne se prononçait pas tellement jusque là parce que ce sont des instruments de projections de puissance. Les choses ont l’air de bouger depuis quelques temps puisqu’en février 2023 on a eu aux Pays-Bas, le premier sommet sur l’éthique des IA militaires et portée d’ailleurs beaucoup par les États-Unis. Et c’est pas anodin, c’est pas du tout pour faire jolie ou juste faire de la communication politique, c’est surtout pour avoir le leadership normatif. Celui qui possède la norme technologique, décide de la vision du monde, décide des valeurs, décide des règles du jeu qui sont encapsulées dans la technologie. Et donc ce n’est pas du tout un hasard que maintenant, précisément dans ce timing là et dans la recomposition géopolitique là, les États-Unis reprennent la conversation internationale, reprennent en main la conversation internationale sur l’éthique des IA militaires. Et vous voyez bien que l’Europe est relativement, pour l’instant absente. L’Europe peut encore décider de ce qu’elle fait au sein de ses frontières. On le voit avec le Digital Services Act[7], le Digital Markets Act[8], l’AI Act et tous les actes (ndlt textes normatifs) qu’ont a. Elle peut dire : « au sein de nos frontières, voilà les règles à respecter ». Et c’est déjà très bien en soi. Mais est-ce-qu’elle a aujourd’hui une capacité, une force de frappe dans des négociations internationales où le multilatéralisme n’existe plus tellement puisque c’est une confrontation entre deux géants, États-Unis et Chine ? Ça reste à voir, pour l’instant on a pas fait la preuve du concept.
Journaliste : Pour ou contre la législation européenne sur l’intelligence artificielle ?
Asma Mhalla : Pour.
Journaliste : Pour ou contre la fin du travail et la mise en place d’un revenu universel ?
Asma Mhalla : Contre.
Journaliste : Pour ou contre l’interdiction de ChatGPT dans les universités ?
Asma Mhalla : Contre l’interdiction.
