IA partout, souveraineté nulle part

Titre : IA partout, souveraineté nulle part ?

Intervenant·e·s : Sarah Guillou - Grégoire Barbey

Lieu : IA qu'à m'expliquer - Le Temps

Date : 9 septembre 2024

Durée : 27 min 16

Podcast

Licence de la transcription : Verbatim

Illustration : À prévoir

NB : transcription réalisée par nos soins, fidèle aux propos des intervenant·e·s mais rendant le discours fluide.
Les positions exprimées sont celles des personnes qui interviennent et ne rejoignent pas nécessairement celles de l’April, qui ne sera en aucun cas tenue responsable de leurs propos.

Description

La notion de souveraineté numérique a gagné en popularité ces dernières années et l'essor des techniques d'intelligence artificielle générative a renforcé ce phénomène. Mais de quoi s'agit-il exactement ? Dans un monde globalisé, est-il réellement possible pour les États de conserver une forme de pouvoir sur les nouvelles technologies ?

Transcription

Grégoire Barbey : Mesdames et messieurs, bonjour et bienvenue dans IA qu’à m’expliquer le podcast du Temps qui démystifie les intelligences artificielles. Cet épisode a été réalisé avec le soutien de Infomaniak, une entreprise suisse qui propose une alternative souveraine complète à Microsoft 365, pour collaborer en ligne dans un cloud éthique qui ne fait aucun compromis sur la vie privée et l’écologie.
Je vous propose aujourd’hui de nous intéresser à nouveau à la notion de souveraineté numérique. C’est un terme à la mode qui a encore gagné en popularité avec l’émergence des IA génératives. Mais est-ce que ce concept a vraiment du sens ? Est-il possible de maintenir une forme de souveraineté dans un monde dominé par une poignée d’acteurs ultra-puissants ? Si vous voulez des réponses, ne manquez pas l’entretien du jour avec l’économiste française Sarah Guillou.
Du côté de l’actu, on reviendra sur un étrange partenariat avec Huawei en Suisse pour un brevet fédéral en intelligence artificielle et on parlera, bien entendu d’Apple et Nvidia, qui veulent investir dans OpenAI.
Avant d’entrer dans le vif du sujet, je vous invite une fois de plus à liker ce contenu sur vos plateformes préférées, à le partager et à le noter. C’est difficile de faire sa place dans le monde impitoyable des algorithmes, mais avec votre aide, c’est possible.
Je suis Grégoire Barbey, journaliste au Temps, et vous écoutez le neuvième épisode de IA qu’à m’expliquer.
Bonjour, Sarah Guillou.

Sarah Guillou : Bonjour.

Grégoire Barbey : Vous êtes économiste à l’Observatoire français des conjonctures économiques et vous avez publié le livre La souveraineté économique à l’épreuve de la mondialisation aux éditions Dunod. Est-ce que vous pourriez nous donner une définition de ce qu’est la souveraineté ?

Sarah Guillou : La souveraineté, si on l’entend d’un point de vue politique, ça va être le pouvoir d’une institution, d’un État en général, d’exercer un pouvoir de contrainte, de décider, d’imposer le droit sur un territoire délimité.
La souveraineté économique, c’est un tout petit peu différent, puisque, là, on dispose d’un État souverain politiquement et on peut dire qu’il est souverain économiquement s’il est capable d’être en mesure d’influencer l’ordre économique mondial et non de le subir et qui ne se trouve pas en situation de dépendance trop asymétrique pour la satisfaction des besoins économiques de sa population et de ses entreprises. Donc, la souveraineté économique, c’est bien être en situation de ne pas se faire imposer un ordre économique par autrui, parce qu’on maîtrise un certain nombre des technologies et qu’on est capable, aussi, de contester le pouvoir d’autrui.

Grégoire Barbey : Aujourd’hui, on entend beaucoup parler d’une notion un petit peu dérivée de celle de la souveraineté économique, c’est celle de la souveraineté numérique. Trouvez-vous que cette notion est pertinente et comment l’appréhendez-vous ?

Sarah Guillou : C’est vrai que la souveraineté numérique vient très rapidement quand on parle de souveraineté économique, parce que, aujourd’hui, on sait bien qu’une grande partie du pouvoir économique est issue de la maîtrise technologique et les technologies qui sont clés aujourd’hui, qui sont très présentes dans l’ensemble des technologies, ce sont les technologies numériques. Donc, dès qu’on parle de souveraineté économique, on parle souveraineté technologique et dès qu’on parle souveraineté technologique, on pense souveraineté numérique. Et vous ajoutez à cela que l’économie numérique a beaucoup de dimensions de souveraineté parce que cela touche à l’information, la communication, parce que les technologies qui sont sous-jacentes sont souvent duales, c’est-à-dire qu’elles ont à la fois un contenu militaire, donc ont des propriétés et des applications en matière de sécurité, et un contenu civil. C’est aussi une autre dimension qui rend ces technologies très sensibles à la question de la souveraineté, et puis aussi parce que le pouvoir numérique, en tout cas la maîtrise des technologies numériques, peut être à la fois instrumentalisé par les États – donc, évidemment, pour contester la souveraineté d’un autre État –, et instrumentalisé par les entreprises – on y viendra certainement –, parce que les entreprises du numérique sont les entreprises qui ont acquis de plus en plus de pouvoir ces dernières années.

Grégoire Barbey : Et puis, dans cette même notion de souveraineté numérique, aujourd’hui il y a encore quelque chose qu’on rajoute, c’est celle de l’intelligence artificielle. On se dit maintenant, on a cette technologie qui s’appuie déjà sur les infrastructures numériques, mais elle implique de nouvelles dimensions, notamment en termes de protection des données et là, il y en a qui parlent d’IA souveraine, alors que c’est quand même une technique qui repose sur un large éventail de technologies, de ressources d’énergie et d’autres processus de fabrication qui sont en général rendus possibles grâce à la mondialisation, donc grâce à un ensemble de dépendances. Est-ce que cette notion de souveraineté, dans ce domaine particulier, a encore un sens ?

Sarah Guillou : Ça a un sens parce que, effectivement, l’intelligence artificielle, parmi les technologies numériques, c’est une technologie avec un potentiel de pouvoir et aussi une dimension souveraine très forte, parce que derrière, il y a toutes les technologies de l’information, mais aussi de contrôle de l’information et de la transformation de l’information ; c’est encore plus une technologie qui est fortement nécessaire aussi aux technologies militaires. L’intelligence artificielle recouvre effectivement un grand nombre de technologies, mais c’est également très fortement, encore plus que l’ensemble technologies numériques, associé à des missions souveraines, donc, le contenu souverain, le potentiel souverain de l’intelligence artificielle est très fort. Et en même temps, comme vous le dites, l’intelligence artificielle c’est en fait une technologie système, ça recouvre plein de technologies, ça va des algorithmes, logiciels, des bases de données et toutes les infrastructures – les serveurs, les puces électroniques – qui sont nécessaires à l’intelligence artificielle pour faire tourner les grandes bases de données. C’est donc une technologie système et penser acquérir une certaine autonomie sur l’ensemble de ces technologies, c’est très compliqué, évidemment, sachant qu’en plus les technologies numériques ont la particularité d’être extrêmement fragmentées dans le processus de production, c’est-à-dire qu’une puce électronique qui entre dans toutes les technologies numériques nécessite de recourir à plein de fournisseurs, et ces fournisseurs sont dispersés dans le monde. La production même du numérique et de l’intelligence artificielle sont des productions mondiales et extrêmement fragmentées avec plein de fournisseurs, donc ça rend compliqué la maîtrise des flux de production.

Grégoire Barbey : En même temps, pour avoir au moins une partie souveraineté, j’imagine qu’il faut avoir des leviers sur les acteurs économiques qui fournissent les services principaux du numérique, les technologies, et, aujourd’hui, on voit quand même deux acteurs majeurs qui sortent du lot sur ce domaine, les États-Unis et la Chine qui, eux-mêmes, sont en compétition sur ces domaines-là. Aujourd’hui, diriez-vous que ce sont des acteurs qui, eux, ont un levier pour avoir une forme de souveraineté ? Et est-ce que l’Europe, elle, au milieu de ces deux géants, pourrait aussi développer des capacités de souveraineté dans ce domaine-là, alors qu’elle semble accuser un peu de retard ?

Sarah Guillou : La difficulté, c’est que, en effet, c’est une technologie qui est maîtresse aujourd’hui, dont on sait que le potentiel de croissance et le potentiel de pouvoir économique qu’elle va conférer est considérable. Donc, si vous vous retrouvez, c’est le cas de l’Europe, dans une situation où vous avez deux autres puissances dominantes, principalement les États-Unis, la Chine également, qui dominent dans la maîtrise de ces technologies, vous pouvez considérer être en situation de dépendance technologique et ça peut devenir problématique si vous êtes toujours en situation de recourir à des fournisseurs externes. La question, c’est : est-ce que vous avez le pouvoir d’achat pour acheter leurs services ?
La réalité, c’est que la souveraineté, ce n’est pas simplement être capable de produire. Bien sûr que c’est important, parce que produire, c’est aussi signifier que vous avez la maîtrise technologique. Mais il y a un autre aspect de la souveraineté, qui est aussi la demande et la contestabilité en termes concurrentiels. Or, en Europe, on a effectivement un levier qui est le marché et on se sert de ce marché pour actionner un autre levier de souveraineté qui est la régulation, pour réguler à la fois les grands acteurs, mais aussi pour contrecarrer des velléités expansionnistes ou impérialistes, par exemple pour contrecarrer l’extraterritorialité du droit américain. Donc, la maîtrise des technologies est impérative et ça exige de l’Europe de plus en plus d’investissements et une vraie prise de conscience que même si on a une grande base de chercheurs et de potentiel en termes de capital humain, on a beaucoup moins d’investissement en intelligence artificielle dans les entreprises. Mais, on a des capacités d’absorption parce que, en Europe, on a un niveau technologique, qui nous permettent d’absorber aussi le progrès technologique et les progrès en matière d’intelligence artificielle. Mais il ne faut pas sous-estimer le marché européen et son levier de régulation comme exercice de sa souveraineté.

Grégoire Barbey : Aujourd’hui, on voit que l’Union européenne essaye effectivement d’activer ce levier de souveraineté qu’est la réglementation, mais, ce qui est un peu paradoxal, c’est qu’on a des acteurs comme Microsoft, par exemple, qui développent à fond l’intelligence artificielle. Microsoft a notamment annoncé, cet été, qu’ils allaient construire un nouveau centre de données en France, en Alsace, et on les accueille à bras ouverts. On voit, aujourd’hui qu’en Europe, que ce sont des infrastructures qui sont quand même essentiellement créées par les géants du numérique, plutôt américains, plutôt chinois, et l’Europe essaie de réglementer ce marché, mais ce n’est pas elle, quand même, qui maîtrise, finalement, la dimension infrastructurelle de ces technologies.

Sarah Guillou : On a une première difficulté, c’est que, dans l’économie numérique, celui qui est entré en premier accumule beaucoup d’avance qui est difficile à rattraper. C’est le principe des effets de réseau, des économies d’échelle qui sont considérables dans l’économie numérique et encore plus avec l’intelligence artificielle. Ces acteurs américains, qui sont entrés les premiers, détiennent un potentiel de productivité qui les rend difficilement contournables.
Après, ce n’est pas parce que vous n’êtes pas propriétaire quand le serveur et les centres donnés sont localisés en Europe. La question, c’est, par exemple : est-ce qu’on arrivera à évincer l’exercice d’une l’extraterritorialité du contrôle américain. Si le serveur est localisé en France, vous avez déjà une partie de l’exercice de la souveraineté sur la territorialité des données, donc, la régulation c’est aussi l’usage de ces données et comment autrui pourrait s’en approprier ; c’est l’inviolabilité, l’intégrité de ces données.
Donc, oui, on peut considérer que c’est dommage qu’on n’ait pas un acteur qui soit capable de construire des infrastructures, mais il y a tellement d’autres choses aussi dans l’intelligence artificielle ! Aujourd’hui, on est dans une situation où il faut gérer l’innovation d’après et, peut-être, être suffisamment capable de contester le pouvoir économique de ces détenteurs des infrastructures pour pouvoir continuer à maîtriser la manière dont les données sont utilisées, les algorithmes et les logiciels. Il y a vraiment beaucoup d’autres marchés sur lesquels l’Europe peut investir. Renoncer, en fait, aux hyperscalers américains aujourd’hui ça peut être problématique, parce qu’ils ont une avance considérable. Ça n’empêche pas qu’il y a quelques petits acteurs européens capables aussi d’investir dans les infrastructures, OVH ou d’autres. Sans doute ne faut-il pas les oublier dans les marchés publics ?

Grégoire Barbey : Aujourd’hui, on voit aussi, si on regarde un petit peu comment ça fonctionne en termes de compétences, que la France va s’appuyer sur l’aide de Microsoft pour faire de la formation dans le domaine de l’intelligence artificielle. Ces géants-là comme Nvdia, comme Microsoft, comme Amazon, créent aussi des environnements de développement pour les ingénieurs, qui sont des environnements de développement que, eux, maîtrisent et qui limitent un petit peu le champ d’action des ingénieurs dans lequel ils doivent s’approprier les outils propriétaires de ces entreprises. On voit, finalement, que ça crée aussi des questions de souveraineté, parce que, quelque part, plus les technologies sont maîtrisées par les acteurs et moins les ingénieurs ont de capacité à s’extraire un petit peu des briques qu’ont été mises en place par ces géants ; ça crée un pouvoir de marché qui est d’autant plus puissant. Comment peut-on en sortir ? En fait, comment l’Europe, justement, peut-elle éventuellement réussir à contrecarrer un petit peu cette mainmise qui, petit à petit, se renforce et devient de plus en plus difficile à contester ?

Sarah Guillou : Ce que vous soulevez, c’est un point clé du contrôle, de la régulation de la concurrence. C’est-à-dire qu’aujourd’hui, ces entreprises ont des leviers d’acquisition de pouvoir et de capture, en fait, du marché, via la maîtrise technologique et l’orientation des standards ou des spécificités des systèmes informatiques et des développements. C’est vrai que le régulateur a encore du mal encore à maîtriser ce levier-là et à le contrôler. Donc, effectivement, il existe le danger que la maîtrise de production, des infrastructures et le contrôle obère la capacité de contestabilité du marché des acteurs potentiels européens. C’est vrai qu’il faut vraiment veiller à essayer de mieux comprendre les stratégies de captation via la maîtrise de la technologie de ces grands acteurs. C’est un vrai défi. Un rapport d’économistes va sortir prochainement, qui sera publié à la Chaire Digital, Gouvernance et Souveraineté de Sciences Po, qui met en évidence que, sur l’ensemble de la chaîne de production des différentes technologies de l’IA, l’Europe est quand même assez bien présente sur l’ensemble de la filière. La difficulté, c’est de créer des synergies avec tous ces acteurs.
Ce qui permet d’être encore optimiste relativement à l’Europe, c’est le fait qu’on a une vraie maîtrise en termes de recherche, de connaissances scientifiques, mais on a un défaut, en tout cas d’amplitude et de synergie entre les acteurs européens pour pouvoir contrecarrer la puissance des acteurs américains, les Chinois étant beaucoup moins présents dans le domaine, sur le marché européen.

13’ 23

Grégoire Barbey : Aujourd’hui,