L'IA nous rend encore plus dépendants des GAFAM - Ophélie Coelho
Titre : L'IA nous rend encore plus dépendants des GAFAM. Avec Ophélie Coelho
Intervenant·es : Ophélie Coelho - Grégoire Barbey
Lieu : France Le temps Podcast IA qu'à m'expliquer
Date : 17 juin 2024
Durée : 30 min
Licence de la transcription : Verbatim
Illustration : À prévoir
NB : Transcription réalisée par nos soins, fidèle aux propos des intervenant·es mais rendant le discours fluide.
Les positions exprimées sont celles des personnes qui interviennent et ne rejoignent pas nécessairement celles de l'April, qui ne sera en aucun cas tenue responsable de leurs propos.
Transcription
La première minute n’est pas transcrite
Grégoire Barbey : Mesdames et messieurs bonjour et bienvenue dans IA qu’à m’expliquer, le podcast de le Temps qui démystifie les intelligences artificielles.
La course aux IA exacerbe telle nos dépendances technologiques. ? Vous le savez aussi bien que moi, nos usages numériques sont fournis par un tout petit nombre d’acteurs, mais, ce qui est moins visible, c’est à quel point les infrastructures qui permettent à ces services de fonctionner sont souvent dominées par les mêmes entreprises et ça, c’est loin d’être anodin sur le plan géopolitique.
C’est justement le sujet que j’aborderai avec Ophélie Coelho, chercheuse indépendante, qui a écrit un ouvrage que je vous recommande, intitulé Géopolitique du numérique : l’impérialisme à pas de géants. Côté actu, le gros sujet portera évidemment sur Apple qui a enfin dévoilé de nouvelles options reposant sur l’IA générative. On parlera aussi de Microsoft qui est confrontée à des problèmes de cybersécurité pour sa nouvelle fonctionnalité Recall. Je répondrai enfin à une question posée par une auditrice sur la consommation énergétique de l’IA générative qui, décidément, interpelle de plus en plus.
Avant d’entrer dans le vif du sujet, je vous invite une fois de plus à liker ce contenu sur vos plateformes préférées, à le partager et à le noter. C’est difficile de faire sa place dans le monde impitoyable des algorithmes, mais avec votre aide, c’est possible.
Je suis Grégoire Barbey journaliste à Le Temps et vous écoutez le cinquième épisode de IA qu’à m’expliquer.
Bonjour Ophélie Coelho.
Ophélie Coelho : Bonjour.
Grégoire Barbey : Vous êtes spécialiste des enjeux géopolitiques du numérique et auteur de l’ouvrage Géopolitique du numérique : l’impérialisme à pas de géants, paru aux éditions de l’Atelier. Qu’est-ce que, justement, la géopolitique du numérique ?
Ophélie Coelho : La géopolitique du numérique, c’est, en fait, de la géopolitique, donc une analyse à la fois géographique et liée aux relations internationales, et qui prend en compte les enjeux du numérique, spécifiques du numérique. On va notamment étudier la place des différents acteurs dans ce domaine, qu’il s’agisse des acteurs étatiques ou des entreprises privées.
Grégoire Barbey : Est-ce qu’il y a de la géopolitique du numérique dans l’intelligence artificielle aussi ?
Ophélie Coelho : Oui. On peut dire que l’intelligence artificielle devient un sujet de géopolitique du numérique, parce que ça devient un sujet stratégique. Quand on parle d’intelligence artificielle, il faut quand même toujours un peu re-cibler, je me permets de refaire un peu une définition rapide ; c’est un mot-valise dans lequel on met beaucoup de choses. En fait, l’intelligence artificielle c’est vraiment une famille assez large de technologies et c’est vrai qu’aujourd’hui on parle beaucoup des LLM, les Large Language Models, c’est vraiment la famille du traitement de langage naturel, mais, dans l’IA, il y a aussi la reconnaissance d’images, l’aide à la décision, la robotique, les systèmes autonomes ou les assistants personnels qui cumulent, par ailleurs, plusieurs de ces technologies. En fait, c’est vraiment une famille très large et, en effet, elle va avoir des applications autant civiles que militaires, donc ça intéresse évidemment les États pour tout un tas de raisons. Due à ces différents usages, il est évident qu’il y a une course au développement technologique, dans ces différents domaines, qui devient, du coup, un sujet géopolitique, c’est évident. Il n’y a pas trop de mystères quant aux acteurs les mieux positionnés dans cette course entre les États-Unis et la Chine en termes d’États étatiques et, au-delà des États, les producteurs de technologies, en particulier les Big Tech, ceux qu’on appelle les Big Tech, les grandes entreprises technologiques qui sont évidemment les mieux placées aujourd’hui pour développer des modèles nécessitant des masses de données à entrainer, faire du machine learning, à la fois sur les fameux LLM dont on a parlé, ça va être ChatGPT, ça va être Gemini, etc.
Grégoire Barbey : Gemini de Google, pour préciser.
Ophélie Coelho : Oui absolument. Ou alors sur des jeux de données beaucoup plus spécialisés. La place de ces acteurs, dans ce domaine-là, s’explique assez naturellement, puisqu’ils ont vraiment le monopole, en quelque sorte, de la donnée, que ce soit de la donnée grand public ou que ce soit de la donnée spécialisée, puisque leurs clients sont autant l’individu, l’utilisateur grand public, que les entreprises privées. Ça touche donc tout un l’ensemble de domaines, parfois très précis comme la santé, la sécurité, l’énergie, etc., sur lesquels ils vont pouvoir récupérer des données et faire de l’entraînement, éventuellement, en R&D. D’ailleurs, c’est ce qui a permis à Google d’être un très grand acteur de l’intelligence artificielle sur la dizaine d’années qui nous précède, c’est d’ailleurs de chez Google qu’est apparue la plus grande transformation justement des LLM, ceux qu’on utilise actuellement, via les transformers. Le principe des transformers, en 2017, vient de chez Google et ça a permis, derrière, de développer tout un tas de modèles et, de chez Google, sortait également les modèles type BERT, T5, ELECTRA, Gshard. Voilà !
Grégoire Barbey : Peut-être préciser ce que sont les transformers pour que les gens qui ne sont pas du tout du domaine puissent un peu comprendre ce que ça représente comme changement majeur.
Ophélie Coelho : Les transformers, c’est une réponse à l’analyse sous forme de réseaux de neurones, c’est-à-dire que c’est un complément qui facilite le traitement de données en instantané, de plusieurs couches de données en instantané, ce que ne permettaient pas de faire les réseaux de neurones traditionnels. En gros, ça permet d’aller plus rapidement et d’avoir aussi des résultats plus fiables en sortie.
Grégoire Barbey : Ce qui est intéressant dans ce que vous dites, c’est que, finalement, on parle aujourd’hui beaucoup d’IA. En ce moment, quand on parle d’IA, on parle surtout d’IA générative, parce que, dans la tête des gens, l’IA c’est ChatGPT, alors que, comme vous le dites, il y en avait depuis bien avant. Certains voient de la tectonique des plaques dans le domaine des géants du numérique avec ces changements induits par l’IA générative, on voit, par exemple, OpenAI qui se place en tête de cette course, la question, c’est : avez-vous l’impression qu’il y a une redistribution des cartes au sein de cet écosystème de géants du numérique ? Ou finalement, comme il y a Microsoft derrière OpenAI, c’est juste un petit peu l’homme de paille de ce géant du numérique, mais, en fait, les équilibres n’ont pas tant changé et ne vont pas tant changer ces prochaines années ?
Ophélie Coelho : Oui, je pense que là vous avez bien résumé les choses. On pourrait croire à l’émergence d’un nouvel acteur qui prendrait le dessus sur les autres, etc., parce que, dans l’histoire du numérique, ça s’est un petit peu passé comme ça, avec le Web, on a eu l’émergence de nouveaux acteurs qui ont, en quelque sorte, leadé ce domaine face à des acteurs plus traditionnels comme pouvait être, par exemple, IBM à l’époque qui a quand même perdu un petit peu de voilure depuis. On pourrait croire encore à cela, mais ça ne marche plus maintenant, parce qu’on a affaire à des acteurs qui sont puissants, qui ont un tel monopole sur les technologies numériques. On voit bien, par exemple, OpenAI, qui n’était pas du tout, au départ un projet destiné à être ce qu’il est devenu – produit privé, etc. –, peut facilement se faire racheter par une autre entreprise qui en a les moyens. En fait, tout petit acteur – petit étant relatif – qui va concevoir, qui va proposer sur le marché une technologie innovante, considérée vraiment comme une rupture, va être facilement racheté. Le seul choix serait vraiment, de la part des personnes qui créent ces entreprises, de ces entreprises elles-mêmes, de se dire « OK, nous choisissons de ne pas être rachetées quel que soit le montant qu’on nous propose ». L’indépendance a aussi un coût derrière. Quand on souhaite être indépendant, ça veut dire aussi, en effet, ne pas accepter d’être racheté par exemple.
Grégoire Barbey : Justement, là vous me tendez la perche. On a eu un cas récemment, Mistral AI, cette start-up française créée à peu près il y a une année, je crois que c’était en avril 2023, qui ambitionnait d’être un champion européen de l’intelligence artificielle, en tout cas qui se présentait comme indépendant des géants du numérique, qui avait décidé récemment d’accepter une participation de Microsoft dans son capital à hauteur, je crois, de 15 millions d’euros,. Ce n’est pas énorme, mais c’est quand même une somme et, surtout, Microsoft aide Mistral AI à commercialiser ses modèles, notamment des modèles open source mais aussi un premier modèle fermé, c’est-à-dire qu’on ne peut pas auditer, qu’on ne peut pas modifier à sa guise et commercialiser ensuite sans devoir de l’argent à l’entreprise ou sans son accord. Est-ce que là c’est la preuve que, finalement, Microsoft est capable, même avec des acteurs qui veulent faire ce pari de l’indépendance, de m’être des billes partout ?
Ophélie Coelho : Honnêtement, finalement je suis pas sûre que Mistral ait vraiment ce souhait d’indépendance. Je pense qu’ils l’utilisent aussi cette idée d’indépendance comme un argumentaire commercial, due aussi au fait que les sujets de souveraineté numérique sont pas mal montés en Europe ces dernières années, c’était donc un argument commercial tout trouvé. Je ne suis vraiment pas sûre qu’en fin de compte ce soit ce qu’ils visent et c’est plutôt mauvais signe, parce que ça va créer des dépendances économiques, d’abord, mais aussi, par la suite, des dépendances techniques dues, en fait, à l’usage de l’infrastructure, par exemple chez Microsoft, qui pose problème quand on veut parler d’un acteur indépendant. Et évidemment, quand en plus de ça on rajoute des produits qui sont fermés, on ajoute aussi le fait que qui dit fermé dit qu’on rentre dans la logique propriétaire qui est, finalement, le modèle commercial de ces entreprises du numérique. Donc, finalement, on fait un peu la même chose que ces grands.
Grégoire Barbey : On entend de plus en plus parler, nous aussi en Suisse, de cette notion de souveraineté numérique, ça devient un enjeu politique même si c’est encore assez marginal, comment la définiriez-vous ?, parce qu’il y a plusieurs visions de cette souveraineté numérique. Certains estiment que c’est juste une question de localisation des données et, par exemple, Microsoft, Google, eux, prétendent proposer des logiciels souverains parce que, justement, ils disent « nos centres de données sont en Europe, donc c’est souverain. » Comment la définissez-vous ?
Ophélie Coelho : À force, je finis par me dire que la souveraineté numérique est plutôt un terme commercial et non pas un terme réel. Je m’explique. Évidemment que la souveraineté a un sens et évidemment que dans tout un tas de domaines, notamment les sujets sensibles, on a tout intérêt à être souverain. Mais, en ce qui concerne le numérique, il faut tout de même prendre en considération qu’on a affaire à des objets techniques qui ont de multiples dépendances, ne serait-ce que les logiciels. Aujourd’hui, les logiciels sont faits de multiples briques dont les dépendances ne sont pas visibles, il faudrait donc faire un audit des produits qu’on utilise dans notre travail, au quotidien, etc., pour vraiment comprendre en quoi on n’est pas souverain dans tel ou tel domaine, donc ça demande, en effet, un travail un peu de fou. Il y a donc la partie logicielle, il y a la partie des producteurs, qui fait la technologie ? Vous pouvez très bien avoir des données en Europe, si vous ne maîtrisez pas la technologie et vous ne l’avez pas en Europe, en fait vous êtes toujours, finalement, uniquement client, un client qui va essayer, après coup, à posteriori, de se faire entendre par un service après-vente, puisqu’il n’a pas la maîtrise de la technologie. C’est déjà une première chose.
Ensuite, pour moi, la souveraineté numérique ce serait aussi parler des outils physiques qu’on utilise. La souveraineté numérique ça va être les ordinateurs, les téléphones, on sort donc de la logique du logiciel. Ça va être aussi l’infrastructure, c’est-à-dire les câbles, les réseaux, les centres de données, etc. En réalité, la souveraineté numérique englobe tout ça.
À partir de là, dans un monde dans lequel il y a une très grande interdépendance mondiale au niveau des chaînes industrielles, j’appelle ça les chaînes de dépendances, parce qu’on est vraiment dans des rapports de force, dans des rapports de dépendance, on se rend compte que ces chaînes de dépendances font que le concept de souveraineté numérique est très idéalisé et, je pense, mal compris. Du coup, il sert parfois, et peut-être un peu trop, les discours politiques plutôt qu’une vision qui se voudrait stratégique, donc beaucoup plus rationnelle, qui nécessiterait des audits, qui nécessiterait d’aller au fond de la question en fait.
Grégoire Barbey : Bon ! À chaque fois, vous me coupez l’herbe sous le pied parce que j’avais prévu cette question et vous l’entamez déjà ! Sur cet enjeu d’infrastructures, que vous mentionnez d’ailleurs parfaitement dans votre livre, aujourd’hui dans le domaine de l’IA, on voit que ce sont plutôt les centres de données et aussi les puces. Dans le domaine des puces, on voit qu’il y a un très petit nombre d’acteurs, notamment TSMC à Taïwan, qui produit notamment les puces de Nvidia. Là, dans quelle direction l’enjeu évolue-t-il selon vous ?, parce que c’est très difficile d’imaginer comment une telle industrie, qui dans tous les domaines – on retrouve les puces partout aujourd’hui –, puisse reposer sur un si petit nombre d’acteurs. Comment est-ce possible ?
Ophélie Coelho : Franchement, je pense qu’à un moment donné les questions ne se sont pas tout à fait posées de la bonne manière. On a en effet concentré la production des puces à Taïwan et c’est d’ailleurs un problème auquel les États, aujourd’hui, réfléchissent, les États-Unis et la Chine sont évidemment au premier rang de cal, pour, justement, être moins dépendants, en créant notamment d’autres usines TSMC un peu partout. La dépendance reste réelle, d’autant plus qu’il y a des soucis en plus concernant Taïwan, vu les problèmes climatiques auxquels ils peuvent avoir affaire et, évidemment, les problèmes géopolitiques avec la Chine, j’aurais même dû dire ça en premier. Il est évident qu’on se retrouve quand même dans une situation qui n’est pas du tout confortable quand on sait que ce qu’ils produisent crée de fortes dépendances ensuite de l’industrie, de plusieurs industries, l’industrie automobile, industrie numérique évidemment. Pourquoi ce choix a-t-il été fait ? Honnêtement, pour moi, c’est d’une incohérence totale. Ça dénote probablement d’un manque de stratégie.
Grégoire Barbey : Est-ce que c’est vraiment un choix ou est-ce que ça s’est fait un peu par la nature des choses ? À force que les années passent et que l’on se rende compte que, finalement, là-bas, par exemple en Asie, le coût de la main-d’œuvre est tellement bas que, pour assembler les pièces, ce n’est pas cher, donc c’est ce qui marche le mieux pour proposer ensuite, en Europe, des produits à bas prix et inonder le marché. N’y a-t-il pas un peu tout cela qui s’est mis en branle avec, justement, une absence, justement, de volonté politique ?
Ophélie Coelho : Bien sûr, mais on pourrait aussi dire que c’est quand même un problème de choix stratégique, c’est-à-dire qu’il n’y a pas du tout de vision stratégique à se dire qu’on dépend uniquement d’une très grosse minorité d’entreprises qui se trouvent à Taïwan, d’autant plus qu’historiquement oui, Taïwan est quand même un sujet géopolitique assez fort. Je pense qu’à des moments les choses ne sont pas forcément pensées. Après, pour le coup, je vais prendre des pincettes, il y a peut-être des spécialistes de Taïwan qui sauraient dire un peu plus précisément que moi pourquoi, au départ, Taïwan a été choisi pour les puces.
Grégoire Barbey : Et sur cet aspect, justement, de chaînes de dépendances que vous mentionniez, évidemment Taïwan, enfin TSMC produit les puces, mais l’assemblage des semi-conducteurs nécessite des machines-outils très perfectionnées et là, ce sont des entreprises européennes qui sont leaders du marché. Sur ce plan, on n’entend jamais parler de ces entreprises-là, pourtant elles font partie de cette chaîne de dépendances et peuvent aussi représenter un levier de pouvoir dans cette géopolitique ?
Ophélie Coelho : Absolument. Généralement, dans la chaîne de dépendances, on oublie un certain nombre d’acteurs. C’est le cas pour les semi-conducteurs où, en effet, les machines-outils sont créées en partie en Europe, mais c’est le cas aussi dans d’autres domaines. On pourrait parler des câbles sous-marins, on va avoir des flottes de navires câbliers qui vont être français, en grande partie parce qu’on a une très belle flotte de navires câbliers et en fait, tous ces acteurs-là, mis bout à bout, représentent des pouvoirs pour les États. C’est dire qu’on a tendance à se concentrer uniquement sur les nœuds stratégiques extrêmement forts, ce qui est important – les semi-conducteurs, etc. –, mais, en fait, il y a d’autres nœuds stratégiques, qu’on ne voit pas forcément, et qui peuvent aussi peser dans la balance. D’ailleurs à mon sens, quand on parle de chaîne de dépendances pour un État ou pour une entreprise, pareil, ce qui est important c’est de savoir se positionner au bon endroit pour être capable de faire levier de négociation, être en capacité de faire peser sa voix, donc les machines-outils et les navires câbliers, par exemple, en font partie. Et puis, évidemment, vous allez avoir tout un tas de matériaux concernant, par exemple, les semi-conducteurs. Il y a aussi le sujet des mines, de l’extraction minière de certains métaux et là-dessus la Chine, évidemment, a un grand pouvoir et un grand levier de négociation sur ce sujet-là. Donc, c’est vrai qu’on a de quoi faire entendre notre voix, mais encore faudrait-il le protéger aussi dans ces différents secteurs et le développer.
16’ 11
Grégoire Barbey : Le sujet inépuisable.
