Intelligence artificielle, bullsh*t, pipotron - Benjamin Bayart
Titre : Intelligence artificielle, bullsh*t, pipotron ? Benjamin Bayart
Intervenants : Benjamin Bayart - Sky
Lieu : Chaîne Internet Thinkerview
Date : 4 avril 2024
Durée : 2 h 36 min 29
Licence de la transcription : Verbatim
Illustration : À prévoir
NB : Transcription réalisée par nos soins, fidèle aux propos des intervenant·e·s mais rendant le discours fluide.
Les positions exprimées sont celles des personnes qui interviennent et ne rejoignent pas nécessairement celles de l'April, qui ne sera en aucun cas tenue responsable de leurs propos.
Transcription
Sky : Benjamin Bayart, bonsoir.
Benjamin Bayart : Bonsoir.
Sky : Nous vous recevons pour une chaine internet qui s’appelle Thinkerview. Nous sommes en direct, est-ce que vous pouvez vous présenter succinctement ?
Benjamin Bayart : Me présenter succinctement, c’est toujours très compliqué.
Benjamin Bayart, 50 ans, informaticien, militant, activiste, membre de trouse [0 min 33] associations, militant pour les libertés en général et en ligne en particulier. Ma bio Twitter dit « vieux con des internets », c’est bien.
Sky : U petit background. Qu’avez-vous fait ?
Benjamin Bayart : Côté pro, ça va emmerder tout le monde. Côté associatif, cofondateur de La Quadrature. On a encore créé une association récemment, il faudra que je te raconte les « Licornes célestes », c’est marrant. Je t’assure, c’est marrant ! C’est du droit administratif, c’est toujours rigolo le droit administratif ! J’ai été président pendant 14 ans de French Data Network, le plus vieux fournisseur d’accès à Internet en France, qui est une association. On a créé la Fédération des fournisseurs d’accès internet associatifs. Qu’est-ce que j’ai fait d’autre comme sottises ? En ce moment, je suis consultant dans une boîte qui s’appelle OCTO Technology, où je m’amuse beaucoup, où me laisse bosser sur des sujets intéressants, c’est très rigolo.
Sky : On va se tutoyer direct, si tu m’autorises. Notre première interview date de Notre-Dame, au pied de Notre-Dame.
Benjamin Bayart : 2014, un truc comme ça.
Sky : Oui, un truc comme ça. On va faire le point. Aujourd’hui, on va parler intelligence artificielle, on va parler libertés aussi sur Internet, on va parler data, on va parler de stockage, on va parler de failles de sécurité, peut-être sur certaines choses exfiltrées, on va peut-être parler des Jeux olympiques. Non ?
Benjamin, on commence par l’intelligence artificielle et on parlera de l’intelligence artificielle militarisée après. Pour toi, l’intelligence artificielle, c’est quoi ?
Benjamin Bayart : Tout de suite les questions qui fâchent !
Pour moi, ce sont des statistiques. C’est essentiellement un outil de statistiques. Les gens qui ne sont pas du métier découvrent ça en ce moment, à cause de ChatGPT, pour faire joujou. Mais, pour moi, c’est une façon particulière de faire des stats, de calculer des résultats, de faire des prédictions.
Sky : De l’anticipation.
Benjamin Bayart : Des prédictions ou des détections, mais qui s’appuient sur des mécaniques qu’on ne comprend pas, c’est ça le jeu.
Si je fais une analyse statistique tout seul parce que je suis un garçon sérieux, je fais des maths, je fais des calculs de pourcentage, des trajectoires, je ne sais pas quoi, je vais pouvoir faire des estimations, des prédictions, des évaluations basées sur du calcul et où je sais pourquoi je trouve ce résultat-là et je sais à quel moment mon calcul dit « 27,3, donc c’est bleu. » Tout le jeu de l’intelligence artificielle, c’est de trouver des mécanismes qui vont manger ces données de manière extrêmement bizarre et qui vont réussir à nous produire des résultats dont on ne sait pas expliquer pourquoi ils sortent.
Sky : Qu’est-ce que tu appelles « extrêmement bizarre » ? Le biais du mec qui a entraîné l’intelligence artificielle ? Le biais des pipes`
Benjamin Bayart : Non, ça c’est la partie facile à comprendre. Ce que j’adore, par exemple, c’est ce qu’on fait avec ce qu’on appelle les algorithmes génétiques, qui est une des formes de l’intelligence artificielle.
Le principe est assez simple, ça suppose que tu aies un problème à résoudre et que tu saches mesurer à quel point tu es loin de la solution. Tu écris des programmes complètement aléatoires, donc ils font n’importe quoi, tu prends ça comme base de départ, tu les fais évaluer par la machine, et puis la machine sélectionne les 10 % les meilleurs, qui produisent les moins mauvais résultats, puis elle les mélange pour produire de nouveau 3000 programmes qu’elle va évaluer ; elle prend les 10 % les meilleurs, elle les mélange, elle reproduit à partir de ça 3000 programmes et puis elle va évaluer. En fait, tu fais ça des milliers, des dizaines de milliers, des centaines de milliers de fois, et ça produit des programmes qui sont, en moyenne, de plus en plus performants et qui donnent des résultats qui sont de mieux en mieux, mais on ne comprend rien à ce qu’ils font, parce que ce sont des programmes écrits complètement au pif.
Un exemple de ça a été fait avec des FPGA, et ça ne va pas forcément parler à tout le monde. Je vous explique. FPGA, ce sont des petites puces électroniques qu’on peut configurer pour qu’elles implémentent un circuit électronique ou un autre avec quelque chose qui ressemble à un programme.
Sky : Pour ceux qui ne savent pas implémenter ?
Benjamin Bayart : C’est vraiment un circuit électrique, sauf que tu peux le configurer, le paramétrer, pour qu’il se comporte ou bien comme un circuit donné ou bien comme un autre, juste avec des éléments de programme.
On a utilisé des algorithmes génétiques. On voulait faire réaliser une fonction à ce circuit-là, on a donc écrit une combinaison de configurations et puis on a fait tourner l’algorithmique génétique, comme ça, sur des centaines de milliers d’itérations. À la fin, le truc a produit une mécanique qui n’utilise qu’un tout petit nombre de cellules interconnectées dans le circuit, beaucoup moins que ce qu’utiliserait un ingénieur qui veut implémenter et créer cette fonction-là, enfin, sensiblement moins que ce qu’on sait faire de mieux. On ne comprend rigoureusement rien à la raison pour laquelle ça produit de bons résultats. Manifestement, il configure certaines des cellules d’une certaine façon, mais qui ne sont connectées à rien, et s’il les configure autrement ça ne marche plus, ça ne fonctionne plus, la fonction n’est plus rendue. Et ça, en termes électriques, ça veut dire qu’il se passe des trucs bizarres, il se passe des trucs où il y a des fuites, il y a des courants, il y a des inductions, il y a des échanges de tension, de champs magnétiques, que sais-je, mais il se passe des trucs ! C’est-à dire que si on configure cette cellule-là, qui n’est connectée à rien, dans l’autre sens, elle ne marche plus, mais ça produit un résultat extrêmement efficace, ça réalise la fonction qu’on voulait réaliser, ça la réalise en utilisant moins de cellules que ce qu’aurait utilisé un ingénieur qui réfléchit au problème, mais on ne comprend pas ce que ça fait. Donc ça produit un résultat et on ne comprend pas ce que ça fait. On a constaté qu’une fois qu’on avait ce programme-là, quand on l’amenait sur un FPGA de la même marque, du même constructeur, mais qui n’est pas le même exemplaire, ça ne marche plus, parce que le truc est trop hyper adapté à cet exemplaire-là, sur lequel on l’a testé des millions de fois.
Pour moi, cela est un exemple assez simple de ce qu’est l’intelligence artificielle : ça produit des résultats, mais on est incapable d’expliquer de manière claire pourquoi ça a sorti ce résultat-là à ce moment-là.
Sky : C’est vachement inquiétant quand même !
Benjamin Bayart : Mais non ! Ça peut être vachement pratique. Quand tu as besoin de faire un système d’éclairage qui produit ce résultat-là, ce qui t’intéresses, c’est qu’il produise le résultat ; sii tu ne comprends pas bien pourquoi, ce n’est pas très grave ! Mais il y a plein d’applications dans lesquelles c’est vachement embêtant, typiquement ce qu’on fait en ce moment avec ChatGPT. Quand les journalistes disent « intelligence artificielle » ça veut dire ChatGPT.
Sky : Il n’y a pas que les journalistes !
Benjamin Bayart : ChatGPT, c’est très mignon. Tant que tu l’utilises comme jouet, tu lui poses une question débile, il fait une réponse débile, tu t’en sers comme tu te servirais d’un énarque ou d’un sciencepiste, ça ne sert à rien, c’est amusant, ça fait joli dans les salons, tout va bien ! Ça ce n’est pas grave, c’est du jouet, c’est ludique.
Une fois qu’on enlève cet usage ludique, si tu veux en faire un usage sérieux, tu as un problème, puisque tu ne comprends pas : il a produit une réponse qui peut être rigolote, qui peut être manifestement débile, ce sont les plus drôles, ou qui peut avoir l’air vaguement sérieuse, c’est le moment où ça se met à ressembler à un énarque ou à un sciencepiste. Mais on ne sait pas pourquoi il a produit cette réponse-là et on ne sait pas bien sur quoi il s’est appuyé pour produire cette réponse-là. Du coup, on ne peut pas en faire grand-chose parce qu’on ne sait pas dire quand il se trompe. C’est donc d’un usage extrêmement particulier.
Pour moi qui suis informaticien et qui ai un peu bossé sur ces sujets-là, on était jeunes à l’époque, j’étais étudiant ! J’ai un peu bossé sur des réseaux de neurones, des cartes de Kohonen, ce sont les réseaux de neurones sur lesquels j’ai le plus bossé ; les cartes de Kohonen, c’est très rigolo.
Sky : Je peux faire une petite digression ? Tu fréquentes les salons, tu fréquentes les journalistes ? Quand tu fais une boutade sur les énarquistes et les sciencepistes, est-ce que tu as l’impression qu’ils « bullshitent » à mort sur l’intelligence artificielle ? Quand tu regardes un programme de télé où il y a des débats ? Déjà, est-ce que tu regardes la télé ?
Benjamin Bayart : Pas masse.
Sky : Pas masse, oui, je sais. N’as-tu pas l’impression que ça flûte un peu de partout, que ça pipeaute à mort ?
Benjamin Bayart : Si, mais pas plus sur ça que sur le reste !
Tu as deux grands morceaux à comprendre : il y a le fait que ce n’est pas leur métier. À part ce qu’ils ont pu comprendre de ce qu’ils ont lu sur le sujet, sachant qu’ils n’y ont pas passé des milliers d’heures parce qu’ils ont autre chose à faire, ils arrivent quand même, en moyenne, à poser des questions qui ne sont pas toujours complètement idiotes, ce qui est, je trouve, pas mal quand on ne vient pas du secteur, mais qui mélangent des réalités, des fantasmes et ils ne savent pas bien faire le tri entre les deux. Mais c’est comme ça dans tous les domaines un peu pointus. Tu as tu prends un physicien, tu lui fais parler de sociologie, s’il n’a pas fait de sociologie, il y a moyen qu’il raconte de la merde ! Tu prends un sociologue, tu lui demandes de t’expliquer le boson de Higgs, il y a moyen que ça fume ! Ce n’est pas complètement surprenant et les journalistes ne peuvent pas être spécialistes en tout.
Sky : Et les politiques, quand ils disent « on va être une superpuissance de l’intelligence artificielle, il faut, il faut, il faut, y’ qu’à, faut qu’on » ?
Benjamin Bayart : Si ça les amuse, que veux-tu que j’y fasse ? Une super puissance de l’intelligence artificielle où les étudiants font la queue pour avoir à bouffer à l’Armée du salut ! Tu m’excuseras, c’est une superpuissance de rien du tout ! Il y a des problèmes un peu plus sérieux à traiter dans ce pays que d’être une superpuissance de l’intelligence artificielle.
Sky : On va digresser à nouveau : quel regard portes-tu maintenant sur la France ? Comment sens-tu la France avec les étudiants qui font la queue pour essayer de bouffer, le ticket de métro à 4 euros pendant les JO, les problèmes énergétiques ? En tant que citoyen, comment sens-tu l’air du temps ? Tu n’es pas obligé de répondre.
Benjamin Bayart : Je sais très bien que je ne suis pas obligé de répondre. Je suis très en dehors de mon domaine de compétence. Il y a quand même des morceaux qui sont évidents, on a affaire à des clowns, il n’y a pas besoin d’avoir fait Saint-Cyr pour le comprendre !
Sky : Un exemple. Pourquoi sont-ils des clowns ?
Benjamin Bayart : Si tu veux, ils s’affolent de deux pelés et trois tondus qui font de la fraude au RSA, ils ne s’affolent pas du tout du fait qu’il y a à peu près la moitié des gens qui auraient droit à des minima sociaux et qui ne les réclament pas, ce qui est extraordinairement inquiétant. Déjà qu’il y ait autant de gens qui ont droit aux minimas sociaux, alors qu’ils sont assez stricts, et qui, en plus, ne les réclament pas, ça veut dire que ce sont des gens qui restent dans la mouise, ce n’est pas bien ! Ils ne s’affolent pas au bon endroit, ils s’inquiètent de vouloir être une superpuissance de je ne sais quoi, la dernière tartufferie à la mode, il y a cinq ans ça aurait été la blockchain, maintenant tout le monde a compris que la blockchain est une excellente solution, sauf qu’on n’a pas encore trouvé à quel problème. Pour moi, l’intelligence artificielle c’est du même ordre. Il y a sûrement deux ou trois bidules pour lesquels ce n’est pas mal et il y a une quantité industrielle d’usages complètement stupides de ce truc-là.
Sky : Revenons à nos sujets, on reviendra sur l’air du temps un peu plus tard.
Quand tu vois que Google se fait tirer les oreilles parce que son intelligence artificielle produit des réponses relativement déconnantes par rapport à la réalité historique, ça vient d’où ? Ça vient de quoi ? Ça vient pourquoi ?
13’ 17
Benjamin Bayart : Là,
