ChatGPT : amie ou ennemie

Titre : ChatGPT : amie ou ennemie ? - Printemps de l’économie 2023

Intervenants : Laurence Devillers - Tariq Krim - Antonio Casilli - Christian Chavagneux

Lieu : Amphithéâtre du Conseil économique social et environnemental - 11ème édition du Printemps de l’économie

Date : 7 avril 2023

Durée : 1 h 04 min 52

Vidéo

Licence de la transcription : Verbatim

Illustration : À prévoir

NB : transcription réalisée par nos soins, fidèle aux propos des intervenant·e·s mais rendant le discours fluide.
Les positions exprimées sont celles des personnes qui interviennent et ne rejoignent pas nécessairement celles de l'April, qui ne sera en aucun cas tenue responsable de leurs propos.

Description

Avec l'arrivée de ChatGPT, l'intelligence artificielle a fait son entrée grand public. De quoi révolutionner le monde du travail (emplois, productivité...) comme jamais ou bien est-ce une évolution technologique comme les autres ? L'Europe est-elle encore une fois distancée par les États-Unis et la Chine ? Faut-il encourager son utilisation ou bien en avoir peur ?

Transcription

Christian Chavagneux : Bonjour à toutes et à tous. Nous allons commencer cette table ronde de l’après-midi.
Je me présente, je suis Christian Chavagneux, je suis éditorialiste à Alternatives Économiques, très heureux de revenir ans ce magnifique amphithéâtre du Conseil économique social et environnemental.
J’avoue que quand j’ai proposé de faire une table ronde sur l’intelligence artificielle et ChatGPT, je ne pensais pas que nous serions autant dans l’actualité. Cette semaine vous avez vu que l’Italie, cher Antonio Casilli, a décidé de suspendre temporairement l’accès à cette IA grand public pour des raisons de gestion des données personnelles. On nous a dit que beaucoup de pays européens pourraient peut-être suivre, éventuellement la France. Le ministre nous a dit, hier soir ou ce matin, je ne sais plus, que finalement la France non ne déciderait pas. On a eu cette étude de Goldman Sachs nous disant que 300 millions pouvaient être perdus au niveau mondial à cause de ces IA. Et puis cette fameuse lettre de « scientifiques », entre guillemets, avec quelques entrepreneurs dont l’inénarrable Elon Musk, demandant de faire une pause pour le développement de cette intelligence artificielle. On est vraiment en plein cœur de l’actualité. Pour ma part, je terminerai avec une petite anecdote : un utilisateur de ChatGPT lui a dit « raconte-moi un bon mensonge ». ChatGPT a dit : « Le ciel est fait avec du fromage frais – Non. Personne n’y croit. Donne-moi vraiment un mensonge très subtil ». Et là, l’IA a clignoté et a dit « je suis un être humain », ce qui est plutôt amusant.
Nous allons en parler cet après-midi : est-ce qu’il faut avoir peur ? Est-ce qu’il faut encourager ? Est-ce qu’on va avoir besoin ? Est-ce qu’on ne pourra pas se passer de ces intelligences artificielles ? Il y a des craintes sur l’emploi, j’ai rappelé l’étude de Goldman Sachs, il y a des craintes en termes sociaux, en termes d’inégalités : il y a ceux qui vont avoir accès aux dernières versions et à la multitude d’applications qui sont autour de ces intelligences artificielles et ceux qui n’y auront pas accès ; il y a ceux qui vont faire, vendre ces intelligences artificielles, qui vont récupérer une bonne partie, ou pas, de la valeur ajoutée du reste de l’économie, mais aussi des craintes politiques, mais aussi ds craintes même civilisationnelles. Est-ce que ces IA vont finir par nous remplacer ? Je me souviens du livre d’un chercheur américain sur ces sujets, qui était sorti il y a très longtemps, qui avait dit « il y a deux erreurs à ne pas commettre sur ces questions c’est de dire : ça va se passer bientôt et ça ne va pas se passer. »

Je suis très content d’avoir réussi à réunir ce plateau de haute qualité cet après-midi. Ce sont trois grands spécialistes reconnus du sujet des IA en général, ChatGPT en particulier, l’intelligence artificielle en général. Je vous les présente par ordre alphabétique.
Antonio Casilli, au milieu, qui est professeur de sociologie à Télécom Paris. Il a publié En attendant les robots, une enquête sur le travail du clic, on en parlait tout à l’heure. C’est une trilogie. Vous avez eu les robots aujourd’hui, la prochaine fois vous aurez le préquel, ce qui s’est passé avant les robots d’aujourd’hui, on attend cela avec impatience, il va falloir être patients n’est pas pour tout de suite.
Laurence Devillers qui est professeure d’informatique appliquée aux sciences sociales à la Sorbonne. L’un de ses multiples ouvrages s’intitule Les Robots émotionnels : Santé, surveillance, sexualité... : et l'éthique dans tout ça ? aux éditions de l’Observatoire. Elle a même travaillé sur une pièce de théâtre autour de ces sujets, qui sera en off à Avignon, au mois de juillet. C’est aussi une façon pédagogique de pouvoir avoir accès à ces sujets qui peuvent paraître un peu techniques, scientifiques, difficiles.
Et puis Tariq Krim, qui est un entrepreneur de la tech. Pour ceux qui connaissent, c’est le fondateur de Netvibes. Il a été l’un des vice-présidents du Conseil national du numérique. Il coanime le réseau Slow web, peut-être qu’il nous en dira un petit mot. Pour ceux qui sont intéressés, son blog est nourri régulièrement qui s’appelait Code souverain.
Comme vous êtes entrepreneur, Tariq Krim, j’ai envie de vous donner la parole en premier. Finalement n’êtes-vous pas un peu jaloux ? N’auriez-vous pas voulu être Sam Altman, avoir inventé OpenAI, avoir développé ces intelligences artificielles ? Est-ce que c’est quelque chose qui va nous faire du bien ? Est-ce que c’est quelque chose qui est bien ? C’est le signe de notre esprit entrepreneurial ou est-ce qu’il faut un peu s’en méfier ?

Tariq Krim : Tout d’abord je suis très heureux d’être là. Je vois qu’on a une audience, ça va être très intéressant, je pense qu’on a aussi un besoin de pédagogie et le premier des besoins de pédagogie c’est que les gens qui inventent un truc tout seul dans leur coin, en général ça n’existe pas, ça n’est que dans les films. Donc ce n’est pas Sam Altman qui a inventé OpenAI, ce n’est même pas lui qui a inventé ChatGPT. Les technologies, on en parlera tout à l’heure, c’est Google qui avait inventé les technologies de ChatGPT. Il faut donc faire attention parce que dans le monde de la technologie, on nous donne toujours ce mythe de la personne seule dans un coin qui invente une chose incroyable et, du jour au lendemain, ça marche. Ça n’est jamais comme ça.

En fait, je en suis pas vraiment un spécialiste de l’intelligence artificielle, pour moi l’intelligence artificielle est un amour de jeunesse. C’est d’ailleurs assez drôle, parce que, finalement, ce sont trois femmes, à différents moments, qui m’ont fait aimer cette discipline : la première s’appelle Bonnie MacBird qui était la femme de Alan Kay, qui a fait le scénario d’un film qui s’appelait Tron et Tron c’est un peu pour ma génération ce que Matrix a été pour d’autres plus tard, il y a eu un avant et un après. On rentre à l’intérieur d’un ordinateur, c’était la première fois qu’on comprenait qu’il allait se passer quelque chose de merveilleux. Évidemment, je suis tombé tout de suite complètement fou de ça. J’ai mis en veille mon autre passion qui était la musique. Au départ je voulais être un historien et, finalement, je me suis retrouvé à bidouiller les machines.
Il y a aussi Sherry Turkle qui m’a fait comprendre, à travers ses différents livres, que la relation avec la machine et l’être humain allait être quelque chose de très important. Une autre femme, qui s’appelle Pattie Maes, a été la première, en tout cas pour moi, à travailler sur les premiers types d’intelligence artificielle. Au départ, avant ChatGPT, la première vraie révolution a été la capacité d’organiser les contenus, ce qu’on appelle le ranking. C’est d’ailleurs la force de Google : vous tapez un mot clef, qui doit être en premier ?, qui doit être en dernier ? Votre génération n’a pas connu l’époque où on allait sur le Web et on devait connaître par cœur les adresses, il y a même eu une époque où on avait des bottins téléphoniques, on connaissait les numéros de téléphone par cœur, c’était avant qu’on ait son téléphone.
C’est quelque chose qui a toujours été autour de moi. À un moment donné, évidemment, j’ai voulu être un peu sérieux et j’ai voulu faire des études plus poussées là-dessus. Le prof que j’ai eu m’a dit : « L’IA c’est mort, il faut faire autre chose ». C’était dans les années 90. J’ai donc fait autre chose, je suis parti, j’ai pris l’avion, je suis allé à San Francisco, en Californie, dans ce qu’on appelle maintenant la Silicon Valley. C’est là que j’ai découvert que tous les gens qui se passionnaient pour les technologies qui me passionnaient depuis tout jeune étaient là-bas, c’est là qu’était Steve Jobs, c’est là qu’étaient… D’une certaine manière ça a façonné ma vision.

Quand on parle d’intelligence artificielle et quand on parle d’informatique – c’est un vrai que c’est un terme qui n’est plus vraiment à la mode, mais ça reste quand même des technologies autour de l’ordinateur –, il y a toujours eu deux visions différentes. C’est un peu dans les années 60 que ça s’est organisé. Quelqu’un a été pour moi très important, il s’appelle Doug Engelbart, c’est la personne qui a inventé la souris, qui a inventé l’informatique moderne, qui disait : « L’ordinateur va servir à améliorer la créativité de l’homme ». C’est Steve Jobs qui le dit le mieux, il a dit un jour : « L’ordinateur c’est le vélo pour l’esprit ». Quand on prend un vélo on peut aller très vite, il s’est dit c’est l’équivalent d’un vélo pour l’esprit, soudain, on peut faire plein de choses. De l’autre côté il y avait un des pères de l’informatique, John McCarthy, pour qui la machine, à un moment donné, allait remplacer l’homme.
Donc vous aviez toujours ces deux visions : l’outil va nous permettre de faire plus de choses et les gens qui disaient « demain l’outil va nous remplacer ». Le problème c’est que pendant ds années les gens qui espéraient que la technologie nous remplace, il n’y avait pas de produits qui marchaient. L’équivalent, le point culminant de la génération de Doug Engelbart, de l’outil qui va nous aider, c’est l’iPhone. Mais, curieusement, à vouloir nous aider, à vouloir trop simplifier, l’iPhone est devenu un peu une forme de prison, finalement on a des boutons, on clique et on ne peut plus rien faire, d’ailleurs on ne sait mêmes pas comment ça marche, on pourrait croire que ça pousse dans les arbres, on ouvre la boite, on appuie sur le bouton, ça s’allume et tout est prêt .
Face à ça on a effectivement de nouveaux outils comme ChatGPT. Je ne sais pas qui l’utilise, a utilisé, j’imagine tout le monde, ou va le faire. Je trouve ça fascinant parce que, contrairement à ce que j’entends dire, on ne sait pas trop en fait, c’est tellement nouveau qu’on ne sait pas trop. En tout cas, personnellement je considère que je ne sais pas où ça va et j’ai plein de questions.
Parmi les questions que je me pose, il y en a une très simple. Je me souviens qu’avant on connaissait des numéros de téléphone par cœur. Puis, un jour, on a eu un téléphone, on les a mis et on a commencé à les oublier, on connaissait peut-être le numéro de téléphone de la maison, des parents, des quelques amis, mais c’est tout. Et puis un jour on a eu le GPS et maintenant vous avez les chauffeurs de taxi Uber, vous leur dites « je voudrais aller gare de Lyon » et, en fait, ils regardent le GPS et ça y est. Certains m’ont mêmes avoué qu’ils ne connaissent pas Paris, mais le GPS est là. Donc, d’une certaine manière, on oublie ça. La question que je me pose avec ChatPGT c’est :quelles sont les choses que l’on sait faire aujourd’hui que l’on va oublier et qu’on ne pourra plus, justement, faire aussi bien ?
Il y a une autre question qu’on m’a posée récemment, que je trouve très intéressante. Vous savez certainement que ChatGPT permettrait d’écrire facilement, on pourrait presque écrire un livre avec ChatGPT, mêmes si je pense que, pour nous, le plaisir d’écrire est quand même un plaisir extraordinaire. Vous avez peut-être vu cette blague, quelqu’un qui dit « grâce à ChatGPT, je prends une ligne et ça va écrire tout un paragraphe, je peux l’envoyer en e-mail à quelqu’un en lui faisant croire que je l’ai écrit ». La personne qui reçoit l’e-mail dit « grâce à ChatGPT, je peux réduire tous ces e-mails en une ligne et faire croire aux gens qui je les ai lus ». En fait, ils auraient pu s’envoyer une ligne chacun et ça aurait été réglé. C’est cette question qui se pose avec ça :dans un monde où les choses qui étaient difficiles, codées, par exemple quand on fait une startup, quand on construit un projet, du code, c’est compliqué, et on nous explique que grâce à ces outils ça va être simple. Écrire c’est compliqué, raisonner c’est compliqué, on nous explique que grâce à ces outils ça va devenir simple. La question que je me pose c’est : dans ce nouveau monde qu’est-ce qui est difficile alors ? C’est une question ouverte, je n’ai pas de réponse.

L’autre chose importante c’est que derrière toute cette bataille, il y a évidemment une bataille de gros sous. Vous connaissez cette blague : on dit qu’il est plus facile d’imaginer la fin du monde que la fin du capitalisme. D’une certaine manière, derrière ces produits, il y a cette question de la domination cognitive, c’est-à-dire qui va dominer mon deuxième cerveau ? Nous aurons notre propre cerveau et, ensuite, on aura ce deuxième cerveau auquel on peut demander de nous aider, de faire nos devoirs, de réciter les choses, de nous inventer les choses. On verra, tout est encore ouvert. C’est un deuxième cerveau qu’on aura en location, c’est-à-dire que quand on arrêtera de payer, on n’y aura peut-être plus accès. On ne sait pas qui y aura accès, on ne sait pas de quoi ce cerveau sera capable de nous parler, est-ce qu’il va nous influencer ou pas. Tout cela ce sont des questions très importantes.

Christian Chavagneux : Pardon de te couper. Pour l’instant ce deuxième cerveau est plutôt américain qu’européen ?

Tariq Krim : Effectivement. On est aussi en train de basculer d’un modèle de plateformes technologiques à des plateformes idéologiques. Ce qui va être fascinant, c’est que pour apprendre, notamment pour apprendre le langage, il faut analyser la littérature, l’ensemble des connaissances. Une des raisons pour lesquelles on suspecte que ChatGPT n’est pas très ouvert, ne veut pas s’ouvrir, c’est que certaines personnes pensent qu’au départ il fallait analyser l’ensemble des livres et l’ensemble des livres, l’ensemble des documents sont disponibles sur une base de données pirate russe qui s’appelle LibGen et qu’il est possible qu’on ait utilisé l’ensemble de ces contenus pour construire la base. Ça pose évidemment une autre question : peut-on absorber la culture existante pour la refaçonner et pour la revendre en condensé, en tout cas, d’en vendre un ersatz.

Pour l’instant, j’ai essentiellement posé des questions. Comme je le disais très humblement, il y a des questions auxquelles j’ai des réponses, des questions pour lesquelles j’ai des idées, des questions auxquelles je n’ai pas encore de réponses.

Christian Chavagneux : Laurence Devillers, je vous vois un petit peu trépigner depuis tout à l’heure, je vois que vous avez envie de rebondir sur ce qu’a dit Tariq Krim.

15’ 28

Laurence Devillers : Normalement