|
|
| (7 versions intermédiaires par le même utilisateur non affichées) |
| Ligne 1 : |
Ligne 1 : |
| | [[Catégorie:Transcriptions]] | | [[Catégorie:Transcriptions]] |
| | | | |
| − | '''Titre :''' Les grandes questions juridiques posées par l’IA avec Stéphanie Le Cam
| + | Publié [https://www.librealire.org/les-grandes-questions-juridiques-posees-par-l-ia-avec-stephanie-le-cam ici] - Mars 2024 |
| − | | |
| − | '''Intervenant·e·s :''' Stéphanie Le Cam - Jerome Sorrel - Jean-Philippe Clément
| |
| − | | |
| − | '''Lieu :''' Émission <em>Parlez-moi d’IA</em>, radio Cause Commune
| |
| − | | |
| − | '''Date :''' 2 mars 2024
| |
| − | | |
| − | '''Durée :''' 29 min 53
| |
| − | | |
| − | '''[https://cause-commune.fm/podcast-download/17184/parlez-moi-d-ia-23.mp3 Podcast]'''
| |
| − | | |
| − | '''[https://cause-commune.fm/podcast/parlez-moi-d-ia-23/ Présentation de l'émission]'''
| |
| − | | |
| − | '''Licence de la transcription :''' [http://www.gnu.org/licenses/licenses.html#VerbatimCopying Verbatim]
| |
| − | | |
| − | '''Illustration :''' À prévoir
| |
| − | | |
| − | '''NB :''' <em>transcription réalisée par nos soins, fidèle aux propos des intervenant·e·s mais rendant le discours fluide.<br/>
| |
| − | Les positions exprimées sont celles des personnes qui interviennent et ne rejoignent pas nécessairement celles de l'April, qui ne sera en aucun cas tenue responsable de leurs propos.</em>
| |
| − | | |
| − | ==Transcription==
| |
| − | | |
| − | <b>Diverses voix off : </b><em>Parlez-moi d’IA</em>.<br/>
| |
| − | Mesdames et Messieurs, bonjour. Je suis un superordinateur CARL, cerveau analytique de recherche et de liaison.<br/>
| |
| − | C’est une machine qui ressent les choses.<br/>
| |
| − | On nous raconte n’importe quoi sur l’IA !<br/>
| |
| − | Qu’est-ce que tu en dis ? — Moi, je n’en dis rien du tout.<br/>
| |
| − | La créativité, elle reste du côté humain.
| |
| − | | |
| − | <b>Jean-Philippe Clément : </b>Bonjour à toutes et à tous. Je suis Jean-Philippe Clément. Bienvenue sur <em>Parlez-moi d’IA</em>.<br/>
| |
| − | Cela fait plusieurs entretiens, maintenant, que les questions juridiques planent au-dessus de nos débats. Elles sont abordées au fur et à mesure des focus sur les sujets qu'on aborde et, cette semaine, je vous propose de faire un grand tour d'horizon des questions juridiques posées par l'IA.
| |
| − | | |
| − | Vous êtes bien sur Cause Commune, la radio des possibles. C’est <em>Parlez-moi d’IA</em>. Nous avons trente minutes pour essayer de mieux comprendre ces nouveaux outils sur les aspects sociétaux culturels, sociaux, éthiques et, pourquoi pas, politiques.<br/>
| |
| − | Cause Commune que vous pouvez retrouver sur le Web, cause-commune.fm, et sur son app Android ou iPhone, sur la bande FM 93.1 à Paris, sur le DAB+ et en podcast sur votre plateforme préférée. Comme d'hab, likes, étoiles, commentaires, c'est notre seule récompense, n'hésitez pas, en plus, ça manipule l'algorithme ! C'est quand même cool de manipuler un algorithme !<br/>
| |
| − | Merci encore pour votre écoute, de plus en plus nombreux chaque semaine. Merci à Olivier Grieco, notre directeur d'antenne, qui nous laisse autant de liberté. Si nous étions des motards de la <em>California Highway Patrol</em>, il serait mon coéquipier préféré, mon Poncherello, en fait. Heureusement, il ne roule qu'à vélo. Merci, Jérôme Sorrel, de réaliser cette émission.<br/>
| |
| − | Il faut vraiment que j'arrête avec ces références de boomer, c'est vraiment très marqué quand même !
| |
| − | | |
| − | C'est un sujet qui va te plaire, Jérôme, tu n'hésites pas à poser des questions ; Jérôme a le droit de poser des questions dans l'émission. Nous allons donc parler de questions juridiques et d’IA et, en plus, de questions techniques, éthiques et parfois politiques. L’IA soulève de très nombreuses questions juridiques. Il y a d'abord toutes les questions liées au copyright ou, si on veut faire bien, on dit l'autorat, comme le dit aussi le livre blanc de Data For Good [<em>Les grands défis de l'IA générative</em>].<br/>
| |
| − | Il y a aussi les questions d'intention et de responsabilité et leur répartition entre le développeur et l'utilisateur des services d'IA.<br/>
| |
| − | Il y a aussi les questions réglementaires, les questions de régulation, le bon dosage entre protection et innovation.<br/>
| |
| − | Il y a les questions de transformation des métiers juridiques et des bouleversements économiques et fiscaux engendrés par ces nouvelles pratiques.<br/>
| |
| − | Bref ! Encore une fois il s'agit d'un sujet complexe et entremêlé, mais, heureusement pour nous, notre invitée a les idées claires et, parfois, incisives sur toutes ces questions. C'est une universitaire, maître de conférences et directrice de l'Institut des sciences sociales du travail de l'ouest<ref>[https://www.univ-rennes2.fr/structure/issto Institut des sciences sociales du travail de l'ouest]</ref> à l'Université Rennes 2, spécialiste en propriété intellectuelle et, concernant l'IA, elle est surtout directrice de la Ligue des auteurs professionnels<ref>[https://fr.wikipedia.org/wiki/Ligue_des_auteurs_professionnels Ligue des auteurs professionnels]</ref>. Bonjour Stéphanie Le Cam.
| |
| − | | |
| − | <b>Stéphanie Le Cam : </b>Bonjour.
| |
| − | | |
| − | <b>Jean-Philippe Clément : </b>Bienvenue, à distance, comme on peut l'entendre, dans <em>Parlez-moi d’IA</em>.<br/>
| |
| − | Parlez-moi d’IA, Stéphanie : est-ce que, avec l'IA, on ne serait pas en présence d'un bouleversement qui secoue les nombreux aspects juridiques de notre société ?
| |
| − | | |
| − | <b>Stéphanie Le Cam : </b>On est clairement face à quelque chose qui peut s'apparenter à un cataclysme juridiquement. Après, ce sont des matières qui sont habituées à être bouleversées à chaque innovation, elles sont donc capables de surfer sur les vagues, même les plus grandes. Mais là, effectivement, il y a quand même quelque chose d'assez gigantesque, c'est-à-dire que ça va très vite.<br/>
| |
| − | Je pense que c’est une situation un peu inédite, c’est une innovation qui nous bouscule parce que sa temporalité est assez folle.
| |
| − | | |
| − | <b>Jean-Philippe Clément : </b>C’est la vitesse qui fait la différence cette fois-ci.
| |
| − | | |
| − | <b>Stéphanie Le Cam : </b>Tout à fait. Ce qui fait la différence c'est qu'il y a deux ans l'intelligence artificielle, qui générait des contenus, ne nous inquiétait pas tellement parce que c'étaient des contenus qui n'étaient pas très efficaces et qui étaient, en plus, difficiles à mettre en place, alors qu'aujourd'hui, le plus gros boomer de tous les temps est capable de générer une image à peu près qualitative en faisant juste deux clics. C'est donc son aspect efficace et sa simplicité, efficacité et simplicité, qui questionne vraiment l'IA générative de contenus et nous fait peur, en fait.
| |
| − | | |
| − | <b>Jean-Philippe Clément : </b>Je ne le prends pas pour moi, le « boomer », mais vous avez raison, c'est vrai que c'est de plus en plus facile.<br/>
| |
| − | Vous êtes directrice de la Ligue des auteurs professionnels, c'est un peu comme cela que vous rentrez, finalement, dans ces questions liées à l'IA. Qu'est-ce que cette ligue et pourquoi s'intéresse-t-elle aux questions liées à l'IA ?
| |
| − | | |
| − | <b>Stéphanie Le Cam : </b>La Ligue des auteurs professionnels est une organisation professionnelle qui défend les intérêts professionnels des auteurs et autrices du livre. Elle existe depuis cinq~ans~et~demi maintenant. Donc, évidemment, il y a environ deux~ans, quand Midjourney<ref>[https://fr.wikipedia.org/wiki/Midjourney Midjourney]</ref> commence à montrer ses prouesses techniques, plutôt en juillet 2022, on commence à avoir des adhérents et des adhérentes qui nous sollicitent pour nous dire « je reconnais mon style dans telle image générée par Midjourney » avec, derrière, des débuts de crainte d'abandon de projets éditoriaux aussi. On leur dit : « En tant que traducteur, vous n’avez qu’à vous contenter de passer la traduction dans DeepL et donner un regard critique sur la version générée par l'intelligence artificielle, et puis ChatGPT ». Donc, finalement, on se retrouve avec des membres d'une organisation professionnelle qui est là pour défendre leurs intérêts, en tant que professionnels, et, d’un seul coup, ils nous disent « nous allons être lourdement impactés par l'intelligence artificielle de contenus. »<br/>
| |
| − | On a compris qu’il fallait sérieusement se saisir du sujet, comprendre comment ça fonctionne, mettre les mains sous le capot et, ensuite, voir comment on peut mettre au jour toutes les conséquences négatives, surtout, mais aussi positives, pourquoi pas, on peut y réfléchir, de l’intelligence artificielle.
| |
| − | | |
| − | <b>Jean-Philippe Clément : </b>Ils se rendent compte que les IA qu’ils utilisent ont utilisé leurs données pour s'entraîner. C'est vrai qu’on parle souvent de vol massif du point de vue des données d'entraînement de l’IA. Quel est votre point de vue ? Où commence le vol ? Où commence la simple inspiration ?
| |
| − | | |
| − | <b>Stéphanie Le Cam : </b>Disons qu’on peut réfléchir en deux temps.<br/>
| |
| − | Quand ça implique le droit de la propriété intellectuelle, c'est d'abord parce qu'il y a une reproduction, une représentation de l'œuvre de l'esprit. Ça a pu, éventuellement, diviser au sein de la doctrine universitaire, mais, en vrai, ce qu'on voit, c'est que pour être capable de générer des contenus, l'intelligence artificielle doit d'abord aspirer énormément de données ; dans ces données il y a des contenus protégés au titre du droit d'auteur, notamment les œuvres de nos membres. C'est donc sur la base de ces aspirations qu'elle va pouvoir commencer à s'entraîner et, ensuite, être capable, à son tour, de générer des contenus.<br/>
| |
| − | Donc finalement oui, quand on parle du plus grand pillage de tous les temps, en réalité ce n'est pas exagéré. Il y a d'abord, vraiment, ce travail qui a été fait en amont, bien avant d'ailleurs que le cadre légal soit mis en place ; les aspirations massives des données ont commencé peut-être au début du siècle. On peut douter de la légalité du système quand on voit comment, justement, ça bouscule autant, en plus, par exemple, les seuils de prix psychologique pour accéder aux offres. Il y a tout un tas de questions qu'on aura peut-être l'occasion de traiter ensemble.
| |
| − | | |
| − | <b>Jean-Philippe Clément : </b>Oui, on en reparle après si vous voulez.<br/>
| |
| − | Du coup, on est d'accord que ces données d'entraînement, finalement, génèrent, même déjà aux États-Unis, des procès entre les IA et les auteurs. Est-ce qu’on a ce type de procès ou de difficulté juridique en Europe et en France ? Est-ce que la ligue, par exemple, a attaqué tel ou tel service ?
| |
| − | | |
| − | <b>Stéphanie Le Cam : </b>C'est justement dans les projets qu'on souhaiterait mettre en place, mais, clairement la Ligue des auteurs professionnels reste une petite structure syndicale qui n'est pas dotée des moyens financiers suffisants pour pouvoir entreprendre ce type de contentieux. S'attaquer à OpenAI ou Microsoft, c’est énorme ! On doit, évidemment, être associés à des structures beaucoup plus puissantes pour envisager ça. En tout cas, on pourrait tenter quelque chose.<br/>
| |
| − | C'est vrai que ce qu’on voit du côté des États-Unis, les premières décisions qui sont arrivées, c'est plutôt de dire « vous ne nous démontrez pas en quoi votre contenu a été particulièrement utilisé pour l'entraînement de cette intelligence artificielle », c’est un problème de preuve. C’est-à-dire qu’aller aspirer dans une masse, dire que c'est cette œuvre en particulier qui a généré, éventuellement derrière..., vous voyez que ce n'est pas évident.
| |
| − | | |
| − | <b>Jean-Philippe Clément : </b>Le shaker est tellement grand que, quand on mélange toutes les données, ce qui est ressort à la fin est très dilué et on a justement du mal à remettre la main sur ce qui était original au départ et qui a été copyrighté.
| |
| − | | |
| − | <b>Stéphanie Le Cam : </b>C'est tout à fait le problème.<br/>
| |
| − | Après, on peut aussi prendre du recul et se dire bon, si nos règles ne sont pas adaptées, ça reste quand même un problème. On est quand même conscient que si elles sont capables de générer c’est parce que, en amont, elles ont aspiré toutes ces données. Si j'en enlève une, juste une, ça veut dire que ça peut impacter sur le résultat final. Il faut peut-être simplement postuler que nos règles ne sont pas tout à fait adaptées et les repenser pour remettre de l'équilibre dans ces relations qui, clairement, ne sont pas du tout équilibrées.
| |
| − | | |
| − | <b>Jean-Philippe Clément : </b>Il y a une renégociation à avoir. J'ai l'impression que c'est un peu le point de vue européen et français, c’est-à-dire qu’on ne va pas s’attaquer, on va se dire les choses clairement et on va renégocier des accords avec ces grands acteurs.<br/>
| |
| − | Il y a aussi des moyens techniques d'empêcher les IA de venir crawler, de venir scraper les contenus.
| |
| − | | |
| − | <b>Stéphanie Le Cam : </b>Tout à fait, ça se développe de plus en plus. Je pensais notamment à Glaze<ref>[https://glaze.cs.uchicago.edu/what-is-glaze.html Glaze, en anglais]</ref> ou à Nightshade<ref>[https://datascientest.com/nightshade-tout-savoir Nightshade : l’outil de défense des artistes contre les IA génératives]</ref>, qui sont là, justement, pour venir un peu embêter ces développeurs d'intelligence artificielle ; après tout c'est de bonne guerre, ils n'ont pas demandé l'autorisation aux auteurs et autrices d'aspirer leurs contenus alors si ceux-là maintenant, dans leurs futures créations, peuvent venir embrouiller.
| |
| − | | |
| − | <b>Jean-Philippe Clément : </b>C’est quoi exactement ? Comment ça fonctionne ?
| |
| − | | |
| − | <b>Stéphanie Le Cam : </b>Comment ça fonctionne ? Moi je suis juriste, je peux vous en parler avec mes mots de juriste. En tout cas, ce que j'ai compris, c’est simplement d'apporter, d’associer à votre illustration, par exemple, une protection technique qui fera qu’au moment où elle sera aspirée, dans le but, justement, de nourrir cette intelligence artificielle et de générer des contenus nouveaux, un certain nombre de perturbations, d’éléments perturbateurs.
| |
| − | | |
| − | <b>Jean-Philippe Clément : </b>Des filigranes qui viennent se mettre sur le contenu ?
| |
| − | | |
| − | <b>Stéphanie Le Cam : </b>Exactement. L'objectif étant d'empoisonner, le mot est peut-être un petit peu exagéré, mais c'est un peu l'idée quand même : que cette petite protection technique vienne empoisonner, paralyser, empêcher à l'IA de générer des contenus de qualité.
| |
| − | | |
| − | <b>Jean-Philippe Clément : </b>Après, on voit quand même qu’il y a des réponses des grands acteurs, de l’autre côté. Midjourney vient de sortir une fonctionnalité qui s'appelle le « sref »<ref>[https://www.midjourney-v6.com/midjourney-style-references/ Midjourney Style References, en anglais]</ref>, dont on parle beaucoup, qui est le fait de dire qu’on peut donner directement, dans son <em>prompt</em>, une référence à un contenu particulier et dire à l’IA « tu prends ça comme référence, tu ne t’occupes pas de la base d’entraînement que tu as eue, tu ne t’occupes même pas de ce que tu connais déjà ». Du coup, ça localise quand même le problème de copyright, c’est-à-dire que là, pour le coup, qui peut maîtriser ce sref ?
| |
| − | | |
| − | <b>Stéphanie Le Cam : </b>En tout cas, ce sont des problématiques qui vont venir ensuite, être traitées dans un second temps. On voit bien qu’elles évoluent et, au fur et à mesure que les possibilités s’ouvrent, on se retrouve avec une pelletée de problématiques complémentaires, nouvelles. Je pense qu'il faudrait qu'on essaye déjà de commencer à réfléchir de façon un peu plus macro et puis, ensuite, effectivement, essayer de trouver des solutions, comme ça, au cas par cas. Il y a effectivement un tas d'options qui vont entrer dans les nouvelles applications qui vont avoir de l'intelligence artificielle et ce sera à nous de mettre, je dirais, le curseur au milieu, entre ce qu'il est acceptable et ce qu’il n'est pas acceptable de faire, par exemple au regard du droit de la propriété intellectuelle.
| |
| − | | |
| − | <b>Jean-Philippe Clément : </b>Est-ce qu’il y a une différence avec les USA ? Est-ce que le <em>fair use</em> fait une différence là-dessus ? D’ailleurs, qu’est-ce que le <em>fair use</em> ?
| |
| − | | |
| − | <b>Stéphanie Le Cam : </b>C'est vrai que le <em>fair use</em> ce n'est pas exactement la même chose. En France, on a un système de droit avec un monopole d'exploitation et, ensuite, on a listé, de façon exhaustive, des exceptions au droit d'auteur. Concrètement, ce ne sont pas des droits à copier, ce ne sont pas des droits à faire quelque chose qu'on accorde au public, c'est vraiment l'idée d'exceptions. Le droit d'auteur étant au centre et ensuite, je dirais, des éléments qui échappent au regard, à l'autorisation de l'auteur, parce qu’on estime, quand même, que le public doit pouvoir faire quelque chose avec l’œuvre.<br/>
| |
| − | Aux États-Unis, c’est un autre paradigme, c’est une autre façon de penser les choses.<br/>
| |
| − | En gros, si on doit traduire <em>fair use</em>, c'est un usage loyal, acceptable, raisonnable. C'est vraiment l'idée d’être tout le temps à la recherche d'un curseur au milieu entre, d'un côté, les intérêts des bénéficiaires des droits d'auteur et, de l'autre, l'intérêt du public pour la distribution des travaux créatifs, parce qu’il doit pouvoir accéder à l’œuvre. C'est plus une logique un petit utilitariste qui fait que, finalement, il n’y a pas une liste exhaustive d'exceptions, c’est au cas par cas : on se dit « est-ce que ça, est-ce que cet usage est loyal ?, oui non. » Tandis qu'en France ou en Union européenne, avec cette liste d'exceptions, si vous n’êtes pas dans la liste des exceptions, vous ne pouvez pas utiliser, parce que vous revenez sur l’idée du monopole.<br/>
| |
| − | Je ne sais pas si j’ai été très claire, en tout cas c’est notre manière de concevoir le droit.
| |
| − | | |
| − | <b>Jean-Philippe Clément : </b>Si, si, vous avez été très claire. J'ai compris la différence avec le <em>fair use</em> et je vous en remercie parce que, effectivement, ce n'est pas évident à bien saisir quand on s'y intéresse de près.<br/>
| |
| − | On est déjà la moitié de l'émission. Stéphanie, je vous propose de faire une pause musicale. Garlaban, notre programmateur musical, sait qu'on essaie de prendre du recul sur les IA ici et il nous invite aujourd'hui à prendre du recul sur nos écrans. Un son qui pourrait faire plaisir à nos collègues de Paname By Mic sur Cause Commune ; <em>Écran</em>, par Les Alchimistes.
| |
| − | | |
| − | <b>Pause musicale : </b><em>Écran</em>, par Les Alchimistes
| |
| − | | |
| − | ==15’ 23==
| |
| − | | |
| − | <b>Jean-Philippe Clément : </b>Vous êtes toujours sur Cause Commune 93.1 FM à Paris, toujours <em>Parlez-moi d’IA</em>, toujours l'épisode consacré aux grandes questions juridiques posées par l’IA avec Stéphanie Le Cam, universitaire, maître de conférence, directrice de l'Institut des sciences sociales du travail à Rennes 2 et directrice de Ligue des auteurs professionnels.<br/>
| |
| − | Stéphanie, on a abordé un peu la question du copyright par, finalement, la donnée qui rentre dans le système d'IA, mais en sortie, du coup, ce qu’il en ressort. On se posait un peu la question de savoir si les contenus générés du fait des données d'entrée, sont des contrefaçons, ou pas. On peut aussi se poser la question de savoir quel est le droit d'auteur, en fait, qui peut être apposé aux contenus générés.
| |
| − | | |
| − | <b>Stéphanie Le Cam : </b>C’est une question qui a beaucoup passionné au départ : est-ce que je peux revendiquer un droit de propriété intellectuelle sur un contenu que j'ai entièrement généré à l'aide d'une intelligence artificielle ? Pour le coup, ça ne perturbe pas vraiment la matière parce qu’on a toujours eu des débats là-dessus. Au moment où la photographie est arrivée, on s’est dit « est-ce que ce que je réalise à l'aide d'un appareil photographique est protégé au titre du droit d'auteur ou pas ? »<br/>
| |
| − | La règle est simple : il faut qu'il y ait un apport personnel, il faut qu’il y ait des choix délibérés.
| |
| − |
| |
| − | <b>Jean-Philippe Clément : </b>Il faut qu’il y ait une touche.
| |
| − | | |
| − | <b>Stéphanie Le Cam : </b>Il faut qu’on ait véritablement mis son empreinte, l’empreinte de sa personnalité dans cette œuvre de l'esprit pour en revendiquer un droit de propriété intellectuelle.<br/>
| |
| − | Si on regarde un petit peu ce qui se passe du côté de l'intelligence artificielle, vous allez nous faire le meilleur <em>prompt</em> du monde, un truc très long, qui va être extrêmement précis. Certains vous diront « j'ai fait preuve d'inventivité, de créativité puisque j'ai fait un <em>prompt</em> ! » Oui super ! Mais, en réalité, on a réussi à démontrer qu’il y avait une partie seulement des mots de ce <em>prompt</em>-là qui allaient être utilisés par l'IA pour sélectionner des images parmi des milliards d'images qui sont très génériques. Donc concrètement, ce que je suis en train de dire c'est « votre apport n'existe pas ! Vous avez fait des choix de mots, mais ce qu’il en ressort, n'est pas de votre création. »
| |
| − | | |
| − | <b>Jean-Philippe Clément : </b>Du coup, on pourrait presque dire que ce qui est généré ce sont des contenus en Creative Commons ?
| |
| − | | |
| − | <b>Stéphanie Le Cam : </b>C'est intéressant. Pour moi, Creative Commons, ça veut dire que vous avez déjà considéré que c'était une œuvre qui est libre de droit. Mais moi, je suis en train de me demander si, déjà, on est face à une œuvre. À mon sens, non ! On est sur un produit synthétique qui n'a même pas lieu d'être saisi par le droit de la propriété intellectuelle ou, éventuellement, par un autre dispositif juridique que pourraient être les Creative Commons. À mon sens, on est sur quelque chose qui n’est qu’un produit.
| |
| − | | |
| − | <b>Jean-Philippe Clément : </b>Qu’on ne peut même pas qualifier d'œuvre, donc, forcément, avoir une licence Creative Commons particulière ! On remettra le lien vers ce que c'est exactement, ce sont des licences qui permettent de repartager des contenus librement, tout simplement, et qui donnent un statut très particulier aux contenus partagés, qui jouent, du coup, le commun, justement, qui jouent le fait qu’on puisse réutiliser, dans certaines conditions, les contenus.<br/>
| |
| − | Stéphanie, on vient d'aborder toutes ces questions sur le copyright. Il y a quand même aussi une grande question, qu’on a déjà abordée en introduction, qui est la question de la responsabilité, les questions de responsabilité que pose l’IA, notamment celle qui met le curseur entre la responsabilité du développeur qui développe le service d’IA, et la responsabilité de l'utilisateur qui va utiliser le service d’IA. Que dit le droit, aujourd'hui, sur cette répartition de la responsabilité ?
| |
| − | | |
| − | <b>Stéphanie Le Cam : </b>Le droit, justement, fait l'objet de beaucoup de débats actuellement sur la responsabilité des développeurs, parce que, concrètement, pour faire un tout petit rappel, on a une directive de l'Union européenne, en 2019, qui a mis en place une exception <em>data mining</em> qui, à priori, permet de manière licite, à toute personne, de réaliser des fouilles de textes et de données sur des œuvres. D’ailleurs, le texte dit « quelle que soit la finalité de la fouille, sauf si l'auteur s'y est opposé de manière appropriée », ce qu'on l'appelle <em>opt-out</em>.<br/>
| |
| − | Concrètement, on peut se dire qu'à l'époque, quand ça a été mis en place, on n'imaginait pas une seconde que ça pourrait servir les intérêts de développeurs d'IA génératives de contenus.<br/>
| |
| − | On a vu d'abord que l'<em>opt-out</em> ne fonctionnait pas, on pourra y revenir, mais surtout, quand on voit qu'elles sont capables de générer des contenus qui viennent en concurrence directe avec les œuvres des humains, on se pose la question de savoir si l'usage, dans ce cadre-là, respecte ce qu'on appelle le triple test. Le triple test c’est, en gros, l'idée que les auteurs ont un droit exclusif d'autoriser la production de leurs œuvres, mais la législation peut, éventuellement autoriser la reproduction de ces œuvres dans certains cas particuliers, et le texte dit : « À condition que ce ne soit pas en conflit avec l'exploitation normale de l'œuvre que ça ne porte pas, en quelque sorte, atteinte au préjudice de l'auteur ». Quand on voit, ici, que cette exception de <em>data mining</em> est utilisée au service de développeurs d'IA et qu’elle vient clairement entrer en conflit avec l'exploitation normale des œuvres, on se demande, quand même, si ça peut utiliser l'exception de <em>data mining</em> pour ce type d'usage.<br/>
| |
| − | Pourquoi je j'en parle, parce que si on admettait que ça ne passe pas le triple test, dans ce cas-là, on pourrait engager la responsabilité des développeurs d'IA parce qu’ils ne respecteraient pas, justement, le cadre de l'exception, donc ils seraient à nouveau attentatoires au droit.
| |
| − | | |
| − | <b>Jean-Philippe Clément : </b>Très bien, très clair. Comme vous le disiez, c’est la jurisprudence qui va un peu trancher au fur et à mesure des avancées sur ces sujets.
| |
| − | | |
| − | <b>Stéphanie Le Cam : </b>La jurisprudence, oui, quand elle sera saisie, elle pourra donner des éléments de réponse.
| |
| − | | |
| − | <b>Jean-Philippe Clément : </b>Ou les évolutions législatives.
| |
| − | | |
| − | <b>Stéphanie Le Cam : </b>On peut tout à fait imaginer que, du côté de l'Union européenne, on se remette à travailler sur cette exception, d'ailleurs, ce n’est pas impossible. Dans la résolution du Parlement européen du 21 novembre dernier sur le statut professionnel des travailleurs de l’art, il est question, justement, d'inviter à réguler à nouveau l'IA en vue de protéger le milieu de la création. On peut tout à fait ouvrir le chantier de l’article 4 et dire : est-ce que c’est en l’état une utilisation possible, est-ce que l’IA générative de contenus ou les développeurs peuvent se saisir de cet article 4 pour justifier leur activité ?
| |
| − | | |
| − | <b>Jean-Philippe Clément : </b>Et l'évolution législative semble aussi être la voie privilégiée par le Québec avec les recommandations du Conseil de l’innovation du Québec qui viennent de sortir en janvier, qui disent à peu près la même chose, qu’il faut moderniser le droit d'auteur, qu’il faut moderniser le droit sur ces sujets-là.<br/>
| |
| − | Du coup, on voit bien, vous l'avez dit depuis le début de l'émission, qu’il y a une évolution énorme pour les métiers du juridique. Le juriste, qui produisait lui-même ses contenus et ses notes, va être aidé par l’IA, il va devenir superviseur, c’est aussi un métier qui évolue. Comment vit-on ça quand on est juriste aujourd'hui, cette utilisation de l'IA dans son métier ?
| |
| − | | |
| − | <b>Stéphanie Le Cam : </b>Je trouve intéressant que les juristes le vivent dans leur métier. Comme, en fait, ils pensent et ils façonnent le droit d'auteur qui, normalement, est une matière qui s'applique davantage aux auteurs. Là, on va être impactés directement, donc on va pouvoir voir comment cette intelligence artificielle qui va générer des contenus juridiques va avoir comme répercussions dans la pratique juridique.<br/>
| |
| − | Ce que j'ai vu arriver c'est que tous les éditeurs juridiques se sont mis à lancer leur publicité sur la meilleure intelligence artificielle qui va générer des contenus qui va, à les entendre, solutionner tous les problèmes, puisque, concrètement, vous lui poserez une question compliquée et elle vous donnera une réponse simple. Ce qui est intéressant c'est de voir que si elle fonctionne, c’est sans doute qu’elle a déjà aspiré l'ensemble des contenus que nous avons produits, en tant que universitaires, ou aussi professionnels du droit, donc cela questionne déjà : est-ce que, quand on a cédé nos droits dans le cadre d'une publication pour une revue papier ou, éventuellement, numérique, on a accepté que ce soit aussi de la nourriture pour une éventuelle IA générale de contenus juridiques demain ? Donc, je pense que ça va venir un petit peu agiter, en tout cas, ça va être intéressant d'en débattre et de voir, finalement, comment est-ce qu'on s'en servira. Je ne crois pas une seconde que ce sera fiable à 100 %. Le droit est une science qui est souvent dans la contradiction entre une position majoritaire, minoritaire.
| |
| − | | |
| − | <b>Jean-Philippe Clément : </b>Dans la subtilité. Du coup, cela veut dire que ce rôle de superviseur va être très important, superviser les productions de l’IA va être très important et, vous en parliez tout à l'heure, ça rebat des grandes questions autour du travail aussi : la valeur de la propriété intellectuelle, en tant que telle, on peut aussi parler aussi des notions de seuil de prix psychologiques, que vous avez évoquées tout à l’heure, pour une production. Tout cela est aussi lié à la valeur du travail, finalement.
| |
| − | | |
| − | <b>Stéphanie Le Cam : </b>Déjà, superviser ce n'est pas créer. Soit on accepte de contrôler ce que fait l'IA et, dans ce cas, nous ne sommes plus auteurs mais superviseurs, vous l'avez dit, d’ailleurs j'aime bien ce mot. C'est vraiment cette idée d'apport technique qui fait qu’on ne pourra pas revendiquer un droit de propriété intellectuelle sur ce contrôle. C'est important, quand même, qu'on sache ne pas scier la branche sur laquelle on est assis. C'est quand même important de se dire « je suis auteur de contenus juridiques, je ne supervise pas ce que fait une intelligence de création de contenus ».<br/>
| |
| − | Pour ce qui concerne le prix, on est quand même dans des écosystèmes où, clairement, la valeur du travail n'est pas prise en considération, c’est-à-dire qu’on n’est pas payé au temps qu'on a consacré à l'écriture d'un article, soyons clairs, ce partage de la valeur est déjà quelque chose qui pose problème dans le monde de l'édition du livre et aussi dans le monde de l'édition scientifique. Là, maintenant, si on nous dit « parce que vous n'avez fait qu'un travail de supervision d’une IA, on ne va pas vous payer comme on vous payait avant, clairement ça veut dire qu'on va aller vers quelque chose qui sera, finalement, un modèle économique gratuit : on ne paiera pas ceux qui supervisent, par contre, on fera banquer ceux qui utiliseront l'intelligence artificielle au profit, encore une fois, de ceux qui sont propriétaires de ces intelligences artificielles. Il y a donc tout un modèle économique à penser et et il est temps que la profession s'en saisisse.
| |
| − | | |
| − | <b>Jean-Philippe Clément : </b>Je pense que ce n’est pas pour rien que les scénaristes hollywoodiens ont fait grève.
| |
| − | | |
| − | <b>Stéphanie Le Cam : </b>Ce n’est pas seulement pour ce motif, il y a effectivement ce motif parmi d’autres.
| |
| − | | |
| − | <b>Jean-Philippe Clément : </b>Selon vous, n’est-on pas à la veille de ce type de mouvement sur tous les autres métiers où, à chaque fois, on va vouloir renégocier cette répartition de la valeur ?
| |
| − | | |
| − | <b>Stéphanie Le Cam : </b>En tout cas, il y a quelque chose d'inédit. J’examine les mouvements du côté des métiers de la création depuis un paquet de temps maintenant et c'est tout à fait inédit. Cette construction d'une identité professionnelle, cette revendication d’une meilleure protection du travail de création, de meilleures rémunérations, c'est extraordinairement inédit, je n'ai jamais vu ça avant.<br/>
| |
| − | Et puis, à côté de ça, je ne sais pas si vous l’avez vu passer, le Syndicat national des métiers de l'édition vient juste de sortir une étude à propos, justement, du partage de la valeur. Il y a encore deux ans c'était un gros mot, on ne pouvait pas parler du partage de la valeur, maintenant le SME s’en saisit, nous sommes ravis. Oui, il faut interroger le partage de la valeur, allez croire que le partage de la valeur va très bien parce que les IA gagneraient moins que les auteurs, c'est tout à fait discutable. En tout cas, on va poser ça sur la table, évidemment, c'est important que nous soyons rétribués pour notre travail.
| |
| − | | |
| − | <b>Jean-Philippe Clément : </b>Une question de Jérôme, je savais que ce sujet te donnerait envie de poser des questions.
| |
| − | | |
| − | <b> Jérôme Sorrel : </b>Puis-je vous poser une question, Stéphanie ? Je trouve super intéressant le point que prend Jean-Philippe en disant « vous qui êtes juristes, vous utilisez l'IA pour défendre les auteurs contre l'utilisation de l'IA ». J’ai une question très actuelle et très politique : Rachida Dati, qui est juriste et qui est ministre de la Culture, a-t-elle déjà pris des positions sur ce sujet-là, ou pas du tout ?
| |
| − | | |
| − | <b>Stéphanie Le Cam : </b>Elle est plutôt inscrite dans une dimension politique qui a tendance à vouloir faire de l'Union européenne et de la France le paradis de l'intelligence artificielle. Je forme le vœu que madame la ministre ait à cœur de défendre les artistes, auteurs et autrices, face à ce cataclysme, mais j'ai l'impression quand même qu’on sera plutôt encore à la recherche d'un équilibre.
| |
| − | | |
| − | <b>Jean-Philippe Clément : </b>Une dernière petite question : qu'est-ce qui va faire évoluer et quel est le planning de cette évolution sur le droit ? C'est essentiellement l’<em>IA Act</em> et tout ce qui va en découler derrière ? Toute la régulation derrière, potentiellement au niveau européen et au niveau national. Comment voyez-vous les choses ?
| |
| − | | |
| − | <b>Stéphanie Le Cam : </b>Honnêtement, l’<em>IA Act</em> va déjà être une bonne base. On a déjà gagné sur le plan de la transparence, ce n'est pas anodin. À la base, il y avait un refus catégorique de mettre de la transparence sur ces bases de données ; on a déjà gagné sur ce terrain-là. Après, la transparence, ça ne veut rien dire, c’est hypothétique. En gros, si vous avez OpenAI qui vous dit « non, non, je n'ai pas pris vos œuvres. — Super ! D’accords, alors je veux avoir accès à vos bases de données, je veux en être certain ». Il y a la théorie, le droit est fait par des juristes qui n'ont pas toujours les mains dans le cambouis, et ensuite il y a la pratique. Concrètement on me dit « il faut enclencher le mécanisme <em>opt-out</em> si vous ne voulez pas que vos œuvres soient aspirées ! », super ! J’ai mis du Glaze partout sur mes illustrations, j’ai fait attention, à toutes mes conditions générales, mes illustrations sont protégées de fait, qui vous dit que, finalement, ce n'est aspiré, ça ne va pas entraîner des IA ? Ça va être compliqué.<br/>
| |
| − | À mon avis, ce qu'il faut faire, c’est réfléchir aussi à côté à des règles qui viennent renforcer la protection des créateurs et créatrices.
| |
| − | | |
| − | <b>Jean-Philippe Clément : </b>Nous avons fini cette émission. Merci beaucoup, Stéphanie, pour tout ce partage autour de cette matière à la fois passionnante, mais quand même compliquée, du juridique et de l’IA. On vous retrouve, je crois, sur les réseaux sociaux où vous êtes et où vous faites part de votre actualité.
| |
| − | | |
| − | <b>Stéphanie Le Cam : </b>Je vous remercie.
| |
| − | | |
| − | <b>Jean-Philippe Clément : </b>Restez, bien sûr, sur 93.1 FM, sur Cause Commune avec les émissions de Cause Commune.<br/>
| |
| − | À bientôt.
| |
