Entretien avec Shoshana Zuboff : les mutations du capitalisme de surveillance à l'ère de l'IA

De April MediaWiki
Aller à la navigationAller à la recherche


Titre : Entretien avec Shoshana Zuboff : les mutations du capitalisme de surveillance à l'ère de l'IA

Intervenant·es : Shoshana Zuboff - Traductrice - Juliette devaux - François Saltiel

Lieu : Émission Le Meilleur des mondes - France Culture

Date : 31 mai 2024

Durée : 1 h 01 min 26

Podcast

Présentation du podcast

Licence de la transcription : Verbatim

Illustration : À prévoir

NB : Transcription réalisée par nos soins, fidèle aux propos des intervenant·e·s mais rendant le discours fluide.
Les positions exprimées sont celles des personnes qui interviennent et ne rejoignent pas nécessairement celles de l'April, qui ne sera en aucun cas tenue responsable de leurs propos.

Description

En 2019, Shoshana Zuboff publiait L'Âge du capitalisme de surveillance, ouvrage mettant au jour les dynamiques secrètes de l’économie du web, basée sur l’extraction des données personnelles. Les prédictions alarmistes de l'autrice se sont-elles réalisées ? Pouvons-nous être optimistes ?

Transcription

François Saltiel : Bonsoir et bienvenue à toutes et à tous dans Le Meilleur des mondes, l’émission de France Culture qui s’intéresse aux bouleversements suscités par le numérique et les nouvelles technologies. Ce soir, nous profitons du passage éclair, à Paris, de l’universitaire américaine Shoshana Zuboff pour la convier à un grand entretien, afin de retracer son parcours, de revenir sur ses concepts fondamentaux et de les relire à l’aune de 2024 et des derniers soubresauts technologiques.
L’Âge du capitalisme de surveillance, son livre sorti aux États-Unis en 2019 et deux ans plus tard, chez nous en France, est devenu un ouvrage majeur sur la critique du modèle économique des géants du numérique, une référence absolue sur la manière dont les GAFAM extraient et utilisent nos données personnelles et comportementales par des procédés qui nous échappent.
Nous visiterons les concepts clés de l’auteur, du surplus comportemental, à la rente de surveillance en passant par le pouvoir instrumentarien ou la division des savoirs. Comment ces phénomènes ont-ils évolué depuis 2019, une période pré-Covid et avant l’ère de l’intelligence artificielle générative ? Qu’en est-il, aujourd’hui, de la prise de conscience citoyenne et de la menace que font peser les GAFAM sur nos démocraties ? Peut-on, néanmoins, être optimiste et miser sur une plus grande maturité des utilisateurs ? Que peut-on espérer du pouvoir politique entré dans une phase de régulation avec, notamment en Europe, les règlements en vigueur du DSA et du DMA ? En un mot, que reste-t-il du capitalisme de surveillance ? Beaucoup de questions et une invitée de choix pour nous répondre.
Shoshana Zuboff, bonsoir

Shoshana Zuboff : Bonsoir.

François Saltiel : Merci d’être avec nous. Merci d’avoir pris le temps de passer par le studio du Meilleur des mondes. Vous êtes professeur émérite, aujourd’hui retraitée, à la prestigieuse Harvard Business School, autrice de trois livres qui ont chacun éclairé, depuis la fin des années 80, une nouvelle ère de nos sociétés connectées. Je rappelle que la traduction française du dernier L’Âge du capitalisme de surveillance est à retrouver aux Éditions Zulma. Vous êtes également membre de l’Observatoire international sur l’information et la démocratie qui vise à ce que les citoyens reprennent le pouvoir et le contrôle de leur vie privée. Votre regard sera précieux pour analyser les grandes mutations technologiques de notre temps.
Au programme, également, une chronique de Juliette Devaux en lien avec votre vos travaux. Juliette reviendra notamment sur les espoirs portés par les régulateurs des États-Unis à l’Europe.
Le Meilleur des mondes s’écoute à la radio ou quand vous le désirez en podcast sur l’application radio France. C’est parti.

Diverses voix off : L’énorme visage vous fixait du regard. C’était un de ces portraits arrangés de telle sorte que les yeux semblent suivre celui qui passe. Une légende, sous le portrait, disait « Big Brother is watching you », « Big Brother vous regarde ».
À partir du moment où le régime de contrôle, qui apparaît dans les années 90, commence à se coupler avec l’outillage numérique, ça devient une puissance de feu colossale. On n’a jamais atteint des degrés de surveillance, de contrôle et de finesse de contrôle, on n’a jamais été aussi loin.
Facebook est accusé de cibler les gens en fonction de la couleur de leur peau, leurs origines ou même leur handicap.
Il semble que nous n’échapperons pas à une surveillance généralisée de nos faits et gestes, car c’est le cœur même du moteur capitaliste contemporain qui impose de récolter des données en grand nombre pour perfectionner ses modèles.
Oui c’est vraiment un nouvel ordre mondial de la tech qui est en train de se dessiner quasiment sous nos yeux. L’IA devient centrale dans la recherche Google, une véritable révolution baptisée Overviews à base de raisonnement à plusieurs niveaux.
La démo la plus impressionnante, c’était celle d’une personne qui filme une pièce avec son téléphone portable et qui lui demande « tu n’aurais pas vu mes lunettes ? »

François Saltiel : Shoshana Zuboff, pour celles et ceux qui découvriraient ce soir vos travaux et qui n’ont pas encore lu votre ouvrage de 700 pages, fruit de plus de dix ans de labeur, en quelques mots, le capitalisme de surveillance, c’est quoi ? Comment peut-on arriver à le définir avec pédagogie et rapidement ? Je sais que c’est un exercice compliqué.

Shoshana Zuboff traduite par Marguerite Capelle : « Capitalisme de surveillance », c’est une expression assez dramatique, mais, en fait, c’est un concept technique, il faut à la fois la surveillance et le capitalisme, sans les deux morceaux du puzzle, ça ne fonctionne pas.
Le capitalisme de surveillance a été inventé au cœur de l’urgence de la crise financière, le moment où ce qu’on appelle la bulle internet a explosé, c’était autour de 2001, quand les start-ups de la Silicon Valley étaient confrontées à des difficultés financières très graves parce que personne ne savait comment monétiser les données. Les gens de Google étaient censés être les plus avancés, les plus intelligents, ils avaient les meilleurs moteurs de recherche, mais même eux ne savaient pas comment en tirer profit. C’est sous l’effet de ces pressions qu’il s’est passé deux choses. La première c’est une découverte et la deuxième, c’est une très grande idée, une idée majeure.
Cette découverte, c’est qu’à chaque fois que quelqu’un se frotte à Internet, quelle que soit la façon dont ça se passe, il laisse des traces de ses comportements, des signaux comportementaux qu’on a commencé à essayer de comprendre chez Google. Ces signaux sont plein de données prédictives extrêmement riches et, en jouant avec ces données, les gens de Google se sont rendu compte qu’ils pouvaient commencer à prédire le comportement des gens à partir des traces, des signaux qu’ils laissaient derrière eux, mais nous, nous n’avons aucune idée que nous laissons ces traces, c’est quelque chose qui se passe sans qu’on en ait conscience. Donc tout cela est là, dans l’obscurité.
Alors qu’il commençait à apprendre à prédire nos comportements en récoltant tous ces signaux, Larry Page, l’un des fondateurs de Google, a eu une grande idée qui accompagne cette découverte. Son idée, c’est que les prédictions du comportement humain pourraient être vendues comme des marchandises, exactement comme nous vendons du pétrole, exactement de la même manière que nous vendons de la poitrine de porc, de la viande. Nous pouvons également vendre des prédictions du comportement humain futur et on pourrait les vendre en très grand volume, il y aurait des marchés pour ça, parce que partout dans le monde, et c’est vrai depuis le début de l’histoire, tout le monde veut connaître l’avenir.
La première application, c’est ce qu’on appelle le taux de clics. On a utilisé l’agrégation de ces signaux comportementaux, on les a associés et, avec ce système d’analyse du taux de clics, on a réussi à vendre une prédiction publicitaire pour savoir qui allait cliquer sur ces publicités. Ça a révolutionné le monde de la publicité et ça a initié une trajectoire qui a permis non seulement à Google de faire de l’argent, mais aussi qui nous a conduits, aujourd’hui, au capitalisme de surveillance.

François Saltiel : Et après, on a effectivement bien vu que ce modèle initié par Google a été reproduit, réutilisé par d’autres entreprises, ce modèle que vous expliquez assez bien de l’exploitation de ce surplus comportemental également, c’est-à-dire toutes ces données que nous laissons sans même le savoir.
Vous êtes, bien sûr, une fine analyste du monde de la technologie. Vous avez dû voir les nouvelles annonces de Google qui envisage de changer la manière de fonctionner de son moteur de recherche en intégrant les outils d’intelligence artificielle, ce qui pourrait, peut-être, modifier le modèle économique de Google. Quel est votre point de vue ?

Shoshana Zuboff traduite par Marguerite Capelle : Vous touchez maintenant à l’un des grands bouleversements de notre époque. Nous sommes tous en train d’assister à ce spectacle, un spectacle de quelque chose de nouveau, censé être nouveau, que nous appelons l’intelligence artificielle. D’un seul coup, cette intelligence artificielle, cette IA serait de notre côté, elle serait faite pour nous, elle serait prête à tout changer, mais voici ce qui se passe en réalité.
Même dès l’année 2000, les fondateurs de Google parlaient de leur moteur de recherche comme « notre intelligence artificielle ».
En 2001, Google a engagé Peter Norvig, un homme qui, à l’époque, travaillait pour la NASA. Il était considéré comme le premier expert mondial de l’intelligence artificielle. On a demandé à Peter Norvig de faire de Google quelque chose qui soit 100 % intelligence artificielle, c’était son travail, donc l’IA, ça n’a rien de nouveau.
Les entreprises cherchent en permanence des nouvelles formes de légitimité, des nouvelles sources de légitimité. Pourquoi ont-elles besoin de ça ? Quand je vous ai parlé de la création du capitalisme de surveillance, je vous ai dit qu’il fallait que ce soit secret, c’est-à-dire qu’il faut absolument que nous ne soyons pas conscients que nous laissons derrière nous ces traces comportementales qui deviennent leur matériau brut, que nous n’ayons aucune idée que nous donnons autant d’informations sur nous. Ces entreprises ont compris depuis le début que si elles devaient utiliser ces signaux pour faire de l’argent, il fallait que ça se passe en secret. Si les gens savaient ce qu’ils livrent d’eux-mêmes et ce que les entreprises utilisent, on se rebellerait et le législateur finirait par s’y intéresser, donc on redéfinirait ces collectes, cette captation, comme du vol.
Google s’est, en quelque sorte, condamnée à vie au secret. Ce qui signifie aussi qu’il faut mentir, qu’il faut soudoyer, qu’il faut développer des formes de rhétorique et de propagande, qu’il faut détourner l’attention de façon à ce qu’on ne comprenne jamais ce qui se passe vraiment.

Pour répondre à votre question, François, en 2004, Google a commencé à en parler en public. Ça a été la première fois qu’on a commencé à savoir un petit peu ce qui se passait dans cette entreprise.
Quand ils ont commencé à rentrer dans cette nouvelle logique de monétisation, la marchandisation des comportements humains comme source de rente et de profit, nous avons appris que le revenu de Google avait augmenté entre 2001 et 2004, qu’il avait été augmenté de 3500 %, donc une augmentation massive. Le résultat c’est que d’autres entreprises ont commencé à se mobiliser avec grande urgence, tout le monde voulait savoir ce que faisait Google, parce que, pour attirer des investisseurs, il fallait pouvoir promettre le même type de revenus et de profit. Facebook a été le premier et, ensuite, le reste du secteur des technologies a suivi.

Quand on observe, aujourd’hui, ce qui se passe avec l’IA, on voit que, d’un seul coup, les compagnies ont pris un virage, les entreprises ont pris un virage. Ce virage, c’était de ramener directement l’intelligence artificielle dans l’espace client, dans l’espace consommateur. Si on remonte en 2023, au moment où vraiment tout cela était en train d’exploser, ce qu’on voit comme des promesses extrêmement intéressantes, ce sont des promesses qu’ils font aux gens. Par exemple, ça va vous aider à faire vos devoirs, ça va vous aider à gérer votre maison, ça va vous aider même à tricher ! Ça va vous aider à être meilleur dans votre travail, ça va vous aider à travailler plus vite, à être plus compétitif. Ce qu’ils proposent, ce qu’ils promettent au consommateur final, c’est donc un outil qui leur permettra de réussir d’une nouvelle manière. Ce qui se passe en réalité, le sous-texte de tout cela, c’est que, d’une part, ils analysent toutes les données qui sortent de nos sociétés, que nos sociétés produisent, parce que, partout, nous voyons que les gens se lassent de cette surveillance commerciale privée, on en a marre d’être suivis et d’être surveillés en permanence, d’avoir des trackers sur l’endroit où nous sommes, qu’on utilise notre vie privée et qu’on la détruise. Il y a donc quand même eu énormément de résistance dans la société et c’est vrai aux États-Unis, pourtant on a très peu de lois pour se protéger. C’est vrai aussi en Europe et, d’ailleurs, dans d’autres régions du monde : jusqu’au Chili, jusqu’en Corée on voit des mouvements de résistance.
Alors que la société est en train vraiment de se révolter contre le capitalisme de surveillance, nous voyons aussi que les législateurs commencent à vouloir s’y opposer. Il y a, donc, effectivement ce Digital Services Act, ce Digital Markets Act, le DSA et le DMA. En Europe, le débat a commencé vraiment de façon très intense, en 2023, au Parlement européen sur ces nouvelles lois concernant l’intelligence artificielle. Tout cela fait peser des contraintes sur le capitalisme de surveillance, risque de le modifier en profondeur et même de remettre en question son existence. Il a donc fallu que les entreprises trouvent de nouveaux modèles pour se légitimer et c’est là où on en appelle au consommateur final et ça devient une nouvelle frontière, en quelque sorte, dans cette entreprise qui vise à développer encore ses projets, ses entreprises, et à acquérir une légitimité sociale pour dix ans de plus, juste pour les législateurs.

15’ 40

François Saltiel : Pour bien comprendre