Le capitalisme algorithmique, une dystopie devenue réalité

Dans son livre The Minority Report, adapté au cinéma par Steven Spielberg en 2002, le romancier étasunien Philippe K. Dick imaginait une société dystopique où de futurs assassins étaient arrêtés et jugés avant même d’avoir commis un meurtre. Le secret de cette justice prédictive : des mutants doués de précognition.

À défaut de posséder pareils mutants, de plus en plus de polices à travers le monde ont recours à des algorithmes analysant des jeux de données massifs et déterminant ainsi des « boîtes rouges », des zones où pourraient avoir lieu des crimes, que les forces de l’ordre préviendraient en y intervenant de manière anticipée. À notre époque, de jeunes hommes, principalement racisés et issus de milieux populaires, se font donc arrêter pour des crimes qu’ils pourraient commettre. La dystopie est devenue réalité.

Ce phénomène est, pour les économistes canadiens Jonathan Durand Folco et Jonathan Martineau, symptomatique de l’avènement d’une « société algorithmique », dont ils analysent la naissance et les caractéristiques dans leur ouvrage Le capital algorithmique (éditions Écosociété).

Le nouvel eldorado du capitalisme

Cette société a pu émerger après deux décennies d’accumulation d’un « capital algorithmique ». Alors que bon nombre d’essais considèrent les technologies algorithmiques, telles l’intelligence artificielle (IA), les réseaux sociaux, la reconnaissance faciale, etc., indépendamment du contexte de leur production, les deux auteurs ne les dissocient jamais du système économique qui les a vues naître : le capitalisme, dont elles constituent désormais le cœur.

Ces technologies reposent sur une matière première d’un nouveau genre : les données. Nouvel eldorado du capitalisme, elles constituent à la fois des matériaux qu’on extrait — via l’analyse quantitative de comportements humains — et des marchandises qu’on vend. Le capitalisme algorithmique repose de fait sur deux piliers. D’une part, l’extraction massive de ce que la sociologue étasunienne Shoshana Zuboff avait nommé, dans son livre L’Âge du capitalisme de surveillance (Zulma, 2018), le « surplus comportemental », c’est-à-dire la captation d’une « survaleur » du travail, transformé en données numériques ; et d’autre part, la prédiction, grâce à ces données, du comportement des usagers.

Les premiers capitalistes algorithmiques — Google, Amazon, Facebook, Apple et Microsoft, soit les fameux « Gafam » — sont devenus champions de ce nouvel âge du capitalisme après la crise économique des années 2007-2008. Les auteurs du livre datent de cette époque la transition du néolibéralisme vers le capitalisme algorithmique. La décennie qui a suivi la crise financière a vu, grâce à une batterie d’inventions (smartphones, ordinateurs portables, capteurs de plus en plus nombreux, etc.), la montée en puissance des Gafam, qui comptent désormais parmi les entreprises les plus cotées en bourse. Dans le même temps, les acteurs économiques traditionnels ont intégré les algorithmes à leurs processus de travail. La pandémie du Covid-19 et les confinements successifs ont notamment joué le rôle d’accélérateurs — de « grand bond en avant numérique » — d’une tendance mondiale de fond.

Cependant, les capitalistes algorithmiques n’ont pas bâti leur empire sur la seule efficacité de leurs technologies. L’augmentation de la productivité induite par celles-ci s’est, en parallèle, accompagnée d’une dégradation et d’une dévalorisation du travail, quel que soit le secteur envisagé. Salariat déguisé (Uber, Deliveroo…), microtravail (« fermes à clics », Mechanical Turk d’Amazon…), externalisation vers les pays du Sud mondial (entraînement de ChatGPT par des travailleurs kenyans sous-payés par OpenAI) ou encore exploitation du travail gratuit des usagers (les notes qu’on attribue à tel ou tel établissement sur Google, Yelp, Airbnb…) : les plateformes ne manquent pas d’imagination pour fragmenter et brider toujours plus les travailleurs qui façonnent leurs algorithmes… et augmenter d’autant leurs profits.

Une dystopie désirée

Comment une telle dystopie a-t-elle pu voir le jour, alors qu’elle s’est construite au vu et au su de tous pendant vingt ans ? C’est l’une des plus fortes thèses — parmi les vingt-deux que compte l’ouvrage — de Jonathan Durand Folco et Jonathan Martineau : la société algorithmique a pu émerger parce qu’elle était désirée. Et en premier lieu par les États. Loin de chercher à contrôler les Gafam étasuniens ou les BATX chinois (Baidu, Alibaba, Tencent et Xiaomi), les États ont préféré s’y associer pour développer une nouvelle « gouvernementalité algorithmique » peu compatible avec l’exercice de la démocratie.

Utilisant la puissance des algorithmes pour déterminer et orienter les pulsions au sein de sociétés complexes, les États contemporains font de « l’information un instrument de politique qui incite les divers acteurs à agir de certaines façons plutôt que d’autres ». Les algorithmes se sont de fait introduits dans presque tous les domaines de la puissance publique : la police, mais également la justice — aux États-Unis, des algorithmes préconisent des verdicts et les juges en déterminent les sanctions adéquates —, les prisons — Taïwan expérimente des « prisons sans gardien » —, jusqu’à l’attribution des programmes sociaux selon des critères opaques, même aux yeux des agents publics.

Malgré le caractère effrayant de ce capitalisme de surveillance porté tant par les États que les multinationales, il faut constater qu’une grande partie de la population mondiale semble accepter cet état de fait. Les dernières thèses du Capital algorithmique se penchent sur les ressorts de cette acceptation sociale ambiguë. Si tant de gens dotent leur smart home d’un réfrigérateur connecté passant directement commande de lait quand il n’y en a plus, de lit intelligent qui analyse la qualité du sommeil et autres gadgets technologiques, c’est qu’ils y voient une manière de se décharger d’une partie du travail domestique… tout en sachant pertinemment qu’ils ouvrent à ces entreprises une fenêtre sur leur intimité domestique.

L’exploitation de l’intimité peut aller encore plus loin. Outre la pléthore de sextoys et poupées gonflables intelligentes, l’industrie produit désormais des « érobots », le plus souvent des chatbots, comme Replika, avec lesquels des usagers en manque d’interactions humaines se lient d’amitié, voire en viennent à former des couples virtuels. La boucle est ainsi bouclée : face au vide humain qu’il engendre, le capitalisme propose des solutions technologiques… qui ne font qu’isoler davantage les personnes en souffrance. En creux se dessine une nouvelle forme de subjectivité ; à l’heure des réseaux dits « sociaux » prime un « moi connecté », apogée du narcissisme social, qui exhibe sa vie privée de manière publique et en tire son plaisir.

« Technosobres »

Malgré tout, une lueur d’espoir paraît émerger dans le sombre tableau du monde que brossent les deux Jonathan. À leurs yeux, les algorithmes ne sont pas essentiellement mauvais, car tout dépend de l’usage qu’on en fait. Dans une approche qu’ils revendiquent « technosobre » et non « technophobe », ces Canadiens imaginent des algorithmes arrachés au capitalisme et mis au service de la démocratie en vue d’un meilleur exercice de celle-ci, dans laquelle les processus complexes les plus laborieux seraient automatisés, de manière à diminuer le temps de travail et augmenter le temps de loisir de ses membres.

Compte tenu du coût environnemental catastrophique du secteur numérique, que les économistes analysent en détail, une telle proposition reste encore à prouver sur le long terme et, surtout, interroge quant à sa pertinence : a-t-on vraiment besoin d’automatiser quoi que ce soit ? Fallait-il attendre les algorithmes pour apprendre à partager équitablement notre travail et ses fruits ?

Le capital algorithmique. Accumulation, pouvoir et résistance à l’ère de l’intelligence artificielle, de Jonathan Durand Folco et Jonathan Martineau, aux éditions Écosociété, collection « Théorie », septembre 2023, 492 p., 29 euros.