Hervé Kempf, rédacteur en chef / © Mathieu Génon

« Une presse critique, indépendante et d’investigation…

…est la pierre angulaire de toute démocratie. Elle doit avoir une indépendance suffisante vis-à-vis des intérêts particuliers pour être audacieuse et curieuse, sans crainte ni faveur. » Nelson Mandela

1 donateurs soutiennent Reporterre ce mois-ci.

Objectif de 10 000 donateurs

Soutenez la presse indépendante,
faites un don en 2 minutes à Reporterre, même pour 1 €.

Soutenir le journal

Pour vivre libres, sortons du bocal numérique

Durée de lecture : 6 minutes

31 octobre 2020 / Celia Izoard (Reporterre)



« On étouffe là-dedans, non ? » L’autrice de cette chronique s’en prend à notre société régie par le capitalisme numérique : chacun y est poussé à vivre dans son bocal, pour la plus grande joie de l’État et de la Silicon Valley. Elle prévient : « Une société pleinement informatisée a toutes les chances de déboucher sur une société totalitaire. »

Célia Izoard, journaliste et membre de la revue Z, a fait des études de philosophie et traduit des ouvrages critiques de la technologie moderne, dont 1984, de George Orwell, aux éditions Agone, à paraître en janvier 2021.


À la fin du Quai de Wigan (1937) [1], George Orwell analyse l’assujettissement par la machine. Un monde où elle serait omniprésente aurait tué le travail créatif, atrophié les sens et détruit la volonté d’agir par soi-même. Il a cette formule saisissante : « L’aboutissement logique du progrès mécanique est de réduire l’être humain à quelque chose qui tiendrait du cerveau enfermé dans un bocal. »

On trouverait difficilement meilleure image pour décrire la situation créée par le capitalisme numérique. Nous vivons dans un monde où la plupart des métiers, des loisirs et des conversations se déroulent derrière des écrans. Les possibilités infinies offertes par le mouvement du corps et les cinq sens ont été remplacées par une sorte d’hypertrophie du cerveau exclusivement alimenté par la vue et l’ouïe. Chacun dans son bocal numérique. Notre expérience du monde glisse le long de ses parois de verre.

Tout l’intérêt d’un bocal est qu’on peut regarder à l’intérieur. Un cerveau dans un bocal est soumis à la surveillance et à l’expérimentation. Les fabricants de bocaux sont bien placés pour en parler, tels les ingénieurs et designers repentis de la Silicon Valley qui témoignent dans le documentaire The Social Dilemma, produit par Netflix (qui produit lui aussi des bocaux). « L’intelligence artificielle de Facebook est comme une expérience où l’on stimulerait les pattes d’une araignée pour voir quel nerf va répondre, explique Tristan Harris, ex-designer Google. Derrière l’écran, il y a des milliers d’ingénieurs, des supercalculateurs et des algorithmes qui savent tout de vous et testent en permanence ce qui a le plus de chance de vous tenir accroché. » L’objectif étant de vous maintenir le plus longtemps possible dans le bocal pour remplir les poches des annonceurs et perfectionner les algorithmes qui vous présenteront des contenus encore plus addictifs, pour remplir les poches des annonceurs, etc.

Dans le capitalisme numérique, les plateformes ont intérêt à la production du mensonge

L’autre avantage de conserver les humains dans des bocaux, c’est l’éventail de paysages que les fabricants de bocaux peuvent présenter sur les parois. « Quand vous tapez "changement climatique" sur Google, selon où vous vivez, vous aurez des réponses différentes, explique Justin Rosenstein, ancien ingénieur Facebook et Google. Dans certaines villes, on vous suggèrera "le réchauffement climatique est un canular", dans d’autres, "le changement climatique détruit la nature". Cela dépend d’où vous faites la demande et des centres d’intérêt que Google connaît. »

La technique la plus rentable consiste à retourner complètement le bocal sur lui-même. Sensationnelles, captivantes, « les fausses informations rapportent plus d’argent aux entreprises, constate Tristan Harris. Sur Twitter, les fake news se diffusent six fois plus que les vraies. » Les plateformes favorisent donc les contenus démontrant que la Terre est plate, que personne n’a jamais marché sur la lune, ou que les ONG écologistes font brûler l’Amazonie. Désorienté, le sujet ne veut plus quitter son bocal, car le monde extérieur lui paraît insupportablement inversé. Il retourne donc partager des vidéos et des messages avec des gens qui habitent le même genre de bocal.

Le roman d’Orwell, 1984, décrit un monde aux mains d’un régime qui a, lui aussi en quelque sorte, mis les membres de son parti intérieur dans des bocaux pour leur ôter toute mémoire autonome et toute prise intellectuelle. Avec des effets comparables : « Le citoyen d’Océanie est comme un voyageur de l’espace interstellaire, privé de tout repère lui permettant de situer le haut et le bas. » Dans 1984, le parti a intérêt à la production du mensonge pour maintenir son pouvoir. Dans le capitalisme numérique, les plateformes ont intérêt à la production du mensonge pour augmenter leurs profits, donc... leur pouvoir.

L’infrastructure électronique a fourni aux États une capacité de contrôle et une nouvelle légitimité à l’exercer

On sait depuis quatre décennies qu’une société pleinement informatisée a toutes les chances de déboucher sur une société totalitaire. En 1979, face aux grèves et aux actions menées en France contre les ordinateurs et l’horizon d’une société de surveillance [2], le gouvernement avait dû organiser un grand débat national. À l’époque, pour rassurer la population, le président Valéry Giscard d’Estaing avait pointé la situation à laquelle il ne fallait surtout pas arriver : « Poussé à l’extrême, l’usage de la télématique pourrait être la suprême aliénation. L’homme deviendrait un consommateur d’images et de signes placé devant un écran universel capable de solliciter tous les savoirs, toutes les mémoires et tous les services. » [3] Après cette séance d’exorcisme, l’État, comme dans tous les pays riches, a consacré les quarante années suivantes à dépenser des milliards d’argent public pour structurer des filières de recherche-industrie et informatiser la société. Jusqu’au bocal donc. À la faveur de l’état d’urgence sanitaire, l’État vient d’en refermer brusquement le couvercle. Clac.

Cette infrastructure électronique a fourni aux États une capacité de contrôle qui donne au télécran de 1984 des airs de gramophone. Elle leur a aussi donné une nouvelle légitimité à l’exercer. Mariner trop longtemps dans un bocal pouvant rendre très fou et très violent, voilà un bon prétexte pour superposer aux algorithmes hédonistes des algorithmes policiers [4].

Double contrôle, donc, sur les parois de verre – double-vitrage. Le rôle de l’État n’est-il pas de nous « conserver », de nous « préserver » (en anglais, preserve signifie très exactement « conserve de nourriture en bocal ») ? Et nous ? On étouffe là-dedans, non ? Covid ou pas Covid, pour vivre libres, il va falloir réapprendre à tisser des réseaux sociaux à l’extérieur du bocal.


  • Mille neuf cent quatre-vingt-quatre, nouvelle traduction de Célia Izoard, aux éditions Agone, à paraître le 14 janvier 2021.




[1Édition française : 10/18 (2000).

[2Comme le raconte Célia Izoard dans le chapitre « L’informatisation, entre mises à feu et résignation » de Luddites en France, L’Échappée (2010) : « À l’automne 78, des grèves préventives éclatent à la Poste contre la séparation des PTT et l’impérialisme informatique « qui allait balayer le facteur d’une pichenette » ; en janvier et février 79, c’est un mouvement contre les suppressions d’emploi qui immobilise l’Union des Assurances de Paris et les banques, dont on craint qu’elles ne deviennent la « sidérurgie de demain » ».

[3Son intervention, prononcée en septembre 1979, est en ligne ici.

[4L’entreprise Dataminr, la start-up d’intelligence artificielle de Twitter, aide par exemple les pouvoirs publics à scruter son réseau social à la recherche de délinquants présumés. Une enquête de The Intercept l’accuse de cibler disproportionément les communautés noires.


Lire aussi : Les fausses promesses de la voiture électrique — l’enquête de Reporterre

Sources : Courriel à Reporterre

Photos :
. chapô : Travail nocturne dans une résidence étudiante. © Hugo Noulin / Université Paris-Saclay

- Dans les tribunes, les auteurs expriment un point de vue propre, qui n’est pas nécessairement celui de la rédaction.
- Titre, chapô et intertitres sont de la rédaction.

DOSSIER    Informatique et internet

THEMATIQUE    Libertés
18 novembre 2020
Locataires et précaires, grands oubliés de la rénovation
Enquête
5 octobre 2020
La plus grande action jamais menée en France contre le trafic aérien
Reportage
1er décembre 2020
Contre ce monde étouffant, vivons la fantaisie réelle des Zad
Tribune


Dans les mêmes dossiers       Informatique et internet



Sur les mêmes thèmes       Libertés





Du même auteur       Celia Izoard (Reporterre)