« Il est temps de choisir son camp » : plaidoyer pour un label « sans IA générative »

Ce texte est issu des réflexions inter-disciplinaires de l’Atécopol, collectif de scientifiques toulousain·es engagé·es face à l’urgence écologique. Il a été rédigé par Marianne Blanchard, Guillaume Carbou, Julian Carrey, Adeline Grand-Clément, Jean-Michel Hupé, Odin Marc, Sydney Thomas et Laure Vieu. Les rédacteur·ices ont également pris en compte les remarques et suggestions d’artistes, écrivain·es, et journalistes ayant eu accès à une version préliminaire de ce texte, ainsi que de membres du collectif Scientifiques en rébellion.

Il y a dix ans, face à la place grandissante des plats précuisinés dans la restauration, émergeait un petit logo sans prétention, sans organisme certificateur et sans processus de labellisation : le label « fait maison ». Signe de confiance et de reconnaissance entre un restaurant et sa clientèle, il indiquait que — comme cela devrait aller de soi — la nourriture que l’on s’apprêtait à manger avait été cuisinée sur place, et non simplement réchauffée au micro-ondes après avoir été produite en usine.

Dix ans plus tard, le déferlement de l’intelligence artificielle générative (IAg) [1], dans tous les aspects de la vie quotidienne, désoriente les nombreuses personnes qui sont attachées aux productions humaines.

Elles subissent cette vague de déshumanisation avec effroi, tristesse ou colère : plus moyen de savoir si un article de journal, un morceau de musique ou un contenu éducatif a été produit par une IAg. Du côté des créateur·ices, la situation n’est pas beaucoup plus rose : face à la concurrence de ChatGPT et de l’automatisation, comment faire valoir et reconnaître son choix de continuer à proposer une production humaine ?

« Réseau de créations entièrement humaines »

Au-delà du cas extrême des productions entièrement générées par IAg, cette dernière peut être utilisée à des degrés divers lors de différentes phases du processus de création : illustrations, demande de financement, textes de présentation, recherches bibliographiques, ou bien entendu assistance à la production finale. Les raisons pour refuser tout cela en bloc sont multiples et sont probablement aussi diverses que le profil des personnes qui le souhaitent.

La plus courante est que l’IAg n’est pas un outil neutre avec ses bons et mauvais usages mais un système technique indissociable d’un pillage massif des œuvres, d’une exploitation des travailleuses du clic et d’infrastructures gigantesques et énergivores. On peut aussi refuser de laisser aux entreprises du secteur des pans entiers de notre humanité créatrice ou refuser de perdre des compétences et une autonomie auxquelles nous sommes attaché·es. Mais qu’importe : que ce soit du côté des créateur·ices comme de celui des personnes qui y accèdent, il est temps que nous puissions nous reconnaître, nous rallier, nous faire confiance, et créer un réseau de créations entièrement humaines.

Une piste consisterait à demander à toutes les personnes faisant appel à l’IAg à quelque étape que ce soit de leurs processus de création de le déclarer explicitement et de manière transparente. Mais nous doutons qu’une telle pratique s’impose un jour, pour de nombreuses raisons. On peut se contenter de l’illustrer par un exemple emblématique : dans le domaine de la recherche, où la plupart des revues demandent aux scientifiques de déclarer explicitement l’usage de l’IAg dans leurs articles, une étude estime que seul 1 scientifique sur 40 utilisant l’IAg le déclare.

On assiste donc dans ce domaine à des manquements majeurs et généralisés à l’éthique scientifique. Il y a fort à parier que, dans de nombreux métiers, même si l’on demandait d’afficher explicitement tout usage de l’IAg, ce dernier, peu avouable et difficilement prouvable, resterait pratiqué en catimini.

Label « sans IAg »

Nous proposons donc qu’un label « sans IAg » émerge rapidement partout où des personnes, des collectifs, des journaux, des laboratoires, des formations ou des entreprises prennent l’engagement de ne pas utiliser l’IAg dans leur pratique professionnelle. Ce label serait basé sur la confiance entre des humains.

Il émergerait à des échelles très diverses. Par exemple, dans l’enseignement, ce label pourrait apparaître à l’échelle d’un établissement, d’un département, d’une filière de formation ou d’un·e enseignant·e. Dans les médias, il serait affiché à l’échelle d’un journal entier comme d’une rubrique ou d’un·e journaliste. Dans la culture, il pourrait être mis en avant au niveau d’une œuvre (film, roman, photographie, etc.), ou pour caractériser la pratique d’artistes (scénaristes, écrivain·es, etc.).

Il pourrait apparaître sous la forme d’une phrase explicite, d’un logo personnel ou d’un court texte. L’important n’est pas la forme que cela prend ; il n’est peut-être même pas nécessaire qu’un label « officiel » et son lot de normes précises — et probablement invérifiables — existe ; l’important est que toutes les personnes qui se reconnaissent dans cette envie et cet engagement l’affichent explicitement. Pour autant, même en l’absence d’organisme certificateur ou de label officiel, une affirmation erronée pourrait être juridiquement considérée comme une pratique commerciale trompeuse.

« Il est temps de choisir son camp » 

Les entreprises sont un cas un peu à part mais néanmoins fort intéressant. On voit émerger un monde dystopique où des milliers de CV générés par IAg sont triés par des IAg pour recruter des personnes allant prompter toute la journée. Tout cela n’a aucun sens et nécessite une clarification urgente, afin que les étudiant·es puissent rapidement savoir quelles sont les entreprises ou services dans lesquels iels pourront exercer dignement leurs compétences.

Inversement, il faudrait que les mêmes entreprises puissent rapidement reconnaître les étudiant·es qui ont de véritables compétences personnelles, car iels afficheraient explicitement leur attachement à la production humaine dans leur CV ou par le fait d’avoir choisi de suivre un cursus dans des formations humaines, c’est-à-dire sans IAg.

Il est probable que le déploiement de l’IAg ne déviera pas immédiatement de sa trajectoire dystopique actuelle. Pour autant, nous pouvons agir dès à présent pour que la poursuite d’une vie sans IAg ne s’apparente pas à un parcours d’obstacles, et même, reste tout simplement possible. Nous appelons donc à une réflexion collective à ce sujet dans toutes les institutions concernées. Il est temps de choisir son camp — IAg ou humain — et de clarifier sa position.