Je fais un don
OBJECTIF :
120 000 €
69786
COLLECTÉS
58 %

L’inquiétante montée des robots tueurs

8 janvier 2018 / Moran Kerinec (Reporterre)

La combinaison des drones et de l’intelligence artificielle conduit à la mise au point de « robots tueurs ». De plus en plus de voix s’inquiètent du développement des systèmes d’armes létales autonomes, sur lesquels l’ONU peine à légiférer.

Sur scène, le directeur général de StrateEnergetics est l’homme de la soirée. Il est venu montrer à un parterre de journalistes la dernière invention de son entreprise : un drone miniaturisé, doté d’une charge explosive et capable de reconnaître et d’attaquer de façon autonome ses cibles. « Entraînés à agir en équipe, ils peuvent pénétrer les bâtiments, les voitures, les trains… Esquiver presque toutes les contre-mesures. Ils ne peuvent être stoppés, vante le PDG. Pour 25 millions de dollars, on peut tuer la moitié d’une ville, la mauvaise moitié. On a l’habitude de dire que les armes ne tuent pas, que ce sont ceux qui les manient qui tuent. Mais, ce n’est pas toujours le cas : les gens deviennent émotionnels, désobéissent aux ordres, visent trop haut. Regardons les armes prendre la décision. »

La scène n’est que fiction, un court-métrage digne du pire cauchemar d’un ingénieur, produit par le collectif Stop Killer Robot, qui est coordonné par Human Rights Watch. Pourtant, les enjeux qu’elle soulève n’ont rien d’une chimère aux yeux des chercheurs spécialisés en la matière. Intelligents, réactifs, sans perte humaine à déplorer du côté de l’assaillant, les systèmes d’armes létales autonomes (Sala) pourraient bientôt remiser au placard la bombe nucléaire sur l’échiquier géopolitique.

Depuis quelques années, les percées technologiques permettant d’aboutir aux Sala mettent en ébullition nombre de scientifiques à travers le monde. En 2015, une centaine d’entreprises spécialisées dans la robotique, dont Tesla — développeur de voitures autonomes — et DeepMind — filière de Google spécialisée dans l’intelligence artificielle — tiraient la sonnette d’alarme sur le risque du développement des armes autonomes grâce aux progrès de l’intelligence artificielle : « Les armes autonomes mortelles menacent de devenir la troisième révolution dans la guerre. Une fois développées, elles permettront des conflits armés à une échelle plus grande que jamais, et à des vitesses trop rapides pour la compréhension humaine. »

« Est-il normal d’être tué par une machine ? »

En novembre 2017, des chercheurs canadiens et australiens ont mis à leur tour en garde les Nations unies contre les dérives que pourrait produire une telle technologie. Dans une lettre ouverte publiée début décembre, 116 membres de la communauté scientifique belge joignaient le mouvement en appelant leur gouvernement à interdire à l’échelle nationale les armes entièrement autonomes : « Le développement de tels programmes menacerait les lois internationales autant que les droits de l’homme et de la dignité humaine. (...) Les armes autonomes sont susceptibles de proliférer rapidement et pourraient déclencher ou aggraver des conflits sans délibération humaine. De plus, le développement de tels systèmes d’armes soulève d’importantes questions de responsabilité, car on ne sait pas qui pourrait être tenu pour responsable de toute mauvaise conduite de ces systèmes d’armes. »

Face à ces alertes répétées, l’ONU a organisé à la mi-novembre une convention pour tracer les limites des Sala, sans parvenir à une définition commune. « Pour le moment, il n’y a que des éléments de réponse sur les définitions des Sala. Il est difficile de réguler ce qui n’existe pas encore », explique Denis Jacqmin à Reporterre. Membre du Groupe de recherche et d’information sur la paix et la sécurité (Grip), le chercheur belge suit de près le dossier : « Des questions éthiques et morales se posent : est-il normal de tuer ou d’être tué par une machine ? Et quid du principe de distinction entre civils et combattants ? Dans les conflits, certains civils sont armés. Pour se protéger, pour protéger leurs proches et leurs biens. »

« Le problème, c’est la question de la rapidité des projets technologiques et de la lenteur des projets politiques »

Les Sala soulèvent d’autres enjeux : doivent-ils être régulés ou interdits ? « Ceux qui prônent la régulation mettent en avant que ces armes pourraient être utiles dans certains scénarios précis, notamment dans les milieux hostiles, aquatiques ou extra-atmosphériques, indique Denis Jacqmin. Cela permettrait de ravitailler des zones trop dangereuses en temps de guerre, ou, pour des systèmes de défense, d’obtenir une vitesse de réaction extrêmement protectrice. Ils peuvent également être utiles dans le monde civil. » Mais difficile de tracer une ligne claire entre l’utilisation civile et militaire : « Il est très facile pour des gens bricoleurs de détourner ce qui a été créé pour un tout autre usage. »

Et même si l’ONU arrivait à un consensus, là encore le diable se cache dans les détails comme le note le Grip : « Le risque envisagé par les ONG est que les États soutiennent l’interdiction des Sala, mais posent le seuil de l’autonomie tellement haut que cette interdiction ne concerne aucun système actuellement en fonction ou en développement. C’est donc dans la portion médiane de l’autonomie que se décidera une régulation vraiment contraignante et qui aura un impact sur le terrain. »

Si tant est qu’une législation de ces armes soit établie avant leur création : Denis Jacqmin n’exclut pas que ces technologies puissent émerger via « des bricoleurs hors de la loi », sans contrôle dans les entreprises. « Le problème, c’est la question de la rapidité des projets technologiques et de la lenteur des projets politiques. Mais ça ne veut pas dire que si la technologie est là, elle sera utilisée. Des technologies qui n’ont pas été utilisées pendant longtemps : les drones existent dès les années 1960, il a fallu attendre que les satellites et internet fonctionnent de pair pour qu’on les utilise. »

Quant à savoir si le monde militaire serait intéressé par une telle technologie, le chercheur émet des doutes : « On entend très peu de militaires sur la question. La défense belge n’est pas intéressée. Les Sala viennent casser la chaîne de responsabilité, c’est une arme incontrôlable, aucun soldat ne veut se battre à côté d’une arme dont il ne connaît pas le comportement. » Mais ailleurs ?



Puisque vous êtes ici…

… nous avons une faveur à vous demander. Il n’y jamais eu autant de monde à lire Reporterre, mais nos revenus ne sont pourtant pas assurés.

Contrairement à une majorité de médias, nous n’affichons aucune publicité, et laissons tous nos articles en libre accès, afin qu’ils restent consultables par tous. Reporterre dépend en grande majorité des dons de ses lecteurs. Le journal, indépendant et à but non lucratif, compte une équipe de journalistes professionnels rémunérés, nécessaire à la production quotidienne d’un contenu de qualité. Nous le faisons car nous croyons que notre point de vue, celui de l’environnement et de l’écologie, compte — car il est aussi peut-être le vôtre.

Notre société a besoin d’un média qui traite des problématiques environnementales de façon objective, libre et indépendante, en restant accessible au plus grand nombre ; soutenir Reporterre est ma manière de contribuer à cette démarche. » Renan G.

Si toutes les personnes qui lisent et apprécient nos articles contribuent financièrement, la vie du journal sera pérennisée. Même pour 1 €, vous pouvez soutenir Reporterre — et cela ne prend qu’une minute. Merci.

Soutenir Reporterre



Vous avez aimé cet article ? Soutenez Reporterre.

Lire aussi : Les drones et les robots sont-ils l’avenir de l’agriculture ?

Source : Moran Kerinec pour Reporterre

Photos :
. captures de la vidéo Youtube

DOSSIER    Armée Informatique et internet Science et citoyens

22 juin 2018
EDF est un champion de l’énergie éolienne
Enquête
22 juin 2018
Les Jeux olympiques sont le prétexte à la bétonisation de l’Île-de-France
Tribune
4 juin 2018
Comment les riches détruisent la planète ! Le 13 juin, Hervé Kempf et deux clowns des Chiche Capon
La vie de Reporterre


Vous avez aimé cet article ? Soutenez Reporterre

Dans les mêmes dossiers       Armée Informatique et internet Science et citoyens





Du même auteur       Moran Kerinec (Reporterre)