Les frontières morales n’arrêtent personne
Appel de l'ONU et du CICR à interdire les armes autonomes
Antonio Guterres est quelqu’un de bien. C’est pour ça que cet homme politique portugais a été choisi comme Secrétaire Général des Nations Unies. Mais, hélas, sa parole juste n’a plus aucune portée, tant le système international qu’il incarne prend l’eau de toutes parts.
Cette semaine, le Secrétaire Général de l’ONU a espéré que le monde ne franchirait pas « la frontière morale » que représente le fait de déléguer aux machines le droit de tuer, le développement d’armes autonomes. Antonio Guterres et la Présidente du Comité international de la Croix-Rouge (CICR), Mirjana Spoljaric, deux personnalités morales au-dessus de la mêlée, ont lancé un appel en commun à interdire les armes autonomes. Elles appellent à reprendre et conclure la négociation d’un traité international d’interdiction de ces types d’armes d’ici à 2026.
Je suis d’un tempérament optimiste généralement, mais j’ai de sérieux doutes… Pour être plus direct encore, je n’y crois pas ! Je ne vois pas comment nous échapperons au développement de ces armes autonomes, et au désastre éthique qu’elles représentent. Et ce n’est pas qu’une question conjoncturelle, avec la multiplication des conflits, la montée d’un nouveau climat de guerre froide, et le fait que la gouvernance mondiale soit en déshérence. C’est plus profond : c’est lié à la logique de l’innovation technologique dans le domaine militaire, et, j’ajouterais, si j’osais, à la nature humaine…
Aujourd’hui, les armes autonomes n’existent pas. C’est-à-dire qu’il n’y a pas de système d’armement en vigueur qui se passe d’une intervention humaine avant de tirer sur une cible humaine. C’est une frontière qui n’a pas (encore) été franchie. Mais, on le sait, tous les grands pays disposant d’une industrie d’armement et de capacités scientifiques en intelligence artificielle sont capables aujourd’hui de les développer.
En 2018, Paul Scharre, un ancien militaire américain ayant servi en Irak et en Afghanistan, devenu spécialiste de l’innovation technologique en matière militaire, avait publié aux États-Unis « The Army of None » ; un voyage dans les labos, entreprises et administrations du complexe techno-militaire. Son livre tournait beaucoup autour des armes autonomes. Je me souviens de cette phrase qui explique aujourd’hui mon scepticisme face à l’appel du Secrétaire Général de l’ONU : « Le danger d’une course à l’autonomie des armements tient dans le fait que les pays se sentent obligés d’aller de l’avant et de développer de telles armes autonomes, de peur que les autres le fassent, sans prendre le temps de réfléchir aux risques de leurs actes ».
Paul Scharre citait en particulier des responsables de la DARPA, cet organisme public américain doté d’un budget colossal de plusieurs milliards de dollars, et dont la mission est de veiller à ce que l’Amérique reste en avance dans les technologies de rupture. Ces responsables se prononçaient contre les armes autonomes, sauf… Sauf si les « autres » en avaient. Les autres, aujourd’hui, ce sont les Russes et les Chinois. Et dans un climat de confrontation, aucun responsable, américain, russe ou chinois, ne laissera passer une technologie qui pourrait lui donner un avantage décisif sur le champ de bataille.
Il était d’ailleurs difficile de ne pas y penser en voyant le récent film « Oppenheimer ». Beaucoup de commentateurs ont fait le parallèle entre le nucléaire et l’IA.
Ce parallèle a ses limites, bien sûr. La version optimiste (si j’ose dire), est qu’après Hiroshima et Nagasaki, l’arme nucléaire n’a plus jamais été employée, même si elle reste dans les arsenaux de plusieurs pays, et que le « club » nucléaire ne cesse de s’élargir, avec la peu rassurante Corée du Nord comme dernier arrivé. Le tabou de l’usage reste fort et cette arme reste un instrument de dissuasion plus que de terrain. Il faut espérer que ça restera le cas. La version pessimiste, c’est justement qu’une fois développée, une technologie ne retourne pas dans sa lampe à huile comme le « génie » de la fable. Elle reste sur la table et prolifère…
Alors, avec Antonio Guterres et Mirjana Spoljaric, j’espère sincèrement que les nations de cette planète auront la sagesse de ne pas confier aux machines, quel que soit le degré d’« intelligence » dont on les dotera, le pouvoir de décider de donner la mort. Mais je crains que ces armes fassent un jour prochain leur apparition sur le champ de bataille ; et que ce jour nous fera entrer dans une autre ère. Antonio Guterres a raison de parler de « frontière morale », mais nous voyons tous les jours que cette frontière-là n’arrête plus grand monde… Je vous l’avais dit, je suis un optimiste devenu pessimiste…
Pierre Haski est journaliste expert en relations internationales sur France et Inter et à l’Obs, ancien correspondant pour Libération en Chine. Il est Président de Reporters Sans Frontières.