Les systèmes d’armement létaux autonomes

1 Le débat sur les systèmes d’armement létaux autonomes est important, complexe techniquement et juridiquement, mais ses implications concrètes sont nombreuses. Il vient à son heure. Il vient au bon moment car il existe notamment une confusion entre deux notions distinctes couvrant une vaste gamme de matériels civils et militaires, déjà en usage ou dont la mise en place est envisagée dans les prochaines années : les systèmes « autonomes » et les systèmes « automatiques ».

2 La confusion souvent entretenue entre les deux notions est en effet génératrice de craintes au niveau de l’opinion dès lors qu’on évoque les progrès de l’intelligence artificielle appliquée à des systèmes d’armes comportant un certain degré d’automatisation informatique et de conduite à distance. Le syndrome du robot tueur, si abondamment utilisé dans le cinéma, comme on le verra, fait redouter non seulement des armes qui viendraient frapper à distance sans implication humaine, mais également une extension indéfinie des théâtres d’opération et une « déterritorialisation » des conflits. Elle se nourrit également des appréhensions touchant au développement d’automatismes de plus en plus perfectionnés découlant de l’explosion des progrès des sciences cognitives.

3 Il ne s’agit pas de débats purement théoriques, comme on a pu le constater à l’occasion du débat initié aux Etats-Unis il y a un peu plus de cinq ans à propos des frappes de drones armés en Afghanistan, au Pakistan et au Yémen, qualifiés parfois d’« assassinats ciblés ». Ce débat s’est prolongé au niveau des institutions internationales, aux Nations Unies et dans le cadre, à Genève, de la Convention sur certaines armes conventionnelles (CCW), où la France a été l’un des participants actifs à la discussion en vue d’arriver à une définition agréée de ces différentes catégories de systèmes. Très concrètement, ce débat peut avoir des répercussions en France et en Grande-Bretagne sur l’acquisition et le concept d’emploi de drones armés, dont ces deux pays ont décidé de se doter en procédant à l’acquisition de drones américains Reapers et en finançant les études d’un prototype de démonstrateur d’une plateforme aérienne non pilotée qui devrait déboucher sur la construction d’un appareil UCAV.

4 L’opinion publique, pas seulement en France – on le voit à New York et à Genève – est troublée quant à la possibilité d’« assassinat cibles » par les drones et autres plateformes non pilotées et le développement des automatismes qui va de pair avec l’explosion des sciences cognitives et de leurs applications. Elle a conscience qu’il s’agit d’une révolution stratégique mais aussi que cela pose des problèmes juridiques, éthiques et même culturels d’envergure. En témoigne la récente lettre de scientifiques américains cherchant consciemment à établir un parallèle avec la fameuse lettre d’Einstein et de Fermi au président Truman sur les implications de l’arme atomique.

5 Or une confusion s’est établie entre deux problèmes différents : d’une part, le pilotage à distance avec l’aide de systèmes semi-automatiques et la possibilité de s’abstraire des limites de durée sur l’objectif, à la différence de l’avion, et d’espace, puisque l’intervention peut se situer, sans risque de pertes humaines, en dehors des frontières du théâtre du conflit ; d’autre part, les systèmes autonomes (ou SALA) qui disposeraient d’une reconfiguration automatique de systèmes en l’absence d’intervention humaine et donc se reprogramment au fur et à mesure que les capteurs enrichissent leur base de données

6 L’absence physique de l’homme sur la plateforme armée n’est évidemment pas nouvelle – il suffit de penser aux missiles – et la conduite semi-automatique de l’emploi est désormais courante : il suffit de penser à la défense antimissiles, où les délais de réaction sont trop courts pour la réaction humaine. L’absence de l’homme sur le drone armé n’est pas en soi immorale, contrairement à la thèse de Grégoire Chamayou, qui met en exergue une asymétrie des vulnérabilités, laquelle a toujours existé de l’arbalète à l’artillerie moderne. C’est le cas avec le Reaper armé dont la France devrait se doter en 2016. La caractéristique commune demeure la présence de l’homme dans la boucle de décision. Ainsi, les opérateurs israéliens du Dôme de fer débranchèrent en 2013 l’automaticité du système pour des raisons de coût.

7 Les systèmes autonomes pourraient quant à eux engager des cibles sans ou avec une intervention humaine résiduelle – et non « significative » pour reprendre les termes utilisés lors des discussions de Genève, par exemple avec les progrès de la reconnaissance faciale. Aujourd’hui, les Etats qui étudient ces systèmes excluent une absence de l’homme dans la boucle comme le Département à la Défense américain l’a exigé dans une directive de 2013. Il demeure que cette assurance est révocable et ne concerne pas tous les Etats engagés dans ces recherches.

8 Surtout, d’ores et déjà se trouve posée le problème de la double vulnérabilité des plateformes elles-mêmes face aux défenses adverses et des infrastructures assurant leur gestion. Vulnérabilité de l’infrastructure satellitaire en cas de conflit, vulnérabilité aux attaques cyber pour les liaisons. L’idée qu’il faut combiner sur la plateforme elle-même le C3 et la programmation opérationnelle afin de préserver la mission même si l’infrastructure de commandement de la plateforme est mise en danger est trop tentante pour qu’on y résiste longtemps. Si on ajoute qu’il s’agit aussi de faire face à la vulnérabilité face à des défenses de plus en plus performantes – l’âge d’or des drones n’ayant à faire face qu’à des tirs impuissants de talibans armés de kalachnikovs est révolu –, l’autre solution réside dans la multiplicité de plateformes attaquant en essaims groupés après avoir été lancés de gros porteurs.

9 Un scientifique interrogé sur l’évolution des applications des sciences cognitives appliquées aux systèmes d’armes répondait un jour que le problème n’était pas de prévoir la voiture individuelle – un problème de mécanique et de marketing –, mais bien celui des embouteillages, qui relève de l’anticipation des conséquences dans un autre champ de problématique. Il remarquait que, pour inciter à la modestie face aux progrès de la cybernétique, dans le cerveau humain se produit un demi-milliard de connections au niveau de 1 millimètre cube de matière grise et qu’un seul neurone établit 100 000 connections. On en est encore très loin.