Alain Bensoussan auditionné sur les Systèmes d’armes létaux autonomes
Alain Bensoussan a été auditionné par la mission d’information de l’Assemblée nationale sur les Systèmes d’armes létaux autonomes (SALA).
Les systèmes d’armes létaux autonomes : un affrontement sémantique
Le 22 juillet 2020, les députés Fabien Gouttefarde et Claude de Ganay, co-rapporteurs de la mission d’information sur les systèmes d’armes létaux autonomes (SALA), ont présenté les conclusions de leurs travaux (1) devant la commission de la Défense nationale et des forces armées de l’Assemblée nationale.
Comme le soulignent les rapporteurs, les SALA font l’objet d’un « affrontement sémantique », qui porte essentiellement sur la notion d’autonomie. Celle-ci doit être abordée comme un continuum. À leurs yeux, les SALA peuvent être définis comme « des systèmes capables de choisir et d’engager seuls une cible, sans intervention humaine et dans un environnement changeant » (2).
Et les rapporteurs de souligner qu’« en l’état actuel des choses, les SALA, entendus comme des systèmes d’armes pleinement autonomes, n’existent donc pas ; la plupart des armes présentées comme telles étant, en fait, largement automatisés. Toutefois, les progrès fulgurants de l’IA, et son application au domaine de la défense, permettent d’entrevoir l’émergence d’un nouveau type de robots militaires, toujours plus autonomes ».
Les avancées de l’IA de défense et les enjeux juridiques
source: Fabien Gouttefarde
Le débat autour des SALA (« robots tueurs ») pose des questions sur la place des robots et systèmes autonomes militaires.
Certains pays (États-Unis, Russie, Chine) nourrissent de grandes ambitions en matière de développement de systèmes autonomes. Les avancées observées en matière d’intelligence artificielle crédibilisent ces velléités.
Certaines applications restent encore très hypothétiques (usage des neurosciences dans des interfaces cerveau-machine). D’autres sont déjà opérationnelles comme le guidage à distance de drones armés ou de robots démineurs d’engins explosifs (3).
Par conséquent, l’usage de l’IA et des robots par les forces armées ne relève plus de la science-fiction. L’IA est devenue l’une des technologies les plus stratégiques du 21e siècle (4).
La perspective de l’irruption de systèmes de plus en plus autonomes sur le champ de bataille qui irrigue le rapport. L’essor de l’autonomie dans les systèmes d’armes létaux autonomes soulève d’abord des enjeux d’ordres éthiques et juridiques.
La place de la personne robot
Auditionné par les rapporteurs, maître Alain Bensoussan a fait état de ses thèses sur le personnalité juridique du robot. Selon lui, « les difficultés qu’impliquent l’autonomie des SALA ainsi que le vide juridique qui les entoure appelleraient à les doter d’une personnalité juridique et morale de nature à engager leur responsabilité ». (5)
C’est grâce à cette personnalité juridique, dérivant du modèle conçu pour les personnes morales, que les robots autonomes les plus sophistiqués pourraient être considérés comme des personnes électroniques tenues de réparer tout dommage causé à un tiers (6).
(1) Rapport d’information n° 3248 du 22 juillet 2020.
(2) Examen du rapport d’information de la mission d’information systèmes d’armes létaux autonomes (SALA) : « Pour les armées, françaises comme étrangères, c’est « ni Rambo, ni Terminator « », Communiqué de presse, 22 juillet 2020.
(3) Rapport Chocs futurs, SGDSN DILA – Mai 2017.
(4) Rapport Villani « Donner un sens à l’intelligence artificielle : Pour une stratégie nationale et européenne » du 28 mars 2018.
(5) Co-auteur de « IA robots et droit » paru chez Bruylant, Editions Larcier, collection Théorie et pratique, juillet 2019, 632 p. Préfaces de Bruno Maisonnier et Olivier Guilhem.
(6) Alain Bensoussan, « Réflexions sur la personne robot », Planète Robots, n°52, Juillet-août 2018.