Les robots : de la science-fiction à la réalité juridique

Les robots : de la science-fiction à la réalité juridiqueJérémy Bensoussan est intervenu, le 16 mars 2017, à Tours, dans le cadre d’un colloque consacré au droit des robots.

Le 16 mars, s’est tenu, à la Chambre de commerce et d’industrie de Tours, un colloque intitulé « Le droit et les robots : de la science-fiction à la réalité juridique », organisé dans le cadre des Projets Professionnels proposés par le Master II Juriste d’entreprise de l’Université François-Rabelais de Tours.

L’occasion d’aborder les problématiques juridiques afférentes à l’essor des robots intelligents en deux temps : les robots en droit positif et les robots en droit prospectif.

Sont tour à tour intervenus (1) :

  • Raja Chatila, Directeur de l’ISIR – Institut des Systèmes Intelligents et de Robotique ;
  • Arnaud Touati, Avocat spécialisé en droit des affaires  ;
  • Giovanna Nino, Avocate spécialisée en droit des affaires ;
  • Géorgie Courtois, Avocat spécialisé en droit de la propriété intellectuelle ;
  • Jérôme Cayol, Avocat spécialisé en droit médical ; Président du groupe de travail à l’Union Internationale des Avocats sur le droit des robots ; Membre de l’Association du droit des robots (ADDR) ;
  • Jérémy Bensoussan, Avocat, Directeur du département « Technologies robotiques » au sein du cabinet Alain Bensoussan avocats Lexing, Membre du groupe de travail à l’Union Internationale des Avocats sur le droit des robots ; Membre de l’Association du droit des robots (ADDR).

Jérémy Bensoussan a articulé son intervention en trois temps :

  • il n’existe juridiquement aucun obstacle de principe à consacrer une nouvelle personnalité juridique singulière s’agissant des robots, comme l’existence de la personnalité morale, aux côtés de celle dont sont dotées les personnes physiques, le prouve ;
  • la personnalité juridique robotique serait un anthropomorphisme dangereux, alors que la recherche scientifique, dont le droit n’est que le relais, rapproche la machine de l’homme, tant sur les traits (la ressemblance est troublante chez certains humanoïdes), que sur ses capacités d’interaction (reconnaissance d’objet, de visage, d’état émotionnel), le tout parfois dans une perspective sociale assumée (la robotique sociale) ;
  • la personnalité robot – qui ne vise aucunement à faire de la machine intelligente l’égal de l’homme ni à le concurrencer sur le plan symbolique – peut servir à sortir par le haut d’une fausse alternative, à savoir celle de concevoir l’entité robotisée dotée d’autonomie soit comme une machine en mieux ou un être humain en moins bien ; la personnalité robot vise, au contraire, à aligner cet acteur social en devenir sur ses capacités réelles et son rôle social, sans dégradation ni fantasme.

Eric Bonnet
Directeur du Département Communication juridique

(1) Trombinoscope des intervenants à la conférence.




Débat au Sénat sur « L’ intelligence artificielle »

Alain auditionné au Sénat sur « L’ intelligence artificielle »Devant le Sénat, Alain Bensoussan ouvre un débat sur les droits de l’homme de l’ intelligence artificielle.

Reconnu pour son engagement en faveur de la reconnaissance de la personnalité juridique des robots, Alain Bensoussan est intervenu au Sénat, devant l’Office parlementaire d’évaluation des choix scientifiques et technologiques, sur « L’intelligence artificielle » (1).

Ses propositions sont plus larges que la création d’une personne robot et c’est dans ce cadre qu’il a été auditionné au Sénat. Faisant rêver l’auditoire pendant cinq minutes, il a proposé une réflexion sur les droits de l’homme de l’intelligence artificielle.

La France est aujourd’hui connue pour avoir exporté ses droits fondamentaux et le sera demain, pour ses droits de l’homme numériques. Nous pouvons rêver à la création de droits de l’homme de l’intelligence artificielle qui marqueraient l’avènement d’une mutation. 

Les robots doivent pouvoir être dotés d’une personnalité juridique singulière afin d’être considérés “comme des personnes électroniques dotées de droits et de devoirs, y compris celui de réparer des dommages causés à autrui”, selon la députée luxembourgeoise Mady Delvaux (2).

Les robots pensent, prennent des décisions et vivent désormais à nos côtés tout comme les algorithmes. Ils sont partout. Il faudra nécessairement identifier les robots logiciels comme physiques avec une sorte d’état civil des personnes robots. Pour Alain Bensoussan, il sera également nécessaire de repenser la responsabilité en « bi-phase asymétrique » : « le robot est toujours responsable à l’égard de la victime et pour le reste, une présomption de responsabilité s’il y eut certification et sous réserve des cas de fraude ».

Parmi les autres propositions figure aussi un régime d’assurance adapté car il est impensable que l’on ne puisse indemniser les victimes de dommages occasionnés par un robot présent dans une école, une usine, une entreprise ou au domicile.

Enfin, si l’on parle d’une personne robot avec une responsabilité, une assurance, en tant que personnalité juridique singulière, il faudra aussi intégrer le concept de dignité numérique des robots (…).

(1) Vidéo « L’intelligence artificielle« , Office parlementaire d’évaluation des choix scientifiques et technologiques, Sénat 19 janvier 2017 (audition publique).
(2) « Règles de droit civil sur la robotique », Rapport européen adopté le 12 janvier 2017 en commission des affaires juridiques, voir communiqué.




Le robot peut-il être un créateur protégé ?

Dans PLANETE ROBOTS, Alain Bensoussan et Marie Soulez abordent le statut du robot créateur. 

Le robot créateur peut-il être protégé par le droit d’auteur ? La question peut paraître iconoclaste. Et pourtant, à l’heure des robots peintres, des robots écrivains, des robots scénaristes, des robots journalistes et des robots musiciens, le droit de la propriété intellectuelle doit, plus que jamais, s’adapter à l’évolution technologique (1).

À l’heure où l’intelligence artificielle ne cesse de se développer, c’est l’un des multiples enjeux croisés de la technologie et du droit, au cœur de la première édition de la conférence Technolex (2).

Le robot peut-il être un créateur au sens du Code de la propriété intellectuelle ? Peut-il être capable de créer des œuvres au sens du droit d’auteur ?

La question peut paraître saugrenue mais elle se pose bel et bien. Aux Etats Unis, on se souvient de l’émotion suscitée à la suite d’une photographie réalisée par un singe, refusée par le bureau du copyright Office américain au motif que le propriétaire de l’appareil photo ne pouvait revendiquer les droits, le singe ne pouvait être auteur.

Alain Bensoussan et Marie Soulez abordent ces questions dans le dernier numéro de Planète Robots.

Isabelle Pottier
Directrice Études et Publications

Alain Bensoussan, Marie Soulez pour Planète Robots, « Le robot créateur peut-il être protégé par le droit d’auteur ? », n°42, Nov.-déc. 2016.

(1) Marie Soulez, « Le droit de la propriété intellectuelle à l’épreuve des technologies robotiques », JCP G 2016, prat. 972.
(2) Voir sur ce point les rencontres Technolex dédiées aux enjeux couplés des technologies et du droit, CNAM, 17 novembre 2016.




Robots : le cadre juridique est-il adapté ?

Robots : le cadre juridique est-il adapté ?Invité de RTL, Alain Bensoussan a évoqué la personnalité juridique des robots dans le cadre de la matinale de Yves Calvi.

A l’occasion de la publication du Livre blanc du Symop sur le droit de la robotique, Alain Bensoussan était l’invité d’Yves Calvi le 26 octobre dernier dans le cadre de la rubrique « 3mn pour comprendre » de la matinale de RTL.

L’occasion, à l’heure où les robots font leur entrée dans notre quotidien, d’apporter son éclairage d’avocat sur les dispositions légales qui les encadrent.

Robots : quelle responsabilité ?

Interrogé sur le terrain de la responsabilité, Alain Bensoussan estime que les robots ne sont plus de simples objets.

Ils pensent, ils prennent des décisions. Et vivent désormais à nos côtés. Dès lors, des lois spécifiques doivent-elles s’appliquer à eux ?Alain Bensoussan matinale RTL Robot

Selon Alain Bensoussan, cela ne fait aucun doute : « Les robots sont sortis des laboratoires, ils sont dans les usines, dans les entreprises, dans notre quotidien ».

Une chose est certaine à ses yeux : « Il va falloir trouver un cadre juridique adapté ».

Selon lui, « les robots ne sont pas des objets « plus » et ce ne sont pas non plus des humains « moins ». Ils vont sûrement devenir en tant que tel une personne robot avec une responsabilité ». Pourquoi ? « Parce qu’ils sont autonomes en mobilité et en décision ».

Si un accident est provoqué par une voiture autonome, par exemple, qui est responsable ?

Robots et responsabilité

En cas de dommage causé par un robot, il est essentiel d’avoir connaissance des régimes de responsabilité pouvant s’appliquer.

Yves Calvi La matinale RTL RobotLe cadre juridique actuel permet de traiter certaines situations, mais il reste certains vides juridiques nécessitant une adaptation du droit positif (concernant par exemple la responsabilité et l’autonomie).

« En général, l’accident viendra plutôt des humains. Cela dit, vis-à-vis de la victime, ce sera toujours le robot le responsable: « Entre les fabricants, le propriétaire, l’utilisateur et le concepteur du système d’intelligence artificielle, il faudra définir les règles du jeu. Et pour moi, c’est clairement la plateforme d’intelligence artificielle, qui donne la capacité de décision ».

Des robots devant la justice ?

Peut-on imaginer dans un avenir proche un robot devant la justice ?

« Mon rêve est d’être l’avocat qui défendra le premier robot responsable », répond Alain Bensoussan.Celui-ci estime ce cas de figure tout à fait imaginable : « C’est simple, c’est comme pour les personnes morales, elles existent aujourd’hui alors que l’on n’a jamais serré la main à une personne morale. Demain, ça sera pareil pour une personne robot. J’ai tendance à penser que devant les tribunaux, ils seront présents ».

Avec, comme point crucial, la question de la responsabilité. « Il faudra disposer d’un schéma de preuve et dans ce cadre, disposer d’un « enregistrement » du passé, du présent et de ce qui s’est passé juste après l’accident. Car s’il n’est pas question de faire avouer un robot, il faudra pouvoir le faire parler ».

Alain Bensoussan, « Les lois doivent-elles s’appliquer aux robots« , La matinale d’RTL du 26 octobre 2016.


Les lois doivent-elles s’appliquer aux robots ? par rtl-fr




Un futur cadre juridique européen pour la robotique

Un futur cadre juridique européen pour la robotiqueLe Parlement européen veut encadrer la robotique et faire des robots des « personnes électroniques » soumises  au droit civil.

C’est le thème abordé par  Alain Bensoussan dans le dernier numéro de Planète Robots.

La robotique et l’intelligence artificielle à usage civil

Robot-machine ou nouvelle espèce d’être artificiel ? Si les robots sont amenés à cohabiter avec nous, faut-il les doter d’une protection juridique ? C’est un débat à la frontière de la philosophie, de l’éthique et du droit. Le Parlement européen qui s’est saisi de la question veut faire des robots des « personnes électroniques » (1) et propose d’établir des règles de droit civil.

Le groupe de travail instauré en janvier 2015 par la commission des affaires juridiques (Commission JURI) pour réfléchir aux questions juridiques liées au développement de la robotique et de l’intelligence artificielle dans l’Union européenne a remis ses conclusions sous la forme d’un projet de rapport remis au Parlement européen.

Dans ce document daté du 31 mai, l’eurodéputée Mady Delvaux demande à la Commission européenne d’établir des règles de droit civil concernant la robotique sur la base des recommandations adressées à la Commission en vue de développer un cadre juridique pour la robotique et l’intelligence artificielle.

Il s’agit là des premiers travaux concrets menés pour prendre en compte le robot dans le système juridique européen.

Le groupe de travail estime en effet que « la responsabilité civile des robots est une question cruciale à laquelle il importe de répondre au niveau de l’Union afin de garantir le même niveau de transparence, de cohérence et de sécurité juridique dans toute l’Union, dans l’intérêt tant des consommateurs que des entreprises ».

La personnalité juridique des robots

(…) L’apport le plus innovant du groupe de travail consiste en « la création d’une personnalité juridique spécifique aux robots, pour qu’au moins les robots autonomes les plus sophistiqués puissent être considérés comme des personnes électroniques dotées de droits et de devoirs bien précis, y compris celui de réparer tout dommage causé à un tiers; serait considéré comme une personne électronique tout robot qui prend des décisions autonomes de manière intelligente ou qui interagit de manière indépendante avec des tiers ».

Ce statut juridique est au cœur des réflexions que nous menons au sein de l’Association droit des robots créée en janvier 2014. Le développement de la robotique et son introduction dans toutes les sphères de la société confirment la nécessité d’accompagner son déploiement d’une réflexion juridique en Europe et dans le monde (2).

Isabelle Pottier
Directrice Études et Publications

Alain Bensoussan pour Planète Robots, « Un futur cadre juridique européen pour la robotique », n°41, Sept-octobre 2016.


(1) Voir Eric Bonnet, « Rapport Delvaux : vers une personnalité juridique des robots ? », Post du 25-7-2016.
(2) Comparative handbook: robotic technologies law, A Lexing® Network study directed by Alain Bensoussan and by Jérémy Bensoussan, Editions Larcier 2016.




Rapport Delvaux : vers une personnalité juridique des robots ?

Rapport Delvaux : vers une personnalité juridique des robots ?Alain Bensoussan a été interrogé sur la personnalité juridique des robots par le journaliste du Figaro Jean-Marc De Jaeger dans le cadre d’un article intitulé « Le Parlement européen veut faire des robots des personnes électroniques » , consacré au rapport du Parlement européen rédigé sous l’égide de la rapporteure du texte l’eurodéputée luxembourgeoise Mady Delvaux.

La Commission des affaires juridiques du Parlement européen propose ainsi d’attribuer aux robots le qualificatif de « personnes électroniques ». Une nouvelle personnalité juridique des robots qui doit permettre de doter ceux-ci de « droits et de devoirs bien précis ».

Ainsi, dans la mesure où ils sont autonomes, ceux-ci « pourraient se voir accorder le statut de personnes électroniques avec des droits et des obligations spécifiques », note le rapport.

S’agissant des potentiels effets des robots sur le marché du travail, ceux-ci posent, comme le souligne Christian De Jaeger, la question du  revenu universel de base, « une idée qui fait son chemin dans de nombreux pays européens ».

« Pour rendre plus acceptable la banalisation des robots dans la société, les entreprises pourraient s’acquitter d’une taxe sur les robots qui servirait à maintenir l’employabilité des citoyens, notamment dans les métiers du numérique», déclare Alain Bensoussan.

Ces derniers seraient par ailleurs tenus de contracter une police d’assurance couvrant les dommages potentiels qu’ils causent, comme c’est déjà le cas pour les véhicules routiers.

Le robot doit encore être reconnaissable : « Il lui faut un numéro d’immatriculation, un nom et un capital, un peu comme pour une personne morale. Car si le robot cause un dommage, il faut prévoir les recours contre lui », précise Alain Bensoussan

Au-delà les considérations économiques, le rapport Delvaux vise à harmoniser la cohabitation entre les robots et l’Homme. « Les robots domestiques sont en quelque sorte des ‘concentrateurs d’intimité’. Ils créent de l’empathie avec les humains en interagissant avec eux au quotidien. Un encadrement juridique permettrait de cristalliser cette particularité dans le droit », souligne Alain Bensoussan.

Enfin, la comparaison avec les animaux domestiques, dont le statut juridique a été clarifié en janvier 2015, est selon lui à relativiser. « Contrairement aux animaux, les robots ne sont pas biologiquement vivants et ne sont pas doués de sensibilité. Surtout, ils sont dotés d’une intelligence que les animaux n’ont pas »




Petit-déjeuner débat « En compagnie des robots »

Petit-déjeuner débat du 27 septembre 2016 sur le thème : « En compagnie des robots », animé par Me Alain Bensoussan, en présence des auteurs du livre Yannis Constantinidès (philosophe) et Jean-Gabriel Ganascia (philosophe et chercheur en intelligence artificielle).

« En compagnie des robots » : c’est le titre de l’ouvrage collectif paru aux Editions Premier Parallèle , issu de débats qui se sont tenus à la Gaîté Lyrique en novembre 2015, réunissant Kate Darling, Yannis Constantinidès, Jean-Gabriel Ganascia et Alain Bensoussan, animés par le journaliste Olivier Tesquet et Amélie Petit.

Un ouvrage autour de l’empathie et de l’incarnation des robots, ce qu’ils nous font ressentir et ce que nous ressentons pour eux. Les robots se perfectionnent grâce à l’intelligence artificielle jusqu’à nous ressembler de plus en plus au point de susciter chez nous de l’empathie. En quelques décennies, ils sont passés de simples machines à des objets de notre quotidien générant attachement et émotion.

Robot-machine ou nouvelle espèce d’être artificiel ? Si les robots sont amenés à cohabiter avec nous, faut-il les doter d’une protection juridique ? C’est un débat à la frontière de la philosophie, de l’éthique et du droit. Le Parlement européen qui s’est saisi de la question veut faire des robots des « personnes électroniques ».

Selon Alain Bensoussan, avocat et fondateur de l’Association du Droit des Robots (ADDR), il s’agit d’une « machine intelligente capable de prendre une décision en toute autonomie et indépendance, grâce à des capteurs qui lui permettent de maîtriser son environnement ». Et d’ajouter : « Vivre avec les robots aujourd’hui signifie qu’il faut les protéger des humains. Mais demain ce sont les hommes qu’il faudra protéger des robots ».

Ont participé également à ce débat Yannis Constantinidès, agrégé et docteur en philosophie, professeur d’éthique médicale à l’Espace éthique de la région Île-de-France, et Jean-Gabriel Ganascia, professeur de sciences informatiques à l’Université Paris V.

L’occasion d’évoquer les premiers travaux concrets menés sous l’égide du Parlement européen par l’eurodéputée luxembourgeoise Marie Delvaux, qui a rendu public le 31 mai dernier un projet de rapport à la Commission concernant des règles de droit civil sur la robotique.

Le petit-déjeuner a eu lieu de 9h30 à 11h00 dans nos locaux, 58 boulevard Gouvion-Saint-Cyr, 75017 Paris.

Voir la vidéo de l’événement sur notre Chaîne Lexing YouTube.




Personnalité robot : le point sur la question pour Archimag

Personnalité robot : le point sur la question pour ArchimagPour Archimag, Alain Bensoussan fait le point sur la question de la personnalité robot qui est au cœur du cadre juridique  propre à la robotique.

Interviewé par Clémence Jost pour le numéro spécial IA du magazine Archimag, Alain Bensoussan fait le point sur cette question dans ce numéro spécial d’avril 2016 dont le dossier est consacré à l’intelligence artificielle.

L’intelligence artificielle est là. Elle apparaît aujourd’hui dans de nombreuses applications de notre vie professionnelle. Capable d’apprendre et de travailler sur des masses considérables de données, elle n’est qu’au début des avancées qu’elle permet.

La « personnalité robot » constitue la pierre angulaire du droit commun des robots prôné par Alain Bensoussan. II s’agit non seulement d’exprimer une catégorisation inédite entre les personnes (physiques ou morales) et cet être artificiel qu’est le robot, mais également de regrouper dans un cadre juridique homogène les droits communs et spéciaux applicables à cette nouvelle catégorie qui dépassera bientôt l’humain sur bien des aspects grâce à l’intelligence artificielle.

Parmi les questions abordées par Alain Bensoussan concernant la personnalité robot :

  • Le droit d’auteur protège-t-il les contenus créés par des robots ?
  • Vous considérez pourtant que les robots sont auteurs ?
  • Vous prônez donc un statut juridique adapté aux robots ?
  • Prenons ces trois points un par un, Qu’entendez-vous par traçabilité ?
  • En quoi devrait consister cette responsabilité ?
  • Vient ensuite la dignité, qui englobe dans votre charte deux notions : le droit à l’intimité numérique et le droit à la souveraineté sur ses données personnelles. De quoi s’agit-il ?
  • Et le droit à la souveraineté sur ses données personnelles ?

Alain Bensoussan « Pour la personnalité robot« , Interview p. 21, Archimag n° 293 d’avril 2016 : L’intelligence artificielle, croquez dedans !




Random Dark Shopper, responsabilité pénale et robot

Random Dark Shopper, responsabilité pénale et robotLe débat sur la responsabilité pénale des robots a été récemment relancé par les achats d’un robot sur le darknet.

Le robot « Random Dark Shopper » a été créé par le groupe MedienGruppe Bitnik dans l’optique d’effectuer de manière autonome et aléatoire des achats sur le darknet. Un darknet est un réseau privé virtuel dont les utilisateurs sont considérés comme des personnes de confiance. Un budget de 100 dollars en bitcoins par semaine lui a été alloué et le robot fait livrer l’ensemble de ses achats au musée Kunst à St Gallen en Suisse, afin qu’ils soient exposés.

Si parmi les achats de Random Dark Shopper figuraient des objets non sujets à controverse (l’intégrale du Seigneur des anneaux, des chaussures de sport de collection…), d’autres achats étaient plus problématiques puisqu’ont notamment été livrés au musée des cachets d’ecstasy et un faux passeport.

Le projet artistique a été saisi par la police suisse, mettant fin à l’exposition un jour avant la date de fin prévue. Il semble aujourd’hui que ni les artistes ni le robot ne seront poursuivis pour ces faits en Suisse.

L’expérience remet en avant la question de la responsabilité, en l’occurrence pénale, des robots.

Les lois d’Isaac Asimov, édictées en 1942, anticipaient déjà la question de l’autonomisation des robots doués d’intelligence artificielle. Les trois lois de la robotique sont les suivantes :

1. Un robot ne peut porter atteinte à un être humain, ni, en restant passif, permettre qu’un être humain soit exposé au danger.
2. Un robot doit obéir aux ordres qui lui sont donnés par un être humain, sauf si de tels ordres entrent en conflit avec la première loi.
3. Un robot doit protéger son existence tant que cette protection n’entre pas en conflit avec la première ou la deuxième loi.

Le robot semble ici violer au moins la première de ces lois.

En droit pénal français, la commission d’une infraction pénale suppose la réunion de trois éléments : un élément matériel, un élément légal et un élément moral.

L’élément qui pose le plus de difficulté dans le cas présent, est la caractérisation de l’élément moral. Il n’y a pas en principe de délit sans intention de le commettre. Si par exception, la loi peut prévoir la commission d’un délit en cas de faute d’imprudence, de négligence ou de manquement à une obligation de prudence ou de sécurité prévue par la loi ou le règlement, c’est uniquement, en application de l’article 121-3 alinéa 3 du Code pénal (1), s’il est établi que l’auteur des faits n’a pas accompli les diligences normales compte tenu, le cas échéant, de la nature de ses missions ou de ses fonctions, de ses compétences, ainsi que du pouvoir et des moyens dont il disposait.

Dans cette hypothèse, les personnes physiques qui n’ont pas causé directement le dommage, mais qui ont créé ou contribué à créer la situation qui a permis la réalisation du dommage ou qui n’ont pas pris les mesures pour l’éviter, sont responsables pénalement, s’il est établi qu’elles ont, soit violé de façon manifestement délibérée une obligation particulière de prudence ou de sécurité prévue par la loi ou le règlement, soit commis une faute caractérisée et qui exposait autrui à un risque d’une particulière gravité qu’elles ne pouvaient ignorer.

Cette dernière hypothèse permettrait de faire porter la responsabilité pénale pour les faits commis par le robot, doté d’intelligence artificielle, sur l’auteur de l’algorithme d’intelligence artificielle sur lequel il s’appuie.

Dans le cas de Random Dark Shopper, les deux artistes ont déclaré assumer pleinement les actes du robot et la responsabilité pénale qui en découlait.

Mais la question mérite réflexion. A partir du moment où le créateur du robot a pris toutes les précautions nécessaires lors de la conception de celui-ci, pour notamment paramétrer tous les lois et règlements applicables, que faire si le robot décide de lui-même de commettre une infraction, en toute connaissance de cause ? En d’autres termes, comment appréhender la responsabilité pénale d’un agent intelligent doté d’une intelligence artificielle si développée qu’elle lui confère une autonomie de pensée qui confine à un état de « conscience » ?

La capacité du droit positif à gérer les nouvelles formes d’activité délictueuse, dont le Random Dark Shopper est une illustration, est mise en question, et ce avec d’autant plus d’acuité que l’intelligence des robots va croître.

Virginie Bensoussan-Brulé
Chloé Legris
Lexing Droit pénal numérique

(1) C. pén. art. 121-3, al. 3.




Droit des robots : la fiction deviendra-t-elle réalité ?

Droit des robots : science-fiction ou anticipation ?Alain Bensoussan évoque pour la rédaction du Recueil Dalloz les implications juridiques et éthiques de l’IA.

L’évolution de la robotique induite par l’intelligence artificielle conduira à créer un droit des robots.

Cette révolution technologique suscite un questionnement, notamment en ce qui concerne les règles de droit susceptibles d’être appliquées à l’activité de robots amenés à interagir de plus en plus avec les humains. Cette dynamique de réflexion, conduite notamment par Alain Bensoussan, l’a amené à constituer, au sein de son cabinet, un département dédié.

Le droit des robots. Force est de constater que la réalité juridique, à laquelle renvoie le droit des robots, n’est pas clairement établie, en raison, notamment, du caractère protéiforme de l’objet technique robot, de la finalité de la norme considérée et du référentiel culturel adopté.

Par voie de conséquence, la robotique doit être appréhendée, d’une part, de manière transversale, au regard de ses éléments communs qui relèveraient d’un noyau dur de règles et, d’autre part, dans ses spécificités, chaque catégorie de robots pouvant nécessiter l’adoption d’un régime propre.

Le droit des robots vise ainsi un corps de règles, communes ou sectorielles, cohérent par son objet. Lorsque l’émergence d’une technologie nouvelle prend en défaut le droit positif, c’est elle qui doit piloter son évolution.

 La « personnalité robot ». Ce concept, formalisé par Alain Bensoussan, constitue la pierre angulaire du droit commun des robots, tel qu’il l’envisage. Il entend ainsi singulariser la place du robot intelligent dans l’éventail juridique en lui conférant un statut aligné sur ses capacités et son rôle social. II s’agit d’exprimer une catégorisation inédite entre les personnes (physiques ou morales) et les choses. A ce concept est associé un régime visant à sécuriser l’insertion des robots, tant dans le tissu économique que social, centré sur les impératifs notamment d’identification, de suivi et d’indemnisation.

Alain Bensoussan, Recueil Dalloz, « Droit des robots : science-fiction ou anticipation ? », juillet 2015




Information, technologie et éthique en matière de robot

Information Technology Ethics en matière de robotLa place du robot dans notre société suscite de nombreuses questions rassemblées au sein d’un ouvrage.

Préfacé par Trevor Moores, professeur au sein du  département Systèmes d’Information, Sciences de la Décision et Statistiques (IDS) de l’Essec, cet ouvrage propose des pistes de réflexion pour définir de nouveaux standards éthiques, moraux et légaux face aux technologies de l’information et de la communication en constante évolution.

Le développement de nouvelles techniques d’information et de communication ont induit de profondes mutations sociales, à l’instar de la révolution industrielle du 19e siècle. Cette révolution numérique conduit à s’interroger sur la pertinence et l’adaptabilité des normes éthiques et des règles juridiques existant dans une société appelée à se réinventer.

Alain Bensoussan, dans un premier chapitre intitulé « Ethics, Law and Robots: what regulation? », évoque les interrogations morales et éthiques suscitées par l’introduction de l’intelligence artificielle et de son corollaire, l’autonomie de décision et d’action du robot dans son rapport avec l’humain. Il prône l’instauration d’une « robot – éthique », un corpus de règles éthiques susceptibles de s’inscrire au sein d’une gouvernance nouvelle, à vocation nationale, européenne et internationale, à partir de pratiques d’éthiciens et de recommandations formulées par un comité national d’éthique des pratiques robotiques.

La singularité du robot dans l’espace juridique ayant vocation à s’accentuer, il préconise de doter les robots autonomes, dotés de capteurs intelligents, d’une personnalité juridique propre, « la personnalité robot », inspirée de la « personnalité morale » des sociétés. Cette question de la catégorisation juridique des robots de dernière génération implique, en filigrane, celle des droits et des obligations susceptibles de leur être conférés, mais aussi celle de la responsabilité à raison de dommages causés notamment à l’homme du fait de l’activité des robots.

L’enjeu du développement de la robotique réside, selon Alain Bensoussan, dans l’instauration d’un cadre juridique adapté, susceptible de favoriser l’insertion sécurisée des robots dans le tissu social.

Cambridge Scholars Publishing 2015
Extraits en ligne, préface et chapitre 1 « Ethics, Law and Robots: what regulation?« .

 




De la reconnaissance des robots en tant que sujet de droit

De la reconnaissance des robots en tant que sujets de droitAlain Bensoussan évoque avec Vincent Touraine les implications juridiques de l’évolution de la robotique, induite de l’IA.

Son propos porte plus particulièrement sur la nécessaire redéfinition des règles de droit régissant l’activité des robots et l’attribution à ces derniers du statut juridique de sujet de droit.

S’ils ne sont pas doués de sensibilité, les robots dits « intelligents » sont dotés d’une autonomie décisionnelle réelle, permise par l’intelligence artificielle. L’acquisition de cette « liberté » relative rend inappropriée l’application du droit des biens et requière, par voie de conséquence, l’établissement de règles spécifiques adaptées à cette évolution technologique.

Un droit des robots est donc appelé à régir les rapports entre l’homme et les robots caractérisé par la reconnaissance d’une personne juridique particulière : la personnalité robot. Doter les robots de dernière génération de la personnalité juridique, c’est reconnaître un élément de différenciation par rapport aux objets. Le robot, jusqu’alors objet de droit, deviendrait ainsi sujet de droit.

A l’instar de la personne morale, le robot serait détenteur d’un capital, d’une dénomination, d’un numéro d’identification, d’immatriculation à un registre. Il pourrait revendiquer le bénéfice de certains droits, mais également être astreint à certaines obligations légales. Un représentant légal pourrait ainsi être amené à défendre ses intérêts devant les tribunaux.

Selon Alain Bensoussan, un système de responsabilité en cascade devrait être institué, la responsabilité de la plateforme d’intelligence artificielle et de l’utilisateur du robot devant pouvoir être reconnue dans le cas de dommages consécutifs à l’activité d’un robot. En effet, l’attribution d’une parcelle de « liberté » au robot par la plateforme conduit à un détournement, sur le plan juridique, de la notion de responsabilité en tant que telle. L’apprentissage dispensé par l’utilisateur au robot détermine par ailleurs un comportement particulier de ce dernier, qui aurait été différent s’il avait été détenu par un autre utilisateur, ce qui justifie l’éventuelle mise en cause de la responsabilité de l’utilisateur.

Le droit est piloté par la technologie, que l’on soit dans un système de droit romano-germanique ou anglo saxon. Les lacunes juridiques étant patentes, un droit des robots unifié est appelé à s’appliquer dans le monde entier, fondé notamment sur la reconnaissance d’une personnalité juridique particulière aux robots et l’instauration d’un système de responsabilité en cascade.

Alain Bensoussan, Tendance Droit, Août 2015, Vidéo de l’entretien.

Cet entretien figure dans la dernière édition de Tendance Droit, un magazine digital édité par LexisNexis.