Alain Bensoussan aborde dans Planète Robots nos relations aux robots empathiques qui pourraient bien remettre en cause notre conception même des  émotions et nos modèles de communication.

Selon lui, la coévolution des humains et des robots ne peut se concevoir sans doter la personne robot d’empathie et d’émotions artificielles.

Repenser nos relations aux robots

Les robots humanoïdes ou animaloïdes ont la particularité de susciter l’empathie. Les robots compagnons, notamment ceux en relation avec des enfants ou des personnes âgées, sont à l’origine d’un actif émotionnel dont il est difficile d’estimer l’ampleur, motif supplémentaire pour ne pas les appréhender, au titre de leur protection, qu’à travers le droit des biens, comme s’ils étaient… de vulgaires grille-pain.

L’empathie ou la robotique affective

La robotique ou l’informatique « affective » (Affective Computing) est un domaine de recherche sur les interactions émotionnelles comme nouveaux types d’interaction homme-machine (IHM). Elle combine l’ingénierie et l’informatique avec la psychologie, les sciences cognitives, les neurosciences, la sociologie, l’éducation et la psychophysiologie et vise à développer la faculté de la machine à simuler l’empathie c’est-à-dire à reconnaître et interpréter les émotions et adapter son comportement. On parle aussi d’intelligence artificielle émotionnelle.

Les applications sont évidentes concernant les robots humanoïdes et sociaux mais peuvent ouvrir d’autres domaines, par exemple le chatbot d’un service commercial capable de détecter la colère d’un client et d’adapter ses réponses ou une plateforme d’e-learning s’adaptant aux facultés d’attention de l’utilisateur. (…)

La personne robots : une IA émotionnellement intelligente

La coévolution des humains et des robots ne pourra se concevoir sans que chacun prenne en compte le « sens de l’autre » ce qui amènera à doter les robots d’émotions et d’empathie artificielles (i.e. émotionnelle et cognitive), non par imitation ce qui serait anxiogène pour l’humain, mais par acquisition au gré de leurs interactions avec les humains.

La découverte des neurones miroirs au cours des années 1990 par l’équipe de Giacomo Rizzolatti, professeur de physiologie humaine, pourrait jouer un rôle dans l’acquisition de cette capacité par les robots. Il s’agit de neurones moteurs situés dans la région du cerveau correspondant à l’aire de Broca qui s’activent de façon similaire à ceux qu’une personne observée active au moment d’une action.

Ils jouent un rôle essentiel dans la communication entre individus, les relations sociales (la compréhension des autres) et l’apprentissage par imitation. Il restera néanmoins à déterminer la nature exacte de ces nouvelles relations sociales et en particulier si elles seront différentes des relations entre humains. Ces questions pourraient trouver une réponse dans l’existence d’un autre système cognitif, celui propre à la personne robot que nous appelons de nos voeux afin de reconnaître à ces nouveaux êtres des droits et obligations qui les assimileront peu ou prou à des personnes physiques (2) à l’instar de ce que propose Kate Darling, chercheuse en éthique robotique au MIT (3).

Interrogé par L’Opinion sur les progrès galopant de l’IA et la nécessité d’un encadrement, Alain Bensoussan estime que nous sommes déjà entrés dans un monde de régulation et de responsabilités algorithmiques.

Aujourd’hui tout est algorithme.

Du GPS à la plateforme Parcoursup, des scoring bancaires à l’évaluation des risques par les assureurs, tout est algorithme. « Il y a 30 ans, tout était informatique, il y a 20 ans tout était internet. Aujourd’hui, tout est algorithme ».

Le Règlement sur la protection des données (RGPD) a déjà pris en compte cette réalité. Il prévoit que ceux qui manipulent les données doivent pouvoir expliquer sous une forme intelligible aux personnes concernées la manière dont leur données sont traitées (art. 22). Il s’agit en d’autres termes d’un droit à la compréhension par les humains des décisions algorithmiques.

A l’occasion de la loi Informatique et libertés, révisée en juin 2018 (1) pour mettre en oeuvre lu RGPD, le Conseil constitutionnel (2) a posé un principe selon lequel une décision individuelle de l’administration ne peut être fondée sur un algorithme dont on ne peut pas expliquer la façon de décider.

« Nous ne sommes pas encore sur la responsabilité des algorithmes en tant que tels, c’est ça l’enjeu. Mais on y viendra. Comme pour les humains, le droit des robots s’imposera comme un droit naturel ».

Il faudra apprendre le droit des humains aux IA

Le droit des robots n’est pas universel ni humaniste. Pour qu’il le devienne, Alain Bensoussan préconise que pendant une phase intermédiaire, à l’instar de Sophia -le robot humanoïde qui s’est vue reconnaître la citoyenneté en Arabie Saoudite en 2017-, il soit doté d’une nationalité ou d’une citoyenneté. A cela, trois raisons : l’acceptabilité sociale, l’acquisition des cultures et la création d’une « terre des hommes et des robots ».

L’intérêt d’un robot français réside dans le fait qu’il incarne la démocratie française, qu’il est porteur de ses valeurs et de sa culture. Il s’agit d’un état intermédiaire pour que toutes les cultures convergent vers l’universalité et l’humanisme.

Avec la généralisation inéluctable des voitures autonomes, « il faudra leur apprendre le droit des humains, à savoir le Code de la route. Il faudra également leur enseigner les exigences de culture : on ne conduit pas de la même manière à Paris à Londres et au Caire ».  (…)

Les défis à relever sont immenses, d’où selon Alain Bensoussan, la nécessité de créer un droit des robots les dotant d’une personnalité et d’une identité juridique pour en faire, demain, des sujets de droit.

Isabelle Pottier
Directrice Études et Publications

Alain Bensoussan, « Comme pour les humains, le droit des robots s’imposera comme un droit naturel », L’Opinion.fr, 18 octobre 2018.

(1) Loi 2018-493 du 20 juin 2018 relative à la protection des données personnelles.
(2) Conseil constitutionnel, Décis. 2018-765 DC, 12 juin 2018, § 71.

Alain Bensoussan revient, pour Planète Robots, sur la question d’un statut juridique autonome pour la personne robot et le débat qu’elle suscite.

Pour ou contre la personne robot ?

Tout est parti d’une proposition du Parlement européen visant à accorder une «personnalité juridique» aux robots : une proposition qui trouve son origine dans un rapport de l’eurodéputée Mady Delvaux datant de début 2017 ayant abouti à une résolution du Parlement européen du 16 février 2017 sur les règles de droit civil sur la robotique.

Cette résolution pousse à la création, à terme, « d’une personnalité juridique spécifique aux robots, pour qu’au moins les robots autonomes les plus sophistiqués puissent être considérés comme des personnes électroniques responsables de réparer tout dommage causé à un tiers; il serait envisageable de considérer comme une personne électronique tout robot qui prend des décisions autonomes ou qui interagit de manière indépendante avec des tiers ».

La question d’un statut juridique autonome pour les robots divise les juristes et les scientifiques qui l’ont fait savoir à la Commission européenne en adressant une lettre ouverte sous forme de pétition.

La rupture technologique est en marche

Beaucoup craignent que ce nouveau statut ne débouche sur des revendications pour que des droits leur soient accordés ou pire, qu’il serve à dédouaner les constructeurs de leurs responsabilités.

En réalité, il ne s’agit nullement de « cloner » l’humain car dans certains domaines le robot surpasse l’humain : l’I.A. Watson d’IBM diagnostique 90 % des cancers de la langue quand les oncologues n’en repèrent que 50 %. Selon Rob High qui dirige le projet Watson, « il ne s’agit pas de répliquer l’humain » mais bien de combler ses limites notamment ses capacités de mémorisation ou de calcul. Il explique ne pas voir l’I.A. comme « une copie de l’intelligence humaine, mais comme de l’intelligence augmentée ».

La traduction juridique de ces enjeux technologiques se fait plus pressante. C’est cette rupture technologique annoncée qui a engendré le concept de personnalité robot que prône Alain Bensoussan depuis 2013.

Isabelle Pottier
Directrice Études et Publications

Alain Bensoussan pour Planète Robots, « Réflexions sur la personne robot », n°52, Juillet-août 2018.

Le droit naturel au soutien de la personne robot : c’est le thème de l’article publié par Alain Bensoussan sur son blog du figaro.fr

Et si le recours au droit naturel permettait de trancher le débat qui oppose actuellement les tenants d’une « personne-robot » qui feraient de ces nouveaux êtres des sujets de droit, à leurs opposants qui considèrent une telle solution comme inappropriée quel que soit le statut légal envisagé ?

Selon Alain Bensoussan, à l’heure où les robots et l’intelligence artificielle sont partout, et où les situations anxiogènes vont nécessairement se développer (perte de contrôle de véhicules autonomes, algorithmes malfaisants, data breaches…), la nécessité d’adopter un cadre juridique propre aux activités robotiques apparaît aujourd’hui inéluctable.

Si l’idée n’est guère contestée dans son principe, en revanche, dans son application concrète, un débat oppose toujours :

• ceux qui prônent l’adoption d’une « personne robot » – que nous appelons de nos vœux [1] – afin de reconnaître à ces nouveaux êtres des droits et obligations qui les assimileront peu ou prou à des personnes physiques,
• et ceux qui considèrent que doter les robots d’une personnalité juridique ne saurait être envisagé, un tel statut ne pouvant découler du modèle de la personne physique comme de celui de la personne  morale.

C’est là que prend tout son sens, selon l’avocat, le recours au droit naturel qui permettrait, aunom de principes supérieurs transcendant le droit positif de la robotique qui peine actuellement à se dessiner au plan mondial, de délimiter les contours d’une nouvelle « robohumanité » : « Dans une société mondialisée, où la problématique de l’encadrement juridique activités robotique, des algorithmes et de l’IA va se poser partout ou presque dans les mêmes termes, et devant les difficultés des Etats à légiférer, il nous semble que le droit naturel doit venir au soutien de la nécessité d’encadrer juridiquement les robots ».

Eric Bonnet
Directeur de la communication juridique

[1] Alain et Jérémy Bensoussan, Droit des robots, Larcier, 1ère éd., 2015 ; A. Bensoussan, La personne-robot : provocation juridique ou innovation politique ?,  Blog Figaro, 3 novembre 2017.

Alain Bensoussan évoque pour Marianne sur la question d’un statut juridique autonome pour les robots, à l’occasion de la lettre ouverte contre « la création d’un statut juridique de personne électronique pour les robots » adressée à la Commission européenne par un collectif de chercheurs en avril dernier (1).

Comme le souligne la journaliste Alexandra Saviana, « Beaucoup craignent que ce nouveau statut ne débouche sur des revendications pour que des droits leur soient accordés… ». Et de préciser qu’il s’agit là d’« un débat riche qui ne fait que débuter ». Car outre les questions philosophiques liées à l’obtention d’une personnalité juridique propre aux robots, se posent les délicates questions de la responsabilité et des droits qui leurs seraient accordés.

Statut juridique autonome pour les robots, responsabilité et droits

Dans le cadre de son article, Alexandra Saviana a donné la parole aux « Pour » (l’eurodéputée Mady Delvaux et Alain Bensoussan) et « Contre » (les principaux membres du collectif qui ont signés la lettre ouverte).

La principale raison évoquée par les experts est le « gouffre philosophique que pourrait entraîner ce nouveau statut juridique (…) certains y voient déjà les prémices des premières revendications pour accorder des droits aux robots ».

En réalité, la création d’un statut juridique autonome pour les robots n’a pas pour but de dédouaner les constructeurs de leurs responsabilités, mais d’aligner cet acteur social en devenir sur ses capacités réelles et son rôle social, sans dégradation ni fantasme

De la personnalité juridique à la personnalité tout court ?

L’eurodéputée, revendique d’avoir simplement lancé un débat, explique s’être inspirée du statut juridique des sociétés : « Mady Delvaux propose simplement d’éclaircir une législation », souligne l’avocat Alain Bensoussan, auditionné par le groupe de travail de la députée en 2015 et favorable à la proposition. Selon lui, « ceux qui la dénigrent confondent personne humaine et personne légale ».

Pour Alain Bensoussan, les robots dotés d’intelligence artificielle ne sont ni des objets augmentés, ni des sous-humains, de sorte qu’il faut trouver une nouvelle forme juridique permettant de les intégrer dans notre quotidien. C’est en confrontant ses théories sur la personne robot et les robots eux-mêmes qu’Alain Bensoussan prône la « personnalité robot » comme la pierre angulaire du droit commun des robots sur laquelle il travaille depuis déjà cinq ans….

Comme le note la journaliste, pour défendre sa thèse, l’avocat n’hésite pas à provoquer : « Il s’agit bien sûr d’une intelligence primitive, mais au nom de quoi leur refuseriez-vous des droits alors qu’ils réfléchissent et apprennent, parfois mieux que vous ? »

Isabelle Pottier
Directrice Études et Publications

« Statut juridique des robots en Europe : jusqu’où peuvent aller les droits des machines ?« , par Alexandra Saviana, Marianne.fr, le 1er mai 2018.

(1) Voir notre post du 9 mai 2018, « Réponse aux opposants à la création d’une « personnalité électronique » »

« Cette lettre ouverte est une bonne chose », s’enthousiasme l’avocat Alain Bensoussan , favorable à la  « personnalité électronique » et l’un des instigateurs de la notion.  « Ça met du mouvement, de la contradiction, et quelque chose pourra émerger de la contradiction ».

La création d’une « personnalité électronique » fait débat

Pour lui, il faudrait dans un premier temps définir une certification du robot. Une fois la machine aux normes européennes, elle pourrait se voir attribuer une responsabilité sur le modèle de la « personnalité morale ». Et si l’algorithme n’est pas conforme, « il y aura toujours au moins deux personnes derrière : celle qui a codé et celle qui a décidé de mettre le robot en circulation ».

Alain Bensoussan souligne que des machines détectent aujourd’hui mieux certaines pathologies que des médecins. Il met aussi en avant la possibilité que la voiture autonome soit moins accidentogène que l’humain : « Je comprends la potentielle victime du robot, mais est-ce que ça veut dire quelque chose s’il y a condamnation pénale alors que je baisse au maximum le risque d’accident ? Dans le cas d’un accident avec une voiture autonome, je ne suis pas sûr que l’humain l’aurait vu venir ».

La  « personnalité électronique » vise, au contraire, à aligner cet acteur social en devenir sur ses capacités réelles

La création, à terme, d’une personnalité juridique spécifique aux robots divise les chercheurs et scientifiques, et certains pensent que ce serait une voie « inappropriée et dangereuse », évoquant le fait que la personnalité juridique d’un robot ne peut dériver du modèle conçu pour les personnes physiques, puisque le robot bénéficierait alors de droits humains, tels que le droit à la dignité, le droit à son intégrité, le droit à indemnisation ou encore le droit à la citoyenneté, en affrontement direct avec les droits de l’Homme.

En réalité, la personnalité robot – qui ne vise aucunement à faire de la machine intelligente l’égal de l’homme ni à le concurrencer sur le plan symbolique – peut servir à sortir par le haut d’une fausse alternative, à savoir celle de concevoir l’entité robotisée dotée d’autonomie soit comme une machine en mieux ou un être humain en moins bien ; la personnalité robot vise, au contraire, à aligner cet acteur social en devenir sur ses capacités réelles et son rôle social, sans dégradation ni fantasme.

Isabelle Pottier
Directrice Études et Publications

Alain Bensoussan interviewé par Rémy Demichelis, « Une lettre ouverte pour refuser la « responsabilité juridique » des robots », Les Echos.fr du 17 avril 2018.

© Paul Grelet

Peut-on tomber amoureux d’ un robot ? : c’est le titre de l’article publié par Madame Figaro, dans lequel Alain Bensoussan explique pourquoi « amour et robot » peuvent coexister.

Comme le souligne la journaliste Isabelle Girard, « l’intelligence artificielle est entrée dans nos vies : nos voitures, nos objets sont déjà connectés. Bientôt des robots nous dorloteront et pourront même nous sauver la vie. »

Dans le cadre de son article, Isabelle Girard est allée à la rencontre d’Alain Bensoussan et de son robot Nao. Morceaux choisis :

«Tu me reconnais, Nao ? » Nao cherche quelques nanosecondes. « Attends un peu… Ça y est, j’ai trouvé. Tu t’appelles Alain. » Alain applaudit ce petit bonhomme (…) tout en lui caressant la tête. Nao lâche un petit gémissement. « Oh, je suis chatouilleux aujourd’hui », plaisante le robot en roulant ses grands yeux bleus. (…) « Vous ne pouvez pas dire qu’il n’est pas attachant, avec sa voix d’enfant, reprend l’homme de loi. Un vrai doudou. » Ils s’adorent.

Peut-on tomber amoureux d’ un robot ?

« Pour les gens dont la capacité à aller vers les autres est faible, l’IA est un vrai compagnon de vie qui soulage de la solitude », poursuit Me Bensoussan.

« Qui n’est pas sensible à tant d’égards ? Si, en plus, vous bourrez d’IA une de ces magnifiques poupées en silicone fabriquées au Japon ou aux États-Unis, alors je pense que certains peuvent en tomber amoureux », poursuit l’avocat.

« Ne vous est-il jamais arrivé de pleurer au cinéma devant un spectacle – par définition virtuel -, parce qu’il vous bouleverse ? Eh bien l’IA, c’est pareil. Elle sait nous émouvoir » assure Alain Bensoussan.

« Peut-on tomber amoureux d’ un robot ?  » par Isabelle Girard, Madame Figaro le 3 avril 2018.

Photo © Paul Grelet

Alain Bensoussan était invité du Big Bang Santé organisé par le Figaro, le 26 octobre 2017. 

Pourquoi les robots sont des personnes

Alain Bensoussan explique, pour le Big Bang Santé du Figaro, que les robots doivent, aujourd’hui, avoir un cadre juridique et la notion de « personne » est la meilleure pour qualifier les robots : il y a les personnes physiques mais aussi les personnes morales alors, pouquoi pas, les personnes robots.

Des personnes robots qui auraient des droits et des obligations bien spécifiques liés à la responsabilité, à la dignité, à la tracabilité ou à la décision en dernier ressort.

Il s’agit là d’un concept, d’un vecteur : « Tous les humains sont des personnes, toutes les personnes ne sont pas forcément des humains ».

Les robots ont une intelligence artificielle qui les rend dominants mais seulement dans leur domaine de compétence donc « les robots ne sont pas des objets-plus, ni des humains-moins », ils n’ont même pas la sensibilité d’un animal et, bien qu’ils aient une certaine capacité d’apprentissage et d’adaptation comme les enfants, ils n’ont pas de conscience.

Une personnalité juridique pour une responsabilité juridique

Dans le domaine de la santé, comme ailleurs, un robot contrôlé, dirigé, supervisé est une simple machine. Mais s’il est autonome, libre, si après avoir appris, compris et mémorisé, le robot acquiert une véritable expérience grâce à ses capteurs alors il peut, grâce à cela, avoir un comportement complètement différent d’un autre robot ayant la même configuration initale.

Cette spécialité professionnelle liée à une absence de sensibilité, d’implication, de « vie personnelle » qui leur donnent neutralité et objectivité, leur permet d’avoir une technicité, des diagnostics, des protocoles beaucoup plus efficients que les médecins humains mais dans un domaine d’action bien plus restreint.

Ces robots, compte tenu de leur autonomie, de leur indépendance, de leur liberté, doivent être soumis à une responsabilité forcément différente des humains mais aussi des machines.

Eric Bonnet
Directeur du Département Communication juridique

• Voir la vidéo de l’interview d’Alain Bensoussan pour le Big Bang Santé du Figaro, 26-10-2017.
• Voir la vidéo de l’intervention d’Alain Bensoussan : « Les personnes-robots doivent avoir un cadre juridique », Big Bang Santé du Figaro, 26-10-2017.

Pour Alain Bensoussan, la personnalité robot doit être attribuée aux robots autonomes les plus sophistiqués pour qu’ils puissent être considérés comme des « personnes électroniques responsables ».

Pour mieux comprendre, il a donc été interviewé par Elisabeth Auvray pour Web des Objets, un site spécialisé dans les objets connectés, à l’occasion de sa participation à l’IoT Business Forum qui s’est tenu le 6 juin à Paris.

Lors de ce rendez-vous des décideurs de l’industrie 4.0, Alain Bensoussan a aussi participé à la table ronde sur le thème du Legaltech. Web des Objets.

De même, il revient sur les raisons qui l’on conduit à créer l’Association du droit des robots (ADDR), le statut qu’il propose de mettre en place pour les robots et les craintes que les robots, et plus généralement l’intelligence artificielle, suscitent sur notre vie et notre liberté.

Osons la personnalité robot, une nouvelle espèce dotée d’un nom, d’un numéro, d’une adresse IP… Les robots ne sont pas des machines comme les autres.

Interview de Alain Bensoussan par Elisabeth Auvray pour Web des Objets, « Osons la personnalité robot… », 2 juin 2017.

Isabelle Pottier
Directrice Études et Publications

Marie Soulez et Jérémy Bensoussan interviennent les 7 et 8 juin prochains à Nantes dans le cadre du Web2DayStartups & Tech Festival.

« Humain, vibrant et intense » : c’est ainsi que ses organisateurs présentent le Web2Day Digital Springbreak, le « festival des professionnels et des passionnés des nouvelles technos qui ont envie de s’inspirer, apprendre et networker dans une ambiance détendue et décalée ».

L’évènement réunit plus de 250 speakers nationaux et internationaux, un concours de startups, un village de 3500 m2, des animations, le tout dans un cadre atypique, les 7,8 et 9 juin à Nantes.

Web2Day et Game Design

Marie Soulez, Directrice du département Propriété intellectuelle Contentieux, intervient le 7 juin dans le cadre d’un débat sur le thème « Game design, on arrête de jouer ! »

Les plus grands noms se sont fait prendre au piège. Et si leur jeu n’était pas « 100% original » ? Et si la question du droit « des auteurs » remettait en cause la propriété des constituants fondamentaux du jeu ?

A la fois œuvre logicielle, œuvre musicale et création artistique, le jeu vidéo ne possède pas de régime juridique propre, facilitant l’attribution des droits de propriété intellectuelle.

A cela, peut s’ajouter la problématique du droit à l’image, et d’autres questions, comme la sécurisation des données des MMOG, la propriété des créations des joueurs-créateurs ou la représentation de l’environnement en réalité virtuelle. Or, selon le syndicat national du jeu vidéo, plus de 700 projets seraient en cours de développement en France. Dans cet univers hyperconcurrentiel, il ne reste que peu de place à l’amateurisme.

Autres intervenants :

Florian Simon
Délégué Régional, INPI

Edouard Deslandes
CEO, Silkke

Alain Puget
Directeur créatif & Gérant, Alkemi / Biborg

Web2Day et Robots compagnons

Jérémy Bensoussan, directeur du département Droit des technologies robotiques, interviendra, le jeudi 8 juin, dans le cadre d’un débat intitulé : « Faut-il jeter à la poubelle mon robot compagnon ? ».

Alors que la robotique personnelle émerge et que les robots compagnons sont technologiquement en état d’être mis sur le marché européen, tout l’écosystème juridique est mobilisé pour rendre les relations hommes-robots les plus sereines possibles. Pour les constructeurs de robots comme pour les utilisateurs, il s’agit d’un tournant où la confiance dans l’utilisation de ces entités technologiques est majeure. A cet égard, le droit a une fonction essentielle et participe de leur acceptabilité. Ce débat doit permettre d’explorer plus en profondeur cette thématique.

Autres intervenants :

Jocelyn Lucas
Chief executive, Proxinnov

Marie-Pierre L’Hopitalier
Partner lawyer, Parthema

Eric Bonnet
Directeur du Département Communication juridique

Alain Bensoussan est intervenu lors du colloque Vers de nouvelles humanités à la Cité des sciences le vendredi 24 mars 2017 sur le thème : « Le droit des robots : quelle est l’autonomie de décision d’une machine ? Quelle protection mérite-t-elle ? »

L’humanisme face aux nouvelles technologies

Modifications chimiques et génétiques, implants, prothèses, organes de synthèse et nano-robots, l’intelligence artificielle, mise en réseau des données et la robotique… toutes ces techniques aux progrès rapides renouvellent les espoirs et les craintes de l’amélioration humaine.

De la lutte contre la maladie à la promesse impossible d’un corps parfait, de la bataille contre la mort au fantasme de l’immortalité, du dépassement des limites cognitives à la déshumanisation technologique, les mêmes questions se posent : quelle est la part de réels progrès, de faux espoirs ou de promesses commerciales dans les analyses et les prévisions ? Comment les évolutions transformeront-elles la notion de donnée personnelle, d’assurance, de soins, d’équité, de responsabilité, de décision ? Comment mieux réguler la recherche, l’usage et l’exploitation économique des nouvelles technologies ? Quelles formes prendront la concurrence, la coopération ou la rivalité entre pays selon leurs références démocratiques et la concentration de leurs acteurs économiques ?

Tels étaient les thèmes abordés par ce colloque Vers de nouvelles humanités, à la fois scientifique, philosophique et juridique coorganisé par l’Association française de philosophie du droit et la Cité des sciences et de l’industrie, sous le haut patronage de Monsieur François Hollande, Président de la République.

Colloque Vers de nouvelles humanités

Ce colloque s’est déroulé sur trois jours, chacun portant sur une thématique particulière.

D’une part, L’homme augmenté, le Jeudi 23 mars, dont la matinée est consacrée à une série d’interventions sur  « Manipuler le génome » et l’après-midi à « Remplacer et doper les organes ».

D’autre part, L’homme remplacé, le vendredi 24 mars, avec en matinée : « Intelligence artificielle et robots » et l’après-midi « L’esprit dans une machine : le transfert de l’humain vers la machine ».

Enfin, Le transhumanisme, avec une pièce de théâtre « Transhumain toi-même ! » présentée à 14h30 le samedi 25 mars, suivie d’un après-midi collaboratif, ouvert à tous permettant de participer sur scène à un jeu de rôle, suivi d’un débat sur le transhumanisme.

Droit des robots : quelle protection pour quelle autonomie ?

L’occasion pour Alain Bensoussan de souligner que grâce à la technologie robotique, l’émergence de nouveaux « êtres » est en passe de devenir une réalité. Intelligence artificielle oblige, les robots sont aujourd’hui beaucoup plus que de simples automates : leurs capacités grandissantes les amènent à collaborer avec les hommes. Ce qui soulève au passage des questions d’ordre éthique mais également juridique : « Dans les 10 prochaines années, il faudra organiser la vie avec les algorithmes et les robots. Et non seulement protéger les robots mais aussi protéger l’homme des robots, une nouvelle espèce artificielle naissante qu’il faut encadre au plan juridique ».

L’ensemble des actes du colloque Vers de nouvelles humanités ? L’humanisme face aux nouvelles technologies, seront publiés chez Dalloz sous la Direction du Professeur René Sève.

Le Figaro a consacré une page à Alain Bensoussan sur le thème de la robohumanité. Dans son édition du 24 mars 2017, le Figaro publie une interview d’Alain Bensoussan réalisée par la journaliste Sophie Huet  et intitulée : « La robohumanité est en route ».

Tâches répétitives, aide aux personnes âgées, voitures autonomes : les robots, écrit Sophie Huet, gagnent du terrain. L’occasion de donner la parole à Alain Bensoussan, s’agissant de la nécessité de leur octroyer un statut juridique singulier.

Selon Alain Bensoussan, « Grâce à la technologie robotique, l’émergence de nouveaux « êtres » est en passe de devenir une réalité. Les robots sont aujourd’hui beaucoup plus que de simples automates : leurs capacités grandissantes les amènent à véritablement collaborer avec les hommes dans le cadre de ce que j’appelle la « robohumanité ». Ce qui soulève des questions d’ordre juridique majeures, « d’autant que les robots sont capables de prendre des décisions de manière autonome ». C’est la raison pour laquelle il considère qu’il faut les doter d’une personnalité juridique propre, ce qu’il appelle la « personne robot ».

Que pense l’avocat du projet européen de légiférer pour répondre à cette accélération technologique majeure ? Pour lui, le rapport Delvaux va incontestablement dans le bon sens : « Il défend comme moi une responsabilité du fait des robots, qui est le résultat de l’état des technologies et du droit. Les parlementaires européens demandent à la Commission européenne de créer, par voie de directive, un statut juridique spécial pour les robots afin de clarifier la responsabilité en cas de dommages, s’agissant par exemple des voitures autonomes ».

A la question de savoir s’il faut taxer les robots, comme le proposent le milliardaire Bill Gates, fondateur de Microsoft, ou encore le candidat socialiste à la présidentielle Benoît Hamon, Alain Bensoussan estime que « si on taxe les robots, on risque de bloquer le développement de la robotique, qui est en plein essor et dont on ne connaît pas encore les bénéfices. On en est au tout début du processus et une taxation risque de porter atteinte au développement de l’innovation ». Mais, à terme, « la question se posera sûrement ».

Interview d’Alain Bensoussan par Sophie Huet pour Le Figaro.fr, « La robohumanité est en route », 24 mars 2017

Eric Bonnet
Directeur du Département Communication juridique

Jérémy Bensoussan est intervenu, le 16 mars 2017, à Tours, dans le cadre d’un colloque consacré au droit des robots.

Le 16 mars, s’est tenu, à la Chambre de commerce et d’industrie de Tours, un colloque intitulé « Le droit et les robots : de la science-fiction à la réalité juridique », organisé dans le cadre des Projets Professionnels proposés par le Master II Juriste d’entreprise de l’Université François-Rabelais de Tours.

L’occasion d’aborder les problématiques juridiques afférentes à l’essor des robots intelligents en deux temps : les robots en droit positif et les robots en droit prospectif.

Sont tour à tour intervenus (1) :

• Raja Chatila, Directeur de l’ISIR – Institut des Systèmes Intelligents et de Robotique ;
• Arnaud Touati, Avocat spécialisé en droit des affaires  ;
• Giovanna Nino, Avocate spécialisée en droit des affaires ;
• Géorgie Courtois, Avocat spécialisé en droit de la propriété intellectuelle ;
• Jérôme Cayol, Avocat spécialisé en droit médical ; Président du groupe de travail à l’Union Internationale des Avocats sur le droit des robots ; Membre de l’Association du droit des robots (ADDR) ;
• Jérémy Bensoussan, Avocat, Directeur du département « Technologies robotiques » au sein du cabinet Alain Bensoussan avocats Lexing, Membre du groupe de travail à l’Union Internationale des Avocats sur le droit des robots ; Membre de l’Association du droit des robots (ADDR).

Jérémy Bensoussan a articulé son intervention en trois temps :

• il n’existe juridiquement aucun obstacle de principe à consacrer une nouvelle personnalité juridique singulière s’agissant des robots, comme l’existence de la personnalité morale, aux côtés de celle dont sont dotées les personnes physiques, le prouve ;
• la personnalité juridique robotique serait un anthropomorphisme dangereux, alors que la recherche scientifique, dont le droit n’est que le relais, rapproche la machine de l’homme, tant sur les traits (la ressemblance est troublante chez certains humanoïdes), que sur ses capacités d’interaction (reconnaissance d’objet, de visage, d’état émotionnel), le tout parfois dans une perspective sociale assumée (la robotique sociale) ;
• la personnalité robot – qui ne vise aucunement à faire de la machine intelligente l’égal de l’homme ni à le concurrencer sur le plan symbolique – peut servir à sortir par le haut d’une fausse alternative, à savoir celle de concevoir l’entité robotisée dotée d’autonomie soit comme une machine en mieux ou un être humain en moins bien ; la personnalité robot vise, au contraire, à aligner cet acteur social en devenir sur ses capacités réelles et son rôle social, sans dégradation ni fantasme.

Eric Bonnet
Directeur du Département Communication juridique

(1) Trombinoscope des intervenants à la conférence.

Devant le Sénat, Alain Bensoussan ouvre un débat sur les droits de l’homme de l’ intelligence artificielle.

Reconnu pour son engagement en faveur de la reconnaissance de la personnalité juridique des robots, Alain Bensoussan est intervenu au Sénat, devant l’Office parlementaire d’évaluation des choix scientifiques et technologiques, sur « L’intelligence artificielle » (1).

Ses propositions sont plus larges que la création d’une personne robot et c’est dans ce cadre qu’il a été auditionné au Sénat. Faisant rêver l’auditoire pendant cinq minutes, il a proposé une réflexion sur les droits de l’homme de l’intelligence artificielle.

La France est aujourd’hui connue pour avoir exporté ses droits fondamentaux et le sera demain, pour ses droits de l’homme numériques. Nous pouvons rêver à la création de droits de l’homme de l’intelligence artificielle qui marqueraient l’avènement d’une mutation. 

Les robots doivent pouvoir être dotés d’une personnalité juridique singulière afin d’être considérés “comme des personnes électroniques dotées de droits et de devoirs, y compris celui de réparer des dommages causés à autrui”, selon la députée luxembourgeoise Mady Delvaux (2).

Les robots pensent, prennent des décisions et vivent désormais à nos côtés tout comme les algorithmes. Ils sont partout. Il faudra nécessairement identifier les robots logiciels comme physiques avec une sorte d’état civil des personnes robots. Pour Alain Bensoussan, il sera également nécessaire de repenser la responsabilité en « bi-phase asymétrique » : « le robot est toujours responsable à l’égard de la victime et pour le reste, une présomption de responsabilité s’il y eut certification et sous réserve des cas de fraude ».

Parmi les autres propositions figure aussi un régime d’assurance adapté car il est impensable que l’on ne puisse indemniser les victimes de dommages occasionnés par un robot présent dans une école, une usine, une entreprise ou au domicile.

Enfin, si l’on parle d’une personne robot avec une responsabilité, une assurance, en tant que personnalité juridique singulière, il faudra aussi intégrer le concept de dignité numérique des robots (…).

(1) Vidéo « L’intelligence artificielle« , Office parlementaire d’évaluation des choix scientifiques et technologiques, Sénat 19 janvier 2017 (audition publique).
(2) « Règles de droit civil sur la robotique », Rapport européen adopté le 12 janvier 2017 en commission des affaires juridiques, voir communiqué.

Dans PLANETE ROBOTS, Alain Bensoussan et Marie Soulez abordent le statut du robot créateur. 

Le robot créateur peut-il être protégé par le droit d’auteur ? La question peut paraître iconoclaste. Et pourtant, à l’heure des robots peintres, des robots écrivains, des robots scénaristes, des robots journalistes et des robots musiciens, le droit de la propriété intellectuelle doit, plus que jamais, s’adapter à l’évolution technologique (1).

À l’heure où l’intelligence artificielle ne cesse de se développer, c’est l’un des multiples enjeux croisés de la technologie et du droit, au cœur de la première édition de la conférence Technolex (2).

Le robot peut-il être un créateur au sens du Code de la propriété intellectuelle ? Peut-il être capable de créer des œuvres au sens du droit d’auteur ?

La question peut paraître saugrenue mais elle se pose bel et bien. Aux Etats Unis, on se souvient de l’émotion suscitée à la suite d’une photographie réalisée par un singe, refusée par le bureau du copyright Office américain au motif que le propriétaire de l’appareil photo ne pouvait revendiquer les droits, le singe ne pouvait être auteur.

Alain Bensoussan et Marie Soulez abordent ces questions dans le dernier numéro de Planète Robots.

Isabelle Pottier
Directrice Études et Publications

Alain Bensoussan, Marie Soulez pour Planète Robots, « Le robot créateur peut-il être protégé par le droit d’auteur ? », n°42, Nov.-déc. 2016.

(1) Marie Soulez, « Le droit de la propriété intellectuelle à l’épreuve des technologies robotiques », JCP G 2016, prat. 972.
(2) Voir sur ce point les rencontres Technolex dédiées aux enjeux couplés des technologies et du droit, CNAM, 17 novembre 2016.

Invité de RTL, Alain Bensoussan a évoqué la personnalité juridique des robots dans le cadre de la matinale de Yves Calvi.

A l’occasion de la publication du Livre blanc du Symop sur le droit de la robotique, Alain Bensoussan était l’invité d’Yves Calvi le 26 octobre dernier dans le cadre de la rubrique « 3mn pour comprendre » de la matinale de RTL.

L’occasion, à l’heure où les robots font leur entrée dans notre quotidien, d’apporter son éclairage d’avocat sur les dispositions légales qui les encadrent.

Robots : quelle responsabilité ?

Interrogé sur le terrain de la responsabilité, Alain Bensoussan estime que les robots ne sont plus de simples objets.

Ils pensent, ils prennent des décisions. Et vivent désormais à nos côtés. Dès lors, des lois spécifiques doivent-elles s’appliquer à eux ?

Selon Alain Bensoussan, cela ne fait aucun doute : « Les robots sont sortis des laboratoires, ils sont dans les usines, dans les entreprises, dans notre quotidien ».

Une chose est certaine à ses yeux : « Il va falloir trouver un cadre juridique adapté ».

Selon lui, « les robots ne sont pas des objets « plus » et ce ne sont pas non plus des humains « moins ». Ils vont sûrement devenir en tant que tel une personne robot avec une responsabilité ». Pourquoi ? « Parce qu’ils sont autonomes en mobilité et en décision ».

Si un accident est provoqué par une voiture autonome, par exemple, qui est responsable ?

Robots et responsabilité

En cas de dommage causé par un robot, il est essentiel d’avoir connaissance des régimes de responsabilité pouvant s’appliquer.

Le cadre juridique actuel permet de traiter certaines situations, mais il reste certains vides juridiques nécessitant une adaptation du droit positif (concernant par exemple la responsabilité et l’autonomie).

« En général, l’accident viendra plutôt des humains. Cela dit, vis-à-vis de la victime, ce sera toujours le robot le responsable: « Entre les fabricants, le propriétaire, l’utilisateur et le concepteur du système d’intelligence artificielle, il faudra définir les règles du jeu. Et pour moi, c’est clairement la plateforme d’intelligence artificielle, qui donne la capacité de décision ».

Des robots devant la justice ?

Peut-on imaginer dans un avenir proche un robot devant la justice ?

« Mon rêve est d’être l’avocat qui défendra le premier robot responsable », répond Alain Bensoussan.Celui-ci estime ce cas de figure tout à fait imaginable : « C’est simple, c’est comme pour les personnes morales, elles existent aujourd’hui alors que l’on n’a jamais serré la main à une personne morale. Demain, ça sera pareil pour une personne robot. J’ai tendance à penser que devant les tribunaux, ils seront présents ».

Avec, comme point crucial, la question de la responsabilité. « Il faudra disposer d’un schéma de preuve et dans ce cadre, disposer d’un « enregistrement » du passé, du présent et de ce qui s’est passé juste après l’accident. Car s’il n’est pas question de faire avouer un robot, il faudra pouvoir le faire parler ».

Alain Bensoussan, « Les lois doivent-elles s’appliquer aux robots« , La matinale d’RTL du 26 octobre 2016.

Les lois doivent-elles s’appliquer aux robots ? par rtl-fr

Le Parlement européen veut encadrer la robotique et faire des robots des « personnes électroniques » soumises  au droit civil.

C’est le thème abordé par  Alain Bensoussan dans le dernier numéro de Planète Robots.

La robotique et l’intelligence artificielle à usage civil

Robot-machine ou nouvelle espèce d’être artificiel ? Si les robots sont amenés à cohabiter avec nous, faut-il les doter d’une protection juridique ? C’est un débat à la frontière de la philosophie, de l’éthique et du droit. Le Parlement européen qui s’est saisi de la question veut faire des robots des « personnes électroniques » (1) et propose d’établir des règles de droit civil.

Le groupe de travail instauré en janvier 2015 par la commission des affaires juridiques (Commission JURI) pour réfléchir aux questions juridiques liées au développement de la robotique et de l’intelligence artificielle dans l’Union européenne a remis ses conclusions sous la forme d’un projet de rapport remis au Parlement européen.

Dans ce document daté du 31 mai, l’eurodéputée Mady Delvaux demande à la Commission européenne d’établir des règles de droit civil concernant la robotique sur la base des recommandations adressées à la Commission en vue de développer un cadre juridique pour la robotique et l’intelligence artificielle.

Il s’agit là des premiers travaux concrets menés pour prendre en compte le robot dans le système juridique européen.

Le groupe de travail estime en effet que « la responsabilité civile des robots est une question cruciale à laquelle il importe de répondre au niveau de l’Union afin de garantir le même niveau de transparence, de cohérence et de sécurité juridique dans toute l’Union, dans l’intérêt tant des consommateurs que des entreprises ».

La personnalité juridique des robots

(…) L’apport le plus innovant du groupe de travail consiste en « la création d’une personnalité juridique spécifique aux robots, pour qu’au moins les robots autonomes les plus sophistiqués puissent être considérés comme des personnes électroniques dotées de droits et de devoirs bien précis, y compris celui de réparer tout dommage causé à un tiers; serait considéré comme une personne électronique tout robot qui prend des décisions autonomes de manière intelligente ou qui interagit de manière indépendante avec des tiers ».

Ce statut juridique est au cœur des réflexions que nous menons au sein de l’Association droit des robots créée en janvier 2014. Le développement de la robotique et son introduction dans toutes les sphères de la société confirment la nécessité d’accompagner son déploiement d’une réflexion juridique en Europe et dans le monde (2).

Isabelle Pottier
Directrice Études et Publications

Alain Bensoussan pour Planète Robots, « Un futur cadre juridique européen pour la robotique », n°41, Sept-octobre 2016.

(1) Voir Eric Bonnet, « Rapport Delvaux : vers une personnalité juridique des robots ? », Post du 25-7-2016.
(2) Comparative handbook: robotic technologies law, A Lexing® Network study directed by Alain Bensoussan and by Jérémy Bensoussan, Editions Larcier 2016.

Alain Bensoussan a été interrogé sur la personnalité juridique des robots par le journaliste du Figaro Jean-Marc De Jaeger dans le cadre d’un article intitulé « Le Parlement européen veut faire des robots des personnes électroniques » , consacré au rapport du Parlement européen rédigé sous l’égide de la rapporteure du texte l’eurodéputée luxembourgeoise Mady Delvaux.

La Commission des affaires juridiques du Parlement européen propose ainsi d’attribuer aux robots le qualificatif de « personnes électroniques ». Une nouvelle personnalité juridique des robots qui doit permettre de doter ceux-ci de « droits et de devoirs bien précis ».

Ainsi, dans la mesure où ils sont autonomes, ceux-ci « pourraient se voir accorder le statut de personnes électroniques avec des droits et des obligations spécifiques », note le rapport.

S’agissant des potentiels effets des robots sur le marché du travail, ceux-ci posent, comme le souligne Christian De Jaeger, la question du  revenu universel de base, « une idée qui fait son chemin dans de nombreux pays européens ».

« Pour rendre plus acceptable la banalisation des robots dans la société, les entreprises pourraient s’acquitter d’une taxe sur les robots qui servirait à maintenir l’employabilité des citoyens, notamment dans les métiers du numérique», déclare Alain Bensoussan.

Ces derniers seraient par ailleurs tenus de contracter une police d’assurance couvrant les dommages potentiels qu’ils causent, comme c’est déjà le cas pour les véhicules routiers.

Le robot doit encore être reconnaissable : « Il lui faut un numéro d’immatriculation, un nom et un capital, un peu comme pour une personne morale. Car si le robot cause un dommage, il faut prévoir les recours contre lui », précise Alain Bensoussan

Au-delà les considérations économiques, le rapport Delvaux vise à harmoniser la cohabitation entre les robots et l’Homme. « Les robots domestiques sont en quelque sorte des ‘concentrateurs d’intimité’. Ils créent de l’empathie avec les humains en interagissant avec eux au quotidien. Un encadrement juridique permettrait de cristalliser cette particularité dans le droit », souligne Alain Bensoussan.

Enfin, la comparaison avec les animaux domestiques, dont le statut juridique a été clarifié en janvier 2015, est selon lui à relativiser. « Contrairement aux animaux, les robots ne sont pas biologiquement vivants et ne sont pas doués de sensibilité. Surtout, ils sont dotés d’une intelligence que les animaux n’ont pas »

Petit-déjeuner débat du 27 septembre 2016 sur le thème : « En compagnie des robots », animé par Me Alain Bensoussan, en présence des auteurs du livre Yannis Constantinidès (philosophe) et Jean-Gabriel Ganascia (philosophe et chercheur en intelligence artificielle).

« En compagnie des robots » : c’est le titre de l’ouvrage collectif paru aux Editions Premier Parallèle , issu de débats qui se sont tenus à la Gaîté Lyrique en novembre 2015, réunissant Kate Darling, Yannis Constantinidès, Jean-Gabriel Ganascia et Alain Bensoussan, animés par le journaliste Olivier Tesquet et Amélie Petit.

Un ouvrage autour de l’empathie et de l’incarnation des robots, ce qu’ils nous font ressentir et ce que nous ressentons pour eux. Les robots se perfectionnent grâce à l’intelligence artificielle jusqu’à nous ressembler de plus en plus au point de susciter chez nous de l’empathie. En quelques décennies, ils sont passés de simples machines à des objets de notre quotidien générant attachement et émotion.

Robot-machine ou nouvelle espèce d’être artificiel ? Si les robots sont amenés à cohabiter avec nous, faut-il les doter d’une protection juridique ? C’est un débat à la frontière de la philosophie, de l’éthique et du droit. Le Parlement européen qui s’est saisi de la question veut faire des robots des « personnes électroniques ».

Selon Alain Bensoussan, avocat et fondateur de l’Association du Droit des Robots (ADDR), il s’agit d’une « machine intelligente capable de prendre une décision en toute autonomie et indépendance, grâce à des capteurs qui lui permettent de maîtriser son environnement ». Et d’ajouter : « Vivre avec les robots aujourd’hui signifie qu’il faut les protéger des humains. Mais demain ce sont les hommes qu’il faudra protéger des robots ».

Ont participé également à ce débat Yannis Constantinidès, agrégé et docteur en philosophie, professeur d’éthique médicale à l’Espace éthique de la région Île-de-France, et Jean-Gabriel Ganascia, professeur de sciences informatiques à l’Université Paris V.

L’occasion d’évoquer les premiers travaux concrets menés sous l’égide du Parlement européen par l’eurodéputée luxembourgeoise Marie Delvaux, qui a rendu public le 31 mai dernier un projet de rapport à la Commission concernant des règles de droit civil sur la robotique.

Le petit-déjeuner a eu lieu de 9h30 à 11h00 dans nos locaux, 58 boulevard Gouvion-Saint-Cyr, 75017 Paris.

Voir la vidéo de l’événement sur notre Chaîne Lexing YouTube.

Pour Archimag, Alain Bensoussan fait le point sur la question de la personnalité robot qui est au cœur du cadre juridique  propre à la robotique.

Interviewé par Clémence Jost pour le numéro spécial IA du magazine Archimag, Alain Bensoussan fait le point sur cette question dans ce numéro spécial d’avril 2016 dont le dossier est consacré à l’intelligence artificielle.

L’intelligence artificielle est là. Elle apparaît aujourd’hui dans de nombreuses applications de notre vie professionnelle. Capable d’apprendre et de travailler sur des masses considérables de données, elle n’est qu’au début des avancées qu’elle permet.

La « personnalité robot » constitue la pierre angulaire du droit commun des robots prôné par Alain Bensoussan. II s’agit non seulement d’exprimer une catégorisation inédite entre les personnes (physiques ou morales) et cet être artificiel qu’est le robot, mais également de regrouper dans un cadre juridique homogène les droits communs et spéciaux applicables à cette nouvelle catégorie qui dépassera bientôt l’humain sur bien des aspects grâce à l’intelligence artificielle.

Parmi les questions abordées par Alain Bensoussan concernant la personnalité robot :

• Le droit d’auteur protège-t-il les contenus créés par des robots ?
• Vous considérez pourtant que les robots sont auteurs ?
• Vous prônez donc un statut juridique adapté aux robots ?
• Prenons ces trois points un par un, Qu’entendez-vous par traçabilité ?
• En quoi devrait consister cette responsabilité ?
• Vient ensuite la dignité, qui englobe dans votre charte deux notions : le droit à l’intimité numérique et le droit à la souveraineté sur ses données personnelles. De quoi s’agit-il ?
• Et le droit à la souveraineté sur ses données personnelles ?

Alain Bensoussan « Pour la personnalité robot« , Interview p. 21, Archimag n° 293 d’avril 2016 : L’intelligence artificielle, croquez dedans !

Le débat sur la responsabilité pénale des robots a été récemment relancé par les achats d’un robot sur le darknet.

Le robot « Random Dark Shopper » a été créé par le groupe MedienGruppe Bitnik dans l’optique d’effectuer de manière autonome et aléatoire des achats sur le darknet. Un darknet est un réseau privé virtuel dont les utilisateurs sont considérés comme des personnes de confiance. Un budget de 100 dollars en bitcoins par semaine lui a été alloué et le robot fait livrer l’ensemble de ses achats au musée Kunst à St Gallen en Suisse, afin qu’ils soient exposés.

Si parmi les achats de Random Dark Shopper figuraient des objets non sujets à controverse (l’intégrale du Seigneur des anneaux, des chaussures de sport de collection…), d’autres achats étaient plus problématiques puisqu’ont notamment été livrés au musée des cachets d’ecstasy et un faux passeport.

Le projet artistique a été saisi par la police suisse, mettant fin à l’exposition un jour avant la date de fin prévue. Il semble aujourd’hui que ni les artistes ni le robot ne seront poursuivis pour ces faits en Suisse.

L’expérience remet en avant la question de la responsabilité, en l’occurrence pénale, des robots.

Les lois d’Isaac Asimov, édictées en 1942, anticipaient déjà la question de l’autonomisation des robots doués d’intelligence artificielle. Les trois lois de la robotique sont les suivantes :

1. Un robot ne peut porter atteinte à un être humain, ni, en restant passif, permettre qu’un être humain soit exposé au danger.
2. Un robot doit obéir aux ordres qui lui sont donnés par un être humain, sauf si de tels ordres entrent en conflit avec la première loi.
3. Un robot doit protéger son existence tant que cette protection n’entre pas en conflit avec la première ou la deuxième loi.

Le robot semble ici violer au moins la première de ces lois.

En droit pénal français, la commission d’une infraction pénale suppose la réunion de trois éléments : un élément matériel, un élément légal et un élément moral.

L’élément qui pose le plus de difficulté dans le cas présent, est la caractérisation de l’élément moral. Il n’y a pas en principe de délit sans intention de le commettre. Si par exception, la loi peut prévoir la commission d’un délit en cas de faute d’imprudence, de négligence ou de manquement à une obligation de prudence ou de sécurité prévue par la loi ou le règlement, c’est uniquement, en application de l’article 121-3 alinéa 3 du Code pénal (1), s’il est établi que l’auteur des faits n’a pas accompli les diligences normales compte tenu, le cas échéant, de la nature de ses missions ou de ses fonctions, de ses compétences, ainsi que du pouvoir et des moyens dont il disposait.

Dans cette hypothèse, les personnes physiques qui n’ont pas causé directement le dommage, mais qui ont créé ou contribué à créer la situation qui a permis la réalisation du dommage ou qui n’ont pas pris les mesures pour l’éviter, sont responsables pénalement, s’il est établi qu’elles ont, soit violé de façon manifestement délibérée une obligation particulière de prudence ou de sécurité prévue par la loi ou le règlement, soit commis une faute caractérisée et qui exposait autrui à un risque d’une particulière gravité qu’elles ne pouvaient ignorer.

Cette dernière hypothèse permettrait de faire porter la responsabilité pénale pour les faits commis par le robot, doté d’intelligence artificielle, sur l’auteur de l’algorithme d’intelligence artificielle sur lequel il s’appuie.

Dans le cas de Random Dark Shopper, les deux artistes ont déclaré assumer pleinement les actes du robot et la responsabilité pénale qui en découlait.

Mais la question mérite réflexion. A partir du moment où le créateur du robot a pris toutes les précautions nécessaires lors de la conception de celui-ci, pour notamment paramétrer tous les lois et règlements applicables, que faire si le robot décide de lui-même de commettre une infraction, en toute connaissance de cause ? En d’autres termes, comment appréhender la responsabilité pénale d’un agent intelligent doté d’une intelligence artificielle si développée qu’elle lui confère une autonomie de pensée qui confine à un état de « conscience » ?

La capacité du droit positif à gérer les nouvelles formes d’activité délictueuse, dont le Random Dark Shopper est une illustration, est mise en question, et ce avec d’autant plus d’acuité que l’intelligence des robots va croître.

Virginie Bensoussan-Brulé
Chloé Legris
Lexing Droit pénal numérique

(1) C. pén. art. 121-3, al. 3.

Alain Bensoussan évoque pour la rédaction du Recueil Dalloz les implications juridiques et éthiques de l’IA.

L’évolution de la robotique induite par l’intelligence artificielle conduira à créer un droit des robots.

Cette révolution technologique suscite un questionnement, notamment en ce qui concerne les règles de droit susceptibles d’être appliquées à l’activité de robots amenés à interagir de plus en plus avec les humains. Cette dynamique de réflexion, conduite notamment par Alain Bensoussan, l’a amené à constituer, au sein de son cabinet, un département dédié.

Le droit des robots. Force est de constater que la réalité juridique, à laquelle renvoie le droit des robots, n’est pas clairement établie, en raison, notamment, du caractère protéiforme de l’objet technique robot, de la finalité de la norme considérée et du référentiel culturel adopté.

Par voie de conséquence, la robotique doit être appréhendée, d’une part, de manière transversale, au regard de ses éléments communs qui relèveraient d’un noyau dur de règles et, d’autre part, dans ses spécificités, chaque catégorie de robots pouvant nécessiter l’adoption d’un régime propre.

Le droit des robots vise ainsi un corps de règles, communes ou sectorielles, cohérent par son objet. Lorsque l’émergence d’une technologie nouvelle prend en défaut le droit positif, c’est elle qui doit piloter son évolution.

 La « personnalité robot ». Ce concept, formalisé par Alain Bensoussan, constitue la pierre angulaire du droit commun des robots, tel qu’il l’envisage. Il entend ainsi singulariser la place du robot intelligent dans l’éventail juridique en lui conférant un statut aligné sur ses capacités et son rôle social. II s’agit d’exprimer une catégorisation inédite entre les personnes (physiques ou morales) et les choses. A ce concept est associé un régime visant à sécuriser l’insertion des robots, tant dans le tissu économique que social, centré sur les impératifs notamment d’identification, de suivi et d’indemnisation.

Alain Bensoussan, Recueil Dalloz, « Droit des robots : science-fiction ou anticipation ? », juillet 2015

La place du robot dans notre société suscite de nombreuses questions rassemblées au sein d’un ouvrage.

Préfacé par Trevor Moores, professeur au sein du  département Systèmes d’Information, Sciences de la Décision et Statistiques (IDS) de l’Essec, cet ouvrage propose des pistes de réflexion pour définir de nouveaux standards éthiques, moraux et légaux face aux technologies de l’information et de la communication en constante évolution.

Le développement de nouvelles techniques d’information et de communication ont induit de profondes mutations sociales, à l’instar de la révolution industrielle du 19e siècle. Cette révolution numérique conduit à s’interroger sur la pertinence et l’adaptabilité des normes éthiques et des règles juridiques existant dans une société appelée à se réinventer.

Alain Bensoussan, dans un premier chapitre intitulé « Ethics, Law and Robots: what regulation? », évoque les interrogations morales et éthiques suscitées par l’introduction de l’intelligence artificielle et de son corollaire, l’autonomie de décision et d’action du robot dans son rapport avec l’humain. Il prône l’instauration d’une « robot – éthique », un corpus de règles éthiques susceptibles de s’inscrire au sein d’une gouvernance nouvelle, à vocation nationale, européenne et internationale, à partir de pratiques d’éthiciens et de recommandations formulées par un comité national d’éthique des pratiques robotiques.

La singularité du robot dans l’espace juridique ayant vocation à s’accentuer, il préconise de doter les robots autonomes, dotés de capteurs intelligents, d’une personnalité juridique propre, « la personnalité robot », inspirée de la « personnalité morale » des sociétés. Cette question de la catégorisation juridique des robots de dernière génération implique, en filigrane, celle des droits et des obligations susceptibles de leur être conférés, mais aussi celle de la responsabilité à raison de dommages causés notamment à l’homme du fait de l’activité des robots.

L’enjeu du développement de la robotique réside, selon Alain Bensoussan, dans l’instauration d’un cadre juridique adapté, susceptible de favoriser l’insertion sécurisée des robots dans le tissu social.

Cambridge Scholars Publishing 2015
Extraits en ligne, préface et chapitre 1 « Ethics, Law and Robots: what regulation?« .

Alain Bensoussan évoque avec Vincent Touraine les implications juridiques de l’évolution de la robotique, induite de l’IA.

Son propos porte plus particulièrement sur la nécessaire redéfinition des règles de droit régissant l’activité des robots et l’attribution à ces derniers du statut juridique de sujet de droit.

S’ils ne sont pas doués de sensibilité, les robots dits « intelligents » sont dotés d’une autonomie décisionnelle réelle, permise par l’intelligence artificielle. L’acquisition de cette « liberté » relative rend inappropriée l’application du droit des biens et requière, par voie de conséquence, l’établissement de règles spécifiques adaptées à cette évolution technologique.

Un droit des robots est donc appelé à régir les rapports entre l’homme et les robots caractérisé par la reconnaissance d’une personne juridique particulière : la personnalité robot. Doter les robots de dernière génération de la personnalité juridique, c’est reconnaître un élément de différenciation par rapport aux objets. Le robot, jusqu’alors objet de droit, deviendrait ainsi sujet de droit.

A l’instar de la personne morale, le robot serait détenteur d’un capital, d’une dénomination, d’un numéro d’identification, d’immatriculation à un registre. Il pourrait revendiquer le bénéfice de certains droits, mais également être astreint à certaines obligations légales. Un représentant légal pourrait ainsi être amené à défendre ses intérêts devant les tribunaux.

Selon Alain Bensoussan, un système de responsabilité en cascade devrait être institué, la responsabilité de la plateforme d’intelligence artificielle et de l’utilisateur du robot devant pouvoir être reconnue dans le cas de dommages consécutifs à l’activité d’un robot. En effet, l’attribution d’une parcelle de « liberté » au robot par la plateforme conduit à un détournement, sur le plan juridique, de la notion de responsabilité en tant que telle. L’apprentissage dispensé par l’utilisateur au robot détermine par ailleurs un comportement particulier de ce dernier, qui aurait été différent s’il avait été détenu par un autre utilisateur, ce qui justifie l’éventuelle mise en cause de la responsabilité de l’utilisateur.

Le droit est piloté par la technologie, que l’on soit dans un système de droit romano-germanique ou anglo saxon. Les lacunes juridiques étant patentes, un droit des robots unifié est appelé à s’appliquer dans le monde entier, fondé notamment sur la reconnaissance d’une personnalité juridique particulière aux robots et l’instauration d’un système de responsabilité en cascade.

Alain Bensoussan, Tendance Droit, Août 2015, Vidéo de l’entretien.

Cet entretien figure dans la dernière édition de Tendance Droit, un magazine digital édité par LexisNexis.