Enquête sur l’accident mortel causé par un taxi autonome d’Uber

taxi autonomeL’enquête sur l’accident mortel causé par un taxi autonome d’Uber est le dernier thème abordé par Alain Bensoussan sur son blog du figaro.fr

L’accident qui a coûté la vie à Elaine Herzberg le 18 mars 2018 s’est produit dans l’obscurité, malgré l’éclairage de la chaussée, sur une route limitée à 45 mille par heure (environ 70 km/h). Le système de conduite automatisé testé par Uber ATG n’a signalé aucune défaillance des capteurs ou du dispositif de conduite lors du déclenchement de l’accident.

Le véhicule circulait en mode autonome, sous la supervision d’un opérateur, comme le prévoit la législation de l’Etat d’Arizona, en l’occurrence, une conductrice âgée de 44 ans qui totalisait plus de 150 heures de conduite en mode autonome. Il n’y avait pas d’autre opérateur ni de passagers dans le véhicule.

La piétonne a bien été détectée. Pourtant le véhicule n’a même pas tenté de freiner. Le système tel que conçu par Uber « n’avait pas été programmé pour prendre en compte la possible présence de piétons en l’absence de passages cloutés », indique l’agence américaine chargée de la sécurité des transports NTSB.

Dans ses conclusions sur l’accident (1), la NTSB pointe une culture « inadéquate » de la sécurité et de mauvaises décisions de conception des algorithmes.

Le rapport visant à déterminer la cause probable de l’accident fournit de nombreux détails sur le fonctionnement des algorithmes d’Uber et sur les dernières secondes qui ont précédées l’accident dans lequel a péri une piétonne américaine en mars 2018…

Isabelle Pottier
Avocat, Lexing Alain Bensoussan Avocats
Directeur du département Etudes et publications

Lire la suite sur le blog expert « Droit des technologies avancées » du Figaro : A. Bensoussan, « Enquête sur l’accident mortel causé par un taxi autonome d’Uber », le 26 décembre 2019.

(1) NTSB, Accident Report, Nov 19, 2019.




Vivre avec les robots : vers un néohumanisme artificiel

vivre avec les robotsVivre avec les robots : vers un néohumanisme artificiel est le dernier thème abordé par Alain Bensoussan

sur son blog du figaro.fr

Les capacités grandissantes des robots les amènent aujourd’hui à véritablement collaborer avec les hommes. Dans le cadre de cette nouvelle « robothumanité », les humains doivent apprendre à vivre et à survire aux côtés des robots, d’où l’impératif de doter ceux-ci d’une personnalité juridique autonome, au regard notamment des avancées phénoménales de l’intelligence artificielle.

Une chose est sûre : sachant lire et écrire, réfléchir et analyser, ces robots auto-apprenants, en passe demain d’acquérir une autonomie au plan énergétique, deviendront inéluctablement une nouvelle espèce au sens darwinien du terme : l’espèce-robot. Bienvenue dans le « néohumanisme artificiel ».

D’une certaine façon, le monde des robots est déjà le nôtre. Grâce aux technologies robotiques, l’émergence de ces nouveaux « êtres » est en passe de devenir une réalité. Intelligence artificielle oblige, les robots sont aujourd’hui beaucoup plus que de simples automates.

Qu’il faille s’en inquiéter ou s’en réjouir, les questions d’ordre éthique et juridique sont majeures, et les défis à relever immenses, dans le cadre de ce que nous avons appelé la « robothumanité »[1]…

Lire la suite sur le blog expert « Droit des technologies avancées » du Figaro : A. Bensoussan, « Vivre avec les robots : vers un néohumanisme artificiel  », le 1er août 2018.

[1] Alain et Jérémy Bensoussan, Droit des robots, Larcier, 1ère éd., 2015 ; Alain Bensoussan, Le droit des robots ? Quelle est l’autonomie de décision d’une machine ? Quelle protection mérite-t-elle ?, Vers de nouvelles humanités ? L’humanisme juridique face aux nouvelles technologies, (Archives de philosophie du droit n° 59), Dalloz, 2017 pp.165-174 ; Alain Bensoussan, La personne-robot : provocation juridique ou innovation politique ? LeFigaro.fr, 3 novembre 2017.




Diffusion de Fake news par des robots logiciels, enjeu d’une loi

Fake newsLe projet de loi sur les Fake news manque la cible des robots logiciels : c’est le thème de la chronique publiée par Alain Bensoussan sur son blog du figaro.fr

Le rejet par le Sénat de la proposition de loi relative à la lutte contre la manipulation de l’information confirme une évidence : en se voulant trop général, ce texte de circonstances manque sa cible. Plutôt que légiférer dans l’urgence, il faut repenser le texte en encadrant le rôle des plateformes et des robots logiciels dans la diffusion de fausses informations.

Adoptée par l’Assemblée nationale le 3 juillet après engagement de la procédure accélérée, la proposition de loi [1] relative à la lutte contre la manipulation de l’informationdestinée à empêcher la diffusion artificielle de fausses nouvelles en période électorale, a été rejetée le 18 juillet par la commission de la culture et la commission des lois du Sénat [2].

Tout sauf une surprise selon Alain Bensoussan tant les critiques sont nombreuses [3] à l’encontre d’un texte concocté manifestement à la hâte depuis son annonce en janvier 2018 par le président de la République Emmanuel Macron et la ministre de la Culture Françoise Nyssen.

Cette réforme est née d’un double constat :

  • l’existence de campagnes massives de diffusion de fausses informations destinées à modifier le cours normal du processus électoral par l’intermédiaire des services de communication en ligne ;
  • l’insuffisance des lois existantes pour permettre le retrait rapide des contenus en ligne.

Cette tendance à légiférer à nouveau, et dans la précipitation, a fortiori dans un secteur où la loi sur la liberté de la presse du 29 juillet 1881, a mainte fois montré sa capacité d’adaptation aux innovations technologiques.

Une chose est certaine selon l’avocat, les dispositions de la loi de 1881 suffisent déjà en la matière, avec le délit de fausse nouvelle et celui de diffamation qui s’appliquent parfaitement dans le contexte qui nous préoccupe.

Quant à la question de la responsabilité des plateformes, elle a déjà été traitée par la loi «Lemaire» n° 2016-1321 du 7 octobre 2016 pour une République numérique, et celle des données personnelles par le Règlement général sur la protection des données entré en application le 25 mai 2018, ainsi que la loi n° 2018-493 du 20 juin 2018.

Le texte, à vouloir être trop général, manque sa cible. L’avocat en est convaincu : au-delà des déclarations d’intention et de la création d’un juge des référés qui en pratique existe déjà, l’enjeu central réside dans la lutte contre la diffusion de fausses informations par les plateformes et les robots logiciels

Isabelle Pottier
Directrice Études et Publications

Lire la suite sur le blog expert « Droit des technologies avancées » du Figaro : A. Bensoussan, « Diffusion de fausses informations par des robots logiciels, enjeu de la loi Fake news », le 20 juillet 2018.

Voir également l’interview d’Alain Bensoussan sur la chaîne RT France, JT du 18 juillet 2018.

[1] Il s’agit plus précisément de deux propositions de loi : l’une ordinaire et l’autre organique. La première, ordinaire (n°799 du 21 mars 2018) est applicable pendant les élections européennes, législatives, sénatoriales et les référendums ; la seconde, organique (n° 772 du 16 mars 2018), touche à l’organisation des pouvoirs publics, dédiée à l’élection présidentielle (Dossier législatif de l’Assemblée nationale) [en ligne] (pages consultées le 20 juillet 2018).
[2] V. Communiqué de presse de la Commission de la culture et la commission des lois du Sénat du 18 juillet 2018 [en ligne] (page consultée le 20 juillet 2018).
[3] V. not. Basile Ader, Fake News : une loi au mieux inutile, au pire dangereuse, Avocatparis.org, 12 juin 2018 [en ligne] (page consultée le 20 juillet 2018).




Le droit naturel, fondement juridique de la personne robot ?

droit naturelLe droit naturel au soutien de la personne robot : c’est le thème de l’article publié par Alain Bensoussan sur son blog du figaro.fr

Et si le recours au droit naturel permettait de trancher le débat qui oppose actuellement les tenants d’une « personne-robot » qui feraient de ces nouveaux êtres des sujets de droit, à leurs opposants qui considèrent une telle solution comme inappropriée quel que soit le statut légal envisagé ?

Selon Alain Bensoussan, à l’heure où les robots et l’intelligence artificielle sont partout, et où les situations anxiogènes vont nécessairement se développer (perte de contrôle de véhicules autonomes, algorithmes malfaisants, data breaches…), la nécessité d’adopter un cadre juridique propre aux activités robotiques apparaît aujourd’hui inéluctable.

Si l’idée n’est guère contestée dans son principe, en revanche, dans son application concrète, un débat oppose toujours :

  • ceux qui prônent l’adoption d’une « personne robot » – que nous appelons de nos vœux [1] – afin de reconnaître à ces nouveaux êtres des droits et obligations qui les assimileront peu ou prou à des personnes physiques,
  • et ceux qui considèrent que doter les robots d’une personnalité juridique ne saurait être envisagé, un tel statut ne pouvant découler du modèle de la personne physique comme de celui de la personne  morale.

C’est là que prend tout son sens, selon l’avocat, le recours au droit naturel qui permettrait, aunom de principes supérieurs transcendant le droit positif de la robotique qui peine actuellement à se dessiner au plan mondial, de délimiter les contours d’une nouvelle « robohumanité » : « Dans une société mondialisée, où la problématique de l’encadrement juridique activités robotique, des algorithmes et de l’IA va se poser partout ou presque dans les mêmes termes, et devant les difficultés des Etats à légiférer, il nous semble que le droit naturel doit venir au soutien de la nécessité d’encadrer juridiquement les robots ».

Eric Bonnet
Directeur de la communication juridique

[1] Alain et Jérémy Bensoussan, Droit des robots, Larcier, 1ère éd., 2015 ; A. Bensoussan, La personne-robot : provocation juridique ou innovation politique ?,  Blog Figaro, 3 novembre 2017.




Droit de propriété et monétisation des données personnelles

monétisation des donnéesDans son article publié sur lefigaro.fr, Alain Bensoussan prône le droit de propriété et la monétisation des données personnelles.

Dans l’article mis en ligne le 28 février 2018 sur son blog hébergé par lefigaro.fr, Alain Bensoussan évoque la question de la propriété des données personnelles et de leur patrimonialisation, à l’heure de l’hyper connexion et à 90 jours de l’entrée en application du RGPD.

En effet, selon lui, avec le Big data, nous ne pourrons pas nous assurer que les données confiées à des sites marchands ne seront pas cédées à des tiers.

« Une chose est sûre : ce phénomène débouchera immanquablement sur une monétisation de ces données, de sorte que l’évolution devra tôt ou tard conduire à passer d’un droit à la protection à un droit à la propriété des données personnelles ».

Cette évolution, qu’il prédisait il y a déjà 10 ans, semble aujourd’hui inéluctable. C’est d’autant plus vrai avec les nouveaux usages qui ont donné naissance à un véritable marché des informations personnelles.

A ses yeux, il faudra nécessairement faire émerger un droit à la propriété des données personnelles. Une évolution qu’il annonçait dès 2008 en ces termes : « L’évolution, à terme, devrait concerner le passage d’un droit à la protection à un droit à la propriété des informations à caractère personnel ».

Pour protéger ses propres données personnelles, il préconise tout d’abord de reconnaître des droits, par la propriété des données, et dans un second temps d’accorder une protection par exception, si nécessaire.

Quant à la question de la monétisation des données, elle soulève la problématique du statut juridique de la donnée. En France, comme dans de nombreux pays, la notion de propriété des données n’a pas de statut juridique en tant que tel. (…)

A lire sur le blog expert « Droit des technologies avancées » du Figaro :
A. Bensoussan, « Pour un droit de propriété et une monétisation des données personnelles », le 28 février 2018.