Enquête sur l’accident mortel causé par un taxi autonome d’Uber

taxi autonomeL’enquête sur l’accident mortel causé par un taxi autonome d’Uber est le dernier thème abordé par Alain Bensoussan sur son blog du figaro.fr

L’accident qui a coûté la vie à Elaine Herzberg le 18 mars 2018 s’est produit dans l’obscurité, malgré l’éclairage de la chaussée, sur une route limitée à 45 mille par heure (environ 70 km/h). Le système de conduite automatisé testé par Uber ATG n’a signalé aucune défaillance des capteurs ou du dispositif de conduite lors du déclenchement de l’accident.

Le véhicule circulait en mode autonome, sous la supervision d’un opérateur, comme le prévoit la législation de l’Etat d’Arizona, en l’occurrence, une conductrice âgée de 44 ans qui totalisait plus de 150 heures de conduite en mode autonome. Il n’y avait pas d’autre opérateur ni de passagers dans le véhicule.

La piétonne a bien été détectée. Pourtant le véhicule n’a même pas tenté de freiner. Le système tel que conçu par Uber « n’avait pas été programmé pour prendre en compte la possible présence de piétons en l’absence de passages cloutés », indique l’agence américaine chargée de la sécurité des transports NTSB.

Dans ses conclusions sur l’accident (1), la NTSB pointe une culture « inadéquate » de la sécurité et de mauvaises décisions de conception des algorithmes.

Le rapport visant à déterminer la cause probable de l’accident fournit de nombreux détails sur le fonctionnement des algorithmes d’Uber et sur les dernières secondes qui ont précédées l’accident dans lequel a péri une piétonne américaine en mars 2018…

Isabelle Pottier
Avocat, Lexing Alain Bensoussan Avocats
Directeur du département Etudes et publications

Lire la suite sur le blog expert « Droit des technologies avancées » du Figaro : A. Bensoussan, « Enquête sur l’accident mortel causé par un taxi autonome d’Uber », le 26 décembre 2019.

(1) NTSB, Accident Report, Nov 19, 2019.




Accident du taxi autonome Uber : la NTSB rend ses conclusions

taxi autonome Uber Les causes de l’accident du taxi autonome Uber qui a coûté la vie à Elaine Herzberg sur une route de l’Arizona en mars 2018 sont désormais identifiées.

Un enchaînement d’événements dus à une « culture inadéquate de la sécurité », c’est ce que dénonce l’agence américaine chargée de la sécurité des transports (NTSB) (1).

Les constats de la NTSB sur le « crash » du taxi autonome Uber

Parmi les conclusions des enquêteurs du NTSB figurent les constats suivants :

  • Une IA faible : Le système de conduite automatisée d’Uber ATG (Advanced Technologies Group, ATG) a détecté la piétonne 5,6 secondes avant l’impact. Bien que le système ait continué à la surveiller jusqu’au moment de la collision, il n’a jamais identifié « l’objet » qui traversait la route comme étant un piéton – ni prédit sa trajectoire.
  • Le manque d’attention du conducteur du taxi autonome Uber : Si l’opératrice à bord du véhicule avait été attentive, elle aurait probablement eu suffisamment de temps pour détecter la piétonne et réagir afin d’éviter l’accident ou d’en atténuer l’impact.
  • Une supervision inefficace des opérateurs : Alors que les responsables d’Uber ATG avaient la possibilité de contrôler rétroactivement le comportement de leurs opérateurs, ils l’ont rarement fait. L’inefficacité de la supervision exercée par la société Uber a été exacerbée par sa décision de retirer le second opérateur qui se trouvait auparavant à bord des véhicules lors les tests réalisés sur la voie publique.
  • Le freinage d’urgence désactivé. La société de transport a apporté plusieurs modifications à son système de conduite autonome pour éviter les freinages intempestifs (« faux positifs »), notamment la désactivation du système de freinage d’urgence installé de série par Volvo, lorsque le véhicule de test est utilisé en mode autonome.

Dans un pré-rapport de plus de 460 pages publié avant l’audition du 19 novembre visant à déterminer la cause probable de l’accident, le NTSB a constaté que la technologie d’Uber « ne prenait pas en compte l’éventualité de piétons traversant hors des clous » (NTSB, Accident Report, Nov 19, 2019).

Une IA « faible »

Dans ce drame, on est bien loin du dilemme moral de la voiture autonome confrontée à deux options de conduite présentant toutes deux un risque pour la vie humaine (2). Ici, l’IA n’a pas eu à choisir de renverser un piéton pour épargner d’autres vies. Elle n’a pas d’avantage renversé volontairement le piéton. Elle ne l’a tout simplement pas détecté.

Cet accident dramatique est le résultat de l’exécution d’un algorithme qui n’a pas envisagé le comportement dangereux d’un piéton évoluant dans un lieu dépourvu de passage pour traverser.

Dans le rapport du NTSB, on peut y lire que « Bien que le SDS [Self-Driving System] ait détecté le piéton près de 6 secondes avant l’impact, le système ne l’a jamais répertorié comme piéton – ni n’a prédit correctement sa trajectoire en tant que piéton traversant en dehors des clous ou cycliste » (3).

De l’aveux du transporteur, le système de conduite automatisé « n’avait pas la capacité de classer un objet comme piéton à moins que cet objet ne se trouve à proximité d’un passage pour piétons ». N’étant pas en mesure de classer correctement le piéton, il était également dans l’incapacité de prédire sa trajectoire et sa vitesse sur la chaussée.

En fait, la conception du système de conduite automatisé n’incluait pas la prise en compte des piétons traversant hors des clous. Au lieu de cela, le système l’avait initialement classée comme un « autre objet », c’est-à-dire un objet inconnu auquel aucun objectif n’était assigné. Comme le système a changé plusieurs fois la classification de l’objet (alternant entre véhicule, vélo et autre) durant les 5 secondes qui ont précédées l’impact, il n’a pas été en mesure de prédire correctement sa trajectoire.

L’incapacité du système à classer correctement le piéton en tant que personne physique a affecté sa capacité à lui attribuer avec précision une trajectoire et une vitesse. En conséquence, il ne pouvait pas prévoir que le piéton pourrait entrer dans la trajectoire du 4×4.

L’intelligence du système de conduite automatisé est donc toute relative. Elle dépend de scénarios calculés par des algorithmes. Plus ils sont capables de prédire des situations dans tout type de contexte, plus l’IA est considérée comme forte.

Le rapport d’enquête du NTSB ne s’étend pas les capacités d’apprentissage et le niveau d’autonomie décisionnelle de l’IA du véhicule. On peut néanmoins en déduire qu’il s’agit d’une IA « faible » dès lors que les algorithmes ont été incapables d’anticiper et de réagir face à un événement « hors scénario », comme celui d’un piéton imprudent.

Le freinage d’urgence désactivé en conduite autonome

Lorsqu’il a déterminé qu’une collision était imminente, environ une seconde et deux centièmes avant l’impact, le systèmes anticollision équipant en série les véhicules Volvo n’a pas été déclenché.

Selon Uber, les manœuvres de freinage d’urgence ne sont pas activées lorsque le véhicule est sous le contrôle de l’ordinateur afin de réduire le risque de « comportement erratique du véhicule ».

Le fonctionnement simultané des systèmes anticollision de Volvo n’était en effet pas compatible avec l’ADS d’Uber.

En situation d’extrême urgence, il est fait confiance au conducteur du véhicule pour intervenir. De fait, une alerte sonore a été envoyé à la conductrice 1,2 seconde avant l’impact, pour qu’elle reprenne le contrôle du véhicule. Or cette dernière était occupée à visionner une vidéo en streaming et n’a relevé les yeux qu’une seconde avant l’impact, beaucoup trop tard pour éviter la piétonne…

Une culture « inadéquate » de la sécurité

« La sécurité commence au sommet», a déclaré le président du NTSB, Robert L. Sumwalt. « La collision a été le dernier maillon d’une longue chaîne d’actions et de décisions prises par une organisation qui, malheureusement, n’a pas fait de la sécurité sa priorité absolue » (Communiqué du NTSB du 19-11-2019).

Le rapport du NTSB pointe l’insuffisance des procédures d’évaluation des risques de sécurité d’Uber ATG, l’inefficacité de la surveillance des opérateurs à bord des véhicules et l’absence de mécanismes adéquats pour remédier à la confiance des opérateurs en matière d’automatisation qui ont contribué à l’accident ; « toutes étant des conséquences d’une culture de la sécurité inadéquate au sein du groupe ».

L’agence américaine a émis un certain nombre de recommandations à l’attention du régulateur américain des transports (NHTSA), de l’État de l’Arizona, de l’Association américaine des administrateurs de véhicules automobiles (AAMA) et d’Uber ATG.

Uber a depuis lors modifié les fréquences auxquelles les radars qui supportent l’ADS fonctionnent, afin qu’elles n’interfèrent pas avec les radars de Volvo. Il a ainsi rendus disponibles les systèmes d’alerte de collision frontale et de freinage d’urgence Volvo pendant la conduite automatisée.

Le transporteur a également modifié sa programmation pour inclure des piétons traversant hors des clous parmi ses objets reconnus ; de même qu’il a programmé le système pour qu’il ralentisse dans les situations où l’objet ne peut pas être classé avec assurance.

Isabelle Pottier
Avocat, Lexing Alain Bensoussan Avocats
Directeur du département Etudes et publications

(1) Pour rappel, une femme de 49 ans qui marchait de nuit à côté de son vélo a traversé la chaussée en dehors des clous, hypothèse de comportement non envisagée par le programme. Elle a été mortellement renversée par un taxi autonome d’Uber (un SUV Volvo XC90 modifié) en phase de test sur les routes de l’Arizona.
(2) Voir A. Bensoussan, J. Bensoussan, IA, robots et droit, Ed. Larcier, Juillet 2019.
(3) Le rapport du NTSB a retracé la chronologie seconde par seconde montrant ce que l’algorithme a détecté :
– à 5,2 secondes avant l’impact, le système l’a classée comme « autre objet ».
– à 4,2 secondes avant l’impact, elle a été reclassée comme « véhicule ».
– entre 3,8 et 2,7 secondes avant l’impact, le classement a alterné plusieurs fois entre « véhicule » et « autre objet ».
– à 2,6 secondes avant l’impact, le système a classé Elaine Herzberg et son vélo dans la catégorie « bicyclette ».
– à 1,5 seconde avant l’impact, elle est devenue un objet inconnu rentrant dans la catégorie « autre objet ».
– à 1,2 seconde avant l’impact, elle est redevenue une « bicyclette » se trouvant sur la trajectoire du véhicule Uber.




Projet de loi des mobilités et accès aux données des véhicules connectés

projet de loi des mobilitésLe projet de loi d’orientation des mobilités (1) prévoit certaines dispositions permettant l’accès aux données des utilisateurs.

Alors que la totalité des nouveaux modèles de véhicules proposés en Europe, aux Etats-Unis et en Chine seront connectés à Internet en 2022, notamment à l’aide de boitiers télématiques, intégrés ou non au véhicule, l’essor des véhicules connectés pose la question de l’encadrement des données qu’ils produisent. La nouvelle réglementation relative à la généralisation des enregistreurs de données en cas d’accident et d’état de délégation (2) devrait également accroître le volume de données disponibles.

Dans ce contexte, le gouvernement a souhaité intégrer des dispositions relatives à l’accès à ces données dans le cadre du projet de loi des mobilités, actuellement en cours d’examen à l’Assemblée nationale.

Les enjeux

L’étude d’impact relative à ce projet de loi fait état d’enjeux d’ordre :

  • technique, notamment s’agissant de questions d’interopérabilité ou de cybersécurité ;
  • économique : les données des véhicules connectés pouvant être considérées comme des infrastructures essentielles, l’accès à ces données doit être permis dans des conditions non discriminatoires pour éviter que ne se constituent des barrières à l’entrée anti-concurrentielles ;
  • juridique dans la mesure où il s’agit de données à caractère personnel.

Les dispositions du projet de loi des mobilités

L’article 13 du projet prévoit la possibilité pour le Gouvernement de prendre par voie d’ordonnance dans un délai de dix-huit mois à compter de la publication de la loi toute mesure afin de :

  • rendre accessible aux forces de l’ordre et aux services d’incendie et de secours, certaines données des véhicules connectés, y compris des systèmes d’aide à la conduite ou de navigation intégrés au véhicule, nécessaires à l’exercice de leurs missions;
  • rendre accessibles certaines données événementielles ou d’état de délégation de conduite enregistrées, en cas d’accident de la route, aux officiers et agents de police judiciaire ainsi qu’aux organismes chargés des enquêtes accidents ;
  • permettre la correction télématique des défauts de sécurité et l’amélioration de la sécurité des systèmes d’automatisation, par des modalités appropriées d’accès aux données pertinentes de ces véhicules.

L’accès aux données de la part des forces de l’ordre et des services d’incendie et de secours (SDIS)

Au-delà du fait que la notion de véhicule connectée n’est pas clairement définie, le texte est assez imprécis sur la nature des données qui seraient concernées. Il évoque en effet « certaines données des véhicules routiers connectés » ce qui semble assez imprécis. Il s’agirait cependant des données « nécessaires à l’exercice » des missions des forces de l’ordre et des SDIS. Par ailleurs, la finalité de cette collecte n’est pas précisée, ni le moment de cette collecte : s’agit-il d’un accès en continu ou ponctuel en cas d’accident ? Enfin, la plus-value de cette disposition n’est pas évidente dans la mesure où les services de police et de gendarmerie peuvent déjà avoir accès à ces données sur réquisition judiciaire.

L’accès aux données d’EDR et d’ADDR

Les mêmes remarques que précédemment peuvent être faites. Dès lors, la nécessité de prévoir une disposition spécifique pour l’accès à ces données n’apparait pas clairement.

La correction télématique des défauts de sécurité et l’amélioration de la sécurité des systèmes d’automatisation

Il s’agit de permettre aux constructeurs de modifier par voie télématique les paramètres de fonctionnement du véhicule connecté lorsqu’ils « présentent des enjeux critiques de sécurité routière » (analyse d’impact). Ce projet de disposition ne mentionne pas qui serait habilité à accéder à ces paramètres et ne précise pas non plus comment la personne concernée serait informée de cet accès, voir si celui-ci devrait donner son consentement à toute intervention.

Dans le cadre de l’examen du projet de loi au Sénat, la Commission des lois et le rapporteur ont conclu au fait que la nécessité de recourir à une ordonnance n’apparaissait pas évidente – en l’absence d’urgence – et que l’habilitation apparaissait trop imprécise. Le rapporteur a donc sollicité la suppression de cette disposition. Il regrette en particulier que le Gouvernement souhaite agir sur des sujets relevant de la protection des données personnelles sans soumettre ce travail à la discussion du Parlement. Il a donc été proposé de supprimer cette disposition.

Cependant, partageant les objectifs du Gouvernement quant à la nécessité d’apporter des « réponses juridiques aux questions posées par le recueil, le traitement et l’exploitation des véhicules connectés », le rapporteur a invité le Gouvernement à proposer une nouvelle rédaction plus satisfaisante en vue de sa discussion en séance publique.

Réécriture lors des débats au Sénat

Lors des débats en première lecture au Sénat, le Gouvernement a proposé par voie d’amendement une réécriture de cette disposition.

La nouvelle rédaction proposée lors des débats au Sénat le 21 mars 2019 prévoit désormais six cas dans lesquelles les données relatives aux véhicules connectées seraient accessibles.

Elle prévoit notamment de « rendre accessibles, sans consentement du conducteur et gratuitement, en cas d’accident de la route, les données des dispositifs d’enregistrement de données d’accident et les données d’état de délégation de conduite enregistrées dans la période qui a précédé l’accident, aux officiers et agents de police judiciaire aux fins de détermination des responsabilités ainsi qu’aux organismes chargés de l’enquête technique et de l’enquête de sécurité prévues à l’article L. 1621-2 du code des transports ».

Elle précise également que l’accès « aux données pertinentes des véhicules » doit être permis afin de permettre la correction télématique des défauts de sécurité et l’amélioration de la sécurité des systèmes d’automatisation via « des modalités appropriées ».

Enfin, des mesures devront être adoptées afin de « permettre un accès non discriminatoire aux données pertinentes des véhicules pour le développement des services liés au véhicule de réparation, de maintenance et de contrôle technique automobiles, d’assurance et d’expertise automobiles, etc. »

Si cette seconde rédaction apparaît plus précise, la notion de « données pertinentes » ne fait cependant l’objet d’aucune définition.

Ce texte, voté au Sénat le 2 avril, a été transmis à l’Assemblée nationale. Il fait l’objet d’une procédure législative accélérée.

L’accès aux données des véhicules connectés est un enjeu majeur qu’il s’agisse de faire bénéficier la collectivité des données de mobilité, de protéger les données personnelles des utilisateurs (parfois susceptibles de révéler des informations sensibles) et le secret des affaires des constructeurs ou encore la sécurité des transports routiers (qu’en est-il si l’accès aux données télématiques est détourné à des fins malveillantes et non pour corriger des paramètres de sécurité, etc.). Dès lors, ce projet apparaît comme crucial dans le paysage législatif.

Aurélie Banck
Lexing Conformité RGPD Banque et Assurance

(1) Projet de loi d’orientation des mobilités. Texte n° 157 (2018-2019) de M. François DE RUGY, ministre d’État, ministre de la transition écologique et solidaire et Mme Élisabeth BORNE, ministre chargée des Transports, déposé au Sénat le 26 novembre 2018.
(2) Dans le cadre du projet de révision du règlement sur la sécurité des véhicules, la Commission européenne a proposé que les nouveaux véhicules particuliers soient obligatoirement équipés d’un enregistreur de données d’évènement (d’accident) également appelé Event Data Recorder (pour EDR).




Des véhicules autonomes connectés sur les routes françaises à l’horizon 2022

véhicules autonomes connectés Le projet de loi d’orientation des mobilités (LOM) présenté le 26 novembre en Conseil des ministres encourage les innovations sur les véhicules autonomes connectés (VAC).

Favoriser les véhicules autonomes connectés

La ministre chargée des Transports, Elisabeth Borne et le ministre de l’Écologie François de Rugy viennent de présenter le projet de loi d’orientation des mobilités (LOM) (1). Il vise d’une part à désenclaver les territoires et d’autre part à proposer des alternatives à la voiture.

Les véhicules autonomes connectés sont en bonne place parmi les mesures d’accompagnement du développement de nouvelles solutions de mobilité. Ces derniers rouleront « dans le respect de la Convention de Vienne du 8 novembre 1968, d’ici 2020 à 2022 ».

Rappelons que dans un rapport daté du 14 mai 2018 (2), la France a présenté sa stratégie en matière de véhicules autonomes connectés, marquée par la volonté d’Emmanuel Macron de développer les mobilités urbaines au cours des prochaines années.

Conformément à cette stratégie nationale, le projet de loi habilite le Gouvernement à construire par voie d’ordonnance, un cadre législatif adapté. Cette habilitation est prévue pour que le Gouvernement puisse prendre les mesures relevant du domaine de la loi afin de régir la circulation sur les voies publiques des VAC. Il s’agit de préciser les conditions de circulation de ces véhicules, et notamment le régime de responsabilité applicable, l’ordonnance prise le 3 août 2016 étant limitée à la circulation à titre expérimental de ces véhicules sur les voies publiques (3).

Le nouveau cadre législatif qui sera pris grâce à la loi d’orientation des mobilités devra donc permettre d’ici 2022 la circulation sur les voies publiques en France de voitures « dont les fonctions de conduite sont déléguées partiellement ou totalement à un système de conduite automatisé » (Exposé des motifs du projet LMO).

50M€ affectés aux véhicules autonomes connectés

L’Etat prévoit en outre d’affecter une enveloppe de 50 millions d’euros pour accompagner les innovations, les nouveaux services de mobilité et les véhicules autonomes connectés (Rapport annexé au projet LOM).

Par ailleurs, la ministre chargée des Transports souligne que l’adaptation des infrastructures de transport aux besoins de nouvelles technologies, au-delà des expérimentations et des opérations pilotes, « est un enjeu essentiel pour la performance future des réseaux et l’attractivité de la France ».

En complément, les transports continueront à s’inscrire dans les programmes d’investissement dédiés à l’innovation pour accompagner les développements industriels tels que les véhicules autonomes ainsi que les carburants et énergies alternatifs.

Bâtir un cadre législatif adapté aux véhicules autonomes connectés

Dès 2013, la France a montré son intérêt pour les voitures autonomes (4), un secteur en pleine expansion qui révolutionne le domaine de la mobilité. La loi sur la transition énergétique pour la croissance verte du 17 août 2015 a autorisé les tests des voitures autonomes sur la voie publique (« véhicule à délégation partielle ou totale de conduite ») (5).

L’ordonnance du 3 août 2016 prise en application de cette loi, indique que la circulation à des fins expérimentales d’un véhicule à délégation partielle ou totale de conduite sur une voie ouverte à la circulation publique est subordonnée à la délivrance d’une autorisation destinée à assurer la sécurité du déroulement de l’expérimentation. Le décret du 28 mars 2018 fixe les conditions de délivrance de cette autorisation.

C’est ainsi que de fin 2014 à fin 2017, le ministre chargé des transports a délivré 51 autorisations d’expérimentation (certificats d’immatriculation « W garage ») de véhicules à délégation de conduite dont :

  • 26 concernent des voitures particulières (dont 11 en milieu urbain complexe, caractérisé par une grande diversité des situations de conduite) ;
  • 15 concernent des navettes urbaines ;
  • 10 sont des décisions modificatives afin d’étendre la durée de validité, le périmètre géographique ou le nombre de véhicules concernés par l’expérimentation (Rapport du 14 mai 2018 précité).

Par conséquent, le projet LOM prévoit de réviser le cadre actuel de l’expérimentation pour l’accompagner, au niveau législatif, de dispositions spécifiques en matière de responsabilité pénale.

Clarifier le régime de responsabilité pénale en cas d’accident

Enfin, c’est dans le même esprit que le projet de loi relatif à la croissance et la transformation des entreprises (PACTE) adopté en première lecture par l’Assemblée nationale le 9 octobre 2018 (6) prévoit de clarifier le régime de responsabilité pénale en cas d’accident pendant les expérimentations.

Il contient une disposition qui exonère pénalement le conducteur d’un véhicule autonome des infractions commises pendant les périodes où le système de délégation de conduite, qu’il a activé conformément à ses conditions d’utilisation, est en fonctionnement (art. 43 du projet de loi PACTE).

On espère que le cadre législatif sera prochainement adapté afin de ne pas freiner les expérimentations, point de passage obligé au développement « sûr » des VAC.

Toutefois, rien n’est moins sûr.

Dans un avis du 15 novembre 2018 (7), le Conseil d’Etat rappelle que le cadre réglementaire est régi par la convention de Vienne sur la circulation routière du 8 novembre 1968. Il attire l’attention du Gouvernement sur le fait que les futures dispositions à prendre par ordonnance, « ne pourront entrer en vigueur qu’après la révision de la convention sur la circulation routière (…) qui pourra seule permettre la circulation de véhicules hautement automatisés sur les voies publiques ».

Cette dernière a certes été modifiée en 2016 mais dans des termes sujets à interprétation ne permettant pas la circulation de véhicules totalement autonomes, c’est-à-dire sans « conducteur-superviseur » à bord…

Isabelle Pottier
Directrice Études et Publications

(1) Projet de loi d’orientation des mobilités (TRET1821032L), Dossier législatif.
(2) Rapport « Développement du véhicule automatisé : Orientations stratégiques pour l’action publique », DICOM-DGITM/B/18029, Mai 2018.
(3) Ordonnance 2016-1057 du 3 août 2016 relative à l’expérimentation de véhicules à délégation de conduite sur les voies publiques.
(4) « 34 plans de la Nouvelle France Industrielle (NFI) » du 12 septembre 2013, plan « véhicules autonomes ».
(5) Loi 2015-992 du 17 août 2015 sur la transition énergétique pour la croissance verte, art. 37 IX.
(6) Projet de loi relatif à la croissance et la transformation des entreprises (ECOT1810669L) adopté par l’Assemblée nationale la 10 octobre 2018 après engagement de la procédure accélérée.
(7) CE, Avis n° 395.539 du 15 novembre 2018 sur le projet de loi d’orientation des mobilités.




Vivre avec les robots : vers un néohumanisme artificiel

vivre avec les robotsVivre avec les robots : vers un néohumanisme artificiel est le dernier thème abordé par Alain Bensoussan

sur son blog du figaro.fr

Les capacités grandissantes des robots les amènent aujourd’hui à véritablement collaborer avec les hommes. Dans le cadre de cette nouvelle « robothumanité », les humains doivent apprendre à vivre et à survire aux côtés des robots, d’où l’impératif de doter ceux-ci d’une personnalité juridique autonome, au regard notamment des avancées phénoménales de l’intelligence artificielle.

Une chose est sûre : sachant lire et écrire, réfléchir et analyser, ces robots auto-apprenants, en passe demain d’acquérir une autonomie au plan énergétique, deviendront inéluctablement une nouvelle espèce au sens darwinien du terme : l’espèce-robot. Bienvenue dans le « néohumanisme artificiel ».

D’une certaine façon, le monde des robots est déjà le nôtre. Grâce aux technologies robotiques, l’émergence de ces nouveaux « êtres » est en passe de devenir une réalité. Intelligence artificielle oblige, les robots sont aujourd’hui beaucoup plus que de simples automates.

Qu’il faille s’en inquiéter ou s’en réjouir, les questions d’ordre éthique et juridique sont majeures, et les défis à relever immenses, dans le cadre de ce que nous avons appelé la « robothumanité »[1]…

Lire la suite sur le blog expert « Droit des technologies avancées » du Figaro : A. Bensoussan, « Vivre avec les robots : vers un néohumanisme artificiel  », le 1er août 2018.

[1] Alain et Jérémy Bensoussan, Droit des robots, Larcier, 1ère éd., 2015 ; Alain Bensoussan, Le droit des robots ? Quelle est l’autonomie de décision d’une machine ? Quelle protection mérite-t-elle ?, Vers de nouvelles humanités ? L’humanisme juridique face aux nouvelles technologies, (Archives de philosophie du droit n° 59), Dalloz, 2017 pp.165-174 ; Alain Bensoussan, La personne-robot : provocation juridique ou innovation politique ? LeFigaro.fr, 3 novembre 2017.




Mise en circulation expérimentale des véhicules autonomes en France

circulation expérimentale des véhicules autonomesL’autorisation de circulation expérimentale des véhicules autonomes, dits à délégation de conduite, ses conditions de délivrance et ses modalités de mise en œuvre viennent d’être fixées par un décret du 28 mars 2018 (1).

Hasard du calendrier législatif, ce décret est publié quelques jours après l’accident mortel qui a impliqué un véhicule autonome en Arizona et dont la presse s’est très largement fait l’écho.

Circulation expérimentale des véhicules autonomes sous condition

Prévue par l’article 1er de l’ordonnance n° 2016-1057 du 3 août 2016 relative à l’expérimentation de véhicules à délégation de conduite sur les voies ouvertes à la circulation publique, l’autorisation de mise en circulation expérimentale des véhicules autonomes est délivrée à des conditions et selon des modalités que le décret prévoit, conformément à l’article 3 de l’ordonnance.

Les véhicules concernés par l’autorisation peuvent circuler sur des voies ouvertes à la circulation publique sous couvert d’un titre provisoire de circulation spécifique qui s’ajoute au nombre de ceux actuellement prévus par l’article R. 322-3 du Code de la route.

Pour les véhicules affectés au service de transport public de personnes ou de marchandises, le décret procède à des adaptations des articles R. 3113-10 et R. 3211-12 du Code des transports. Ces adaptations permettent de simplifier l’inscription aux registres des transporteurs (de personnes ou de marchandises) des entreprises souhaitant faire l’expérimentation d’un service de transport composé uniquement de véhicules à délégation de conduite.

Ce décret constitue une étape réglementaire majeure vers le déploiement de technologies automobiles automatisées qui seront la prochaine révolution dans le domaine de la mobilité.

Circulation expérimentale des véhicules autonomes sous contrôle

Pour l’heure, le conducteur de ce type de véhicule expérimental pourra se mettre en délégation d’autonomie, mais il devra rester en position de conduite. Le décret prévoit en effet que le conducteur doit être « à tout instant en capacité de prendre le contrôle du véhicule, notamment en cas d’urgence ou lorsque le véhicule sort des conditions d’utilisation définies pour l’expérimentation« .

Ainsi que le signalait Alain Bensoussan à propos d’un précédent accident impliquant une Tesla en janvier 2018, « Vous n’avez pas le droit de vous mettre à jouer aux cartes. Il faut qu’il puisse y avoir une reprise en main à tout moment » (3).

« Il faut que le conducteur soit toujours présent, en état de vigilance, derrière le volant » précisait-il à la suite de l’accident survenu en Arizona le 19 mars dernier (4).

A noter que depuis cet accident mortel, les autorités de l’Arizona ont suspendu l’autorisation d’Uber de tester des véhicules autonomes sur les routes de cet Etat, dont la législation est pourtant l’une des plus souples en la matière (5).

Uber a par ailleurs décidé de mettre fin à ses tests de voitures autonomes en Californie à la suite de cet accident.

Enfin, loi des séries, un accident mortel impliquant une voiture Tesla semi-automatique s’est produit le 23 mars dernier près de Moutain View (Californie), provoquant la mort du conducteur (6).

En France, le décret du 28 mars dernier prévoit que « les véhicules sont équipés d’un dispositif d’enregistrement permettant de déterminer à tout instant si le véhicule a circulé en mode de délégation partielle ou totale de conduite. Les données sont automatiquement et régulièrement effacées » et qu’en cas d’accident « les données enregistrées au cours des dernières cinq minutes sont conservées par le titulaire de l’autorisation durant un an« .

L’expérimentation donnera lieu à un suivi et à un bilan dont les modalités seront définies ultérieurement par un arrêté conjoint du ministre de l’Intérieur et du ministre chargé des Transports.

Isabelle Pottier
Directrice Études et Publications

(1) Décret n° 2018-211 du 28 mars 2018 relatif à l’expérimentation de véhicules à délégation de conduite sur les voies publiques (JO du 30-03-2018)
(2) Ordonnance n° 2016-1057 du 3 août 2016 relative à l’expérimentation de véhicules à délégation de conduite sur les voies publiques (JO du 05-08-2016)
(3) « Avec la voiture autonome, la fin des accidents ? », Interview BFMTV du 10-01-2018.
(4) « Loi, responsabilité, éthique: la voiture autonome en questions », Le Point Dépêche AFP du 20-03-2018.
(5) « L’Arizona interdit à Uber de faire rouler des voitures autonomes », San Francisco Dépêche AFP du 27-03-2018.
(6) Thomas Baritaud , « Tesla : une enquête ouverte après un accident mortel« , Challenges.fr le 28 mars 2018.




Systèmes de transports intelligents : stratégie française

Systèmes de transports intelligents : stratégie françaiseLe développement des systèmes de transports intelligents ne pourra pas se faire sans un rôle décisif de l’Etat.

En effet, face à l’évolution rapide des technologies nécessaires aux systèmes de transports intelligent) et en particulier à la voiture autonome, les obstacles sont encore majoritairement d’ordre réglementaire mais aussi d’ordre éthique (acceptabilité sociale des citoyens).

C’est la position de la Cour des comptes qui vient de rendre public un référé sur l’action de l’Etat pour le développement des systèmes de transports intelligents. Si pour la Cour des comptes, l’Etat n’est pas fondé à se substituer aux acteurs privés pour le financement de telle ou telle filière industrielle, il n’en demeure pas moins que l’Etat devrait « imposer l’ouverture la plus large des données de transport et favoriser le développement des voitures autonomes, notamment en autorisant sans délai leur essai à grande échelle sur la voie publique » (1).

La Cour des comptes formule quatre recommandations pour lever les obstacles et favoriser le développement des systèmes de transports intelligents.

Elle préconise la désignation d’un chef de file des systèmes de transports intelligents pour une véritable stratégie et pour la coordination des actions de l’Etat (Recommandation 1).

Pour justifier cette première recommandation, la Cour des comptes rappelle que « l’Etat est un acteur très minoritaire de la route » et souligne le mille feuille résultant du nombre d’autorités organisatrices des transports (400 autorités), chacune mettant en oeuvre sa propre stratégie de développement. La Cour des comptes pointe également les politiques sectorisées de ministères souvent contradictoires entre elles.

La Cour des comptes recommande ensuite un renforcement de la stratégie de développement des systèmes de transports intelligents (Recommandation 2). Elle met en exergue pour appuyer cette recommandation :

  • l’abandon du calculateur national multimodal qui avait pour objet l’unification des informations et de la billettique de différents modes de transports ;
  • la nécessité de favoriser l’accès des citoyens aux transports afin de réduire les inégalités entre citoyens selon qu’ils sont situés en territoires périurbains ou en territoires à faible densité de transports publics ;
  • l’ouverture plus grande des données publiques de transport et la nécessité de définir des conditions claires pour l’homologation de mesures dérogatoires d’accès aux données publiques.

La Cour des comptes recommande également pour un développement des véhicules autonomes, l’adoption par l’Etat, d’une autorisation sans délai d’essais à grande échelle sur la voie publique de véhicules autonomes (Recommandation 3).

Enfin, elle propose d’inclure les véhicules autonomes dans la stratégie du fret (Recommandation 4).

Dans sa lettre adressée au Premier président de la Cour des comptes, le Premier ministre a fait part de ses observations sur le référé relatif à l’action de l’Etat de la Cour des comptes le 26 avril 2016 (2).

Les observations du Premier ministre sur les quatre recommandations sont les suivantes :

Le renforcement de la stratégie de l’Etat : l’Agence française pour l’information multimodale et la billettique (AFIMB) devrait élaborer prochainement une grille d’analyse des protocoles dérogatoires aux dispositions légales résultant notamment de l’article L. 1115-1 du Code des transports qui a créé un régime d’ouverture spécifique à certaines données de transport.

L’autorisation de développement d’essai à grande échelle des véhicules autonomes sur la voie publique :

  • l’ordonnance qui doit être prise en application de l’article 37 de la loi relative à la transition énergétique devra être publiée avant la mi-août 2016 et – sera complétée par des actes réglementaires ;
  • l’ordonnance devrait instituer un type de dérogation prévoyant une « procédure détaillée et un registre permanent » : les tests de voitures autonomes après la mi-août 2016 resteront donc soumise à un régime de dérogations et ne seront donc pas largement autorisés comme le recommandait la Cour des comptes.

L’ouverture plus grande des tests en circulation réelle des voitures autonomes implique de prendre en compte également la question de l’assurance. Pour les assureurs, certains y voient de nouvelles opportunités tandis que d’autres y voient une modification du champ de l’assurance automobile. Les assureurs sont-ils capables de s’adapter et de proposer un nouveau contrat pour le véhicule autonome ? Les pistes de réflexion sont nombreuses et aucune ne semble aujourd’hui avoir une préférence :

  • la première piste est celle d’une déresponsabilisation du conducteur/passager et la conclusion d’un contrat ayant pour objet le véhicule et non plus le conducteur/passager. Cette option semble nécessiter pour les assureurs l’installation de boîtes noires dans les voitures autonomes ;
  • la seconde piste semble vouloir s’approcher de ce qui existe déjà pour l’aviation avec une indemnisation systématique en cas de survenance d’un dommage ;
  • le contrat d’assurance pourrait aussi glisser du conducteur/passager vers le constructeur du véhicule, avec l’obligation pour le constructeur de garantir le comportement du véhicule dans les situations à risques les plus prévisibles.

L’intégration des véhicules autonomes dans la politique de développement du fret : le plan d’action « Mobilité 3.0 » devrait permettre de « mieux structurer les acteurs », ainsi que « la stratégie France Logistique 2025 ».

La veille internationale en matière de systèmes de transports intelligents : le Premier ministre considère « utile de mieux formaliser cette veille, de la professionnaliser et de la rendre plus visible ».

Les Etats-Unis sont actuellement le pays le plus progressiste dans le domaine des tests de véhicules autonomes. Pour les experts américains, « l’absence de directives fédérales concernant les tests et la certification des véhicules autonomes » pourrait faire perdre sa place de leader aux Etats-Unis.

L’adoption par la France d’un cadre juridique concernant les tests des véhicules autonomes en circulation réelle pourrait lui permettre de conserver sa place et de rattraper son retard.

L’absence d’une cadre juridique clair concernant les tests de véhicules autonomes en circulation réelle adossé à un cadre assurantiel adapté serait en effet de nature à permettre aux constructeurs de procéder à des tests crédibles, leur permettant de concevoir des véhicules autonomes adaptée à la future mobilité 3.0 et aux pouvoirs publics d’atteindre les objectifs environnementaux identifiés dans l’étude d’impact du projet de loi relatif à la transition énergétique pour la croissante verte de réduction de l’insécurité routière, des congestions et des disparités de desserte et d’amélioration dans l’accès à la mobilité et dans la qualité de vie.

Didier Gazagne
Lexing Risques, Intelligence économique, Technologies de sécurité et de défense

(1) Cour des Comptes, Enquête sur l’action de l’Etat pour le développement des transports intelligents du 19-2-2016.
(2) Cour des comptes, Référé sur l’action de l’Etat pour le développement des systèmes de transport intelligent du 26-4-2016.