L’IA, une régulation de rupture selon un principe général de neutralité

régulation de ruptureA l’occasion de la 2ème édition du salon AI Paris, Alain Bensoussan est intervenu le 12 juin 2018 sur les enjeux de construction d’un cadre juridique adapté à l’intelligence artificielle.

Selon Alain Bensoussan, « Les bâtisseurs de demain sont les codeurs. Le béton virtuel est la solution pour organiser la nouvelle civilisation que j’ai appelée la robothumanité ».

Selon lui, la responsabilité des codeurs est immense car les risques d’algorithmes malfaisants sont déjà réels (espionnage, chatbot discriminant, véhicule autonome défaillant, etc.). Il faut qu’on puisse avancer avec prudence et sur la base de mesures d’impact. Alain Bensoussan prône donc la nécessité de mettre en place « une régulation de rupture » selon un principe général de neutralité.

Une régulation de rupture

Le droit classique est en effet inadapté, d’où la nécessité de penser, un nouveau droit. « La régulation classique est en train d’imploser, car les IA sont autonomes grâce à leur fonction d’apprentissage » (deep learning et réseaux neuronaux).

Selon Alain Bensoussan, dans une société en pleine révolution technologique, il convient de transposer à l’IA l’article premier de la loi informatique et liberté qui prône depuis 1978 que « l’informatique doit être au service de chaque citoyen ».

Une gouvernance à vocation universelle devra être adoptée pour permettre un développement de l’intelligence artificielle (IA) qui bénéficie à tous.

Liberté, sécurité et dignité

« L’enjeu de cette régulation de rupture est la liberté avant tout, puis la sécurité et la dignité ».

Les IA devront nécessairement être soumises à des règles éthiques, nonobstant l’émergence d’un nouveau cadre juridique prenant en compte l’autonomie de décision et d’action du robot par rapport aux êtres humains, y compris le concepteur de la plateforme d’intelligence artificielle.

Selon Alain Bensoussan, il faut dès aujourd’hui créer une culture du code éthique by design et responsabiliser les créateurs de solutions d’IA.

A. Moreaux, «Le droit s’impose au salon de l’IA»,  Affiches Parisiennes, 15 juin 2018.
H. Pellegrin, «AI Paris : Alain Bensoussan alerte sur les enjeux de régulation de l’intelligence artificielle», TOM.travel, 13 juin 2018.




Intelligences artificielles, Robotique et droit : quelles perspectives ?

Intelligences artificiellesLe cabinet a organisé le 21 mars 2018 un petit-déjeuner débat intitulé « Intelligences artificielles, robotique et droit : quelles perspectives ? » animé par Jérémy Bensoussan.

Les intelligences artificielles sont faites de paradoxes :

  • leur impact toujours plus grand sur le monde se fait de manière silencieuse, parfois presque indolore ;
  • vecteur majeur de ledearship technologique et stratégique des États, elles sont néanmoins au centre de certaines préoccupations des pouvoirs publics (#FranceIA) ;
  • synonyme de progrès, elles peuvent dans le même temps conduire à une perte de contrôle humain, ce qu’illustre parfaitement la voiture autonome.

Dans ce contexte, le droit à vocation à jouer son rôle de régulation. Les initiatives sont plurales mais déjà concrètes et actuelles. L’intervenant a proposé aux participants de les envisager ensemble.

Le petit-déjeuner débat s’est déroulé de 9h30 à 11h00 dans nos locaux, 58 boulevard Gouvion-Saint-Cyr, 75017 Paris.

Inscriptions closes.




2e édition de TechnoLex : la disruption digitale et le droit

2e édition de TechnoLex : la disruption digitale et le droitLa seconde édition de TechnoLex aura lieu au Collège des Bernardins le 29 novembre 2017 sur le thème « Disruption digitale et droit ».

Après une première édition couronnée de succès en novembre 2016, la seconde édition de TechnoLex se déroulera au Collège des Bernardins (75005 Paris), le mercredi 29 novembre 2017, sur le thème « Disruption digitale et droit : convaincre, rassurer, réussir ».

Cette journée dédiée aux enjeux couplés de la technologie et du droit, organisée par le Groupe Serda Archimag avec la coopération scientifique du cabinet Lexing Alain Bensoussan Avocats, se veut plus que jamais le rendez-vous incontournable des entrepreneurs, professionnels et acteurs des secteurs du numérique et du droit.

Disruption digitale et droit : 4 ateliers, 2 séances plénières, 7h de formation et plus de 30 intervenants

Rupture digitale oblige, l’usage massif des technologies numériques révolutionne l’environnement des entreprises, accélère leur transition digitale et les incite à dématérialiser, adopter le document intelligent, le big data, les objets connectés ou encore les robots et l’intelligence artificielle. Les directions des Systèmes d’information, les directions du Digital et du Numérique ont besoin de réponses claires quant aux conséquences de l’adoption des technologies du futur.

Une chose est certaine : les acteurs réfléchissent aux opportunités sans commune mesure qu’offrent les technologies numériques en termes de business et de développement, tout en devant répondre aux nouveaux environnements légaux.

Rejoignez-nous pour cette nouvelle édition de TechnoLex, point de rencontre, d’échange et de networking entre les différents acteurs du secteur impliqués dans des démarches disruptives.

Sous la direction de :

  • Louise Guerre, Directrice Générale ;
  • Alain Bensousan, Directeur Scientifique.

Premiers intervenants :

  • Jérémy Bensoussan, Avocat, directeur du département Droit des technologies robotiques, Lexing Alain  Bensoussan  Avocats ;
  • Polyanna Bigle, Avocate, directrice du département Sécurité numérique, Lexing Alain  Bensoussan  Avocats ;
  • Charles du Boullay, CDC Arkhinéo (Caisse des Dépôts) ;
  • Ghislaine Chartron, Professeure en Sciences de l’information et de la communication, titulaire de la Chaire d’Ingénierie Documentaire, Conservatoire national des arts et métiers (CNAM) ;
  • Alexandre Cassart, Avocat, Lexing Belgique, auteur de l’ouvrage « Droit des drones » (Larcier) ;
  • Anthony Coquer, Adjoint au Directeur Sûreté, Keolis ;
  • Michel Cottin, Records Manager, RATP ;
  • Frédéric Forster, Avocat, directeur du Pôle Télécoms, Lexing Alain Bensoussan Avocats ;
  • Hélène Legras, Correspondant Informatique et Libertés / Data Protection Officer des sociétés du groupe New AREVA Holding, Vice-Présidente de l’ADPO ;
  • Pierre Fuzeau, Directeur général du Groupe Serda-Archimag ;
  • Fabien Gandrille, DPO, SCOR
  • Didier Gazagne, Avocat, directeur de la Business Unit Défense & Sécurité – Drones – Risque, Lexing Alain Bensoussan Avocats ;
  • Armand Heslot, Ingénieur-expert au service de l’expertise technologique, Cnil ;
  • Rodolphe Hasselvander, CEO de Blue Frog Robotics ;
  • Marc Mossé, Senior Director Government Affairs, Associate General Counsel, Microsoft EMEA ;
  • Julia Petrelluzzi, Ph. D Student Droit et intelligence artificielle ;
  • Sarah Piot, Correspondant Informatique et Libertés, AAA-Data ;
  • Nathalie Plouviet, Avocate, directrice du Département IoT, Lexing Alain Bensoussan Avocats ;
  • Thomas Sabatier, CEO, The Chatbot Factory ;
  • Henry Seydoux, PDG, Parrot ;
  • Marie Soulez, Avocate, directrice du département Propriété Intellectuelle Contentieux, Lexing Alain Bensoussan Avocats ;
  • Benoît Berson, PDG, Néopost ;
  • Chloé Torres, Avocate, directrice du Département Informatique et libertés, Lexing Alain Bensoussan Avocats.

Programme :

  • Atelier 2 : Vivre et travailler avec les chatbots (9h30-10H45) ;
  • Atelier 3 : Vivre et travailler sans papier (11h15-12H30) ;Collège des Bernardins
  • Atelier 4 : Vivre et travailler avec les objets connectés intelligents (11h15-12H30) ;
  • 12h30-14h00 : Déjeuner ;
  • Plénière n°1 : Robots & drones (14h15-15h30) ;
  • Plénière n°2 : IA et régulation des agents intelligents (15h50-16h50) ;
  • 16h50 : Cocktail de clôture ;
  • 17h30 : Fin.

Pour plus de précisions :

https://technolex.eu/programme-technolex.html

Lieu :

Collège des Bernardins
20, rue de Poissy
75005 Paris

Renseignements :

Eric Bonnet
eric.bonnet@lexing.law / 06 74 40 72 01




Exosquelettes : l’obligation de sécurité de l’employeur

Exosquelettes : l’obligation de sécurité

Introduction dans l’usine du futur des exosquelettes : l’obligation de sécurité est à la charge de l’employeur. Or nombreuses sont les applications industrielles des exosquelettes qui sont développées. Considérée comme un vecteur à la modernisation du secteur industriel, l’usine du futur, ou autrement nommée « usine 4.0 », offre une approche globale et transversale des outils de production (1). Elle devient connectée voire intelligente. Dans l’usine du futur, seront mis en place, entre autres, de nombreux robots, cobots et exosquelettes.

Un exosquelette peut être défini comme une carapace articulée et motorisée dont un être humain peut s’équiper pour démultiplier ses forces et porter des poids élevés (plusieurs dizaines de kilos) ou parcourir des distances importantes avec moins de fatigue (2).

Les enjeux juridiques liés à l’introduction d’exosquelettes au sein des usines et entreprises sont nombreux et l’obligation de sécurité à la charge de l’employeur en fait partie. Outre le principe de sécurité, l’introduction des exosquelettes au sein d’une entreprise pose la question de la conformité des équipements de travail.

Exosquelettes : l’obligation de sécurité, un principe

En effet, les dispositions du Code du travail s’appliquent dans le cadre de l’utilisation des exosquelettes. Ainsi, l’employeur devra prendre les mesures nécessaires pour assurer la sécurité et protéger la santé physique et mentale de ses salariés (C. du travail, art. L. 4121-1).
Les mesures de sécurité s’appliquent aux travailleurs au sens de salariés, y compris temporaires, et les stagiaires, ainsi que toute personne placée à quelque titre que ce soit sous l’autorité de l’employeur (C. du travail, art. L. 4111-5).

Ces mesures de sécurité que doit prendre l’employeur concernant l’utilisation des exosquelettes comprennent notamment des actions de prévention des risques professionnels liés à l’utilisation des exosquelettes, des actions d’information et de formation, la mise en place d’une organisation et de moyens adaptés pour assurer une utilisation sécurisée des exosquelettes. En effet, il faut rappeler que le travailleur est en contact direct avec l’exosquelette dont l’objet est d’apporter une assistance à l’être humain qui le manipule.

Exosquelettes : l’obligation de sécurité et la conformité des équipements de travail

Le fabricant ou le concepteur d’équipements de travail doit respecter des exigences essentielles de santé et de sécurité. Les équipements de travail sont définis comme les machines, appareils, outils, engins, matériels et installations (C. du travail, art. L. 4311-2). Les exosquelettes peuvent dès lors être considérés comme des équipements de travail.

La très grande majorité des équipements de travail entrent dans le champ d’application de la directive dite « Machines » (3) qui fixe des exigences de santé sécurité à un haut niveau, et s’applique aussi bien à des machines professionnelles qu’à des machines destinées aux non professionnels.

Un exosquelette peut être qualifié de machine au sens de la directive « Machines » dans la mesure où il répond aux critères de la définition fixée à l’article 2 :

  • ensemble ;
  • composé de pièces ou d’organes liés entre eux ;
  • dont au moins une pièce ou un organe est mobile ;
  • équipé ou destiné à être équipé d’un système d’entraînement ;
  • autre que la force humaine ou animale appliquée directement ;
  • réunis de façon solidaire en vue d’une application définie.

La notion de machine semble donc être une qualification adaptée pour les exosquelettes, sous réserve des particularités propres à chaque exosquelette.

Exosquelettes : l’obligation de sécurité et la directive « Machines »

Les obligations imposées par la directive « Machines » et reprises au sein du Code du travail aux articles L.4311-1 et suivants, s’imposent au fabricant ou à son mandataire pour la mise sur le marché et la mise en service.

Cependant, l’employeur souhaitant installer des exosquelettes au sein de ses usines est également soumis à certaines obligations relatives aux équipements de travail.

L’employeur utilisant des exosquelettes est tenu de prendre les mesures nécessaires afin que les équipements de travail mis à la disposition des travailleurs dans l’entreprise soient appropriés au travail à réaliser ou convenablement adaptés à cet effet, permettant d’assurer la sécurité et la santé des travailleurs lors de l’utilisation de ces équipements de travail.

Dès lors, l’employeur doit porter son attention sur :

  • l’acquisition : lorsqu’il acquiert des exosquelettes, l’employeur doit vérifier qu’ils sont conformes au référentiel technique applicable, notamment en s’assurant de la présence du marquage CE ;
  • la maintenance : l’employeur doit assurer une maintenance adéquate des exosquelettes.

Exosquelettes : l’obligation de sécurité face à la non-conformité

Il est ainsi prévu que l’employeur souhaitant introduire des exosquelettes dans son entreprise qui a été livré dans des conditions non conformes peut, nonobstant toute clause contraire, demander la résolution de la vente ou du bail dans le délai d’une année à compter du jour de la livraison. Le tribunal qui prononce cette résolution peut accorder des dommages et intérêts à l’acheteur ou au locataire (C. du travail, art. L. 4311-5).

Lexing Alain Bensoussan Avocats
Lexing Droit Informatique Conseil

(1) Technologies clés 2020 : préparer l’industrie du futur, DGE (Direction générale des entreprises), Ministère de l’économie, de l’industrie et du numérique, 5ème éd. 2016.
(2) Éthique de la recherche en robotique, rapport n° 1 de la Cerna (Commission de réflexion sur l’Éthique de la Recherche en sciences et technologies du Numérique d’Allistene), nov. 2014.
(3) Dir. 2006/42/CE du Parlement européen et du Conseil du 17-5-2006 relative aux machines et modifiant la directive 95/16/CE (version consolidée).

 




Pas d’ exosquelettes dans l’usine du futur sans les IRP

exosquelettes dans l’usine du futurL’introduction des exosquelettes dans l’usine du futur nécessite la consultation préalable par l’employeur des IRP, instances représentatives du personnel. Or dans le contexte du développement de l’usine du futur, les exosquelettes sont au cœur de la modernisation du système de production.

Exosquelettes dans l’usine du futur : un nouveau défi

Un exosquelette peut être défini comme une carapace articulée et motorisée dont un être humain peut s’équiper pour démultiplier ses forces et porter des poids élevés (plusieurs dizaines de kilos) ou parcourir des distances importantes avec moins de fatigue (1).

Permettant de maintenir plus longtemps en poste des salariés spécialisés et réduisant la pénibilité inhérente à certains métiers, les exosquelettes sont prévus déjà dans certaines entreprises, comme c’est le cas sur les chantiers de Bouygues, le groupe de bâtiment et travaux publics, en 2018-2020 (2).

On comprend donc tout l’intérêt que présentent les exosquelettes pour un employeur. C’est ainsi que le groupe Areva NP, qui réalise la maintenance des centrales nucléaires, a mené une campagne d’essais d’exosquelettes entre janvier et juin 2016 dans son établissement de Chalon-sur-Saône. A cette occasion la démarche a été validée par les instances représentatives du personnel (3).

Ainsi, l’introduction d’exosquelettes au sein des usines et entreprises comporte des enjeux juridiques qui doivent être appréhendés par l’employeur le plus en amont possible, dès le stade du projet. Dès lors, il est important de déterminer quelles sont les actions que doit mener l’entreprise pour mettre en œuvre un tel projet.

Exosquelettes dans l’usine du futur : les acteurs de la consultation

L’introduction d’exosquelettes au sein d’une entreprise est susceptible de créer des obligations pour l’entreprise qui poursuit ce projet vis-à-vis notamment des institutions représentatives du personnel.

Tout d’abord, vis-à-vis du comité d’entreprise, lorsque l’entreprise envisage de mettre en œuvre un projet important d’introduction de nouvelles technologies, lorsque celles-ci sont susceptibles d’avoir des conséquences sur l’emploi, la qualification, la rémunération, la formation ou les conditions de travail, le comité d’entreprise doit être préalablement informé et consulté sur l’ensemble du projet par application des dispositions de l’article L. 2323-29 du Code du travail.

De même, l’article L. 2323-30 du Code du travail dispose que « lorsque l’employeur envisage de mettre en œuvre des mutations technologiques importantes et rapides, il établit un plan d’adaptation. Ce plan est transmis, pour information et consultation, au comité d’entreprise en même temps que les autres éléments d’information relatifs à l’introduction de nouvelles technologies ».

Le plan de formation contient et fixe les mesures de formation permettant aux salariés de maîtriser leurs nouveaux outils de travail et de s’adapter parfaitement au nouvel environnement informatique.

Le non-respect de ces dispositions constitue le délit d’entrave prévu à l’article L. 2328-1 du Code du travail et est sanctionné par une amende de 7 500 €.

Par application des dispositions du premier alinéa de l’article L. 4612-9 du Code du travail, le comité d’hygiène, de sécurité et des conditions de travail est également consulté sur le projet d’introduction et lors de l’introduction de nouvelles technologies. Dans les entreprises dépourvues de comité d’hygiène, de sécurité et des conditions de travail, les délégués du personnel ou, à défaut, les salariés sont consultés.

A titre liminaire, il convient donc de déterminer si le projet d’introduire des exosquelettes dans une entreprise entre dans le champ d’application de ces dispositions légales. Pour se faire, il faut définir les technologies concernées sur lesquelles porte le projet, d’une part, et les conséquences sociales dudit projet, d’autre part, en déterminant si le projet en question :

  • porte sur une « nouvelle technologie » ;
  • doit être qualifié de projet « important ».
Exosquelettes dans l’usine du futur : une « nouvelle technologie au sens de l’article L.2323-29 du Code du travail ?

La notion de « nouvelles technologies » n’est pas légalement définie. Selon l’administration (4), les « nouvelles technologies » doivent être entendues dans le sens le plus large, à savoir toute mesure d’automatisation, d’informatisation, de robotisation affectant les méthodes de gestion, de fabrication ou de production.

Une nouvelle technologie n’est pas nécessairement une technologie qui était auparavant inconnue ou qui n’a jamais été mise en œuvre.

Cette notion s’entend aussi de l’introduction d’une technologie différente dans l’entreprise, même lorsque cette technologie est largement répandue dans le secteur d’activité concerné et dans le reste de l’économie.

Au vu de ce qui précède, l’appréciation de la notion de « nouvelle technologie » doit se faire de façon concrète, c’est-à-dire par référence à l’entreprise dans laquelle les nouvelles technologies s’appliquent, et non de manière générale (5). Toutefois, la technologie des exosquelettes étant relativement récente, il est fort probable que leur introduction dans les usines du futur puisse être considérée comme une « nouvelle technologie ».

Exosquelettes dans l’usine du futur : un projet important ?

La notion de « projet important » n’est pas non plus définie par les textes. Selon l’Administration, il doit s’agir d’un projet qui doit être suffisamment élaboré. Une esquisse, les propositions d’un bureau d’études ne sont pas assimilables à un projet qui doit être suffisamment élaboré.

Pour la jurisprudence, l’importance du projet s’apprécie en fonction des modifications que le projet apporte dans l’organisation et la marche de l’entreprise et de ses conséquences sur la situation du personnel (6).

Est considéré comme constituant un projet important l’installation d’un nouveau système informatique plus moderne et mieux adapté affectant six cent postes de travail et impliquant une nouvelle formation (7).

En conclusion, il pourrait donc être opportun de réaliser une étude, au préalable, un audit de l’environnement technologique existant dans l’entreprise afin de déterminer les conséquences sociales de l’introduction d’exosquelettes. Les personnes habilitées dans l’entreprise à évaluer de façon efficace l’importance du projet sont le Directeur des systèmes d’information et le Directeur des ressources humaines. En effet, ils pourront identifier quelles seront les conséquences sur la marche et l’organisation de l’entreprise pour le DSI et sur les conditions de travail pour le DRH.

Lexing Alain Bensoussan Avocats
Lexing Droit Informatique Conseil

(1) Éthique de la recherche en robotique, rapport n° 1 de la Cerna (Commission de réflexion sur l’Éthique de la Recherche en sciences et technologies du Numérique d’Allistene), nov. 2014.
(2) Bouygues : “des exosquelettes sur nos chantiers en 2018-2020” : La revue du digital, 20-1-2016.
(3) Dossier : « La prévention 2.0, Prendre les TMS à bras-le-corps« , Revue Travail et sécurité, n°777, nov. 2016.
(4) Circulaire DRT n° 1984/12 du 30-11-1984 portant l’application des dispositions concernant le comité d’entreprise dans la loi n° 82-915 du 28-101982 relative au développement des institutions représentatives du personnel
(5) CA Colmar 16-1-1985 : Dr. ouvrier 1985 p. 169 note F. S.
(6) Cass. soc. 3 mai 1994 : RJS 10/94 nº 1148.
(7) Cass. soc. 28 octobre 1996 : RJS 2/97 n° 160.




Débat sur France 24 : robots, les travailleurs de demain ?

Débat sur France 24 : robots, les travailleurs de demain ?France 24 a diffusé, les 9 et 10 avril, un débat sur le droit des robots réunissant Jérémy Bensoussan et Mady Delvaux.

Les robots sont aujourd’hui beaucoup plus que de simples automates : leurs capacités grandissantes les amènent à véritablement collaborer avec les hommes. Faut-il s’en inquiéter ou s’en réjouir ? Une chose est certaine : les questions d’ordre éthique et juridique sont majeures, et les défis à relever immenses.

Mady Delvaux et Renate WeberC’est à partir de ce constat que France 24 avait organisé un débat intitulé « Robots, les travailleurs de demain ?», dans le cadre de l’émission Ici l’Europe, animée par la journaliste Caroline de Camaret.

Outre Jérémy Bensoussan, Directeur du département Technologies robotiques du cabinet Alain Bensoussan Avocats Lexing, celui-ci réunissait l’eurodéputée luxembourgeoise Mady Delvaux, rapporteure du texte examiné le 16 février dernier par le Parlement européen (1), et Renate Weber, eurodeputée roumaine.

Aux termes d’une résolution votée le 16 février 2017 et contenant des « recommandations à la Commission concernant des règles de droit civil sur la robotique » (2), le Parlement européen a demandé expressément à la Commission européenne de :

  • présenter une proposition de directive sur des règles de droit civil sur la robotique ;
  • intégrant la création, à terme, d’une personnalité juridique spécifique aux robots, « pour qu’au moins les robots autonomes les plus sophistiqués puissent être considérés comme des personnes électroniques responsables » et que soit conférée « la personnalité électronique à tout robot qui prend des décisions autonomes ou qui interagit de manière indépendante avec des tiers ».

Il s’agit incontestablement d’une étape majeure, qui est franchie, vers un encadrement juridique de la robotique, qu’appellent de leurs vœux Alain Bensoussan et Jérémy Bensoussan, coauteurs de l’ouvrage « Droit des robots » (3).

Jérémy BensoussanFaut-il créer un statut particulier propre à cette nouvelle génération de robots ? « Oui », a répondu à cette occasion Jérémy Bensoussan, « ceci afin d’éviter d’avoir à trancher un débat qui consisterait à savoir si les robots sont des « humains moins » ou des « objets plus » : l’idée est de trancher cette fausse question précisément en créant un statut singulier propre aux robots ».

S’agissant de l’idée émise par certains de taxer les robots – notamment, en France, le candidat à la Présidentielle Benoît Hamon -, Jérémy Bensoussan reconnaît volontiers qu’il s’agit d’un élément anxiogène et « spontanément mal perçu ». Selon lui, « même s’il faudra à terme envisager une redistribution des richesses et de la valeur dans le secteur particulièrement innovant des nouvelles technologies, il est un peu tôt pour envisager une telle taxe », dont l’idée avait également été envisagée dans le rapport de Mady Delvaux.

S’agissant, enfin, de la responsabilité propre aux robots, Jérémy Bensoussan estime que « lorsqu’on parle de responsabilité associée aux robots, c’est surtout de l’indemnisation dont il est question : l’idée est d’abord et surtout de créer les conditions d’une insertion apaisée des robots dans le tissu économique et social et de ce point de vue, c’est véritablement l’indemnisation qui est importante ». En d’autres termes, la question n’est pas tant de « savoir qui a commis une faute au départ mais plutôt de s’assurer d’un garant suffisamment solvable pour indemniser les tiers ».

Suivre le débat

(1) La résolution a été adoptée par 396 voix contre 123 (et 85 abstentions)
(2) Résolution P8_TA-PROV(2017)0051 (2015-2103-INL) 16-2-2017 FR
(3) A. et J. Bensoussan, « Droit des robots », Larcier, coll. Minilex

Eric Bonnet
Directeur du Département Communication juridique

 




Vers les droits de l’homme de l’ intelligence artificielle

Vers les droits de l'homme de l'intelligence artificielleDans PLANETE ROBOTSAlain Bensoussan aborde le cadre juridique de l’ intelligence artificielle.

Pour Alain Bensoussan, « la France qui est aujourd’hui reconnue pour avoir exporté ses droits fondamentaux de l’homme et du citoyen, le sera demain, pour ses droits de l’homme numériques et du cybercitoyen. Nous pouvons rêver à la création de droits de l’homme de l’intelligence artificielle qui marqueraient l’avènement d’une profonde mutation de la société ».

Il fait écho au rapport de la députée luxembourgeoise Madame Mady Delvaux intitulé « Règles de droit civil sur la robotique » adopté le 12 janvier 2017 (1). La députée européenne pousse à la création d’un statut de « personne électronique » pour les robots et les intelligences artificielles. Grâce à ce statut, les robots « seraient dotées de droits et de devoirs, y compris celui de réparer des dommages causés à autrui ».

Le rapport envisage ainsi la mise en place d’un cadre légal à l’échelle européenne. Parmi les propositions figure celle de faire des robots des « personnes électroniques » soumises au droit civil.

La nécessité de doter le robot intelligent d’un statut juridique inédit se fait plus pressante. II s’agit non seulement d’exprimer une catégorisation inédite entre les personnes (physiques ou morales) de cet être artificiel qu’est le robot, mais également de regrouper dans un cadre juridique homogène les droits communs et spéciaux applicables à cette nouvelle catégorie qui dépassera bientôt l’humain sur bien des aspects grâce à l’ intelligence artificielle.

L’intelligence artificielle est là. Il lui faut désormais un cadre juridique. (…)

Isabelle Pottier
Directrice Études et Publications

Alain Bensoussan, pour Planète Robots, « Vers les droits de l’homme de l’IA », n°44, Mars-avril. 2017.

(1) « Règles de droit civil sur la robotique », Rapport européen adopté le 12 janvier 2017.




La commercialisation des exosquelettes à des fins médicales

La commercialisation des exosquelettes à des fins médicales

Une réglementation spécifique s’applique aux exosquelettes conçus à des fins médicales avant toute commercialisation.

Nombreuses sont les applications médicales des exosquelettes qui sont développées.

Ainsi, après avoir été récompensée du trophée INPI dans la catégorie brevet, la société Wandercraft a annoncé la commercialisation, fin 2017, de son exosquelette Atalante qui vise à permettre aux personnes à mobilité réduite de remarcher. D’autres exosquelettes à finalité médicale ont obtenu les certifications nécessaires pour une commercialisation.

La commercialisation d’un exosquelette reste en effet conditionnée à l’obtention de la certification CE. Le droit positif n’encadre pas expressément les exosquelettes, néanmoins ces équipements, visant à améliorer l’autonomie des personnes à mobilité réduite, peuvent être considérés par les agences nationales et internationales de produits de santé comme des dispositifs médicaux. De ce fait, une réglementation spécifique s’applique avant de pouvoir procéder à toute commercialisation.

Les exosquelettes : un dispositif médical ?

Le Code de la santé publique définit le dispositif médical comme :

« Tout instrument, appareil, équipement, matière, produit, à l’exception des produits d’origine humaine, ou autre article utilisé seul ou en association, y compris les accessoires et logiciels intervenant dans son fonctionnement, destinés par son fabricant à être utilisé chez l’homme à des fins médicales et dont l’action principale voulue n’est pas obtenue par des moyens pharmacologiques ou immunologiques par métabolisme, mais dont la fonction peut être assistée par de tels moyens » (1).

Cette définition est commune à l’ensemble des Etats membres au titre de la directive 2007/47/CE du 5 septembre 2007.

Il ressort que le critère déterminant pour qu’un appareil soit qualifié de dispositif médical est sa finalité médicale. Il doit être destiné par le fabricant à être utilisé pour une des finalités médicales définies par le Code de la santé publique (2) et la directive 93/42/CEE :

  • de diagnostic, de prévention, de contrôle, de traitement ou d’atténuation d’une maladie ;
  • de diagnostic, de contrôle, de traitement, d’atténuation ou de compensation d’une blessure ou d’un handicap ;
  • d’étude, de remplacement ou de modification de l’anatomie ou d’un processus physiologique ;
  • de maîtrise de la conception.

Avant toute commercialisation d’un exosquelette, il convient donc de procéder à une analyse factuelle de l’appareil conçu afin de déterminer l’existence ou non d’une finalité médicale. Si ce critère est rempli, la réglementation en matière de dispositifs médicaux devra dès lors être appliquée.

Une commercialisation réglementée

Une fois la qualification de dispositif médical éventuellement retenue, il convient de s’interroger sur les étapes préalables à toute commercialisation sur le marché européen.
La commercialisation des dispositifs médicaux est en effet réglementée :

« Les dispositifs médicaux ne peuvent être importés, mis sur le marché, mis en service, utilisés, s’ils n’ont reçu, au préalable, un certificat attestant leurs performances ainsi que leur conformité à des exigences essentielles concernant la sécurité et la santé des patients, des utilisateurs et des tiers. La certification de conformité est établie par le fabricant lui-même ou par des organismes désignés par l’Agence française de sécurité sanitaire de produits de santé » (3).

Le processus à suivre pour obtenir le marquage CE dépend de la classification des risques du dispositif médical.

Les dispositifs médicaux sont classés en quatre catégories, en fonction de leur risque potentiel pour la santé (4). Un exosquelette devra ainsi se voir attribuer l’une des classes suivantes :

  • Classe I (classe de risque la plus faible) ;
  • Classe IIa (risque potentiel modéré/mesuré) ;
  • Classe IIb (risque potentiel élevé/important) ;
  • Classe III (classe de risque la plus élevée).

A chaque classe sont associées différentes procédures d’évaluation de la conformité du dispositif médical à un certain nombre d’exigences essentielles en matière de sécurité et de performance.

La procédure d’évaluation nécessite le recours à un organisme notifié chargé d’appliquer les procédures d’évaluation de conformité. Selon la procédure qui lui est applicable et la classe dont relève le dispositif, l’organisme notifié, en France le LNE/G-MED, pourra procéder à un audit du système qualité du fabricant et la documentation technique évaluée par rapport aux exigences essentielles établies dans les différentes directives européennes.

Une fois seulement que l’organisme notifié a déterminé que l’exosquelette est conforme aux critères d’évaluation, il émet un certificat CE. Ce n’est qu’à ce moment-là que l’exosquelette en tant que dispositif médical pourra être commercialisé sur le marché européen.

Au vu de la réglementation spécifique applicable aux dispositifs médicaux, il appartient, avant toute commercialisation, de procéder à une analyse de l’exosquelette conçu.

Lexing Alain Bensoussan Avocats
Lexing Droit Informatique

(1) CSP, art. L. 5211-1.
(2) CSP, art. R5211-1.
(3) CSP, art. L. 5211-3.
(4) CSP, art. R. 5211-7 et Annexe II de l’arrêté du 20-4-2006 fixant les règles de classification des dispositifs médicaux, modifié par l’arrêté du 15-3-2010.




Droit de la robotique : le SYMOP publie son Livre blanc

Le SYMOP a présenté son Livre Blanc intitulé « Droit de la Robotique » le 25 octobre dernier.Le SYMOP a présenté le 25 octobre le Livre blanc « Droit de la Robotique » confié à Alain Bensoussan et Renaud Champion.

Fruit d’un travail collaboratif de plus d’un an entre le SYMOP, organisation professionnelle au service de créateurs de solutions industrielles productives, le cabinet Alain Bensoussan Avocats Lexing et la société Primnext, le Livre blanc « Droit de la Robotique » pose une réflexion sur l’état de l’art, les attentes du marché de la robotique et de la machine-outil intelligente ainsi que le cadre juridique existant (1).

Robotique et rupture technologique

La rupture technologique est en marche depuis plusieurs années.

Véritable levier de croissance, la robotique est de plus en plus présente dans les entreprises, et vient ainsi modifier durablement les modes de production ainsi que les modèles économiques.

Transport, industrie, agro-alimentaire, en France c’est un parc de 31 600 robots industriels qui est réparti sur tous les secteurs.

C’est face à cette évolution que le SYMOP a pris l’initiative de créer un groupe de travail pour évaluer le régime juridique applicable à la robotique.

Restitution du Livre blanc du SymopRobotique: quel régime juridique ?

Un travail de réflexion mené avec des auditions d’industriels, de juristes, d’éthiciens, de roboticiens et de chercheurs, dans un esprit d’innovation et avec une volonté d’accompagner les industriels dans leur utilisation croissante de robots.

« La robotique constitue aujourd’hui un enjeu sociétal important, qui contribue à relever les défis de la mobilité, de la santé, de l’autonomie, du vieillissement et de l’éducation.

Or, la robotique ne dispose pas d’un régime juridique qui lui est propre, et dans le cadre actuel, il reste des vides juridiques, notamment sur la responsabilité et l’autonomie, qui nécessitent une adaptation du droit positif.

Ce Livre blanc a ainsi pour objectif de porter une réflexion sur l’encadrement juridique, tout en laissant un champ de liberté à l’innovation et aux créations de valeurs, » explique Jean Tournoux, Délégué général du SYMOP.

Intelligence artificielle, sécurité, conformité, mobilité, etc. – le Livre blanc examine l’ensemble des enjeux liés à la robotique pour décrypter le marché actuel ainsi que les attentes des industriels, mais également pour appréhender les forces et les faiblesses des positions légales et contractuelles existantes.

Robotique: les recommandations du Livre blanc

Ainsi, le Livre blanc formule les recommandations suivantes :

  1. Créer d’un comité national d’éthique de la robotique pour répondre à certaines questions philosophiques et anthropologiques.
  2. Reconnaître le métier d’intégrateur par la création d’une formation et d’un diplôme spécifiques.
  3. Accroître la traçabilité des robots en intégrant une boîte noire pour pouvoir répartir proportionnellement la responsabilité entre les différents acteurs et retracer un historique, mais également établir un retour d’expérience.
  4. Rappeler l’importance de l’analyse des risques pour accompagner l’acceptation des robots.
  5. Mettre en place une assurance obligatoire face à l’émergence de nouvelles formes de robotiques, sur la base du contrat-type proposé par le SYMOP.
  6. Obliger la certification des robots.
  7. Légiférer au cas par cas sur les technologies par secteur et créer de nouveaux statuts

Eric Bonnet
Directeur du département Communication juridique

(1) Télécharger le Livre blanc.

 




Un futur cadre juridique européen pour la robotique

Un futur cadre juridique européen pour la robotiqueLe Parlement européen veut encadrer la robotique et faire des robots des « personnes électroniques » soumises  au droit civil.

C’est le thème abordé par  Alain Bensoussan dans le dernier numéro de Planète Robots.

La robotique et l’intelligence artificielle à usage civil

Robot-machine ou nouvelle espèce d’être artificiel ? Si les robots sont amenés à cohabiter avec nous, faut-il les doter d’une protection juridique ? C’est un débat à la frontière de la philosophie, de l’éthique et du droit. Le Parlement européen qui s’est saisi de la question veut faire des robots des « personnes électroniques » (1) et propose d’établir des règles de droit civil.

Le groupe de travail instauré en janvier 2015 par la commission des affaires juridiques (Commission JURI) pour réfléchir aux questions juridiques liées au développement de la robotique et de l’intelligence artificielle dans l’Union européenne a remis ses conclusions sous la forme d’un projet de rapport remis au Parlement européen.

Dans ce document daté du 31 mai, l’eurodéputée Mady Delvaux demande à la Commission européenne d’établir des règles de droit civil concernant la robotique sur la base des recommandations adressées à la Commission en vue de développer un cadre juridique pour la robotique et l’intelligence artificielle.

Il s’agit là des premiers travaux concrets menés pour prendre en compte le robot dans le système juridique européen.

Le groupe de travail estime en effet que « la responsabilité civile des robots est une question cruciale à laquelle il importe de répondre au niveau de l’Union afin de garantir le même niveau de transparence, de cohérence et de sécurité juridique dans toute l’Union, dans l’intérêt tant des consommateurs que des entreprises ».

La personnalité juridique des robots

(…) L’apport le plus innovant du groupe de travail consiste en « la création d’une personnalité juridique spécifique aux robots, pour qu’au moins les robots autonomes les plus sophistiqués puissent être considérés comme des personnes électroniques dotées de droits et de devoirs bien précis, y compris celui de réparer tout dommage causé à un tiers; serait considéré comme une personne électronique tout robot qui prend des décisions autonomes de manière intelligente ou qui interagit de manière indépendante avec des tiers ».

Ce statut juridique est au cœur des réflexions que nous menons au sein de l’Association droit des robots créée en janvier 2014. Le développement de la robotique et son introduction dans toutes les sphères de la société confirment la nécessité d’accompagner son déploiement d’une réflexion juridique en Europe et dans le monde (2).

Isabelle Pottier
Directrice Études et Publications

Alain Bensoussan pour Planète Robots, « Un futur cadre juridique européen pour la robotique », n°41, Sept-octobre 2016.


(1) Voir Eric Bonnet, « Rapport Delvaux : vers une personnalité juridique des robots ? », Post du 25-7-2016.
(2) Comparative handbook: robotic technologies law, A Lexing® Network study directed by Alain Bensoussan and by Jérémy Bensoussan, Editions Larcier 2016.




Le droit des robots : un état des lieux dans le monde

Droit des robots : état des lieux dans le mondeUn état des lieux mondial du droit des robots est dressé dans le dernier numéro de Planète Robots. Pour Alain Bensoussan, le droit ne doit pas être un frein au déploiement de projets dans la robotique.

La robotique est la prochaine grande révolution industrielle

De nombreuses études sur l’impact de la robotique sur l’économie ont montré que les investissements dans les différents secteurs sont en augmentation à l’échelle mondiale.  Les marchés qui leur sont associés sont évalués en milliards.

La robotique améliore la compétitivité des entreprises et réinvente les méthodes de production. Au-delà de cela, la robotique de service et l’intelligence artificielle soulèvent des questions éthiques, juridiques et sociales.

Cependant, l’analyse juridique n’est pas aisée car la robotique couvre des réalités techniques très diverses. Les entreprises peuvent être confrontées à des situations juridiques complexes. Celles-ci résultent de la pluralité des règles applicables qui n’ont pas nécessairement été conçues pour la robotique.

Parce que cette situation ne doit pas entraver le développement des activités dans ce domaine, il importe d’avoir des repères à partir des normes juridiques qui favorisent de tels développements.

Il importe donc de connaître au plus vite la réglementation applicable à l’acquisition, la production, la mise à disposition et l’éventuelle utilisation de robots. Qu’il s’agisse d’un robot domestique, de divertissement, d’assistance à la personne, d’aide au diagnostic médical ou de transport intelligent.

Le droit des robots dans le monde : de grandes disparités

Pour l’instant, les États-Unis, le Japon et la Corée du Sud font figure de pionniers. Mais la plupart des pays européens n’ont pas encore de législation.

Le marché émergent de la robotique personnelle est un exemple manifeste des disparités existantes. Pour l’heure, celui-ci est nettement dominé par l’Asie.

En France comme en Europe et dans le monde, les cadres réglementaire et éthique sont encore assez flous. Deux questions majeures se posent :

  • d’une part, la question de la responsabilité est déterminante pour les industriels : elle conduit à s’interroger sur les transferts de responsabilité possibles de l’utilisateur vers le fabricant du robot. Qui sera responsable lorsqu’il prendra une décision portant préjudice à une personne, en cas de dysfonctionnement ?
  • d’autre part, la question de la légalité éventuelle de certains dispositifs : certains types de robots, en environnement professionnel comme domestique, peuvent poser des questions relatives aux libertés individuelles. Qu’en est-il du respect de la dignité  humaine, de la vie privée, de la confidentialité, du secret médical ?

A terme, le paysage juridique de la robotique devrait se composer de règles générales applicables à tous les types de robots. Elles devront s’accompagner de règles spécifiques par type de robots (voiture autonome, robot humanoïde, drone, etc.).

C’est ce qui ressort en conclusion d’une étude comparative (1) qui montre que de nombreux Etats se penchent sur les questions soulevées par la robotique pour tenter d’élaborer un cadre juridique adapté. Même si les contours sont encore flous, certains Etats ont déjà légiférés. (…)

Isabelle Pottier
Directrice Études et Publications

Alain Bensoussan pour Planète Robots, « Le droit des robots : état des lieux dans le monde », n°40, Juillet-août 2016.

(1) Comparative handbook: robotic technologies law, A Lexing® Network study directed by Alain Bensoussan and by Jérémy Bensoussan, Editions Larcier 2016.




Pour la création d’un droit des robots face aux avancées de l’IA

Pour la création d'un droit des robots face aux avancées de l'IAAlain Bensoussan était l’invité du 14 Bassano (siège de la rédaction de l’Opinion), le 29 juin 2015 pour plaider la cause du droit des robots (1).

Selon Alain Bensoussan, « Les vides juridiques existent lorsque les droits existants sont incapables de régir correctement une réalité technique qui pose problème ». C’est cette rupture technologique, via l’essor de l’intelligence artificielle qui est en marche.

Une fois la rupture technologique consommée – résultant de la liberté dont disposera le robot, elle-même alimentée par ses capacités d’apprentissage –, le droit n’aura d’autre choix que de s’aligner.

Ce qui fait dire que « Si le robot est intelligent, alors il est possible d’affirmer qu’il est au moins partiellement libre. La rupture technologique qui en résulte est telle qu’elle doit engendrer une nouvelle catégorie juridique, entre celle des personnes et des objets ».

L’élément clé de cette approche réside dans la liberté décisionnelle dont est doté le robot, découlant de la forme d’intelligence qui l’anime et de la capacité d’apprentissage qui alimente son intelligence et la renforce. Or, si le robot peut être, même enfermé dans les limites que l’homme lui aura attribuées, son propre législateur, alors il ne peut être nié qu’il dispose d’une liberté, même résiduelle.

Cela suffit à consommer la rupture technologique et à provoquer un changement de paradigme (2). Dit encore autrement, ce n’est pas le champ de la liberté qui est en jeu mais son principe…

(1) Lire la totalité de l’interview sur La fabrique de l’Opinion du 29 juin 2015, « Pour la création d’un droit des robots face à la rupture technologique« .
(2) Lire également, « Le droit des robots« , ouvrage co-écrit par Alain et son fils, Jérémy Bensoussan (collection Minilex, Larcier, 2015).




Les robots humanoïdes : un défi pour le droit

Les robots humanoïdes : un défi pour le droitAlain Bensoussan s’est exprimé dans le cadre de la 7e édition du Festival Ciné-Droit, sur  « Les robots« .

Orgnisée à l’initiative de la faculté Jean-Monnet de l’Université Paris-Sud, son centre d’études et de recherche en droit de l’immatériel (CERDI) et la ville de Sceaux, cet événement s’est déroulé du 19 au 21 mars dernier à l’Université Paris-Sud-Saclay, sur la thématique « Les robots« .

L’intervention d’Alain Bensoussan a porté plus particulièrement sur la détermination des règles légales applicables aux robots. Partisan d’une adaptation de la législation aux évolutions technologiques, il préconise l’instauration d’un régime juridique spécifique, destiné à gouverner les rapports entre l’humain et les robots dotés d’intelligence artificielle, susceptibles de prendre des décisions dans un environnement mobile en interaction avec l’homme.

Parce qu’il considère qu’un robot demeure actuellement un objet juridique non identifié, Alain Bensoussan envisage la création d’une personnalité juridique particulière, la personnalité-robot, qui serait soumise à un régime de responsabilité autonome. Cette construction juridique n’est pas sans rappeler la personnalité morale permettant à des personnes « virtuelles » comme les sociétés commerciales ou les associations d’avoir des droits, un patrimoine propre, un compte bancaire, mais aussi des responsabilités.

Il prévoit en conséquence l’établissement d’un régime de responsabilité en cascade (du robot au fabricant, au fournisseur, à l’utilisateur et enfin au propriétaire) se caractérisant par une distinction entre les règles de droit applicables aux humains et celles régissant les robots.

Pour accompagner cette nouvelle personnalité juridique, l’avocat propose de conférer une identité aux robots de troisième génération et, pour ce faire, de recourir aux numéros de sécurité sociale, celui attribué aux robots débutant par un 3 (1 pour l’homme et 2 pour la femme).

Il est favorable également à la constitution d’un capital et d’un fond de garantie, susceptible d’être alimenté par exemple par l’industrie de la robotique, en vue notamment d’indemniser d’éventuelles victimes.

Le robot ainsi personnifié serait tenu à certaines obligations, de même qu’il pourrait se prévaloir de certains droits, dont le droit à l’intimité, à la dignité, à la préservation de son intégrité, formalisés au moyen de chartes éthiques telle la charte sur les droits et devoirs des robots.

Lire le compte rendu du colloque.

Les actes du colloque ont été publiés sous la direction d’Alexandra Bensamoun Les robots : objets scientifiques, objets de droits, Ed. Mare Et Martin, Collection des Presses Universitaires de Sceaux (Février 2016).




Robots industriels et sur amortissement

Robots industriels et sur amortissement Pour stimuler l’investissement des entreprises, le Gouvernement a mis en place un avantage fiscal exceptionnel…

Cet avantage fiscal exceptionnel pour tous les investissements industriels réalisés au cours des douze prochains mois (1) concerne les robots industriels.

Un avantage fiscal exceptionnel pour tous les investissements industriels.  Cet avantage fiscal exceptionnel qui prendra la forme d’un « suramortissement » a été commenté par l’administration (2).

Aujourd’hui, une entreprise qui investit peut réduire son bénéfice imposable du montant de son investissement sur la durée d’amortissement. Si elle procède au cours des douze prochains mois à un investissement industriel, elle pourra, à titre exceptionnel, déduire 140 % de ce montant correspondant à une économie d’impôt de plus de 13 % du montant de l’investissement, au taux normal de l’impôt sur les sociétés.

En conséquence, au lieu de déduire 100 %, les entreprises pourront déduire 140 % du prix d’achat d’une machine de leur bénéfice imposable et donc réduire d’autant leur impôt sur les sociétés. Dans la mesure où la durée moyenne d’amortissement est de cinq années, les entreprises pourront ainsi bénéficier de cette diminution d’impôt sur les sociétés sur une durée de cinq années.

Selon les précisions apportées par l’administration, cette mesure exceptionnelle, qui représente un geste fiscal de 2,5 milliards d’euros, concernera tous les investissements industriels pouvant être amortis selon le mode dégressif, quel que soit le secteur d’activité.

L’acquisition de robots industriels. Dans la mesure où les entreprises, qui répondent à la définition communautaire des PME, peuvent déjà bénéficier, depuis la loi de finances pour 2014 (3), d’un dispositif d’amortissement accéléré sur une période de 24 mois calculé selon le mode linéaire à raison des robots industriels qu’elles acquièrent ou fabriquent entre le 1er octobre 2013 et le 31 décembre 2015, ces derniers sont également éligibles au « suramortissement » sur la durée réelle d’utilisation.

En conséquence, les robots industriels pourront bénéficier de l’amortissement exceptionnel à côté de l’amortissement accéléré dès lors que leur création ou leur acquisition interviendra entre le 15 avril 2015 et le 31 décembre 2015.

Cependant, l’application de l’amortissement accéléré à ces matériels est subordonnée au respect des conditions et limites communautaires sur les aides « de minimis » selon lesquelles les aides perçues par une même entreprise ne doivent pas excéder un plafond global de 200 000 euros apprécié de manière glissante sur une période de trois ans, indépendamment du nombre d’exercices clos durant cette période.

Afin de mesurer l’intensité de l’aide accordée au titre de l’amortissement exceptionnel et de l’amortissement accéléré, il conviendra donc de déterminer le montant de l’économie d’impôt résultant de l’application de ces dispositifs par rapport à l’amortissement de droit commun calculé selon le mode linéaire, ou selon le mode dégressif si le bien en cause est éligible à ce mode d’amortissement.

Pierre-Yves Fagot
Lexing Droit Entreprise

(1) Discours Manuel Walls du 8-4-2015.
(2) Inst. du 21-4-2015, BOI-BIC-Base-100-2015-0421.
(3) Voir JTIT 144, mars 2014.




Les robots devraient-ils bénéficier d’une protection juridique ?

Les robots devraient-ils bénéficier d'une protection juridique ?Alain Bensoussan évoque avec Raphaele Karayan (L’Expansion) les questions suscitées par le déploiement des robots.

Parmi ces questions figure notamment, l’instauration d’un cadre légal, tant protecteur des robots que des êtres humains amenés à interagir avec eux.

Lors de la concertation nationale sur le numérique, menée par le Conseil national du numérique fin 2014, il a été envisagé la constitution d’un droit des robots et la création d’un comité national d’éthique du numérique. La remise du rapport Robolaw en 2014 pourrait également susciter des propositions au niveau européen.

Le consortium européen RoboLaw a bénéficié d’un soutien de 1,5 M€ de la Commission Européenne. Il a publié son rapport final le 22 septembre 2014 et l’a présenté le surlendemain à la commission des lois du Parlement Européen sous l’intitulé « Regulating Emerging Robotic Technologies in Europe: Robotics facing Law and Ethics ».

Pertinence d’un droit de la robotique. Jugeant que la législation actuelle, le droit des biens, n’est pas adaptée aux robots dits intelligents, dotés d’une certaine autonomie de déplacement et de décision, Alain Bensoussan est favorable à la constitution d’une charte, prélude à l’établissement d’une loi.

Cette charte prévoirait notamment la reconnaissance d’une « personnalité robot », à l’image de la personnalité morale des entreprises, permettant de rendre le robot pénalement et civilement responsable des actes qu’il pourrait être amené à commettre.

La « personnalité juridique » reconnu au robot aurait pour conséquence de le doter d’un nom, d’un numéro d’identification, d’un capital et d’un représentant légal. Chaque robot autonome pourrait ainsi être immatriculé et assuré.

Détermination d’un régime de responsabilité. Alain Bensoussan préconise l’application d’un principe de responsabilités en cascade. Le premier responsable serait le concepteur du robot dit intelligent, tandis que pour les robots possédant des fonctions d’apprentissage, la responsabilité incomberait à leur utilisateur puis à leur propriétaire.

Alain Bensoussan pour L’Expansion, « Faut-il des lois pour nous protéger des robots ? », 4 avril 2015




« Robot & patrimoine : premier bilan et perspectives »

« Robot & patrimoine : premier bilan et perspectives »« Robot & patrimoine : premier bilan et perspectives », est le thème de l’Atelier #27 du CLIC France organisé cette année, en partenariat avec Alain Bensoussan – Avocats.

Quelles leçons tirer des premières expériences ? Quels nouveaux usages imaginer ? Quel investissement pour « adopter » un robot ?  Le robot aura-t-il bientôt des droits ? etc.

Créé en octobre 2008, le Club Innovation & Culture, CLIC France réunit les musées, lieux de patrimoine et lieux de culture scientifique français sensibilisés aux problématiques des nouvelles technologies numériques et de leurs usages. Il bénéficie du soutien du Ministère de la Culture et de la Communication.

En 5 ans, le CLIC est devenu un réseau unique en France, au carrefour de la culture et de l’innovation technologique.

Cette année, l’Atelier dresse un premier bilan sur « Robot & patrimoine » avec l’intervention de Maître Alain Bensoussan, spécialiste du droit du numérique et du droit des robots sur le thème « La personnalité-robot : un nouveau droit ».

Un thème plus que jamais d’actualité, à l’heure où « RoboLaw », un consortium d’experts en droit, ingénierie et philosophie vient de publier les résultats de ses délibérations : les « Lignes directrices sur la réglementation de la robotique » présentées lors d’une session consacrée aux affaires juridiques du Parlement européen (RoboLaw, “Guidelines on Regulating Robotics (D6.2)”, 22-09-2014).

Ce rapport de plus de deux cent pages analyse en profondeur les questions éthiques et juridiques soulevées par les applications robotiques afin de fournir aux régulateurs européens et nationaux les lignes directrices en la matière.

L’atelier sera animé également par Jérôme Koessler (Awabot) qui présentera avec démonstration, la visite du musée d’Autun, Aurélie Perreten, Musée de la Grande Guerre de Meaux qui présentera le projet éducatif avec Orange et Samuel Quenault (Château d’Oiron CMN) qui reviendra sur l’expérience avec le robot Norio.

L’Atelier #27 du CLIC France « Robot & patrimoine » aura lieu le mardi 24 mars 2015, de 9 h 30 à 11 h 30.

Lieu : Alain Bensoussan Avocats – Paris Immeuble Cap Etoile
58, boulevard Gouvion-Saint-Cyr, 75017 Paris

Atelier réservé à 40 membres du Clic France – Inscription obligatoire par mél avant le 13 mars 2015 : ateliers@club-innovation-culture.fr




De nouveaux survols de drones sur Paris en plein plan Vigipirate

De nouveaux survols de drones sur Paris en plein plan VigipirateUn drone est un aéronef relevant de la législation encadrant l’espace aérien. Entretien avec Didier Gazagne…

Didier Gazagne, répond aux questions de Cyril Brioulet et Sophie Chaulaic pour le 12/14 info de Sud radio.

Il y a quelques mois des drones avaient survolés des centrales nucléaires, aujourd’hui c’est la capitale qui est survolée. Ce n’est d’ailleurs pas la première fois à paris. Faut-il y voir un message ?

Il faut laisser les forces judiciaires et de police faire leur travail d’enquête pour savoir s’il y a une intention malicieuse à l’utilisation de ces matériels et notamment des aéronefs. Rappelons qu’il existe une réglementation parfaitement claire. Aujourd’hui le survol des agglomérations n’est possible qu’avec une autorisation préfectorale.

S’agissant des centrales nucléaires, leurs survols est interdit dans un rayons de 5 km sur une altitude de 1000 m. Les personnes qui utilisent un drone dans des zones interdites s’exposent à des sanctions prévues par le Code de l’aviation civile. Ces dernières sont assez importantes ; elles peuvent aller jusqu’à 6 mois d’emprisonnement et 15 000 € d’amende pour le survol de zones interdites mais également jusqu’à 1 an d’emprisonnement et 75 000 € d’amende en cas de non-respect des règles d’utilisation des drones y compris lorsque l’on utilise des drones de loisir.

La réglementation s’applique à ce que l’on appel un « aéronef ». Il existe 7 catégories d’aéronefs avec un certains nombres de scénarios d’utilisation très précis. Les petits drones que l’on trouve très facilement dans le commerce ne peuvent être utilisés qu’à des altitudes extrêmement faibles en dessous de 150 m hors aérodrome, hors zone peuplée et ne pas survoler d’agglomérations si l’on n’est pas préalablement autorisé.

En fait, le pilotage d’un drone est soumis à une réglementation aussi stricte que celle d’un avion. Le drone est en effet un « aéronef » qui s’inscrit dans la législation de l’espace aérien (…).

Entretien avec Didier Gazagne, Sud radio le 12/14 info, le 25-2-2015.




Les drones représentent-ils un danger pour la population ?

Les drones représentent-ils un danger pour la population ?Que disent les textes et que risquent les télépilotes ? Ces robots volants à usages multiples sont strictement encadrés par la loi mais peuvent causer de gros dégâts. Alain Bensoussan répondait aux questions de Laurence Neuer pour lepoint.fr

La réglementation sur les drones est extrêmement complexe. Il existe deux catégories de drones : les drones téléopérés – ceux dont on parle – et les drones autonomes, qui sont interdits. Concernant les premiers, il existe trois textes, deux arrêtés du 11 avril 2012 et un arrêté du 24 mars 2013. Ils réglementent trois points : les catégories de drones, leurs usages et l’espace survolé. Il existe sept catégories de drones, allant de A à G. Leur réglementation varie selon la masse totale (structurale et charge emportée).

S’y ajoute une spécificité complémentaire s’ils embarquent une caméra. Selon les cas, l’appareil est soumis ou non à une autorisation spéciale.

La réglementation énonce plusieurs scénarios qui dépendent de trois critères. Le drone est-il en vue directe ? Est-il dans une zone peuplée ? Y a-t-il des personnes en dessous ? Pour prendre un exemple, l’un des scénarios évoque une « opération se déroulant en agglomération ou à proximité de personnes ou d’animaux, en vue directe et à une distance horizontale maximale de 100 mètres du télépilote » (S3).

Dans ce cas, l’appareil muni de l’autorisation préfectorale requise doit respecter une limite de poids (2 kg ou 4 kg avec parachute) et voler en altitude basse. Donc, à chaque scénario ses règles. Par ailleurs, les espaces d’importance vitale (comme les centrales nucléaires) relèvent d’une autre réglementation qui exige 5 kilomètres de distance et 1 000 mètres en hauteur en deçà desquels il ne peut pas y avoir de survol.

Pour finir, une réglementation datant de 1948 interdit le survol de la capitale à l’intérieur du périphérique.

Selon les cas, ils risquent entre six mois et un an de prison et des amendes.

Entretien avec l’avocat Alain Bensoussan, Lepoint.fr du 25-2-2015.

 




La personnalité-robot : un nouveau droit

Droit des robots nouvelleLa personnalité-robot : un nouveau droit pour une nouvelle génération de robots. Faut-il un droit des robots ?

Tel est le thème sur lequel est intervenu Me Alain Bensoussan lors de la seconde journée contributive du Conseil national du numérique (CNNum) qui a eu lieu le 9 janvier à Strasbourg.

Cette journée  était organisée dans le cadre de la Concertation citoyenne sur les enjeux sociétaux et économiques liés aux transformations numériques à laquelle Me Bensoussan participe activement.

Il faut créer un nouveau droit pour les nouvelles générations de robots : la personnalité-robot. En effet, si le droit des objets tel qu’il existe actuellement encadre les robots ménager de type grille-pain, il est totalement inadapté aux nouvelles générations de robots nés et à naître.

Les robots nouvelle génération dont il est question, sont des machines dotées d’une intelligence artificielle capable de prendre une décision dans un environnement mobile avec une interactivité avec l’homme. Le droit des biens est à moderniser, celui des personnes sans doute aussi. C’est la technologie qui va révolutionner le droit et tous les droits nationaux vont devoir s’adapter. Ils ne sont plus de simples objets, ne sont certes pas assimilables à un animal et encore moins à un être humain, mais les robots nouvelle génération vont désormais avoir des responsabilités du fait de leur capacité d’interaction avec leur environnement. A l’instar de ce qui existe pour les personnes morales, il convient de créer une personnalité-robot…

Pitch #12 à la journée contributive #2 du 9-1-2015

Les “pitchs contributifs”, en parallèle des ateliers de travail, permettent aux entrepreneurs, acteurs locaux, porteurs de projets, société civile et innovateurs en tout genre, de présenter sur scène où à distance, leurs idées ou initiatives pour mettre la France à jour, en 180 secondes.




L’Association du droit des robots se réunie le 28 janvier

Association du droit des robots se réunie le 28 janvierLexing Alain Bensoussan Avocats a fondé l’Association du droit des robots il y a un an maintenant, pour appeler à la création d’un cadre juridique propre à la robotique.

La robotique figure au nombre des technologies clés à l’horizon 2020, en témoigne le plan France Robots initiatives, publié en mars 2013 sous l’autorité conjointe du ministre du Redressement productif et de celui de l’Enseignement supérieur et de la Recherche.

L’essor des projets techniques rend incontournable la problématique du cadre juridique applicable. La question du droit est en effet déterminante de l’acceptabilité de cette technologie.

L’activité robotique peut-elle s’autoréguler elle-même ou faut-il créer un cadre juridique spécifique ?

L’Association du droit des robots (ADDR) offre un cadre d’échanges et de travaux en commun à tous ceux qui s’intéressent à ces questions : universitaires, magistrats, juristes d’entreprise ou d’organisations professionnelles, etc.

L’association constitue en France, un lieu unique de réflexions et de discussions entre ces juristes aux expériences diverses.

  • Alain Bensoussan, avocat, président et fondateur de l’association ;
  • Olivier Guilhem, Legal manager Aldebaran Robotics, vice-président de l’association.

Sept commissions ont été créées :

  • la commission réalité virtuelle ;Association droit des robots
  • la commission intelligence artificielle ;
  • la commission drone ;
  • la commission responsabilité et assurance ;
  • la commission Usine 4.0 ;
  • la commission Interface Homme-Machine ;
  • la commission Voitures intelligentes.

La première réunion a eu lieu le 28 janvier
Lieux : Lexing Alain Bensoussan – Avocats, Immeuble Cap Etoile
58, boulevard Gouvion-Saint-Cyr, 75017 Paris

Prendre contact pour solliciter votre adhésion à l’Association : Renseignements et adhésion




Le développement des drones civils est-il menace ?

Le développement des drones civils est-il menace ?La multiplication des survols de centrales nucléaires EDF par des drones civils, pourtant interdits par la réglementation, fait-elle peser une menace sur la technologie des drones civils ?

Alain Bensoussan aborde pour Planète Robots, l’actualité relative aux survols de centrales qui amène à s’interroger sur l’efficacité de la réglementation des drones civils.

Ce n’est pas un phénomène nouveau qu’une innovation technologique soit détournée des finalités pour lesquelles elle a été créée. Chaque innovation technologique amène avec elle son lot de comportements déviants et de nouvelles opportunités pour commettre des crimes et délits.

Les incidents sur l’utilisation illégale de drones qui émaillent l’actualité depuis octobre ne doivent pas freiner le développement d’une technologie promise à un bel avenir et dont l’intérêt n’est plus à démontrer (1).

Il ne se passe pas une semaine sans que de nouvelles applications industrielles des drones civils soient signalées, de la cartographie, à la recherche scientifique, en passant par les traitements agricoles, ou la lutte contre la pollution ou les incendies, ou l’inspection des finitions d’un viaduc, etc.

n France, le survol des centrales nucléaires est interdit dans un périmètre de cinq kilomètres et de 1.000 mètres d’altitude autour des sites.

Le Code des transports sanctionne quant à lui, la prise de vue lors du survol d’une zone interdite. Il punit d’un an emprisonnement et de 75 000 € d’amende le fait de « Faire usage, sans autorisation spéciale, d’appareils photographiques au-dessus des zones interdites » (Art. L6232-8).

Les autorités peuvent saisir « les appareils photographiques et les clichés qui se trouveraient à bord d’aéronefs autorisés à transporter ces objets dans le cas où ces aéronefs seraient passés au-dessus de zones interdites » (Art. L6232-9).

Force est de constater que les dispositifs de sanction « a posteriori » sont mises à mal par la récente actualité et amènent à s’interroger sur leur efficacité. (…)

Alain Bensoussan, Planète Robots, « Le développement des drones civils est-il menace ? », n°31, Janv. Févr. 2015.

(1) Cf. notre article « Drones légaux : le début de l’usage civil », paru dans Planète Robots n°26 (mars 2014).




Le droit des robots : un mythe ou une réalité ?

Le droit des robots, mythe ou réalité ?Droit des robots – Depuis plusieurs semaines, les média ont relaté, à plusieurs reprises, le développement prodigieux des robots, cette nouvelle intelligence. Il est vrai que le développement du marché de la robotique, de l’internet des objets et de la virtualisation conduit à l’émergence d’une nouvelle spécialité : le droit des robots.

S’agit-il d’un mythe ou d’une réalité ? Pour Alain Bensoussan, interviewé par la revue Emile&Ferdinand, c’est bien une réalité car les robots sont sortis des laboratoires. Ils sont aujourd’hui à la porte de nos domiciles, notamment pour aider les personnes âgées ou encore à la porte des entreprises, pour accueillir les clients. Ils sont aussi dans la rue, comme les voitures autonomes. Ils entrent en interaction avec les hommes.

Un robot est devenu un équipement coopératif avec l’homme, évoluant dans un espace privé ou public, susceptible de prendre une décision autonome dans un environnement interactif. Et cela entraîne de nouvelles responsabilités.

A défaut de cadre légal adapté et en attendant un droit des robots, le cadre contractuel définissant les responsabilités en cascade, s’avère être une bonne voie en mettant le robot au centre du contrat.

En moins de 20 ans, l’intelligence artificielle a connu un développement prodigieux :

  • En mai 1997, l’ordinateur « Deeper Blue » (développé par IBM) bat Garry Kasparov le champion du monde en match singulier à cadence normale de compétition.
  • En février 2011, un programme d’intelligence artificielle « Watson » conçu par IBM participe et gagne au jeu télévisé Jeopardy de question-réponse en langage naturel.
  • En juin 2014, Eugène Gootsman âgé de 13 ans, un programme d’intelligence artificielle, passe le test de Turing selon l’université de Reading et réussit à convaincre 33 % des juges qu’il est humain sur une conversation de 5 minutes.

« Le droit des robots, mythe ou réalité ?« , interview Émile & Ferdinand – La Gazette du Groupe Larcier, n° 7, octobre 2014 (feuilletez le numéro).

 




Robot : déclarer les traitements de données personnelles

Robot : déclarer les traitements de données personnelles Alain Bensoussan aborde pour Planète Robots, la question des données à caractère personnel traitées par les robots.

Selon lui, si les fabricants de robots n’ont aucune formalité à accomplir auprès de la Cnil, il n’en va pas de même des propriétaire/gestionnaire du système de traitement de données contenu dans le robot.

Aujourd’hui, ces robots sont principalement utilisés dans les domaines de la recherche et de l’éducation. Mais la palette des usages potentiels des robots programmables est très vaste car elle dépend de leur programmation qui, par définition est sans limite. Il est ainsi possible de programmer des robots de compagnie, partenaires de jeu, gardes-malade, objets communicants, etc.

Certaines applications permettent déjà au robot d’accomplir une tâche en interaction avec l’homme tel l’accueil dans un lieu recevant du public (robots présentateurs) ou encore la reconnaissance et la détection de formes et de visages. Ces applications peuvent nécessiter la collecte et le traitement de données identifiantes.

Les éditeurs d’applications qui collectent et traitent des données à caractère personnel à travers un robot doivent respecter les obligations imposées par la loi Informatique et libertés, à commencer par les formalités préalables nécessaires en fonction des modalités des traitements de données via les applications éditées.

Les éditeurs doivent notamment s’assurer, pour chaque application proposée, que la finalité de cette dernière est bien déterminée, explicite et légitime. Ainsi, proposer une application qui aura pour finalité de suivre les déplacements des utilisateurs de robot à leur insu n’est pas envisageable.

Dans le cadre de l’utilisation d’un robot, le propriétaire/gestionnaire du système de traitement de données a des obligations envers la Commission nationale de l’Informatique et des Libertés (Cnil), dès lors que des données à caractère personnel sont traitées par le robot, à commencer par la déclaration…

Alain Bensoussan, Planète Robots, « Déclarer les robots », n°30, Nov. déc. 2014.




Avatar et robot : identifier les premières règles mondiales

Avatar et robot : identifier les premières règles mondialesPetit-déjeuner du 13 novembre 2014 « Avatar et robot » – Alain Bensoussan a animé un petit-déjeuner débat consacré aux avatars robotisés avec la participation de Bruno Bonnell, à travers le robot Beam créé par la société Awabot.

L’avatar a fait son apparition sur internet avec les univers virtuels, tels que « Second Life » (SL), créé en 2003, qui permet d’évoluer dans un monde simulant le monde réel en trois dimensions et d’y vivre une sorte de « seconde vie ».

A côté des avatars virtuels se développent des avatars robotisés, tels les robots de téléprésence mobile, qui offrent le don d’ubiquité à tous. Ils permettent de se téléporter par écran interposé grâce au robot qui sert d’avatar à une personne ne pouvant se déplacer.

La téléprésence est porteuse d’avenir en matière de robotique, non seulement dans le monde professionnel, mais aussi à domicile.

Les robots de téléprésence, d’assistance ou de services mettent la personne humaine au cœur du système. Ils collectent en effet de nombreuses données plus ou moins sensibles concernant les utilisateurs et leur environnement.

A défaut de cadre légal spécifique, la loi Informatique, fichiers et libertés offre un cadre juridique relatif à la protection des données à caractère personnel. Une protection adéquate doit être assurée.

  • Quelles sont les expérimentations en cours et les évolutions à en attendre ?
  • Quels sont les usages qui vont se développer ?
  • Quelles sont les règles encadrant la sécurité des données ?
  • Quelles sont les perspectives qui s’ouvrent aux entreprises et aux particuliers avec une telle innovation ?

Ce petit-déjeuner a été l’occasion d’identifier les premières règles juridiques mondiales.

Le petit-déjeuner a eut lieu de 9h30 à 12h00 (accueil à partir de 9h00) dans nos locaux, 58 boulevard Gouvion-Saint-Cyr, 75017 Paris.

Vous pouvez revoir la présentation sur notre chaîne YouTube : Lexing Alain Bensoussan Avocats en cliquant ici.