La responsabilité des IA bientôt encadrée par le droit européen. C’est le thème abordé par Alain Bensoussan dans le dernier numéro de Planète Robots.
La Commission européenne a récemment proposé d’encadrer la responsabilité des IA :
- d’une part, en adaptant le régime actuel de responsabilité de l’UE à l’ère numérique en abrogeant la directive de 1985,
- d’autre part en protégeant les victimes des dommages de l’IA.
La responsabilité « sans faute » des systèmes d’IA défectueux
La proposition de directive sur la responsabilité du fait des produits (1) abrogera la directive de 1985. Cette dernière ne couvrait pas les catégories de produits issus des nouvelles technologies numériques, comme les produits intelligents et l’IA.
Elle simplifiera également le processus juridique permettant aux consommateurs, d’obtenir une réparation en cas de dommages corporels couvrant également « le préjudice, médicalement reconnu, causé à la santé psychologique».
Le texte propose :
- D’une part, d’alléger la charge de la preuve pour les victimes. Dès lors qu’elles peuvent démontrer que le fournisseur ou le fabricant du système d’IA n’a pas respecté certaines obligations :
- il y aura une « présomption » de défectuosité ;
- présomption que le professionnel concerné pourra renverser, par exemple en prouvant qu’une autre cause a entraîné le dommage.
- D’autre part, il offre aux victimes la possibilité d’obtenir du professionnel concerné qu’il divulgue « les éléments de preuve pertinents dont il dispose » pour défendre leur cause devant les tribunaux.
La responsabilité découlant d’un « comportement fautif » des systèmes d’IA
Le second projet de directive sur la responsabilité en matière d’IA (2) propose les mêmes dispositions (présomption réfragable de causalité et accès aux éléments de preuve) lorsqu’un dommage a été causé par la faute du fournisseur de système d’IA.
Une telle faute pourra être établie, par exemple, en cas de non-respect de règles établies au niveau de l’Union européenne, telles que :
- les règles du futur règlement sur l’IA (« Législation sur l’IA »),
- celles régissant le recours à des systèmes de surveillance et de prise de décision automatisés pour le travail via une plateforme ou encore
- celles régissant l’exploitation des drones.
Il y a néanmoins quelques différences notamment concernant l’accès aux éléments de preuve pertinents. Cet accès ne sera possible qu’à l’égard des informations concernant des systèmes d’IA dits « à haut risque » …
Isabelle Pottier
Lexing Département Etudes et publications
Lire la suite : « La responsabilité des IA bientôt encadrée », Planète robots n°77.
(1) Proposition de directive du 28-09-2022 COM(2022) 495 final relative à la responsabilité du fait des produits défectueux et abrogeant la directive de 1985.
(2) Proposition de directive du 28-09-2022 COM(2022) 496 final sur la responsabilité en matière d’IA.