Intelligence artificielle : nouveau projet de Règlement (I)

de règlement

Un nouveau projet de Règlement européen paru le 21 avril 2021 harmonise les législations en matière d’intelligence artificielle (1).

La première régulation européenne de l’intelligence artificielle

Face aux premières initiatives des Etats membres pour encadrer l’IA, la Commission européenne a publié un projet de Règlement. Le but : doter l’IA d’un cadre juridique harmonisé.

Elle s’est inspirée des trois résolutions du Parlement européen en matière d’IA (2) et de son propre livre blanc (3). L’objectif : donner aux utilisateurs une véritable confiance dans les systèmes d’IA tout en encourageant les entreprises à les développer.

Une approche fondée sur les risques

Le projet de Règlement prévoit un encadrement des systèmes d’IA en fonction des risques qu’ils représentent.

Le projet distingue ainsi quatre types de systèmes d’IA selon le niveau de risque : inacceptable, élevé, limité ou faible.

Les systèmes d’intelligence artificielle aux risques inacceptables limités

La Commission européenne vise à limiter l’utilisation des systèmes d’IA qui seraient contraires aux valeurs de l’Union ; par exemple, ceux incompatibles avec les droits fondamentaux. Ainsi, le projet de Règlement interdit les systèmes d’IA suivants :

  • les systèmes d’identification biométrique à distance et en temps réels lorsqu’ils sont utilisés dans les espaces publics aux fins d’application de la loi.

Cela vise principalement les systèmes de reconnaissance faciale utilisés par autorités publiques des Etats Membres, à des fins répressives et dans les lieux publics.

Toutefois, même dans cette hypothèse, l’utilisation des systèmes d’IA peut être autorisée dans certains cas ; par exemple, pour rechercher les victimes d’infraction (enfants disparus), lutter contre certains types d’infractions ou prévenir une attaque terroriste.

  • les systèmes qui emploie des techniques de manipulation subliminale des personnes ou d’exploitation des vulnérabilités de groupes sensibles d’une manière susceptible de causer un préjudice.

Par exemple, sont ainsi visés les jouets qui induiraient les enfants à adopter un comportement dangereux.

  • les systèmes de notation généralisée des personnes par les autorités publiques.

Serait ainsi proscrit le système de « crédit social » mis en œuvre en Chine.

Toutefois, comme pour la reconnaissance faciale, cette limite ne vise pas l’utilisation de ces systèmes par des entités privées, comme par exemple la notation des livreurs de repas ou des chauffeurs de VTC.

La violation d’une de ces limites peut entrainer le paiement d’une amende pouvant aller jusqu’à 30 millions d’euros ou, si l’auteur est une entreprise, jusqu’à 6 % de son chiffre d’affaires annuel mondial total, le montant le plus élevé étant retenu.

Alain Bensoussan
Jérémy Bensoussan
Marie Schwartz
Lexing Droit de l’intelligence artificielle & Contentieux technologiques

______________________________
Notes

(1) Proposition de Règlement du Parlement européen et du Conseil établissant des règles harmonisées concernant l’intelligence artificielle (Législation sur l’IA) et modifiant certains actes législatifs de l’Union, Bruxelles, le 21 avril 2021, COM(2021) 206 final, 2021/0106 (COD).
(2) Trois résolutions du Parlement européen du 20 octobre 2020 : la première contenant des recommandations à la Commission sur un régime de responsabilité civile pour l’intelligence artificielle, la seconde sur un cadre pour les aspects éthiques de l’intelligence artificielle, de la robotique et des technologies connexes, la troisième sur les droits de propriété intellectuelle pour le développement des technologies liées à l’intelligence artificielle.
(3) Livre blanc sur l’Intelligence Artificielle de la Commission européenne, 19-2-2020, COM(2020) 65 final.