IA robotique et technologies connexes : vers une régulation en Europe
IA robotique et technologies connexes : les eurodéputés approuvent des propositions de la commission des affaires juridiques visant à répondre aux opportunités et aux défis juridiques posés par l’Intelligence artificielle.
IA robotique et technologies connexes plus éthiques, sûres et innovantes
Une nouvelle étape a été franchie le 20 octobre 2020, avec l’adoption par le Parlement européen de trois résolutions définissant respectivement :
- un cadre pour les aspects éthiques : Résolution Éthique et cadre pour l’IA, 2020/2012(INL) du 20-10-2020 proposant un Règlement européen sur les principes éthiques relatifs au développement, au déploiement et à l’utilisation de l’intelligence artificielle, de la robotique et des technologies connexes.
- un régime de responsabilité civile : Résolution Responsabilité en cas de dommages causés par l’IA, 020/2014(INL) du 20-10-2020 proposant un Règlement européen relatif à un régime de responsabilité pour l’exploitation des systèmes d’intelligence artificielle.
- les droits de propriété intellectuelle : Résolution Droits de propriété intellectuelle, 2020/2015(INI) du 20-10-2020.
En d’autres termes, ces résolutions et les propositions de règlements associées ont pour objectif de :
- rendre l’Intelligence artificielle éthique, sûre et innovante et
- répondre aux défis juridiques posés par l’IA, la robotique et les technologies connexes.
Un cadre éthique permettant un contrôle humain
Le Parlement européen pose un nouveau cadre juridique pour les principes éthiques à utiliser lors du développement, du déploiement et de l’utilisation de l’IA, de la robotique et des technologies connexes dans l’UE, « y compris les logiciels, les algorithmes et les données ».
Ainsi, il pose les principes directeurs pris en compte dans la proposition de Règlement européen annexée de la résolution, notamment :
- une IA centrée sur l’humain, faite et contrôlée par l’homme ;
- une évaluation des risques « ex ante impartiale, réglementée et externe fondée sur des critères concrets et précis » ;
- des dispositifs respectant la sécurité, la transparence et la responsabilité ;
- des garanties contre les préjugés et la discrimination « notamment du fait de biais inhérents aux ensembles de données sous-jacents » ;
- le droit « de contester l’introduction ou l’utilisation en cours d’un système d’IA » et « d’obtenir une réparation à la suite d’une violation de droits » ;
- la responsabilité sociale (notamment, préserver et promouvoir la démocratie, l’état de droit, la prospérité économique) et environnementale ;
- le respect des droits fondamentaux (vie privée, etc.).
L’IA avec capacités d’auto-apprentissage doit donc être conçue de manière à permettre une « bonne gouvernance de ces technologies » (surveillance humaine). Par exemple, les décisions prises par, ou fondées sur ces technologies « devraient rester soumises à un examen, un jugement, une intervention et un contrôle humains significatifs » afin d’éviter toute violation des principes éthiques.
Mais surtout, elles devraient pouvoir être désactivées et ramenées à « des fonctionnalités sûres » en cas de défaillance ou de menace pour les personnes.
Un système de responsabilité civile protecteur des personnes et des entreprises
Le Parlement européen estime « qu’il n’est pas nécessaire de procéder à une révision complète des régimes de responsabilité » ; mais seulement « de procéder à des ajustements spécifiques et coordonnés (…) pour éviter que des personnes ayant subi un préjudice (…) ne puissent pas obtenir réparation ».
Les eurodéputés proposent une responsabilité de principe de l’opérateur de système d’IA (opérateur « frontal » et opérateur « d’amont »). Pour les IA « autonomes à haut risque », ils estiment « raisonnable de mettre en place un régime commun de responsabilité objective » (responsabilité sans faute). La proposition de règlement européen annexée à la résolution dressera une liste exhaustive des systèmes d’IA à haut risque.
Ce régime encouragerait l’innovation en offrant aux entreprises une sécurité juridique (détermination d’un montant et de l’étendue de l’indemnisation). De plus, il renforcerait la protection des citoyens et leur confiance dans ces technologies.
Les eurodéputés ont mis l’accent sur les actions en responsabilité civile contre les opérateurs de systèmes d’IA. Par exemple, cette responsabilité couvrirait « les violations des droits juridiquement protégés importants », que sont le droit à :
- la vie,
- la santé,
- l’intégrité physique,
- la propriété.
De plus, elle devrait également fixer le montant et l’étendue de l’indemnisation ainsi que le délai de prescription,
Un régime de propriété intellectuelle efficace et adapté à l’ère numérique
Pour supprimer les obstacles juridiques inutiles, les eurodéputés demandent que soit réalisée :
- « une analyse d’impact » sur la question clé de la protection des droits de propriété intellectuelle (DPI)
- « dans le contexte du développement des technologies de l’IA ».
En conséquence, ils suggèrent d’évaluer l’incidence et les implications de l’IA « dans le cadre du régime actuel » du droit :
- des brevets,
- de la protection des marques et des dessins et modèles,
- d’auteur et des droits voisins, y compris l’applicabilité de la protection juridique des bases de données et des programmes d’ordinateur,
- de la protection des savoir-faire et des «secrets d’affaires» contre leur acquisition, leur utilisation et leur divulgation illicites.
Par ailleurs, compte tenu des progrès de l’IA, les eurodéputés considèrent qu’il est essentiel « d’opérer une distinction entre les créations humaines assistées par l’IA et les créations autonomes de l’IA ». A ce titre, ils estiment que « les œuvres produites de manière autonome par des agents artificiels et des robots pourraient ne pas bénéficier de la protection par le droit d’auteur, afin de respecter le principe d’originalité, qui est lié à une personne physique ».
De même, ils relèvent que l’autonomisation du processus créatif de production de contenus artistiques pose question en matière de DPI. Par conséquent, ils considèrent « qu’il ne serait pas opportun de vouloir doter les technologies de l’IA de la personnalité juridique ».
Isabelle Pottier
Lexing Département Etudes et publications.