La Commission européenne pour l’efficacité de la justice adopte cinq principes fondamentaux d’utilisation de l’IA dans les systèmes judiciaires.
La Commission européenne pour l’efficacité de la justice (CEPEJ) du Conseil de l’Europe a annoncé le 3 décembre l’adoption une Charte éthique européenne d’utilisation de l’intelligence artificielle dans les systèmes judiciaires et leur environnement (1)
Il s’agit, selon le Conseil de l’Europe, du premier texte européen énonçant des principes éthiques relatifs à l’utilisation de l’intelligence artificielle (IA) dans les systèmes judiciaires. C’est là une des premières illustrations claires de la régulation souple par les valeurs qui fait émerger un « droit souple fondamental » issu d’un dialogue des normes.
Cette charte fournit un cadre de principes destinés à guider les décideurs politiques, les juristes et professionnels de la justice dans la gestion du développement rapide de l’IA dans les processus judiciaires nationaux.
Selon la CEPEJ :
«l’utilisation de l’IA dans le domaine de la justice peut contribuer à améliorer l’efficacité et la qualité et doit être mis en œuvre de manière responsable en conformité avec les droits fondamentaux garantis notamment par la Convention européenne des droits de l’homme (CEDH) et la Convention du Conseil de l’Europe pour la protection des données à caractère personnel».
Toujours selon la Commission, il est crucial de «garantir que l’IA reste un outil au service de l’intérêt général et que son utilisation se fasse dans le respect des droits individuels».
Les principes à respecter en matière de systèmes judiciaires
La CEPEJ identifie cinq principes essentiels à respecter en matière d’IA et justice :
-
- Principe de respect des droits fondamentaux : assurer une conception et une mise en œuvre des outils et des services d’intelligence artificielle qui soient compatibles avec les droits fondamentaux;
-
- Principe de non-discrimination : prévenir spécifiquement la création ou le renforcement de discriminations entre individus ou groupes d’individus ;
-
- Principe de qualité et sécurité : en ce qui concerne le traitement des décisions juridictionnelles et des données judiciaires, utiliser des sources certifiées et des données intangibles avec des modèles conçus d’une manière multi disciplinaire, dans un environnement technologique sécurisé ;
-
- Principe de transparence, neutralité et intégrité intellectuelle : rendre accessibles et compréhensibles les méthodologies de traitement des données, autorisant les audits externes ;
-
- Principe de maîtrise par l’utilisateur : bannir une approche prescriptive et faire de l’usager un acteur éclairé et maître de ses choix.
Pour la CEPEJ, «le respect de ces principes doit s’imposer dans le traitement par les algorithmes des décisions juridictionnelles et des données judiciaires et dans l’utilisation qui en est faite».
La Charte de la CEPEJ s’accompagne d’une étude approfondie sur l’utilisation de l’IA dans les systèmes judiciaires. Elle vise en particulier les applications d’IA assurant le traitement des décisions et des données judiciaires.
Jérémy Bensoussan
Lexing département Droit de l’IA et des technologies robotiques
(1) Conseil de l’Europe, Charte éthique européenne d’utilisation de l’intelligence artificielle dans les systèmes judiciaires, CEPEJ(2018)14, décembre 2018.
(2) Conseil de Europe, «Algorithmes et droits humains : Étude sur les dimensions des droits humains dans les techniques de traitement automatisé des données et éventuelles implications réglementaires», COE 2018 DGI(2017)12, mars 2018.