Des algorithmes prédictifs à la « police prédictive »
Nombreux sont les secteurs d’activité qui aujourd’hui s’appuient sur l’utilisation des algorithmes prédictifs.
A titre d’exemple, leur utilité, voire leur nécessité, dans les domaines du marketing, de la finance ou encore de la santé est désormais acquise.
Le domaine de la lutte contre la délinquance et la criminalité n’échappe pas à cet engouement.
En effet, la vocation des algorithmes prédictifs est de permettre, au regard de l’analyse des faits passés, d’anticiper les évolutions et pourquoi pas les comportements futurs. Quoi de plus intéressant, donc, que de pouvoir, à l’aide de cette technologie, identifier les futures infractions à être commises afin d’en empêcher la réalisation ?
Si à ce jour une telle utilisation des algorithmes prédictifs est encore hypothétique, les logiciels de police prédictive sont toutefois déjà légion.
Ces applications sont principalement des logiciels dits de « prédiction spatio-temporelle », qui permettent de déterminer les lieux et heures présentant un risque d’infraction particulièrement important. Il s’agit de cartographier les infractions et de prédire les tendances, c’est-à-dire les zones et périodes « à risque », afin notamment d’affecter les ressources humaines policières là où l’on peut penser qu’elles seront les plus utiles.
Parmi les outils d’ores et déjà utilisés se fondant sur la technologie des algorithmes prédictifs, il est également possible de citer les applications permettent d’analyser et d’expliciter des situations présentes, par exemple en vue de déterminer les relations sociales entre des personnes dans le cadre des enquêtes policières.
Les autres pistes envisagées en matière de police prédictive, à savoir les méthodes visant à prédire les criminels (c’est-à-dire identifier les individus qui présentent un risque élevé de commettre un crime dans un futur proche), l’identité des coupables (c’est-à-dire désigner des coupables probables pour des crimes spécifiques ayant déjà eu lieu) ou encore les victimes de crimes (c’est-à-dire déterminer les groupes de gens, voire les individus, qui font face à un risque accru d’être victimes de crimes dans un futur proche), en sont encore à leurs prémices.
Néanmoins, qu’il s’agisse de prédire le futur ou d’analyser le présent, l’utilisation des algorithmes prédictifs nécessite un recours à une collecte massive de données, qui constituent la source de l’analyse prédictive en ce qu’elles alimentent les applications à vocation opérationnelle.
Or, si divers types de données peuvent avoir vocation à être traités dans ce cadre, en fonction du secteur économique concerné et de la finalité recherchée, les analyses prédictives nécessitent bien souvent l’utilisation de données à caractère personnel.
Une telle utilisation peut soulever certaines interrogations s’agissant notamment du respect des libertés individuelles et droits fondamentaux. Sur ce point, et sans remettre en cause l’utilité et l’intérêt que représentent les avancées en matière de police prédictive, il convient tout de même de rappeler que le recours aux algorithmes prédictifs doit s’inscrire dans le respect des dispositions de la loi Informatique et libertés (1), à savoir notamment le principe de finalité, de légitimité et de loyauté de la collecte et du traitement, le principe de proportionnalité (en particulier s’agissant des données collectées et des durées de conservation), etc.
En outre, une telle utilisation mène nécessairement à traiter des informations relatives à des infractions, condamnations et mesures de sûreté, données dont le traitement fait l’objet d’un encadrement particulier.
Par ailleurs, il convient de rappeler que l’utilisation de données à caractère personnel à des fins d’analyse prédictive ne doit en aucun cas mener à une prise de décisions produisant des effets juridiques à l’égard d’une personne sur le seul fondement d’un traitement automatisé de données destiné à définir le profil de l’intéressé ou à évaluer certains aspects de sa personnalité, sans intervention humaine et sans que la personne concernée ne soit mise à même de présenter ses observations.
Dès lors, si à terme l’utilisation des algorithmes à des fins de police prédictive devait avoir vocation à permettre de prendre des décisions produisant des effets juridiques à l’égard de personnes qui seraient susceptibles de commettre une infraction par exemple, alors il conviendrait d’assurer l’effectivité de l’intervention humaine dans toute prise de décision, comme le précise le Conseil d’État dans son rapport annuel de 2014 sur le numérique et les droits fondamentaux (2). Cette intervention humaine devrait être prise en charge par des personnes compétentes, capables d’interpréter et de remettre en cause les résultats de l’algorithme ou du moins de ne pas être aveuglées par ces derniers.
Par ailleurs, les algorithmes prédictifs constituant, au regard des prédictions réalisées, un véritable outil d’aide à la prise de décision, des difficultés peuvent en résulter en termes de responsabilité : quid d’une mauvaise interprétation des résultats par exemple et du préjudice qui pourrait en résulter ? quid de la réparation de ce préjudice ?
Enfin, la question de la preuve est également structurante, qu’il s’agisse de déterminer la validité et la force probante des informations restituées grâce à un algorithme (si cette question se pose dans le cadre de toute utilisation de cette technologie, elle est particulièrement prégnante s’agissant des pratiques de police prédictive), ou encore de démontrer la véracité des résultats obtenus au moyen d’algorithmes prédictifs.
Ce sont là les enjeux de la police de demain, nécessitant, entre autres, de trouver un juste équilibre entre prévention des infractions et respect de l’arsenal juridique et éthique applicable en matière de protection des droits des personnes.
Alain Bensoussan
Lexing Droit Marketing électronique
(1) Loi 78-17 du 6-1-1978 : www.legifrance.gouv.fr
(2) www.conseil-etat.fr