Algorithmes prédictifs : des enjeux économiques et juridiques

Les algorithmes prédictifs représentent désormais une technologie incontournable de notre siècle. Le développement notamment du big data conduit à les appliquer dans de très nombreux domaines.

Conscient de la croissance exponentielle de cette nouvelle technologie et des défis associés, le Conseil d’Etat invite les pouvoirs publics, dans un récent rapport portant sur « Le numérique et les droits fondamentaux » , à prendre la mesure du rôle joué par les algorithmes et à concevoir l’encadrement de leur utilisation.

Des enjeux économiques majeurs. L’algorithme prédictif se définit comme une méthode d’analyse prédictive qui utilise une variété de techniques issues des mathématiques, des statistiques et d’extractions de données en vue d’analyser des faits présents et passés pour faire des hypothèses prédictives sur des évènements futurs.

L’utilité des algorithmes pour optimiser le fonctionnement d’un certain nombre de services n’est pas discutable et concerne tous les secteurs économiques.

Parmi les utilisations de ces algorithmes prédictifs, plus ou moins abouties à ce jour, il est possible de citer :

• le marketing prédictif consistant en l’utilisation des algorithmes prédictifs pour la détermination par exemple de la réceptivité des personnes à des textes ou offres promotionnels, du taux de performance de l’objet d’un e-mail publicitaire (notamment taux d’ouverture, mais également taux de clic et taux de rebond), ou encore du comportement des consommateurs (analyse comportementale), en vue notamment de l’amélioration de l’expérience utilisateur et d’une personnalisation des produits et services proposés. A titre d’illustration s’agissant de l’utilisation de l’internet, pour une même requête, Google renvoie des résultats différents selon les utilisateurs, car son algorithme prend en compte les centres d’intérêt de ceux-ci, révélés par leurs requêtes précédentes. De même, Facebook utilise des algorithmes pour afficher les contenus des amis des internautes sur leur mur ou encore leur proposer des « amis » potentiels ;
• les services d’assistant personnel prédictif : il s’agit d’outils prédictifs « lanceurs » d’applications mobiles ayant pour objectif de rendre les smartphones de plus en plus ergonomiques et personnalisés pour les utilisateurs. Ils disposent de nombreuses fonctionnalités telles qu’analyse des habitudes de l’utilisateur pour mettre en avant les fonctionnalités les plus utilisées et les présenter sur l’écran d’accueil, détection du rythme de vie de l’utilisateur en vue d’une différenciation des utilisations (ex : différenciation des utilisations professionnelles / personnelles en fonction de l’heure de la journée ou de la position géographique du smartphone par exemple), présentation à l’utilisateur des informations qui sont censées l’intéresser avant même qu’il n’en fasse la demande (prochain rendez-vous, trafic, météo,…) ;
• la détermination de scores de risques : risques d’impayés ou de fraudes associés à une commande de produits ou services sur internet ou encore à une demande de crédit à la consommation par exemple, profils à risque parmi les passagers des compagnies aériennes,… ;
• les pronostics et prédictions de résultats sportifs, électoraux,… ou encore l’anticipation de l’affluence dans les transports en communs, dans les bureaux de poste ou dans tout autre lieu ouvert au public.

D’autres domaines, aux confins de l’éthique, sont également en passe d’avoir recours à ces techniques. C’est ainsi que se développent aujourd’hui la médecine (via des systèmes d’aide à la décision clinique par exemple) ou encore la police prédictives.

Des utilisations sources de risques pour le citoyen. La multiplication des usages des algorithmes prédictifs conduit à faire émerger certaines source de risques liées au développement de cette technologie.

A cet égard, le Conseil d’Etat relève notamment les sources de risques suivantes :

• une hyperpersonnalisation des offres et messages adressés aux internautes et consommateurs de manière générale, dont ils ne sont pas maîtres, cette personnalisation conduisant à des risques d’enfermement de l’individu dans une sphère limitée de possibilités et de ségrégation des expériences ;
• la confiance abusive dans les résultats d’algorithmes perçus comme objectifs et infaillibles, alors qu’ils résultent en tout état de cause d’idées et de choix initiaux non nécessairement objectifs ;
• de nouveaux problèmes d’équité du fait de l’exploitation toujours plus fine des données personnelles.

A ces risques « éthiques » induits par l’utilisation des algorithmes prédictifs, viennent s’ajouter des risques juridiques liés à l’utilisation massive de données à caractère personnel dans le cadre des calculs algorithmiques.

En effet, comme tout traitement de données à caractère personnel, l’utilisation de telles données à des fins de prédiction algorithmique doit être particulièrement encadrée, et notamment faire l’objet de formalités préalables auprès de la Cnil. De même, une attention particulière doit être portée aux moyens de collecte des données afin de s’assurer de la loyauté et de la licéité de cette collecte et, compte tenu de la multitude de données nécessaires aux traitements algorithmiques, d’éviter tout détournement de finalité.

Par ailleurs, il convient de rappeler que tout traitement de données doit normalement faire l’objet d’une information préalable des personnes concernées, voire d’un consentement de ces dernières, qui doivent par ailleurs disposer d’une possibilité d’exercer leurs droits d’interrogation, d’accès, de rectification et d’opposition au traitement de leurs données.

De même, l’utilisation de ces données à des fins d’analyse prédictive ne doit en aucun cas induire une prise de décisions produisant des effets juridiques à l’égard d’une personne sur le seul fondement d’un traitement automatisé de données destiné à définir le profil de l’intéressé ou à évaluer certains aspects de sa personnalité, sans intervention humaine et sans que la personne concernée ne soit mise à même de présenter ses observations.

D’autres aspects, dont la gestion peuvent il est vrai présenter une certaine complexité s’agissant des technologies algorithmiques, doivent également faire l’objet d’une attention particulière, notamment l’obligation de ne collecter que des données strictement nécessaires au traitement, de ne les conserver que pendant une durée proportionnée à la finalité recherchée…

Vers un encadrement juridique. Au regard de l’ensemble des risques sus-identifiés et des contraintes juridiques applicables, le Conseil d’Etat émet dans son rapport précité plusieurs propositions visant à encadrer spécifiquement l’utilisation des algorithmes prédictifs.

Pour le Conseil d’Etat, les algorithmes sont des sources de risques pour l’exercice de nos droits fondamentaux : « Face aux risques qu’ils présentent, il convient de définir un véritable droit des algorithmes prédictifs » affirme l’étude.

Pour autant, le Conseil d’Etat n’est pas opposé à l’usage statistique des données personnelles. Il souhaite même les mettre « au service de l’efficacité des politiques de santé, d’éducation, de sécurité, de lutte contre la fraude ou de promotion de la culture, ainsi qu’à la simplification des démarches administratives ».

Les recommandations issues de son rapport sont ainsi les suivantes :

• pour assurer l’effectivité de l’interdiction de fonder une décision sur la seule mise en œuvre d’un traitement automatise´, le Conseil d’Etat rappelle que l’intervention humaine dans la décision doit être réelle et pas seulement formelle, et que des critères d’appréciation du caractère effectif de l’intervention humaine doivent être définis ;
•  il est également rappelé qu’il convient d’imposer aux auteurs de décisions s’appuyant sur la mise en œuvre d’algorithmes une obligation de transparence sur les données personnelles utilisées par l’algorithme et le raisonnement général suivi par celui-ci, et de donner a` la personne faisant l’objet de la décision la possibilité de faire valoir ses observations ;
• le Conseil d’Etat insiste ensuite sur la nécessité de développer et de multiplier les contrôles de la Cnil s’agissant des algorithmes prédictifs par l’observation de leurs résultats, notamment pour détecter des discriminations illicites, en renforçant a` cette fin les moyens humains dont dispose cette autorité ;
• il est en outre recommandé d’analyser les pratiques de différenciation des prix reposant sur l’utilisation des données personnelles, de mesurer leur développement et de déterminer celles qui devraient être qualifiées de pratiques commerciales illicites ou déloyales, et sanctionnées comme telles ;
• enfin, les sites internet diffusant des contenus audiovisuels ou musicaux sont incités à prendre en compte la diversité culturelle dans les algorithmes de recommandation.

Outre les impacts juridiques et sociétaux qui pourraient résulter de ces recommandations, le rapport du Conseil d’Etat doit être l’occasion de sensibiliser les organismes recourant aux techniques algorithmiques d’analyse prédictive aux contraintes et aspects juridiques à maîtriser pour déployer leurs dispositifs en tout légalité et à la nécessité de procéder à un audit juridique de ces pratiques en amont de leur déploiement afin de sécurité leur utilisation.

Alain Bensoussan
Lexing Droit Marketing électronique