Algorithmes prédictifs : quels enjeux ?
Alain Bensoussan précise les questions à se poser en amont du déploiement des algorithmes prédictifs.
Les algorithmes prédictifs sont au cœur des enjeux économiques et éthiques de notre société. En effet, l’attrait que présentent les méthodes analytiques et outils prédictifs suscite l’intérêt d’une multitude d’organismes dans différents domaines, comme la finance, les assurances, ou encore le marketing.
Ils ont des utilisations très variées et concernent tous les secteurs économiques (marketing prédictif, détermination de scores de risques, pronostics et prédictions de résultats, amélioration de la qualité de vie, etc.) y compris dans le domaine culturel, mais également médical et policier.
L’usage de plus en plus fréquent du “ prédictif ” conduit à faire émerger certaines sources de risques juridiques liées au développement de cette technologie. Les technologies du prédictif nécessitent en effet, l’utilisation massive de données, et notamment de données à caractère personnel.
Un encadrement juridique de ces pratiques doit donc être déployé et des précautions particulières prises afin de veiller à la sécurisation juridique des projets s’appuyant sur l’utilisation d’algorithmes prédictifs.
Le Conseil d’Etat l’a d’ailleurs relevé dans un rapport dédié en partie à ces technologies (1). Il a émis plusieurs propositions visant à encadrer spécifiquement l’utilisation des algorithmes prédictifs et allait même jusqu’à préconiser de définir un véritable droit des algorithmes prédictifs.
Outre ces risques juridiques, de nombreuses interrogations se posent s’agissant notamment de la question de la responsabilité notamment, dans le domaine de la médecine prédictive.
La conception d’outils fondés sur des algorithmes de prédiction pose encore de nombreuses question avant tout déploiement dans le mode de l’entreprise.
Alain Bensoussan pour IT-expert magazine, « Les enjeux juridiques des algorithmes prédictifs », le 19 novembre 2015.
(1) Conseil d’Etat, « Le numérique et les droits fondamentaux », 9-9-2014, Les rapports du Conseil d’Etat – La documentation française.