Le droit et la gouvernance des algorithmes
Le droit et la gouvernance des algorithmes est le thème présenté par Alain Bensoussan sur MyD-Business,
TV d’Accenture. « Comment accepter de vivre avec des algorithmes ? » s’interroge l’avocat Alain Bensoussan. Appliqués au Big Data et aux objets connectés, les algorithmes en effet ont tendance à prendre le pouvoir partout : par exemple, ils déterminent des prévisions qui peuvent être appliquées dans le domaine de la sécurité (prévention des délits) ou de la consommation (Amazon).
En attendant que soit mise au point une véritable gouvernance des algorithmes, il faut instaurer des commissions d’éthique pour veiller à leurs effets. Car ces algorithmes prennent déjà des décisions, à l’instar du GPS (Global positioning system) qui indique à leurs utilisateurs le chemin à suivre. Il va donc falloir contrôler ce « mode GPS », parce que, s’il s’étend sans contrôle, il induira le risque pour le citoyen ou l’entreprise de ne prendre que des décisions guidées implicitement mais directement par les algorithmes.
A l’heure du big data, le développement des bots et des algorithmes conduit à faire émerger certains risques juridiques liés en particulier à l’utilisation massive de données à caractère personnel. Or l’exploitation toujours plus fine des données à caractère personnel ain si que les décisions prises sur le seul fondement d’un traitement automatisé de données destiné posent des questions au regard de la loi Informatique et Libertés.
Le développement du big data conduit à appliquer les algorithmes dans de très nombreux domaines pour optimiser le fonctionnement de nombreux services. Pour l’exercice des libertés, cela présentent de nombreux risques notamment celui de ne plus être maître de ses choix par une confiance abusive dans les résultats de ces algorithmes. Il faut prendre la mesure du rôle joué par les algorithmes et concevoir l’encadrement de leur utilisation.
La gouvernance des algorithmes, (MyD-Business, TV d’Accenture), 25 avril 2016.