Informatique affective et interfaces homme machine empathiques
Si l’ informatique affective permet de faciliter et d’enrichir les interactions homme machine, les problématiques juridiques inhérentes à ces technologies doivent être prises en compte.
Applications de l’informatique affective
L’informatique affective est un domaine de recherche ayant trait à l’informatique, à la psychologie et aux sciences cognitives.
L’objectif est de développer la faculté de la machine à simuler l’empathie de la machine c’est-à-dire de reconnaître et d’interpréter les émotions et d’adapter son comportement, c’est pourquoi on parle aussi d’intelligence artificielle émotionnelle.
Le terme d’informatique affective est utilisé depuis la publication par Rosalind Picard d’un article fondateur dans la revue du MIT en 1995 (1). Selon elle, pour interagir de manière naturelle et intelligente avec les humains, les ordinateurs ont besoin de la capacité au moins de reconnaître et exprimer des émotions.
Les applications de l’informatique affective sont multiples. Elles sont évidentes par exemple concernant les robots humanoïdes et sociaux mais peuvent couvrir d’autres domaines, par exemple le chatbot d’un service commercial capable de détecter la colère d’un client et d’adapter ses réponses, une plateforme de e-learning s’adaptant aux facultés d’attention de l’utilisateur, une voiture connectée détectant la fatigue du conducteur ou encore en matière de jeux vidéo ou de publicité.
Technologies utilisées par l’ informatique affective
Les techniques et paramètres utilisés par l’informatique affective et les interfaces homme machine empathiques pour détecter les émotions des utilisateurs sont multiples.
- L’analyse du langage
- L’analyse de la voix
- L’analyse des expressions faciales et du langage corporel
- L’analyse des indicateurs physiologiques (mesure du rythme cardiaque, de la pression artérielle, de la température corporelle, électro-encéphalographie, etc.)
D’autre part, des technologies d’intelligence artificielle et de machine learning peuvent être mises en œuvre par la machine afin de simuler l’empathie.
Risques juridiques de l’informatique affective
L’informatique affective et les interfaces empathiques peuvent soulever des questions éthiques mais certaines questions juridiques doivent également être traitées en amont du développement ou du recours ces technologies.
Par exemple, en cas de recours à ces technologies à des fins commerciales, à destination de consommateurs, pourraient émerger des questions liées au consentement. En cas d’achat par l’intermédiaire d’une interface ou d’un assistant intelligent et empathique, le consentement du consommateur être considéré comme vicié s’il s’avérait que des manœuvres dolosives ont été mises en œuvre. La mise en œuvre d’une stratégie d’exploitation de l’état émotionnel du consommateur afin de faire réaliser un acte d’achat pourrait être considérée comme telle.
Peuvent également se poser des questions liées au à la collecte, au traitement et la sécurité des données à caractère personnel, en particulier de données de santé.
Par exemple, l’activité électrique du cerveau d’un utilisateur d’interface neuronale pourrait être qualifiée de donnée à caractère personnel. Des données biométriques sont susceptibles d’être collectées.
L’entrée en application le 25 mai 2018 du Règlement européen sur la protection des données (RGPD) impose de nouvelles obligations à cet égard, et notamment la réalisation d’analyses d’impact, le respect du RGPD dès la conception du traitement de données et l’obligation de prouver la conformité du traitement avec le RGPD (2).
D’autres problématiques peuvent se poser, liées notamment à la protection de la vie privée ou en matière de droit du travail, lorsque ces technologies sont mises en œuvre à destination des d’utilisateurs salariés de l’entreprise.
Benoit de Roquefeuil
Katharina Berbett
Lexing contentieux informatique
(1) Rosalind Picard, « Affective Computing« , MIT Technical Report n°321
(2) Règlement (UE) 2016/679 du Parlement européen et du Conseil du 27 avril 2016 relatif à la protection des personnes physiques à l’égard du traitement des données à caractère personnel et à la libre circulation de ces données