Des robots intelligents au cœur des banques et assurances

Le recours aux robots intelligents s’intensifie au sein des banques suscitant de nouvelles problématiques juridiques.

Depuis l’apparition de Watson chez IBM, les robots se perfectionnent progressivement puisque, désormais, certains des robots parviennent à :

• analyser les méls que les clients envoient aux conseillers bancaires, en établissant des degrés de priorité et en préparant une réponse au client que le conseiller n’aura qu’à compléter ;
• suivre l’évolution réglementaire des normes et les intégrer aux mécanismes en place afin de garantir la conformité ;
• résilier à grande échelle des contrats d’assurance auto et habitation.

La survenance d’une faille dans l’exécution d’une tâche ou d’une mission exécutée par un robot soulève, en conséquence, diverses questions sur le statut juridique du robot mais également sur sa responsabilité. En effet, quelle est la place du robot au sein de notre système juridique ? Quelle est la responsabilité du robot ?

Absence de cadre légal

Malgré la place croissante que les robots occupent dans l’ensemble des secteurs de l’économie, y compris désormais la banque et l’assurance, il n’existe pas, à l’heure actuelle, de définition légale du robot, que cela soit en droit français ou au niveau international. En effet, Il n’existe pas de texte de loi prenant en compte le robot comme objet de droit. En revanche, en tant qu’objet technique il existe plusieurs définitions de nature normative.

La norme ISO 8373 : 2012 (1) pose plusieurs définitions du robot, et semble être la source donnant le plus de définitions précises incluant le terme robot, comme, par exemple :

• « robot : mécanisme programmable actionné sur au moins deux axes avec un degré d’autonomie, se déplaçant dans son environnement, pour exécuter des tâches prévues » ;
• « robot de service professionnel : robot de service pour utilisation professionnelle, utilisé pour une tâche commerciale, habituellement par un opérateur qualifié ».

Dès lors, il apparaît que les robots utilisés dans le secteur de la banque et de l’assurance, seraient des robots de service professionnel, puisqu’ils agissent en lieu et place des êtres humains et souvent de collaborateurs qualifiés pour conseiller la clientèle des banques et des compagnies d’assurance.

Pour y parvenir, le principal mécanisme de ces robots repose sur l’utilisation de l’intelligence artificielle.

L’intelligence artificielle se définit comme :

« La discipline relative au traitement par l’informatique des connaissances et du raisonnement » (2).

Ce type de robot effectue une véritable analyse de la situation. Dès lors, il existe une différence entre un robot qui exécute sans analyser des tâches qui se répètent et un robot utilisé pour analyser des méls de clients, qui intègre et analyse les demandes, qui repose sur une solution utilisant l’intelligence artificielle. Dès lors, se pose la question de la responsabilité des robots en milieu bancaire ?

Quelle responsabilité pour les robots ?

La réglementation sectorielle bancaire ne régule pas le statut des robots en milieu bancaire. Il faut donc s’en remettre au droit commun général.

La notion de responsabilité, telle qu’issue du Code civil, est notamment liée à la faute humaine. La jurisprudence s’est toujours refusée à imputer un fait dommageable à des machines car la notion de responsabilité est liée à la question de l’autonomie décisionnelle, c’est-à-dire à la capacité de discernement. Cependant, lorsqu’un robot possède une source d’intelligence artificielle, la question de l’absence de discernement et de personnalité se pose. En effet, l’intelligence artificielle le dote d’une certaine forme d’autonomie qui peut le conduire, dans certains cas, à agir de manière imprévisible.

Dans le cadre de la responsabilité civile délictuelle, deux situations peuvent être envisagées :

• le dommage résulte d’un défaut de fabrication, et dans ce cas, l’application du régime de la responsabilité du fait des produits défectueux (régime de responsabilité objective) semble applicable au cas des robots ;
• le dommage résulte d’une interaction du robot avec les êtres humains.

S’agissant de la responsabilité civile délictuelle, les auteurs du livre vert distinguent deux situations :

Dans le premier cas, un robot cause un dommage du fait d’un défaut de fabrication : la directive n° 85/374 sur la responsabilité du fait des produits défectueux (3) établit le principe de la responsabilité objective (responsabilité sans faute) du fabriquant en cas de dommages provoqués par un produit défectueux.

Dans le second cas, un robot cause un dommage dans le cadre de ses interactions avec des êtres humains dans un environnement ouvert : les robots de nouvelle génération sont dotés de capacité d’adaptation et d’apprentissage et en conséquence, leur comportement présente un certain degré d’imprévisibilité. Le régime de la responsabilité du fait des produits défectueux ne semble plus approprié.

C’est pourquoi, il est soutenu que les robots devraient se voir reconnaître la personnalité juridique (4) et qu’un régime de responsabilité en cascade devrait être mis en place, considérant en tout premier lieu comme responsable le concepteur de la solution utilisant l’intelligence artificielle. Dès lors, dans ce schéma, ce n’est pas la banque qui serait responsable, si la plateforme d’intelligence artificielle présentait un dysfonctionnement, mais le concepteur de la solution utilisant l’intelligence artificielle, sauf si la banque est elle-même la conceptrice de la plateforme d’intelligence artificielle.

Ensuite seulement serait engagée, dans l’ordre, la responsabilité à titre subsidiaire du fabricant du robot ou celle de son propriétaire ou de l’utilisateur.

Il s’avère que la proposition pour un Livre vert (5) sur des aspects juridiques de la robotique, soutenue par la Commission européenne sur les questions juridiques en matière de robotique, penche plutôt pour une reconnaissance de la responsabilité du propriétaire du robot.

La robotisation croissante de la banque et de l’assurance répond certes à l’afflux des demandes électroniques des clients et « à leur besoin d’une plus grande personnalisation », malgré tout l’être humain demeure le rouage indispensable dans la relation clients, facteur clé de leur fidélisation.

Frédéric Forster
Charlotte Le Fiblec
Lexing Droit Télécoms

(1) Norme ISO 8373 :2012 – robots et composants robotiques.
(2) Arrêté du 27-6-1989 relatif à l’enrichissement du vocabulaire de l’informatique, Annexe II.
(3) Directive 85/374/CEE du 25-7-1985 sur la responsabilité du fait des produits défectueux.
(4) « Le droit des robots », Alain Bensoussan – Jérémy Bensoussan (Collection Minilex, Larcier, 2015 ; voir la vidéo de présentation).
(5) Suggestion for a greep paper on legal issues in robotics, 31-12-2012.