Le débat sur la responsabilité pénale des robots a été récemment relancé par les achats d’un robot sur le darknet.
Le robot « Random Dark Shopper » a été créé par le groupe MedienGruppe Bitnik dans l’optique d’effectuer de manière autonome et aléatoire des achats sur le darknet. Un darknet est un réseau privé virtuel dont les utilisateurs sont considérés comme des personnes de confiance. Un budget de 100 dollars en bitcoins par semaine lui a été alloué et le robot fait livrer l’ensemble de ses achats au musée Kunst à St Gallen en Suisse, afin qu’ils soient exposés.
Si parmi les achats de Random Dark Shopper figuraient des objets non sujets à controverse (l’intégrale du Seigneur des anneaux, des chaussures de sport de collection…), d’autres achats étaient plus problématiques puisqu’ont notamment été livrés au musée des cachets d’ecstasy et un faux passeport.
Le projet artistique a été saisi par la police suisse, mettant fin à l’exposition un jour avant la date de fin prévue. Il semble aujourd’hui que ni les artistes ni le robot ne seront poursuivis pour ces faits en Suisse.
L’expérience remet en avant la question de la responsabilité, en l’occurrence pénale, des robots.
Les lois d’Isaac Asimov, édictées en 1942, anticipaient déjà la question de l’autonomisation des robots doués d’intelligence artificielle. Les trois lois de la robotique sont les suivantes :
1. Un robot ne peut porter atteinte à un être humain, ni, en restant passif, permettre qu’un être humain soit exposé au danger.
2. Un robot doit obéir aux ordres qui lui sont donnés par un être humain, sauf si de tels ordres entrent en conflit avec la première loi.
3. Un robot doit protéger son existence tant que cette protection n’entre pas en conflit avec la première ou la deuxième loi.
Le robot semble ici violer au moins la première de ces lois.
En droit pénal français, la commission d’une infraction pénale suppose la réunion de trois éléments : un élément matériel, un élément légal et un élément moral.
L’élément qui pose le plus de difficulté dans le cas présent, est la caractérisation de l’élément moral. Il n’y a pas en principe de délit sans intention de le commettre. Si par exception, la loi peut prévoir la commission d’un délit en cas de faute d’imprudence, de négligence ou de manquement à une obligation de prudence ou de sécurité prévue par la loi ou le règlement, c’est uniquement, en application de l’article 121-3 alinéa 3 du Code pénal (1), s’il est établi que l’auteur des faits n’a pas accompli les diligences normales compte tenu, le cas échéant, de la nature de ses missions ou de ses fonctions, de ses compétences, ainsi que du pouvoir et des moyens dont il disposait.
Dans cette hypothèse, les personnes physiques qui n’ont pas causé directement le dommage, mais qui ont créé ou contribué à créer la situation qui a permis la réalisation du dommage ou qui n’ont pas pris les mesures pour l’éviter, sont responsables pénalement, s’il est établi qu’elles ont, soit violé de façon manifestement délibérée une obligation particulière de prudence ou de sécurité prévue par la loi ou le règlement, soit commis une faute caractérisée et qui exposait autrui à un risque d’une particulière gravité qu’elles ne pouvaient ignorer.
Cette dernière hypothèse permettrait de faire porter la responsabilité pénale pour les faits commis par le robot, doté d’intelligence artificielle, sur l’auteur de l’algorithme d’intelligence artificielle sur lequel il s’appuie.
Dans le cas de Random Dark Shopper, les deux artistes ont déclaré assumer pleinement les actes du robot et la responsabilité pénale qui en découlait.
Mais la question mérite réflexion. A partir du moment où le créateur du robot a pris toutes les précautions nécessaires lors de la conception de celui-ci, pour notamment paramétrer tous les lois et règlements applicables, que faire si le robot décide de lui-même de commettre une infraction, en toute connaissance de cause ? En d’autres termes, comment appréhender la responsabilité pénale d’un agent intelligent doté d’une intelligence artificielle si développée qu’elle lui confère une autonomie de pensée qui confine à un état de « conscience » ?
La capacité du droit positif à gérer les nouvelles formes d’activité délictueuse, dont le Random Dark Shopper est une illustration, est mise en question, et ce avec d’autant plus d’acuité que l’intelligence des robots va croître.
Virginie Bensoussan-Brulé
Chloé Legris
Lexing Droit pénal numérique
(1) C. pén. art. 121-3, al. 3.