Intelligence artificielle, éthique et gestion des risques

Intelligence artificielle, éthique et gestion des risques

L’intelligence artificielle suscite de nombreuses interrogations tant sur le plan juridique qu’en matière d’éthique.

L’intelligence artificielle est une technologie qui suscite des craintes. En effet, l’introduction de l’intelligence artificielle et de son corollaire, l’autonomie de décision et d’action dans son rapport avec l’humain, posent de nombreuses interrogations juridiques et éthiques.

Cette technologie va bouleverser nos habitudes et remet en cause les certitudes des technologues mais aussi des futurs utilisateurs.

Une attention particulière est accordée à l’éthique et plus précisément à la définition du sens et des valeurs dès la conception de l’intelligence artificielle mais aussi au droit et à la sécurité informatique.

Ces craintes plus ou moins fondées sont liées à l’automatisation des tâches et la délégation des missions à haute responsabilité à des intelligences artificielles.

Les initiatives des entreprises

Toutes les entreprises ont conscience de l’impact de l’intelligence artificielle, s’y préparent et ont l’idée de l’intégrer. De nouvelles réflexions s’imposent afin de s’emparer du sujet et se préparer dès maintenant à repenser l’organisation des structures.

Au sein des entreprises, on constate la création de cellules « Innovation et prospective » afin de mener des analyses et réflexions sur l’impact de l’intelligence artificielle. Ces cellules communiquent aussi auprès d’autres entreprises.

Elles ont pour objectifs, pour la plupart d’entre elles, de partager des idées, d’échanger et de s’approprier les impacts de l’intelligence artificielle et d’anticiper la transformation intelligente.
En raison du grand potentiel de l’intelligence artificielle, beaucoup d’experts appellent à encadrer la recherche dans ce domaine. Ces initiatives sont justifiées par la volonté d’accélérer les prises de conscience des enjeux et objectifs liés à l’intelligence artificielle.

Le 10 janvier 2015 (1), de nombreuses personnalités, ingénieurs et universitaires, ont signé une lettre ouverte sur le site Future Of Life pour alerter des risques associés au développement de l’intelligence artificielle et mettant en place une réflexion sur la place des robots intelligents dans la société et une réflexion éthique des intelligences artificielles.

La dernière initiative des géants de l’internet

Les géants de l’internet ont annoncé le 28 septembre 2016 un partenariat pour définir les bonnes pratiques en termes d’éthique. Il s’agit d’un partenariat pour l’intelligence artificielle au bénéfice des citoyens et de la société prenant la forme d’une organisation à but non lucratif qui regroupe IBM, Google, Facebook, Microsoft et Amazon. Cette organisation sera composée de représentants de ces entreprises, de chercheurs, d’associations.

Toutes ces démarches ont pour vocation de communiquer auprès du public, d’apaiser les craintes et de promouvoir la transparence. L’organisation s’engage à publier les résultats de ces recherches. En revanche, rien n’engage les grandes entreprises participant à cette organisation d’appliquer les recommandations et bonnes pratiques qu’elles définiront ensemble afin de « protéger la vie privée et la sécurité des individus ».

Cela rappelle l’initiative d’Elon Musk qui annonçait en 2015 le lancement de son centre de recherche, OpenAI afin « de faire progresser l’intelligence numérique dans une direction plus à même de bénéficier à l’humanité ». Cette organisation à but non lucratif a pour objectif de développer des technologies d’intelligence artificielle et de les mettre à disposition de tous et d’être un rempart aux dangers représentés par l’intelligence artificielle.

Les initiatives de la Commission des affaires juridiques du Parlement européen

La Commission JURI dans son projet de rapport publié le 31 mai 2016 contenant des recommandations au sujet de futures règles de droit civil sur la robotique (2), propose une charte sur la robotique, qui permettra de poser les bases d’une conduite éthique et déontologique.

Les Livres blancs sur l’intelligence artificielle

La cellule « veille et prospective » de l’Inria a publié un Livre blanc consacré à l’intelligence artificielle afin de donner une vision globale des problématiques de l’intelligence artificielle et de donner une vision stratégique et stratégique (3).

En partenariat avec le Cigref, le cabinet Alain Bensoussan a rédigé un Livre blanc « Gouvernance de l’intelligence artificielle dans les entreprises » (4), présentant les enjeux managériaux, éthiques et juridiques de cette nouvelle technologie. Il s’agit aussi d’un travail collaboratif qui reflète une réflexion commune avec des grands témoins et acteurs de l’intelligence artificielle.

Ce Livre blanc met en avant les aspects juridiques majeurs de l’intelligence artificielle. Il n’existe pas en effet de cadre juridique propre à l’intelligence artificielle qui prend en considération les spécificités des algorithmes, de ses capacités décisionnelles et d’apprentissage et de son autonomie.

Une des problématiques essentielles que soulève cette technologie réside dans son autonomie et de son imprévisibilité avec les êtres humains. Il conviendrait de ne pas faire peser sur le concepteur l’ensemble des responsabilités et de mettre en place une responsabilité en cascade afin de prendre en considération la responsabilité de l’utilisateur et de son propriétaire s’il est différent et de l’intelligence artificielle en elle-même.

De plus, l’intelligence artificielle permet de tracker l’individu. De grandes avancées sont faites notamment en reconnaissance d’image, en reconnaissance vocale. Les voitures autonomes sont aussi dotées d’intelligence artificielle. Il conviendrait donc de limiter l’intelligence artificielle dans sa collecte de données.

Des tests devraient être effectués sur l’intelligence artificielle avant sa mise sur le marché.

Des risques pourraient être évités grâce à un process d’ethic by design, c’est-à-dire penser l’éthique des intelligences artificielles dès leur conception mais aussi d’apporter des préventions a posteriori.

Le droit et l’éthique sont donc indissociables pour encadrer les intelligences artificielles.

Les initiatives pour encadre les intelligences artificielles se multiplient et proviennent aussi bien des hommes de l’art que des professionnels du droit.

Marie Soulez
Julie Langlois
Lexing Propriété intellectuelle Contentieux

(1) Futur of Life Institute, Open letter « Research priorities for robust and beneficial artificial intelligence »
(2) Parlement européen, Projet de rapport 2015/2103(INL) du 31-5-2016
(3) Inria, Article de Sarah Alzieu du 16-9-2016 « Intelligence Artificielle, les défis actuels et l’action d’Inria »
(4) Livre blanc Cigref « Gouvernance de l’Intelligence Artificielle dans les entreprises »

Laisser un commentaire