Une IA digne de confiance : responsabilité, humanité, éthique
Alain Bensoussan participe le 13 avril 2022 au webinaire « L’Intelligence artificielle, IA digne de confiance » organisé par l’Académie des Sciences et Techniques Comptables et Financières en partenariat de l’ISACA-AFAI.
L’IA est là mais elle est encore immature !
Pour convaincre de la confiance dans l’IA, au-delà de la conformité à des textes légaux en pleine émergence, il faut disposer :
- d’une part, d’un cadre commun de compréhension des enjeux, freins, obstacles, spécificités qui méritent une attention particulière, des exigences attendues ;
- d’autre part, de référentiels de bonnes pratiques qui doivent permettre de concevoir et mettre à disposition de telles IA ;
C’est dans ce contexte que le Groupe de travail (GT) LACADEMIE.INFO et ISACA-AFAI organise ce colloque avec le soutien de l’Université Paris-Dauphine PSL.
Le déroulement du colloque se fera autour de plusieurs tables rondes :
- Le contexte juridique international
- Les spécificités de l’IA et les questions à résoudre
- Les solutions : 3 témoignages de grands acteurs
- L’audit des IA
Ainsi, témoigneront des grands industriels, des juristes, des auditeurs, des universitaires, des commissaires aux comptes, des auditeurs informatiques.
Les travaux de l’Académie des Sciences et Techniques Comptables et Financières
Le colloque sera aussi l’occasion de présenter le 2ème ouvrage produit par le groupe de travail :
« Intelligence Artificielle et Confiance – volume 2 : responsabilité, humanité, éthique »
dont les thèmes suivants seront abordés au cours du colloque :
- Les limites de la législation actuelle au niveau international et les nombreuses initiatives en cours dont une nouvelle législation européenne
- Les causes du manque de confiance : un périmètre multiforme confus, l’effet boîte noire, la perte possible de primauté de l’humain, les biais, la représentabilité et l’équité des données d’apprentissage et de production, la fragilité, les limites des outils actuels
- Les principales exigences via à vis de l’IA et les bonnes pratiques pour y répondre : transparence, explicabilité, bouton rouge, traitement non discriminant, traçabilité, robustesse, sécurité, gouvernance et responsabilités, testabilité et documentation
- Les approches d’audit spécifiques et les outils : quelles certifications, pour qui et pour répondre à quelles exigences ?
Pour rappel, « Intelligence Artificielle et Confiance volume 1 : réglementation, enjeux, risques, audit et certification » (Cahier N°38, octobre 2021).
IA digne de confiance : de nouveaux risques, de nouveaux principes
Selon Alain Bensoussan, « Ne pas rendre explicables les IA interroge sur le plan de l’éthique et de la transparence, suscitant la crainte et la méfiance. Dans le même temps, il est souvent très difficile d’expliquer leurs fonctionnement de manière intelligible et accessible par tous. C’est le fameux problème de la boîte noire souligné par la mission Villani sur l’intelligence artificielle (IA). S’ajoute en outre, d’autres risques tels le dévoilement du secret des affaires ou l’atteinte à la protection des droits sur ce type de création, ou encore, l’exposition au pirate informatique pouvant causer tout autant de dégâts ».
> POUR VOUS INSCRIRE AU WEBINAIRE gratuit (suivi sur votre ordinateur)
Isabelle Pottier
Lexing Département Etudes et publications