Intelligence artificielle et confiance
Alain Bensoussan participait le 18 novembre 2021 au webinaire « Intelligence Artificielle & confiance: réglementation, enjeux, risques, audit et certification » organisé dans le cadre des Jeudis de l’ISACA-AFAI.
Les organisations connaissent de profonds bouleversements de leur modèle économique. Avec une forte pression pour évoluer afin de créer et de fournir de la valeur. L’Intelligence Artificielle suscite de grands espoirs. Mais elle soulève aussi de nombreuses craintes. Les nouvelles applications développées grâce à elle, ont et auront un impact considérable sur l’économie de nos pays. Et plus généralement sur le fonctionnement de nos sociétés. Instaurer la confiance nécessaire dans les systèmes à base d’Intelligence Artificielle est fondamental
Or, aujourd’hui l’Intelligence Artificielle interpelle sur plusieurs sujets. La transparence, la traçabilité, le contrôle des apprentissages et des évolutions par les données. Mais aussi la fiabilité, les biais, la sécurité et la confidentialité. Dès lors, comment disposer d’une évaluation objective de la conception, de la réalisation et, périodiquement, du fonctionnement, de l’enrichissement et de la maintenance de ces systèmes ?
Intelligence Artificielle & confiance: réglementation, enjeux, risques, audit et certification
La confiance dans l’IA était au cœur du webinaire organisé le 18 novembre 2021 le cadre des Jeudis de l’ISACA-AFAI. L’ISACA-AFAI est la chapitre français de l’ISACA, association internationale qui regroupe plus de 140 000 membres dans 180 pays. Elle-même rassemble aujourd’hui près d’un millier de professionnels en France.
Les intervenants se sont attachés à présenter la gouvernance et l’audit de ces algorithmes qui devraient être effectués. Et également les bonnes pratiques à généraliser par les développeurs de ces systèmes mais aussi par leurs promoteurs et par les entreprises qui les commercialisent et les exploitent.
Sont tour à tour intervenus :
– Introduction par Adrien Staar, Administrateur de l’ISACA-AFAI, Associé du cabinet iQo, co responsable de l’expertise « CIO Advisory»
- Alain Bensoussan, avocat, Lexing Alain Bensoussan Avocats
- Evelyne Mercier, directrice financière de MANUTAN, diplômée d’expertise comptable
- Camille Rosenthal-Sabroux, professeur émérite Université Paris Dauphine-PSL, Lamsade
- Claude Salzman, consultant en Système d’Information, Président du Club Européen de la Gouvernance des Systèmes d’Information
- Patrick Stachtchenko, chargé de cours en Gouvernance, Cyber Sécurité, Audit IA et Référentiels, CGEIT, CRISC et CISA
- Serge Yablonsky, expert-comptable, commissaire aux comptes, CGEIT, CISA, CRISC, SYC Consultants
Cahier N°38 de l’Académie des Sciences et Techniques Comptables et Financières
Cette conférence était organisée en lien avec la parution intervenue en octobre 2021 du cahier N°38 de l’Académie des Sciences et Techniques Comptables et Financières. Ce cahier a été rédigé par un groupe de travail commun entre l’ISACA – AFAI et l’Académie et dont le titre est précisément « Intelligence Artificielle & Confiance ». 
Pour instaurer la confiance nécessaire dans les systèmes à base d’intelligence artificielle (IA), l’Académie des sciences et techniques comptables et financières a créé en 2017 un groupe de travail « IA et confiance ». Celui-ci est chargé de réfléchir aux questions de transparence, traçabilité, contrôle des apprentissages et évolutions par les données, de fiabilité, de biais, de sécurité et de confidentialité de l’IA.
Il a pour objectif de réfléchir à la réglementation, aux enjeux, aux risques et à la façon d’auditer un algorithme pour être à même de le certifier “conforme“.
De la réflexion éthique à l’action juridique
Selon Alain Bensoussan, « nous avons dépassé, pour une bonne partie des pays, la réflexion éthique, pour être dans l’action juridique ». Près d’une centaine de réglementations existent dans le monde sur le droit et l’IA et un projet de règlement tout aussi important que le RGPD est en préparation au niveau européen (V. le compte rendu du webinaire : Intelligence artificielle : les clés pour garantir un cadre de confiance , Affiches Parisiennes, 23 novembre 2021.« On expérimente d’un côté et on certifie de l’autre. Tous nos travaux portent sur cette nécessité de certifier. En effet, au regard des technologies d’aujourd’hui, les IA sont autonomes, elles échappent à leur créateur ».
Eric Bonnet
Directeur du Département Communication juridique