L’intelligence artificielle et les deepfakes à caractère sexuel

Les deepfakes à caractère sexuel sont-ils le nouveau fléau d’internet ?  Virginie Bensoussan Brulé, interviewée par BFM TV, répond sur l’ampleur du phénomène.

S’il n’y a pas encore de cadre juridique spécifique, un projet de loi devrait bientôt voir le jour (1). Le Sénat a adopté deux amendements contre la diffusion de deepfakes à caractère pornographique.

Il est actuellement impossible de référencer le nombre de victimes de cette pratique en France. Mais on sait que ce sont essentiellement des femmes qui en sont victimes. Selon l’association Deeptrace, citée dans l’exposé des motifs de l’un des amendements adopté :

• « 96% des vidéos « deepfake » sont des vidéos pornographiques, où les personnes visées sont dans 99% des cas des femmes ».

Bientôt un nouveau délit de publication d’hypertrucage (« deepfakes ») à caractère sexuel

L’amendement 128 prévoit d’insérer dans le Code pénal, un délit passible de 2 ans d’emprisonnement et 60 000 euros d’amende concernant :

• « le fait de publier, sans son consentement, par quelque voie que ce soit, le montage réalisé avec les paroles ou l’image d’une personne, et présentant un caractère sexuel ».
• « le fait de publier par quelque voie que ce soit, un contenu visuel ou sonore généré par un traitement algorithmique et reproduisant l’image ou les paroles d’une personne, sans son consentement, et présentant un caractère sexuel ».

L’amendement 129 crée une circonstance aggravante qui porte le délit à 3 ans d’emprisonnement et 75 000 euros d’amende :

• « lorsque la publication du montage ou du contenu généré par un traitement algorithmique a été réalisée en utilisant un service de communication au public en ligne. »

L’hypertrucage, ou « deepfake », est défini comme une technique de synthèse reposant sur l’intelligence artificielle. Elle peut servir à :

• superposer ou fusionner des images, des fichiers vidéo ou audio existants sur d’autres images ou fichiers vidéo ou audio,
• créer un contenu artificiel sur une personne cible à partir du comportement d’une personne source, ou même
• créer artificiellement des contenus ressemblants à partir de commandes textuelles.

Ces images peuvent sembler très réelles et convaincantes, et peuvent être utilisées à des fins malveillantes telles que la vengeance, la cyber-intimidation, le chantage ou la diffamation.

______________________________

Notes 

(1) Projet de loi visant à sécuriser et réguler l’espace numérique, 10 mai 2023.