Une nouvelle forme de "sextorsion", quand l'utilisation de l'IA détruit les mineurs.

Composé du mot « sexe » et « extorsion », le phénomène de « sextorsion » via une intelligence artificielle (IA) fait de plus en plus de victimes chez les mineurs de 14 et 17 ans.

Selon l’Office des mineurs (Ofmin), il existe une augmentation, sans commune mesure, de plus de 470% des signalements passant alors de 1 174 en 2022 à 5 549 fin octobre 2023.

Que dit le droit sur ce sujet sensible ?

L’intelligence artificielle, avec sa capacité à automatiser et personnaliser les attaques, facilite la simulation de scénarios réalistes, intensifiant ainsi les risques d’atteinte à la vie privée, à l’honneur ou à la considération des personnes ainsi qu’à leur (E)réputation...Cette pratique est perçue comme une nouvelle dérive de l’intelligence artificielle aussi bien en Europe qu’aux États-Unis, où le FBI comptabilise plus de 3000 victimes mineures de "sextorsion".

« Je ne crois que ce que je vois », cette citation de Saint Thomas, ne semble plus, aujourd’hui, faire autorité.Au regard de l’évolution des techniques de création de contenus numériques, il semble que les photos et les vidéos ne sont plus des preuves quasi-irréfutables. L’utilisation malicieuse de l’intelligence artificielle engendre une nouvelle forme de dérive dont les femmes et les mineurs sont les principales victimes.Les « deepfakes », générés par des IA, renvoient à l’utilisation de logiciels d’intelligence artificielle dont l’objectif est de truquer des contenus audio et vidéo à l’aide de critères physiques, morphologique ou encore par la gestuelle et les tics de langage. La société fait face depuis plusieurs années à une recrudescence de cette nouvelle technique de création notamment dans le domaine journalistique et humoristique, mais également dans le cadre d’infractions sexuelles comme le « revenge porn » ou plus récemment dans des faits d’extorsion et de chantage à l’encontre des mineurs.

L’influence que détiennent les réseaux sociaux sur les mineurs est telle, qu’il est parfois aisé de faire pression sur eux afin de les déterminer à remettre certaines sommes à leur maître-chanteur. Des sommes entre 100 et 150 euros en moyenne sont alors demandées sous la menace de diffuser des vidéos de nature sexuelle montées de toute pièce. L’agressivité des cybercriminels et le peu de temps laissé à leurs victimes pour agir leur ôte toute résistance.

I. La nature juridique du phénomène de "sextorsion".

Le phénomène de sextorsion, ainsi appelé par la doctrine, a d’ores et déjà été transposé au sein du Code pénal au sein de l’article 227-22-2 disposant qu’ « Hors les cas de viol ou d’agression sexuelle, le fait pour un majeur d’inciter un mineur, par un moyen de communication électronique, à commettre tout acte de nature sexuelle, soit sur lui-même, soit sur ou avec un tiers, y compris si cette incitation n’est pas suivie d’effet, est puni de sept ans d’emprisonnement et de 100 000 euros d’amende ». Toutefois, l’utilisation de l’IA et des deepfakes fait émerger une nouvelle forme de "sextorsion" mélangeant atteintes aux biens et à la personne.

A) L’utilisation de l’IA et la construction de deepfakes.

À première vue, il semblerait que le Code pénal réprime le « deepfake » à travers notamment l’article 226-8 du Code pénal considérant que :

« est puni d’un an d’emprisonnement et de 15 000 euros d’amende le fait de publier, par quelque voie que ce soit, le montage réalisé avec les paroles ou l’image d’une personne sans son consentement, s’il n’apparaît pas à l’évidence qu’il s’agit d’un montage ou s’il n’en est pas expressément fait mention. Lorsque le délit prévu par l’alinéa précédent est commis par la voie de la presse écrite ou audiovisuelle, les dispositions particulières des lois qui régissent ces matières sont applicables en ce qui concerne la détermination des personnes responsables ».

Nonobstant cette définition assez large, la Cour de cassation a pu juger que :

« l’article 226-8 du code pénal ne réprime pas le montage en tant que tel, mais en ce qu’il tend à déformer de manière délibérée des images ou des paroles, soit par ajout, soit par retrait d’éléments qui sont étrangers à son objet  » [1].

Ainsi, s’il l’on s’accorde à dire que le montage consiste en des coupes et découpes d’images, alors la création et la transformation voire la création d’images à l’aide d’autres données, par un algorithme, ne peut rentrer dans le champ d’application de l’article 226-8 du Code pénal.

Par ailleurs, et à défaut de texte spécifique au deepfake, ce type de fait pourrait être réprimé sous la qualification de l’usurpation d’identité réprimée par l’article 226-4-1 du Code pénaldisposant que : « le fait d’usurper l’identité d’un tiers ou de faire usage d’une ou plusieurs données de toute nature permettant de l’identifier en vue de troubler sa tranquillité ou celle d’autrui, ou de porter atteinte à son honneur ou à sa considération, est puni d’un an d’emprisonnement et de 15 000 € d’amende. Cette infraction est punie des mêmes peines lorsqu’elle est commise sur un réseau de communication au public en ligne ».Cependant, cette infraction reste très délicate puisqu’il doit s’agir pour la plupart du temps de données identifiantes (adresse mail, nom et prénom, photo...).

Il appert donc que ce nouveau phénomène reste délicat à caractériser, de sorte qu’il convient de l’étudier sous deux autres fondements : l’extorsion et le chantage.

B) Le "sextorsion", à mi-chemin entre l’extorsion et le chantage.

Concernant l’extorsion, celle-ci est définie par l’article 312-1 du Code pénal comme :

« le fait d’obtenir par violence, menace de violences ou contrainte soit une signature, un engagement ou une renonciation, soit la révélation d’un secret, soit la remise de fonds, de valeurs ou d’un bien quelconque.L’extorsion est punie de sept ans d’emprisonnement et de 100 000 euros d’amende ».

Cette infraction complexe et matérielle, qui se distingue du vol avec violence, nécessite, pour sa caractérisation :

• l’emploi de moyens violents : c’est-à-dire un danger grave, certain et imminent. La pression exercée par l’auteur doit être suffisamment importante pour pousser la victime à remettre la chose ;

• la présence de la victime et la remise d’une chose : Signature, engagement ou renonciation ou la révélation d’un secret, fond, valeur ou bien quelconque ;

• Enfin, la conscience d’obtenir par la violence ce qui n’aurait pu être obtenu par un accord librement consenti.

Lire la suite