Recherche

L’IA rend le chantage encore plus facile

| Bettina Bichsel

Une famille est victime de chantage avec des photos sexuellement explicites qui laissent penser que la fille mineure se prostitue. Créées à l’aide d'un outil d’IA, les photos ont l’air vraies, même pour les parents. Comment protéger nos enfants de ces situations effroyables ?

Nous n’avons rien inventé : ça s’est bien déroulé en Suisse. L’affaire a été annoncée sur le service de signalement en ligne contre la pédocriminalité, → clickandstop.ch, conçu pour apporter de l’aide aux personnes concernées. Et ce n’est pas un cas isolé, comme le mentionne Regula Bernhard Hug, directrice de la Protection de l’enfance Suisse. La Protection de l’enfance Suisse gère le service de signalement en collaboration avec la Fondation Guido Fluri et l’Office fédéral de la police (fedpol). Elle a constaté une hausse des cas de sextorsion, c’est-à-dire de chantage à l’aide de photos et vidéos intimes : en 2023, ces cas représentaient près de la moitié des consultations.

Les polices cantonales, fedpol et la Prévention Suisse de la Criminalité (PSC) constatent également la même évolution, qui est notamment à mettre en lien avec le développement de l’intelligence artificielle (IA). La technique a tellement progressé que la manipulation des images est de plus en plus facile et qu’il n’est souvent plus possible de reconnaître une falsification. Comme nous l’avons lu précédemment, les photos et vidéos sont si bien contrefaites qu’elles peuvent même tromper les proches de la personne concernée.

Il n’arrive pratiquement jamais que les maîtres chanteurs cessent leur activité une fois leurs exigences satisfaites

Regula Bernhard Hug, Protection de l’enfance Suisse

Victimes des criminels : les jeunes

Une sextorsion peut également avoir lieu sans IA : lorsque les jeunes envoient par exemple des photos intimes par amour, ou s’ils se laissent convaincre de se toucher devant la caméra. Souvent, les criminels gagnent la confiance des jeunes, se font passer pour une personne séduisante du même âge avec de faux profils sur les plateformes de rencontre, même s’ils sont en réalité plus âgés et n’ont peut-être même pas le sexe qu’ils prétendent avoir. Dès qu’ils obtiennent des photos ou des vidéos, ils menacent de les publier sur Internet. Ils demandent de l’argent, plus d’images intimes ou des rencontres sexuelles.

Pour entrer en contact avec leurs victimes, les auteurs de ces agissements naviguent sur Internet, là où les jeunes aiment se divertir : sur les médias sociaux, les espaces de discussion ou les jeux en ligne.
 

Campagne nationale de protection des jeunes

Protection de l’enfance Suisse a lancé une → campagne en collaboration avec Jeunes et médias et d’autres partenaires afin de protéger les enfants et les jeunes. Pendant trois ans, l’attention est portée sur différents cyberdélits sexuels. Le premier thème prioritaire a été la sextorsion.

Regula Bernhard Hug explique que la coordination entre les différents acteurs est indispensable : « Les connaissances et les compétences de chaque partenaire sont nécessaires pour accomplir quelque chose. » C’est d’autant plus vrai que, dans le cas de la sextorsion, des réseaux de chantage agissent à l’échelle internationale. Outre les organisations de prévention et d’aide aux victimes ainsi que les autorités de poursuite pénale, les fournisseurs de services de télécommunication et les développeurs de jeux sont également impliqués.

Protège ce qui est important pour toi !

Campagne contre la sextorsion

Slogan de la campagne : « Ce que tu partages en ligne, tu le partages avec tout le monde »

Le but de la campagne est de donner des stratégies aux personnes concernées, aux parents et aux professionnels afin que, dans l’idéal, il ne puisse pas y avoir de chantage et qu’en cas d’incident, la réaction soit adéquate. Car il y a bien une chose qui se vérifie régulièrement : « Il n’arrive pratiquement jamais que les maîtres chanteurs cessent leur activité une fois leurs exigences satisfaites », explique Regula Bernhard Hug. Le plus souvent, le chantage continue et les criminels resserrent de plus en plus leur étau autour de leurs victimes.

Afin d’atteindre le plus de monde possible, le film au centre de la campagne a été traduit et diffusé dans plusieurs langues sur Diaspora TV Suisse. Le choix a été fait de ne montrer aucune victime mineure. C’est du point de vue d’un père que la facilité avec laquelle une photo peut être manipulée grâce à l’IA a été illustrée et placée dans de faux contextes. Le message principal est « Ce que tu partages en ligne, tu le partages avec tout le monde. Protège ce qui est important pour toi ! »

Mais, concrètement, comment les jeunes peuvent-ils se protéger ? Et quelle mise en garde les parents doivent-ils appliquer eux-mêmes et transmettre à leurs enfants ?

Conseils pour se protéger au mieux

  • Un principe simple à appliquer pour soi et pour ses enfants : ne partager en ligne que ce que l’on partagerait également avec des inconnus hors ligne.
  • Si vous postez des photos de votre enfant, son visage ne devrait pas être reconnaissable, dans la mesure du possible.
  • Parlez avec vos enfants des risques liés aux photos et vidéos qu’ils partagent avec les autres. Les enfants et les jeunes doivent comprendre qu’un profil peut être falsifié et que des personnes qui prétendent avoir le même âge peuvent en réalité être des gens mal intentionnés.
  • Les photos et vidéos intimes peuvent être détournées à des fins malveillantes. On ne devrait jamais envoyer ce genre de contenus à des personnes que l’on ne connaît que par Internet. Même dans une relation, les jeunes devraient faire attention à ce qu’ils ne soient pas reconnaissables sur les photos ou vidéos érotiques.
  • Souvent, les jeunes le savent, mais ils se laissent tenter parce qu’ils sont amoureux ou parce que l’autre personne met la pression. Expliquez clairement à votre enfant que ce n’est jamais de sa faute et qu’il peut toujours venir vous voir, même s’il a fait quelque chose que vous lui aviez déconseillé. Nous faisons tous parfois des choses, tout en sachant que ce n’est pas une bonne idée.
  • Éduquez votre enfant sur la violence sexuelle (en ligne et hors ligne) et mettez en place des stratégies afin de réagir à des prises de contact non désirées. Des phrases comme « Je ne veux pas de ça ! », ou « Je vais te dénoncer ! », peuvent dissuader de potentiels agresseurs.

Conseils en cas d’incident

  • Ne cédez jamais aux demandes d’un maître chanteur.
  • En cas de mauvais pressentiment, vous pouvez contacter anonymement → clickandstop.ch, où des personnes expérimentées vous apporteront leur aide.
  • La sextorsion provoque souvent des sentiments de honte ou de culpabilité. Ne faites pas de reproches à votre enfant. Au contraire, montrez-lui que vous êtes entièrement de son côté et donnez-lui le temps nécessaire pour parler de ce qu’il s’est passé.
  • Allez signaler le cas le plus rapidement possible à la police, muni du téléphone ou de la tablette de votre enfant. Assurez-vous d’avoir autant de captures d’écran que possible avec les informations sur l’infraction et les exigences du chantage. Pour conserver des preuves, n’envoyez pas sur votre téléphone des photos ou vidéos intimes que votre enfant mineur a envoyées à l’auteur. Ces contenus peuvent être considérés comme de la pornographie enfantine, dont la production, la possession et la diffusion sont punissables.
  • L’idée de devoir en parler à des inconnus (police, psychologues ou autres professionnels) n’est pas agréable. Encouragez votre enfant, car les déclarations sont importantes pour punir les auteurs. Faites également attention à ne pas en demander trop à votre enfant.
  • Utilisez le service gratuit → « Take it down » pour faire en sorte que les photos et vidéos qui circulent soient supprimées.


Pour → plus d’informations sur la campagne, consultez le site de Protection de l’enfance Suisse. Concernant une protection plus globale contre la violence sexuelle en ligne, vous trouverez davantage de conseils pour vous et vos enfants dans notre rubrique → « Abus sexuels sur Internet ».

Bettina Bichsel est journaliste et rédactrice. Elle écrit et blogue pour Jeunes et Médias, parmi ses diverses activités.