Les agences britanniques alertent les parents sur la menace « réelle » de l'IA face à la recrudescence des images d'abus sexuels sur enfants, et les exhortent à limiter le partage de photos

LONDRES, 4 juillet — Les parents ont été mis en garde contre la publication d'images de leurs enfants en ligne, car celles-ci pourraient être utilisées pour créer du matériel d'abus sexuel généré par l'intelligence artificielle (IA), a déclaré l'Agence nationale de lutte contre la criminalité (NCA), rapportent PA Media/dpa.

De nouvelles directives sur la protection des enfants contre la multiplication des images d'abus sexuels d'enfants générées par l'IA ont été publiées par la NCA et l'Internet Watch Foundation (IWF) dans le cadre d'une nouvelle campagne destinée aux parents et aux aidants, a précisé la NCA.

Cette initiative fait suite au ciblage d'une école du Royaume-Uni par des gangs criminels qui ont utilisé des photos d'élèves disponibles publiquement pour créer des images sexuelles des enfants à l'aide de la technologie IA, puis ont menacé de diffuser ces images à moins qu'un paiement ne soit effectué, selon l'IWF.

Les organisations ont également tiré la sonnette d'alarme face à la forte augmentation de l'utilisation d'outils d'IA pour créer des images d'abus sexuels sur enfants, avec 3 440 vidéos générées par l'IA découvertes par les analystes de l'IWF en 2025, contre seulement 13 en 2024.

La nouvelle campagne vise à aider les parents et les aidants à prendre des décisions éclairées concernant les images de leurs enfants, à considérer le consentement à l'image et à discuter avec les enfants des dangers des images sexuelles générées par l'IA et les « deepfakes », a indiqué la NCA.

« La menace est inquiétante », a déclaré Kerry Smith, directrice générale de l'IWF.

« Si les images de quelqu'un sont en ligne, cette personne peut devenir une proie facile pour les criminels, et n'importe qui, en particulier les enfants, pourrait se retrouver ciblé.

« Nous ne voulons pas dire qu'il ne faut pas partager les images de vos enfants avec les personnes que vous aimez et en qui vous avez confiance, mais nous voulons que chacun soit conscient des risques potentiels et prenne une décision éclairée en ayant tous les faits à sa disposition.

« Ce ne sont pas des menaces hypothétiques, elles sont bien réelles », a ajouté Smith.

« L'impact de ces images peut être dévastateur.

« Les préjudices sont très réels. Et le potentiel de dommages durables est quelque chose que, je pense, chaque parent ferait tout son possible pour empêcher.

« Nous voulons leur redonner ce pouvoir et lancer une conversation publique sur la question de savoir si nous devrions partager des images en ligne par défaut. »

Des criminels qui avaient précédemment fait chanter une école au Royaume-Uni ont créé plus d'une centaine d'images sexuelles de ses élèves en utilisant des images provenant du site web de l'école, a averti l'IWF.

Bien que l'IWF ait réussi à empêcher la mise en ligne de ces images, la crainte subsiste que d'autres écoles puissent être ciblées à l'avenir.

Les images d'abus sexuels sur enfants générées par l'IA deviennent de plus en plus répandues et réalistes à mesure que la technologie s'améliore, ont également averti l'IWF et la NCA.

L'IA est également utilisée pour créer des contenus plus violents, 65 % des 3 443 vidéos d'abus sexuels sur enfants générées par l'IA identifiées en 2025 étant classées en catégorie A — la catégorie juridique la plus sévère en vertu du droit britannique, qui englobe des infractions telles que le viol et la torture sexuelle.

À titre de comparaison, 43 % des vidéos criminelles d'abus sexuels sur enfants non générées par l'IA vues par l'IWF en 2025 étaient de catégorie A.

L'IWF a également identifié 8 029 images et vidéos réalistes d'abus sexuels sur enfants générées par l'IA en 2025, soit une augmentation de 14 % du contenu criminel généré par l'IA par rapport à l'année précédente.

Les nouvelles directives suggèrent de créer un groupe « amis proches » pour les parents et les aidants qui souhaitent toujours partager des images de leurs enfants en ligne, ou d'ajuster les paramètres de confidentialité sur les publications des réseaux sociaux afin que seul un nombre restreint de personnes puisse les voir.

Elles contiennent également des conseils sur la manière de parler aux enfants et aux jeunes de l'IA et du consentement à l'image, ainsi que sur la marche à suivre s'ils sont ciblés ou si des images d'eux sont créées ou partagées en ligne.

Les parents ont également été encouragés à informer les enfants et les jeunes que les images nues ou semi-nues de mineurs de moins de 18 ans peuvent être signalées et supprimées en ligne, y compris celles créées ou modifiées à l'aide de l'IA.

Le service Report Remove, géré par la National Society for the Prevention of Cruelty to Children (NSPCC) et l'IWF, offre également un soutien en matière de santé mentale aux jeunes.

Tim Wright, de l'Agence nationale de lutte contre la criminalité, a déclaré : « Les outils d'intelligence artificielle deviennent plus puissants, plus largement disponibles et plus faciles à utiliser, et nous voyons des délinquants les exploiter pour cibler les enfants de nouvelles manières.

« Les images partagées en ligne, même les photos de famille ordinaires, peuvent être volées et manipulées pour créer du contenu sexualisé à l'insu de l'enfant ou des parents.

« Alors que nous et nos collègues des forces de l'ordre nous attaquons aux délinquants, la prévention reste vitale.

« Nous encourageons les parents et les aidants à prendre quelques mesures simples dès aujourd'hui : vérifier les paramètres de confidentialité des comptes de réseaux sociaux ; réfléchir attentivement à qui peut accéder aux images de leurs enfants ; et parler ouvertement avec la famille, les amis, les écoles et les clubs du partage d'images et du consentement.

« Plus important encore, si quelque chose tourne mal, gardez votre calme, rassurez votre enfant en lui disant qu'il n'est pas en faute, et signalez vos inquiétudes à la police ou au CEOP [Child Exploitation and Online Protection] afin que des mesures puissent être prises le plus rapidement possible. »

Les images et vidéos d'abus sexuels sur enfants sont illégales au Royaume-Uni, qu'elles aient été créées ou modifiées à l'aide de l'IA ou non.

L'IWF a également exhorté les entreprises technologiques à évaluer et à sécuriser leurs modèles d'IA avant de les publier, afin de rendre plus difficile pour les criminels l'utilisation de l'IA générative pour créer du matériel d'abus sur enfants. — Bernama-PA Media/dpa