Des chercheurs affirment que plus de 250 publicités contenant des contenus pédocriminels générés par IA sont apparues sur les plateformes de Meta, notamment Facebook et Instagram, depuis début août, quelques semaines seulement après que l’entreprise a supprimé des dizaines de publicités similaires à la suite d’une enquête de Wired.
Wired rapporte que l’organisation à but non lucratif Tech Transparency Project (TTP) a constaté que Meta avait supprimé, début août, environ 53 publicités diffusées sur Facebook, Instagram et Threads et contenant du matériel pédocriminel. À l’époque, Meta avait expliqué au média que la plupart de ces publicités abusives étaient antérieures au déploiement de nouveaux outils d’IA conçus pour « mieux détecter et bloquer » les contenus dangereux. Désormais, le même groupe de surveillance affirme que des publicités contenant des images sexualisées d’enfants sont de retour, certaines étant identiques à celles qui avaient déjà été supprimées.
Le problème ne s’arrête pas là. Les chercheurs affirment que Meta a publié plus de 350 publicités vidéo abusives depuis la fin de l’année dernière. Nombre d’entre elles renvoient vers des applications dites de « nudification » liées à des développeurs chinois. Contrairement au premier lot de 53 publicités, les nouvelles utilisent des images d’enfants réels, et non des photos génériques ou issues de banques d’images.
L’une des publicités utilisait une photographie officielle d’une mineure appartenant à une famille royale européenne, transformée en une vidéo à caractère sexuel explicite. Les chercheurs ont refusé de révéler l’identité de la membre de la famille royale afin de protéger la victime.
« Les chercheurs ont identifié l’identité réelle de quatre mineurs utilisés dans les publicités », selon le TTP, dont la directrice est Katie Paul. Trois des quatre victimes sont originaires des États-Unis. L’une est une adolescente qui gère un compte d’influenceuse sur une plateforme de Meta. Une autre est une adolescente influenceuse disposant d’un compte public. La troisième est une modèle de banque d’images, une personne réelle, présentée comme « préadolescente » sur des sites de photos d’illustration.
Les publicités commencent généralement par une photo anodine d’une fille préadolescente ou adolescente — une seule concernait un garçon — accompagnée d’un texte affirmant que l’image n’est « pas seulement une photo » et qu’il n’existe « aucune restriction » quant à son utilisation. Les vidéos transforment ensuite le visage des enfants en contenu sexuel explicite, représentant souvent des actes sexuels. Cliquer sur ces publicités redirige les utilisateurs vers le téléchargement d’applications d’IA de remplacement de visage ou de génération vidéo disponibles sur l’Apple App Store ou Google Play Store. Beaucoup utilisent le slogan : « C’est l’IA que les hommes utilisent réellement. »
Les chercheurs ont signalé ces publicités à la CyberTipline du National Center for Missing & Exploited Children et consultent actuellement l’organisation sur la manière d’informer les personnes concernées.
Selon les données de la propre bibliothèque publicitaire de Meta, ces publicités ont été montrées à plus de 29 000 comptes dans les pays de l’Union européenne et à environ 7 000 au Royaume-Uni. Plus de 250 publicités sont apparues aux États-Unis, 120 en Australie et 80 en Inde, bien que l’Inde ne dispose pas des données détaillées sur les performances publicitaires que Meta fournit dans d’autres pays.
Source: Brietbart – read the original Article
À propos de l'auteur
