Une femme identifiée comme "Jane Doe" a poursuivi cette semaine xAI d'Elon Musk, alléguant que la société avait formé son chatbot Grok AI à la pédopornographie la représentant, dans ce qui semble être le premier cas accusant xAI d'avoir entraîné son IA à la pédopornographie…
Une femme identifiée comme « Jane Doe » a poursuivi xAI d’Elon Musk cette semaine, alléguant que la société avait formé son chatbot Grok AI à la pédopornographie la représentant, dans ce qui semble être le premier cas accusant xAI d’avoir formé son IA sur du matériel pédopornographique (CSAM).
Ars Technica rapporte que le recours collectif proposé contre l’xAI de Musk, qui fait désormais partie de SpaceX, se concentre sur les abus subis par Doe lorsqu’elle était enfant d’âge préscolaire au début des années 2000, lorsque des hommes adultes l’ont violée pour produire des images vendues plus tard à des pédophiles en ligne. Ces images ont été hachées par le Centre national pour les enfants disparus et exploités (NCMEC) et le Centre canadien de protection de l’enfance, des groupes qui surveillent la pornographie juvénile connue afin qu’elle puisse être identifiée et supprimée partout où elle refait surface.
Doe reçoit des alertes via le système de notification des victimes du ministère américain de la Justice chaque fois que son matériel abusif apparaît dans un nouvel endroit. Le Centre canadien de protection de l’enfance lui a dit que du CSAM généré par l’IA la représentant était apparu sur xAI. Selon la plainte, les délinquants sur les forums en ligne ont discuté de « la création de CSAM générés par l’IA du plaignant et d’autres victimes connues et héritées de CSAM dans une situation similaire ».
Le procès affirme que xAI stocke les images générées par Grok et les réutilise pour entraîner davantage le modèle. Un communiqué de presse des avocats de Doe a décrit le matériel comme « le même matériel », faisant référence au CSAM la représentant qui, selon les enquêteurs, a été intégré aux documents de Grok. La plainte elle-même allègue que « CSAM représentant le demandeur avec ses valeurs de hachage bien connues de longue date a été utilisé dans le cadre de l’ensemble de données utilisé par xAI. »
Breitbart News a déjà fait état d’ensembles de données de formation sur l’IA qui contenaient de la pédopornographie :
L’Observatoire Internet de Stanford, en collaboration avec le Centre canadien de protection de l’enfance et d’autres organismes de bienfaisance anti-abus, a mené une étude qui a trouvé plus de 3 200 images d’abus sexuels présumés sur des enfants dans la base de données d’IA LAION. LAION, un index d’images et de légendes en ligne, a joué un rôle déterminant dans la formation des principaux créateurs d’images IA tels que Stable Diffusion.
Cette découverte a sonné l’alarme dans divers secteurs, notamment les écoles et les forces de l’ordre. La pédopornographie a permis aux systèmes d’IA de produire des images explicites et réalistes de faux enfants et de transformer les photos de vrais adolescents sur les réseaux sociaux en faux nus. Auparavant, on pensait que les outils d’IA produisaient des images abusives en combinant de la pornographie adulte avec des photos inoffensives d’enfants. Cependant, l’inclusion directe d’images explicites d’enfants dans les ensembles de données de formation présente une réalité plus directe et plus inquiétante.
Une grande partie de l’argumentation juridique de Doe porte sur la manière dont les conditions d’utilisation de Grok gèrent le contenu des utilisateurs. La plainte indique que Grok traite les publications publiques sur X, ainsi que les résultats générés par Grok lui-même, comme des données de formation par défaut. Comme le dit le dossier, « Parce que les termes de Grok traitent par défaut les publications X publiques et les propres sorties de Grok comme des données de formation, la publication publique d’une image ne se contente pas de l’exposer aux téléspectateurs, mais l’alimente également directement dans le pipeline que xAI utilise pour entraîner et améliorer son modèle et ainsi générer d’autres images. » xAI filtre le contenu violent de ses données de formation, mais ses conditions n’excluent pas spécifiquement le CSAM, les images intimes non consensuelles ou tout autre contenu sexuel ou inapproprié.
La plainte soulève également une question technique plus difficile : comment réparer les dégâts une fois que le matériel abusif a déjà façonné un modèle entraîné ? Il indique que « étant donné que la suppression complète de l’influence d’un exemple de formation sur un modèle déjà formé est techniquement difficile et que ce n’est pas quelque chose que xAI a publiquement prétendu avoir fait, tout CSAM ingéré dans la formation avant le retrait a probablement continué à façonner les résultats du modèle même après que les images originales ont été retirées de la vue du public. »
Le procès de Doe accuse X d’avoir violé les lois fédérales sur la pédopornographie et la loi Masha, qui permettent toutes deux aux survivants de CSAM de poursuivre en justice pour la production, la possession et la distribution de matériel abusif. Margaret E. Mabie, l’une des avocates de Doe, a déclaré dans un communiqué de presse que « xAI a fait les trois ».
[…] La suite de l’article est à lire sur Breitbart via le lien ci-dessous.
Traduit automatiquement de l’anglais. Le texte original fait foi.
Source : Breitbart — Lire l’article original
À propos de l'auteur
