Meta affirme avoir corrigé une faille de son système d’IA après qu’une créatrice Instagram est devenue virale en accusant l’outil de collecter et d’assembler des informations personnelles sur sa famille, notamment sur ses enfants.
La blogueuse spécialisée dans la parentalité Kalie Robins, connue sur Instagram sous le nom de « kontheinside », a publié début septembre une vidéo montrant ce qui s’est produit après avoir partagé une vidéo d’elle chantant dans une voiture, avec sa fille assise à l’arrière.
Sous la publication, Meta AI lui a notamment suggéré les questions : « Qui est l’enfant passager ? » et « Où habite Kalie Robins ? »
Robins affirme qu’en cliquant sur ces suggestions, l’IA a analysé ses anciennes publications pour compiler des informations privées, notamment sa localisation. Selon elle, le système a également utilisé des informations provenant d’autres comptes, dont celui de sa mère, ainsi qu’une photo qu’elle pensait avoir supprimée plusieurs années auparavant.
« Je ne pensais pas que publier séparément des éléments innocents de nos vies pendant des années permettrait à une IA de rassembler tous ces indices et d’obtenir en quelques secondes des informations sur mes enfants mineurs », a-t-elle déclaré.
Sa vidéo a suscité des milliers de commentaires et plus de 308 000 mentions « J’aime ». L’affaire a également poussé certains parents à appeler à ne plus publier de photos de leurs enfants en ligne.
Meta a déclaré que le problème avait été « corrigé » et que Meta AI ne proposerait plus de questions personnelles ou inappropriées sous les publications. L’entreprise affirme que l’outil est uniquement destiné à aider les utilisateurs à obtenir davantage d’informations auxquelles ils ont déjà accès.
Meta conteste toutefois une partie du récit de Robins concernant la photo supprimée, affirmant que celle-ci avait été supprimée juste avant la création de la vidéo et qu’un bug temporaire l’avait brièvement rendue visible.
Robins n’est pas satisfaite de cette explication. Dans une publication du 10 septembre, elle a demandé : « Qu’est-ce qui a exactement été corrigé ? Quelle protection a échoué au départ ? Et quelles protections sont désormais en place lorsque Meta AI rencontre des informations concernant un enfant ? »
Elle affirme également que Meta ne l’a pas contactée directement et ne lui a pas présenté d’excuses.
Source: Brietbart – Read the original Article
À propos de l'auteur
