La California AI Transparency Act exige désormais des données de provenance cachées dans les images, vidéos et audio générés par l’IA, mais ces empreintes digitales ont des limites.
La Californie souhaite désormais que les images, vidéos et enregistrements créés par l’intelligence artificielle portent une histoire traçable. La California AI Transparency Act est entrée en vigueur le 2 août. Elle oblige les grands fournisseurs d’IA générative à intégrer des informations de provenance cachées dans les médias couverts créés par leurs systèmes.
Cela signifie qu’un enregistrement suspect peut contenir des indices sur le système d’IA qui l’a produit et à quel moment. Vous n’aurez plus à vous fier uniquement à son apparence ou à son son convaincant. Pourtant, ces empreintes digitales ont leurs limites. Ils peuvent révéler des détails sur l’historique d’un fichier, mais ils ne peuvent pas déterminer si le message qu’il contient est vrai.
La loi ajoute également des exigences pour les grandes plateformes en ligne à partir de 2027. Les téléphones, appareils photo et enregistreurs vocaux nouvellement produits seront soumis à un autre ensemble de règles en 2028. Voici comment le système fonctionnera, où il pourrait échouer et pourquoi d’autres États pourraient bientôt suivre l’exemple de la Californie.
Nouveau! Cours CyberGuy en direct gratuit : protégez votre argent des plus grandes menaces actuelles
Rejoignez-nous samedi 29 août à 10 h HE pour un cours CyberGuy LIVE gratuit couvrant cinq étapes simples pour vous aider à vous défendre contre les escroqueries, la fraude, le vol d’identité et les piratages financiers liés à l’IA. Kurt « CyberGuy » Knutsson vous expliquera comment configurer des alertes bancaires, renforcer les connexions à votre compte, protéger votre numéro de téléphone, geler votre crédit et contribuer à sécuriser votre épargne-retraite contre les transferts non autorisés. Aucune expérience technique n’est nécessaire. Vous recevrez également notre liste de contrôle de protection financière, et chaque inscrit recevra ensuite un lien vers l’enregistrement du cours.
La Californie a promulgué l’AI Transparency Act original en 2024. Le sénateur de l’État Josh Becker est l’auteur de la législation, connue sous le nom de SB 942. Les législateurs ont ensuite étendu sa portée via l’AB 853. La loi s’applique aux entreprises qui créent des systèmes d’IA génératifs avec plus d’un million de visiteurs ou d’utilisateurs mensuels. Ces systèmes doivent également être accessibles au public en Californie.
La Californie appelle ces sociétés des « fournisseurs couverts ». Ils doivent inclure une divulgation cachée dans les images, vidéos et audio générés par l’IA et créés par leurs systèmes. La loi appelle cela une divulgation latente. Lorsque cela est techniquement réalisable et raisonnable, la divulgation doit indiquer le nom du fournisseur, le nom et la version du système d’IA, la date et l’heure auxquelles le contenu a été créé ou modifié ainsi qu’un identifiant unique.
La divulgation doit suivre les normes largement acceptées de l’industrie. Il doit également rester permanent ou extrêmement difficile à retirer lorsque cela est techniquement possible. La loi concentre ces exigences de divulgation cachée sur les images, la vidéo et l’audio. Cela ne nécessite pas la même divulgation intégrée dans le texte généré par l’IA. Les fournisseurs couverts doivent également offrir aux utilisateurs la possibilité d’ajouter une étiquette IA visible. Cet avis doit clairement identifier le contenu comme étant généré par l’IA.
La loi californienne sur l’IA exige des outils de détection gratuits
Les fournisseurs d’IA couverts doivent proposer gratuitement un outil de détection. L’outil doit vous permettre de télécharger une image, une vidéo ou un fichier audio. Vous pouvez également soumettre un lien vers du contenu stocké en ligne. Il vérifie ensuite si le système d’IA de ce fournisseur a créé ou modifié le matériel. L’outil doit afficher toutes les informations de provenance du système qu’il trouve.
Cependant, un outil de détection d’une société d’IA peut ne pas identifier les médias produits par une autre société. Par conséquent, un résultat négatif ne prouve pas qu’un humain a créé le contenu. La loi impose également des limites de confidentialité à ces outils. Les fournisseurs ne peuvent généralement pas collecter d’informations personnelles auprès des utilisateurs. Ils ne peuvent pas non plus conserver le contenu soumis plus longtemps que nécessaire. Une infraction peut entraîner une amende civile de 5 000 $. Chaque jour de non-conformité peut compter comme une violation distincte pour les fournisseurs couverts, les grandes plates-formes et les fabricants d’appareils.
Ce que révèlent les empreintes digitales de l’IA de Californie
Les données de provenance agissent comme un historique attaché à un fichier numérique. Il peut identifier le système qui a produit le contenu. Il peut également enregistrer le moment où quelqu’un a créé ou modifié le fichier.
La Coalition for Content Provenance and Authenticity, communément appelée C2PA, a développé une norme technique ouverte à cet effet. Son système Content Credentials peut conserver des informations sur la source d’un fichier et l’historique de ses modifications. Par exemple, quelqu’un peut vous envoyer un enregistrement audio qui semble mettre en scène un agent public. Un outil de vérification compatible pourrait révéler qu’un système d’IA a généré l’enregistrement.
Ces informations pourraient vous empêcher de partager le clip trop rapidement. Cela pourrait également aider à dénoncer un escroc utilisant une voix clonée. Toutefois, les données de provenance ne permettent pas de déterminer si une déclaration est exacte. C2PA affirme que son système fournit des preuves sur l’origine et l’historique d’un fichier, mais que ces informations ne peuvent à elles seules prouver la véracité du contenu. Une vraie photographie peut encore apparaître à côté d’une fausse légende. Quelqu’un peut également éditer des images authentiques pour supprimer un contexte important.
La prochaine grande phase commence le 1er janvier 2027. Les grandes plateformes en ligne devront détecter les données de provenance compatibles intégrées dans le contenu qu’elles distribuent. La loi couvre les services de médias sociaux destinés au public et les plateformes de partage de fichiers. Il comprend également des services de messagerie de masse éligibles et des moteurs de recherche autonomes. Un service relève de cette section s’il a dépassé 2 millions d’utilisateurs mensuels uniques au cours des 12 mois précédents.
Les plates-formes couvertes doivent informer les utilisateurs lorsque les données de provenance du système sont disponibles. Ils doivent également indiquer le nom du système d’IA ou du dispositif de capture connecté au fichier, le cas échéant. De plus, la plateforme doit indiquer si des signatures numériques sont disponibles. Les utilisateurs doivent disposer d’un moyen accessible d’inspecter les informations. Une plateforme peut afficher les données directement ou permettre à l’utilisateur de télécharger une copie qui les conserve. La plateforme peut également envoyer l’utilisateur vers un service de vérification distinct.
Enfin, les plates-formes ne peuvent pas sciemment supprimer les données de provenance des systèmes compatibles ou les signatures numériques lorsque les préserver est techniquement réalisable. Cette phase pourrait apporter le changement le plus visible pour les utilisateurs quotidiens. La plupart des gens ne visiteront pas un site Web de vérification distinct pour chaque publication douteuse. Une notification intégrée à une plateforme sociale pourrait faciliter grandement la vérification des contenus suspects.
La loi californienne sur l’IA s’appliquera aux téléphones et aux appareils photo
Une autre phase commence le 1er janvier 2028. Elle couvre les appareils d’enregistrement produits pour la première fois pour être vendus en Californie à cette date ou après. Cela inclut les téléphones mobiles dotés de caméras ou de microphones intégrés. Les caméras et enregistreurs vocaux traditionnels entrent également dans cette définition. Les fabricants doivent donner aux utilisateurs la possibilité d’inclure une divulgation cachée dans le contenu capturé. Ils doivent également intégrer la divulgation par défaut lorsque cela est techniquement réalisable.
Les informations peuvent inclure le fabricant et le modèle de l’appareil. Il peut également enregistrer la date et l’heure auxquelles l’appareil a créé ou modifié le contenu. Cela pourrait constituer un point de départ pour des médias authentiques. Par exemple, les informations d’identification peuvent montrer qu’une image a commencé comme une photographie prise par un véritable appareil photo. Des informations ultérieures pourraient révéler si un logiciel d’édition compatible l’a modifié. Néanmoins, cette exigence ne mettra pas à jour tous les téléphones ou appareils photo déjà utilisés. Elle s’applique aux appareils couverts produits pour la première fois en Californie à partir de 2028.
L’intelligence artificielle peut produire des voix réalistes et des vidéos convaincantes plus rapidement que les législateurs ne peuvent mettre à jour la plupart des réglementations. Les cybercriminels peuvent désormais simuler des visages et des voix en temps réel. Comme CyberGuy l’a déjà signalé, les escroqueries deepfake basées sur l’IA peuvent usurper l’identité de dirigeants de confiance lors d’appels vidéo en direct. Une attaque documentée a convaincu un employé de transférer des millions de dollars.
Les fraudeurs peuvent également imiter quelqu’un que vous aimez. Une arnaque vocale basée sur l’IA peut cloner un membre de la famille à partir de seulement quelques secondes d’audio public. Les informations personnelles trouvées en ligne peuvent rendre la fausse urgence encore plus convaincante. Les législateurs californiens ont également fait part de leurs inquiétudes concernant la désinformation électorale et les deepfakes abusifs. L’IA générative peut créer de faux audios ou vidéos politiques qui semblent montrer un candidat disant quelque chose qui n’a jamais eu lieu. Cela peut également aider les mauvais acteurs à produire rapidement de fausses publications sur les réseaux sociaux. CyberGuy a déjà examiné comment l’IA et d’autres technologies peuvent alimenter les escroqueries liées aux élections, notamment les vidéos deepfake et les nouvelles fabriquées.
Les législateurs fédéraux réagissent également. Le sénateur Adam Schiff et le représentant Ro Khanna ont réintroduit la loi sur les publicités IA le 27 juillet. La proposition interdirait les fausses déclarations frauduleuses de candidats ou de comités politiques via du contenu généré par l’IA. Toutefois, cette mesure n’est pas devenue une loi fédérale. Une proposition bipartite distincte appelée AI Labeling Act a été présentée le 24 juin. Elle exigerait des divulgations visibles et lisibles par machine sur le contenu généré par l’IA couvert. Ce projet de loi exigerait également que les principales plateformes sociales et les développeurs d’IA travaillent ensemble sur des outils d’authenticité. Ce n’est pas non plus devenu une loi. Le système californien place les informations d’identification dans des fichiers compatibles. Ces données peuvent continuer à voyager avec le contenu à mesure que les gens le téléchargent ou le republient. Cependant, cette protection dépend des sites Web et des outils d’édition qui préservent les informations d’identification.
D’autres États suivront-ils la loi californienne sur l’IA ?
Oui, d’autres États vont probablement dans la même direction. Cependant, ils ne peuvent pas copier l’intégralité du système californien. De nombreux États réglementent déjà le contenu politique généré par l’IA. Leurs lois exigent souvent une clause de non-responsabilité visible ou restreignent les deepfakes trompeurs à l’approche d’une élection. Le Colorado va plus loin en exigeant des métadonnées dans certains deepfakes politiques. Ces métadonnées doivent identifier l’outil utilisé et la date à laquelle le contenu a été créé. L’Utah exige une provenance numérique inviolable pour certains médias politiques synthétiques. Ses règles permettent d’identifier qui a créé le contenu et si d’autres parties l’ont modifié.
La Louisiane a ajouté des exigences de divulgation en 2026 pour les communications de campagne téléphonique générées par l’IA, y compris les appels utilisant la voix d’une personnalité publique. D’autres États ont choisi des règles plus strictes axées sur des périodes électorales spécifiques. La loi californienne va au-delà de la publicité électorale. Cela impose désormais des exigences aux principaux fournisseurs d’IA, suivis par les grandes plates-formes et les appareils d’enregistrement nouvellement produits. L’Union européenne évolue dans une direction similaire. L’article 50 de la loi européenne sur l’IA est devenu applicable le 2 août. Les fournisseurs d’IA couverts doivent ajouter des marques lisibles par machine qui permettent aux utilisateurs de détecter le contenu généré ou manipulé. Les déployeurs sont également confrontés à des exigences de divulgation en cas de deepfakes.
Ce chevauchement pourrait pousser les grandes entreprises technologiques vers une adoption plus large. Une entreprise peut trouver plus facile d’utiliser un système de provenance unique pour l’ensemble de ses produits plutôt que de maintenir une version spéciale pour la Californie. En conséquence, les citoyens de tout le pays pourraient bénéficier de certains avantages avant que leur propre État n’adopte une loi similaire. Pourtant, ce résultat n’est pas garanti. L’application des règles sera importante, tout comme la question de savoir si les plateformes populaires préservent et affichent clairement les informations.
La nouvelle loi constitue un signal utile, mais plusieurs lacunes subsistent. Premièrement, les données de provenance manquantes ne prouvent pas qu’un humain a créé le fichier. Les médias peuvent provenir d’un fournisseur d’IA dont la taille est inférieure au seuil californien. Il pourrait également avoir été généré avant que la loi ne soit entrée en vigueur. De plus, certains programmes d’édition peuvent ne pas parvenir à conserver les informations. Un escroc pourrait lire une vidéo générée par l’IA sur un appareil et l’enregistrer sur un autre. Ce nouvel enregistrement pourrait ne pas conserver les informations d’identification d’origine.
[…] La suite de l’article est à lire sur Fox News via le lien ci-dessous.
Traduit automatiquement de l’anglais. Le texte original fait foi.
Source : Fox News — Lire l’article original
À propos de l'auteur
