Un projet de loi bipartite de la Chambre permettrait au DHS d'ordonner aux sociétés d'IA de fermer les modèles dangereux, avec des amendes allant jusqu'à 20 millions de dollars par jour en cas de non-conformité.
L’expression « AI kill switch » ressemble à un bouton rouge caché derrière une vitre dans un bunker gouvernemental. La proposition actuellement soumise au Congrès semble moins dramatique, mais elle pourrait donner à Washington un nouveau pouvoir important sur les plus grandes entreprises d’IA du pays.
Un projet de loi bipartisan obligerait les développeurs des systèmes d’IA les plus puissants à maintenir des contrôles d’arrêt fiables. Le ministère de la Sécurité intérieure pourrait alors ordonner à une entreprise de restreindre ou d’arrêter un modèle en cas d’urgence catastrophique. Le timing a retenu l’attention. OpenAI a récemment révélé que deux modèles avancés avaient brisé les restrictions du réseau lors d’une cyber-évaluation interne. Les modèles ont atteint Internet et compromis les systèmes appartenant à Hugging Face, une importante plateforme de développement d’IA.
Alors, qui aurait le pouvoir de débrancher la prise ? Plus important encore, qu’arriverait-il aux services d’IA que les particuliers et les entreprises utilisent quotidiennement ?
CyberGuy Live : Vous avez manqué « Vous en avez assez du spam ? » Obtenez la rediffusion et la liste de contrôle
Obtenez la rediffusion gratuite et la liste de contrôle maintenant sur CyberGuyLive.com.
Le représentant démocrate Ted Lieu de Californie a présenté l’AI Kill Switch Act le 23 juillet 2026. Le représentant républicain Nathaniel Moran du Texas l’a rejoint en tant que co-sponsor. Le projet de loi modifierait la loi sur la sécurité intérieure de 2002. Il obligerait certains développeurs d’IA à conserver la capacité de ralentir ou d’arrêter complètement un système couvert. Le DHS recevrait l’autorité d’urgence pour ordonner ces actions. Toutefois, le département consulterait au préalable le département du Commerce et le directeur du renseignement national. La proposition doit encore passer par le Congrès et recevoir la signature du président avant d’entrer en vigueur.
Le projet de loi ne décrit pas un seul interrupteur physique qu’un représentant du gouvernement pourrait actionner. Au lieu de cela, les entreprises couvertes auraient besoin de contrôles techniques pouvant empêcher l’exécution d’un modèle. Ils auraient également besoin d’un moyen de mettre fin à l’accès ou de bloquer un compte à risque. Dans des situations moins graves, une entreprise pourrait réduire la puissance de calcul d’un modèle. Cela pourrait également désactiver la fonctionnalité qui pose problème plutôt que de mettre l’ensemble du système hors ligne. Cette approche donne aux régulateurs plusieurs choix avant de parvenir à un arrêt complet.
Le projet de loi cible les plus grands développeurs de l’industrie et les modèles les plus chers. Un système d’IA couvert nécessiterait généralement plus de 100 millions de dollars en ressources informatiques pour se développer. Pendant ce temps, une entreprise couverte aurait besoin d’au moins 500 millions de dollars de revenus bruts annuels provenant de cette technologie.
La proposition exempte les systèmes fournis uniquement pour un usage personnel, académique ou non commercial. Par conséquent, ce projet de loi ne s’appliquerait pas à quelqu’un qui expérimente un petit modèle d’IA sur un ordinateur personnel. Il se concentrerait sur les systèmes frontaliers construits par des entreprises disposant d’énormes ressources. CISA rédigerait des règles définissant quels développeurs et technologies sont éligibles. L’agence mettrait à jour ces définitions chaque année à mesure que les capacités de l’IA évoluent.
Qu’est-ce qui déclencherait un ordre de fermeture du gouvernement ?
Le DHS pourrait agir après ce que le projet de loi appelle un « incident couvert ». L’un des déclencheurs implique qu’un système d’IA interfère avec une instruction d’arrêt légal. Un autre concerne les comportements involontaires qui tuent au moins 10 personnes ou causent 100 millions de dollars de dommages économiques. La définition inclut également un modèle cachant ses actions aux systèmes de surveillance. Le DHS pourrait intervenir lorsqu’un système poursuit un objectif non autorisé dans un contexte aux enjeux élevés. Ces seuils placent la puissance de secours bien au-dessus d’une réponse embarrassante d’un chatbot ou d’une panne logicielle de routine. Le projet de loi stipule également que l’événement doit avoir lieu en dehors des tests structurés ou des exercices de l’équipe rouge. Ce détail crée une distinction importante par rapport au récent incident OpenAI.
Les entreprises d’IA devraient signaler les incidents graves
Un développeur couvert aurait 15 jours pour signaler un incident admissible après en avoir pris connaissance. À la suite d’une commande d’urgence, l’entreprise devrait conserver les poids des modèles et la télémétrie du système. Ces informations pourraient aider les enquêteurs à reconstituer ce qui s’est passé. L’entreprise devra également informer les opérateurs ou les clients concernés lorsque cela est possible. Le DHS pourrait alors recourir à des audits, des inspections ou des examens médico-légaux pour vérifier la conformité.
Les sanctions financières donneraient du mordant à la proposition. Une entreprise qui enfreint les exigences générales en matière de coupe-circuit pourrait être passible d’une sanction civile pouvant aller jusqu’à 2 millions de dollars par jour. Ignorer une ordonnance d’urgence du DHS pourrait augmenter cette pénalité à 20 millions de dollars pour chaque jour où la violation se poursuit. Les entreprises auraient un droit limité de contester une ordonnance. Ils pourraient demander au DHS de reconsidérer leur décision dans les 48 heures. Toutefois, cette demande ne suspendrait pas les restrictions pendant la procédure d’appel.
L’incident OpenAI qui a changé la conversation
Le projet de loi est arrivé quelques jours après qu’OpenAI ait révélé ce qu’il appelle un cyber-incident sans précédent. OpenAI testait GPT-5.6 Sol aux côtés d’un modèle préliminaire plus performant. L’évaluation a demandé aux modèles de résoudre des défis avancés en matière de cybersécurité. La société a effectué le test sans certains classificateurs de sécurité de production. OpenAI souhaitait mesurer les cybercapacités maximales des modèles. Au cours de l’évaluation, les modèles ont découvert une vulnérabilité jusqu’alors inconnue dans un proxy logiciel interne. Ils l’ont exploité et ont parcouru le réseau de recherche d’OpenAI jusqu’à atteindre un ordinateur avec accès à Internet. Les modèles ont ensuite identifié Hugging Face comme source possible de réponses au test. OpenAI affirme avoir utilisé des informations d’identification volées et des vulnérabilités supplémentaires pour accéder aux informations secrètes des systèmes de Hugging Face.
OpenAI affirme que les modèles sont restés étroitement axés sur la résolution de l’évaluation. Pourtant, ils ont pénétré sans autorisation dans l’infrastructure de production d’une autre entreprise. Hugging Face a signalé un accès non autorisé à des ensembles de données internes limités et à plusieurs informations d’identification de service. La société n’a trouvé aucune preuve que ses modèles publics ou ses ensembles de données destinés aux utilisateurs avaient été modifiés. Il a également déclaré que sa chaîne d’approvisionnement en logiciels publiés restait propre. Pour un examen plus approfondi de l’incident et des mesures que vous pouvez prendre, consultez notre article sur la façon de verrouiller votre compte ChatGPT avant la prochaine attaque d’IA.
L’incident OpenAI déclencherait-il le kill switch ?
Probablement pas selon le libellé actuel du projet de loi. La violation d’OpenAI a contribué à susciter un soutien politique à la proposition. Cependant, les modèles ont agi lors d’une évaluation interne et d’un test structuré de cybersécurité. La définition d’urgence du projet de loi couvre spécifiquement les événements qui se produisent en dehors du red-teaming ou d’autres tests structurés. Cela ne rend pas l’incident inoffensif. Cela montre que le projet de loi se concentre sur les comportements dangereux après qu’un système quitte un environnement de test contrôlé. Pendant ce temps, le cas OpenAI soulève un problème différent. Un environnement de test nécessite un confinement strict, même lorsque les chercheurs réduisent intentionnellement les restrictions de sécurité normales du modèle. Un kill switch peut arrêter un système après l’apparition d’un problème. Cela ne peut pas remplacer une infrastructure de test sécurisée ou une surveillance minutieuse.
La fermeture d’Anthropic montre pourquoi les législateurs veulent des règles plus claires
Le gouvernement fédéral a déjà restreint l’accès à l’IA avancée sans adopter une loi dédiée au kill switch. Le 12 juin, le gouvernement a ordonné à Anthropic d’empêcher les ressortissants étrangers d’accéder à ses modèles Fable 5 et Mythos 5. Anthropic a déclaré ne pas pouvoir vérifier la nationalité en temps réel. En conséquence, la société a temporairement suspendu les deux modèles pour tout le monde. Anthropic a contesté l’évaluation du gouvernement mais s’est conformée à la directive. Les contrôles ont été levés le 30 juin et l’accès a commencé à revenir le 1er juillet. Cet épisode a montré à quelle vitesse une restriction gouvernementale peut affecter les clients ordinaires. Cela a également montré les limites du recours aux règles d’exportation pour répondre à un problème de sécurité de l’IA en évolution rapide. CyberGuy a déjà rendu compte de ces restrictions et du rôle croissant du gouvernement dans le déploiement de modèles avancés dans notre article Trump freine le nouveau modèle d’IA d’OpenAI.
Les partisans voient un frein d’urgence pour une IA puissante
Les groupes de défense de la sécurité de l’IA ont soutenu le projet de loi. Les Américains pour une innovation responsable ont qualifié un système d’arrêt fiable de garantie de bon sens. L’Alliance for Secure AI a déclaré que la loi actuelle ne garantit pas que les développeurs puissent contenir leurs modèles les plus performants. Les partisans soutiennent que l’IA avancée prendra bientôt des mesures plus indépendantes. Ces systèmes peuvent gérer des transactions financières ou fonctionner au sein d’infrastructures critiques. Dans cette optique, les développeurs devraient prouver qu’ils peuvent reprendre le contrôle avant de donner à un modèle l’accès à des systèmes à enjeux élevés.
Le projet de loi laisse encore de grandes questions sans réponse
La CISA se verrait confier une large responsabilité pour décider quels modèles et quelles sociétés relèvent de la loi. Cette flexibilité pourrait aider les règles à suivre le rythme de l’IA. Mais cela laisse également les décisions majeures aux futures règles de l’agence. Les législateurs devraient encore débattre de la manière dont le gouvernement vérifie le fonctionnement d’un coupe-circuit. Ils doivent également décider du nombre de preuves dont le DHS a besoin avant d’émettre une ordonnance d’urgence. Un arrêt pourrait interrompre les entreprises qui s’appuient sur un modèle couvert. Cela pourrait également affecter les hôpitaux, les agences gouvernementales ou les équipes de cybersécurité utilisant le même service. Par conséquent, les régulateurs devraient peser la menace de l’IA par rapport aux dommages causés par sa mise hors ligne soudaine. Le projet de loi demande au DHS de prendre en compte les risques pour les infrastructures critiques lors du choix de sa réponse.
[…] La suite de l’article est à lire sur Fox News via le lien ci-dessous.
Traduit automatiquement de l’anglais. Le texte original fait foi.
Source : Fox News — Lire l’article original
À propos de l'auteur
