Une coalition d'organisations politiques en matière d'IA exhorte le président Donald Trump à lancer une enquête gouvernementale formelle sur OpenAI à la suite d'une faille de sécurité impliquant des agents d'IA de l'entreprise piratant la plateforme Hugging Face dans un…
Une coalition d’organisations politiques en matière d’IA exhorte le président Donald Trump à lancer une enquête gouvernementale formelle sur OpenAI à la suite d’une faille de sécurité impliquant des agents d’IA de l’entreprise piratant la plateforme Hugging Face dans le cadre d’une attaque autodirigée « sans précédent ».
Le Washington Post rapporte qu’un groupe d’éminentes organisations politiques en matière d’IA a envoyé une lettre au président Trump demandant une enquête officielle sur un récent incident de sécurité chez OpenAI, où une IA a piraté la plateforme Hugging Face AI dans le cadre d’une attaque autodirigée. La lettre, dirigée par Brad Carson, président d’Americans for Responsible Innovation, et Brendan Steinhauser, PDG de l’Alliance for Secure AI, souligne la gravité de l’incident et appelle des auditeurs indépendants à examiner ce qui s’est passé.
La lettre a recueilli le soutien de plusieurs organisations respectées, notamment Public Citizen, le Future of Life Institute et FAR.AI, une organisation indépendante de recherche et d’évaluation sur l’IA. La coalition affirme que l’incident révèle des vulnérabilités plus larges dans les systèmes d’IA qui nécessitent une surveillance gouvernementale et une transparence publique.
Carson a établi une comparaison entre l’incident d’OpenAI et les catastrophes aériennes, affirmant que même si les enquêtes privées ont leur place, l’intérêt public exige l’implication du gouvernement. « C’est un peu comme un accident d’avion », a déclaré Carson. « C’est bien si Boeing veut enquêter lui-même sur ce sujet. Même s’ils engagent une personne extérieure très réputée pour les aider sur ce projet, [nous] avons un intérêt public à savoir ce qui se passe ici. »
L’appel à l’enquête intervient alors que METR, une organisation indépendante à but non lucratif de recherche sur l’IA, a annoncé un accord avec OpenAI pour mener des recherches sur l’incident de sécurité aux côtés de Redwood Research. Cependant, Carson a exprimé ses inquiétudes quant à la portée et à la transparence de cette enquête privée, se demandant si METR opère dans le cadre d’un accord de non-divulgation et si les conclusions seront rendues publiques.
Un porte-parole d’OpenAI a répondu en déclarant que METR et Redwood Research prévoient de publier un blog commun détaillant les termes de leur accord et la portée de leur évaluation. « Il s’agit d’un incident sans précédent et nous pensons qu’il marque un moment important pour la sécurité de l’IA », a déclaré le porte-parole. « Nous menons un examen approfondi avec des conseillers externes et sous la supervision de notre comité de sûreté et de sécurité. Une fois l’examen terminé, nous publierons un rapport technique de nos apprentissages pour tout le monde. »
L’incident a suscité un débat parmi les experts en IA sur la question de savoir si qualifier l’agent de « voyou » décrit de manière appropriée ce qui s’est passé. Suresh Venkatasubramanian, directeur du Centre pour la responsabilité technologique, la réimagination et la refonte de l’Université Brown, a fait valoir que l’incident reflète de mauvaises pratiques d’ingénierie plutôt qu’un système d’IA imprévisible. « Ils faisaient une mauvaise ingénierie et en accusaient des agents malhonnêtes. C’est ce que je pense de ce qui s’est passé », a déclaré Venkatasubramanian. Il a critiqué OpenAI pour son incapacité apparente à surveiller le système en temps réel, notant que l’entreprise semble ignorer les activités de l’agent depuis plusieurs jours.
Sam Jones, PDG et co-fondateur de la société de cybersécurité Method Security, s’est dit surpris du manque apparent de surveillance, mais a suggéré que l’incident mettait en évidence un problème plus large. Jones a noté que les systèmes entourant de grands modèles de langage sont actuellement conçus pour les développeurs plutôt que pour des environnements de production réels où la confiance et des protocoles stricts sont essentiels.
Breitbart News a rapporté cette semaine qu’Anthropic affirme désormais que son IA a également piraté plusieurs organisations :
[…] La suite de l’article est à lire sur Breitbart via le lien ci-dessous.
Traduit automatiquement de l’anglais. Le texte original fait foi.
Source : Breitbart — Lire l’article original
À propos de l'auteur
