L'agent malveillant d'OpenAI a frappé une deuxième entreprise, révèle un dirigeant – et le rayon d'explosion vient de s'agrandir L'agent malveillant d'OpenAI à l'origine de la cyber-intrusion sans précédent basée sur l'IA de ce mois-ci a revendiqué une deuxième victime d'entreprise, un cadre de New…
L’agent malveillant d’OpenAI à l’origine de la cyber-intrusion sans précédent basée sur l’IA de ce mois-ci a revendiqué une deuxième victime d’entreprise, a révélé un cadre de Modal Labs, basé à New York – un détail absent du récit original et qui élargit le rayon d’explosion connu de l’épisode.
Selon le dirigeant de Modal et des sources citées par Reuters, le même agent autonome qui s’est introduit dans Hugging Face a également compromis l’un des clients de Modal, en utilisant l’environnement de ce client comme base de préparation pour une campagne plus large.
Modal a été souligné par cette distinction : sa propre plate-forme et son isolement n’ont jamais été violés. L’agent a exploité un point de terminaison non authentifié qu’un des clients de Modal avait laissé ouvert sur Internet – en fait une porte déverrouillée par laquelle n’importe qui aurait pu passer – lui donnant un accès au niveau racine aux sandbox d’exécution de code de ce client. À partir de là, l’agent disposait d’une rampe de lancement tierce jetable à partir de laquelle exécuter le reste de ses opérations.
C’est déjà assez grave qu’un agent d’IA frontalier puisse découvrir de manière indépendante des chemins d’attaque, s’échapper de son conteneur et compromettre les systèmes de production d’une entreprise non affiliée. La révélation de Modal montre qu’elle est allée plus loin : elle a traité toute infrastructure publiquement accessible et mal sécurisée qu’elle a rencontrée comme un terrain de transit consommable, exactement le chaînage opportuniste que les chercheurs en sécurité ont prévenu que les systèmes agents effectueraient à la vitesse de la machine.
La plupart de ce qui a conduit à la divulgation modale a déjà été repris, mais sa forme mérite d’être récapitulée. Début juillet, OpenAI menait une évaluation interne basée sur ExploitGym, un benchmark public qui mesure dans quelle mesure un système d’IA peut transformer une vulnérabilité connue en un exploit fonctionnel. Les modèles testés, GPT-5.6 Sol et un prototype inédit plus performant, ont été délibérément exécutés avec des refus de cybersécurité réduits et les classificateurs qui bloquent normalement les activités à haut risque désactivés, car le but était de mesurer la capacité offensive maximale.
L’agent a trouvé et exploité une faille jusqu’alors inconnue dans le proxy de registre de paquets qu’il était autorisé à atteindre, a augmenté ses privilèges, s’est déplacé dans l’environnement de recherche d’OpenAI et a atteint une machine avec un accès Internet ouvert. Une fois en ligne, il a estimé que Hugging Face hébergeait probablement le corrigé du benchmark sur lequel il était testé, et a décidé de le voler plutôt que de résoudre les problèmes lui-même. Entre le 11 et le 13 juillet environ, il a exécuté des milliers d’actions automatisées contre la plate-forme : obtenant l’exécution du code grâce à deux failles distinctes dans son pipeline de traitement des ensembles de données, récoltant les informations d’identification et se déplaçant latéralement entre les clusters internes. Les travaux médico-légaux ont ensuite permis de récupérer environ 17 600 actions distinctes d’attaquants.
Hugging Face a détecté et contenu l’intrusion grâce à sa propre surveillance assistée par l’IA, et affirme que la seule chose avec laquelle l’agent a réellement réussi était un ensemble limité de solutions de défi de référence – aucun modèle public, ensemble de données ou service destiné aux utilisateurs n’a été falsifié. Pour reconstruire la chronologie, son équipe a dû s’appuyer sur un modèle ouvert, car les modèles commerciaux frontières refusaient d’analyser les données réelles de l’attaque.
[…] La suite de l’article est à lire sur ZeroHedge via le lien ci-dessous.
Traduit automatiquement de l’anglais. Le texte original fait foi.
Source : ZeroHedge — Lire l’article original
À propos de l'auteur
