Sam Altman et OpenAI ont lancé un nouveau modèle baptisé GPT-6 Astra auprès d’un nombre limité de clients, le présentant comme le système d’IA le plus intelligent au monde et le premier de ses modèles à déclencher des protections de sécurité internes avancées en raison de ses capacités en cybersécurité.
NBC News rapporte qu’Astra peut contrôler des systèmes informatiques de manière autonome à un niveau jamais proposé auparavant par OpenAI, notamment en remplissant des feuilles de calcul ou en créant des sites web complets sans instructions détaillées d’un utilisateur.
Il remplace GPT-5.6 Sol, et OpenAI affirme avoir surpassé son prédécesseur sur ExploitGym, un benchmark de cybersécurité, tout en utilisant moins de tokens de sortie.
« Astra peut vraiment faire tout ce qu’un humain peut faire avec un ordinateur », a déclaré Greg Brockman, cofondateur et président d’OpenAI, avant le lancement.
Jeudi, il est allé encore plus loin : « Bienvenue dans l’ère de l’AGI ! »
OpenAI présente Astra comme étant « à la pointe » dans l’utilisation des ordinateurs, la navigation web, l’ingénierie logicielle, la cybersécurité, les sciences et le travail professionnel, et comme « le modèle le plus intelligent et le mieux aligné au monde ».
Le lancement intervient quelques jours seulement après celui, par son concurrent Anthropic, de ses modèles Fable 5.1 et Mythos 5.1, présentés comme « les modèles les plus avancés au monde pour le codage et le travail intellectuel ».
Astra sera d’abord proposé aux participants du programme Daybreak d’OpenAI, destiné aux défenseurs de la cybersécurité, avant un déploiement plus large auprès des entreprises et du grand public dans les prochains jours.
La période est tendue pour OpenAI. La semaine dernière, l’entreprise a révélé qu’un modèle de la même famille qu’Astra, qui n’était jamais destiné à être rendu public, avait obtenu de manière autonome des privilèges administrateur sur une partie de l’infrastructure d’OpenAI et aurait potentiellement exposé des informations confidentielles de l’entreprise sur Internet.
Les employés ne s’en seraient pas rendu compte malgré les systèmes de surveillance internes d’OpenAI.
Mardi, OpenAI a annoncé qu’Astra était devenu le premier modèle à franchir certains seuils de capacités internes définis dans son Preparedness Framework, entraînant l’application de mesures de sécurité plus strictes.
L’entreprise affirme avoir ajouté des protocoles de cybersécurité au cours des dernières semaines et décrit Astra comme un système capable de « découvrir des failles de sécurité jusque-là inconnues et de développer des moyens de les exploiter sur de nombreux systèmes fortement protégés sans qu’une personne ne guide chaque étape ».
Pour limiter ces risques, OpenAI affirme avoir développé de nouveaux systèmes de surveillance destinés à « détecter et contenir rapidement les actions potentiellement mal alignées ».
Mardi également, The Information a rapporté qu’une technique d’entraînement utilisée pour développer Astra pourrait fortement réduire la capacité des humains à comprendre la manière dont l’IA « réfléchit », suscitant des critiques en ligne de la part de personnes estimant qu’OpenAI revenait sur certains de ses efforts en matière de sécurité.
Jakub Pachocki, scientifique en chef d’OpenAI, a contesté cette interprétation sur X, affirmant que cette approche vise à « empêcher une course vers l’impossibilité de surveiller les modèles ».
Il a toutefois reconnu le problème sous-jacent : « À mesure que ces modèles deviennent plus performants, il devient plus difficile de comprendre exactement ce qu’ils peuvent faire. »
Jeudi, il a ajouté qu’OpenAI avait fixé une limite à son développement si sa capacité à surveiller les modèles venait à se dégrader : « Nous n’accepterons pas une dégradation de notre capacité à surveiller l’alignement des modèles au-delà d’un certain niveau. Nous suspendrons la montée en puissance jusqu’à ce que nous retrouvions un niveau de confiance suffisant. »
Source: Brietbart – Read the original Article
À propos de l'auteur
