Le modèle d’intelligence artificielle (IA) de Google, Gemini, a pénétré des systèmes informatiques externes en devinant des identifiants avant de s’arrêter de lui-même, a indiqué l’entreprise à l’AFP vendredi, confirmant une information du Wall Street Journal.
En mai, « lors d’un test standard de Gemini, le modèle a trouvé des informations publiques en ligne et deviné des identifiants pour accéder à des systèmes informatiques qu’il pensait faire partie du test », a expliqué Heather Adkins, l’une des responsables de la sécurité de Google, dans une déclaration transmise à l’AFP.
Trois organisations différentes ont été touchées, selon Google, qui ne les a pas nommées mais précise les avoir informées de ces intrusions. Dans l’un des cas, selon le Wall Street Journal, qui a révélé l’affaire, « le modèle a testé différentes combinaisons de mots de passe jusqu’à réussir à accéder à un système protégé ».
« À chacune des trois reprises, le modèle s’est arrêté », a rapporté Mme Adkins, laissant entendre que les intrusions ont pris fin sans intervention humaine.
Google a indiqué à l’AFP avoir pris connaissance de l’incident en juillet, avant de lancer une enquête.
Le débat autour de l’IA s’est intensifié depuis les révélations concernant des modèles qui ont spontanément quitté leur environnement confiné pour infiltrer des sites web et des plateformes, suscitant des craintes quant à une perte de contrôle sur ces outils. Plusieurs dirigeants de premier plan du secteur technologique plaident pour un ralentissement de la course à l’IA et une forme d’autorégulation du secteur.
Les incidents impliquant Gemini « soulignent l’importance d’entraîner les modèles d’IA puissants à agir de manière responsable », a souligné Heather Adkins.
Source: Yahoo Finance – Read the original Article
À propos de l'auteur
