Mustafa Suleyman, responsable de Microsoft AI, met en garde contre le développement incontrôlé de l’intelligence artificielle, qui pourrait selon lui créer « une nouvelle espèce de silicium » susceptible de « rivaliser avec nous pour les ressources, peu importe à quel point elle se soucie de l’humanité et nous aime ».
Interrogé jeudi dans l’émission Today de la BBC sur les inquiétudes du public concernant l’évolution de l’IA, Suleyman a répondu que ces inquiétudes étaient justifiées, tout en affirmant qu’il existait « des mesures très concrètes que nous pouvons prendre » pour garder cette technologie sous contrôle.
Suleyman est allé plus loin en qualifiant l’approche d’Anthropic d’« erronée ».
Il estime que les systèmes d’IA ne devraient jamais être autorisés à définir leurs propres objectifs, à gagner de l’argent ou à posséder des actifs. Selon lui, un système doté d’une autonomie excessive « rivalisera sans aucun doute avec nous pour les ressources, peu importe à quel point il se soucie de l’humanité et nous aime ».
Ces déclarations font suite à un essai publié par Suleyman plus tôt cette semaine, dans lequel il critiquait l’approche d’Anthropic pour entraîner son modèle Claude. Il a qualifié le PDG d’Anthropic, Dario Amodei, et son équipe de « personnes intellectuellement honnêtes », tout en leur reprochant de traiter Claude comme s’il possédait des caractéristiques humaines, telles que des désirs, des valeurs ou une conscience de soi.
Suleyman affirme clairement : « Les IA ne sont pas conscientes. » Il ajoute qu’elles « ne ressentent rien, ne font aucune expérience et ne souffrent pas » et qu’elles n’ont « ni préférences innées ni motivations sous-jacentes ». Il décrit ces systèmes comme des « moteurs de complétion de séquences », conçus pour suivre des instructions et atteindre des objectifs définis par les humains.
Suleyman appelle également à davantage de transparence concernant la manière dont les systèmes d’IA sont entraînés et évalués, notamment grâce à un contrôle indépendant et à des outils plus solides de surveillance et de contrôle. Il avertit : « Nous ne devons pas avancer les yeux fermés vers une décision que nous finirons par regretter amèrement. »
Lors de son interview, Suleyman a également plaidé en faveur d’un « alignement » mondial avant un prochain sommet consacré à l’IA. Dans ce contexte, l’alignement consiste à intégrer des principes éthiques humains aux systèmes d’IA afin qu’ils restent « subordonnés » à l’humanité plutôt que de fonctionner indépendamment d’elle.
« La bonne nouvelle, je pense, c’est que chaque être humain aura tout intérêt à s’assurer que les systèmes que nous créons et qui sont utilisés partout dans le monde, dans chaque nation, soient sûrs, contrôlables et subordonnés à l’humanité », a-t-il déclaré. « Tout le monde doit être aligné. »
Ces déclarations interviennent alors que Microsoft formalise sa propre position sur la sécurité de l’IA. L’entreprise a créé une équipe dédiée à la superintelligence en octobre 2025 et a publié lundi un manuel de formation intitulé « Humanist AI Code of Conduct », introduisant le concept de « superintelligence humaniste » : une IA définie comme une technologie « très avancée qui travaille toujours pour les humains, reste dans certaines limites et demeure sous contrôle humain ».
Le débat sur l’avenir de l’IA s’intensifie, avec des visions différentes concernant la manière de garantir que cette technologie reste sous contrôle humain.
Source: Brietbart – Read the original Article
À propos de l'auteur
