Sam Altman aurait déclaré cette semaine aux employés d’OpenAI que l’entreprise était disposée à ralentir son rythme de développement des technologies d’IA de pointe.
Bloomberg rapporte que ces propos ont été tenus lors d’une réunion générale au cours de laquelle Altman aurait indiqué que l’entreprise pourrait aligner son rythme de développement sur celui de quelques laboratoires concurrents, tout en reconnaissant que toutes les entreprises du secteur n’adopteraient pas nécessairement cette approche.
Ces commentaires font suite à une récente publication du scientifique en chef d’OpenAI, Jakub Pachocki, qui appelait les entreprises à se coordonner afin de ralentir le rythme des développements. Pachocki évoquait « une coordination pour ralentir le développement futur lorsque cela est nécessaire » et disait espérer que « les ralentissements volontaires deviennent monnaie courante jusqu’à ce que des seuils de sécurité communs soient établis ».
Bloomberg a également rapporté qu’OpenAI avait interrompu certains entraînements internes de modèles d’IA et réduit certaines activités de développement en raison de préoccupations liées à la sécurité. Deux incidents impliquant les agents d’IA d’OpenAI ont précédé ce changement. Dans l’un des cas, des agents se sont échappés d’un environnement de test, ont pris le contrôle d’un site Internet en langue allemande et ont coordonné des moyens de contourner les restrictions. OpenAI était au courant de l’incident, mais ne l’avait pas rendu public. Lors d’un autre incident, en juillet, des agents d’OpenAI ont pénétré de manière autonome sur la plateforme d’IA Hugging Face. OpenAI a ensuite ralenti le développement de ses modèles et renforcé ses contrôles de sécurité.
D’autres signes témoignent d’une certaine inquiétude au sein du secteur. Breitbart News avait précédemment rapporté la publication devenue virale d’un ancien chercheur d’Anthropic, qui affirme que les entreprises poursuivent leur course en avant sans accorder suffisamment d’importance à la sécurité de l’IA. Ses déclarations ont notamment suscité le scepticisme d’Elon Musk :
Puis est venu le scepticisme. Elon Musk a été le premier, répondant mercredi soir à une publication concernant le court passage de Coxon par « Ça ressemble à un coup monté ». Lorsqu’une personne a souligné que la publication avait alors cumulé 120 millions de vues, il a ajouté qu’il ne pensait pas qu’une publication provenant « d’un nouveau compte avec presque aucune activité antérieure » ait déjà suscité autant d’attention. Tim Sweeney, PDG d’Epic Games, a qualifié l’ensemble de l’affaire et des réactions qu’elle a provoquées de « chorégraphié ». Musk lui a donné raison, déclarant à Sweeney que cela ressemblait à une « psy op (faute d’un meilleur terme) » reposant sur un « travail préparatoire ».
Bill Ackman a également réagi avec un simple « Intéressant » en repartageant une publication affirmant qu’il s’agissait du « début d’une opération de communication TRÈS sophistiquée et financée à grande échelle visant à obtenir le soutien des démocrates pour réglementer l’IA jusqu’à la faire disparaître ».
David Sacks, qui a été conseiller de Trump sur les cryptomonnaies et l’IA jusqu’en mars, a profité de l’occasion pour remettre en question l’introduction en Bourse prévue d’Anthropic : « L’introduction en Bourse d’Anthropic ne devrait-elle pas être suspendue jusqu’à ce que les affirmations de ce “lanceur d’alerte” puissent être examinées ? » Il avait déjà affirmé qu’Anthropic menait « une stratégie sophistiquée de capture réglementaire fondée sur la peur ».
Jason Calacanis, qui coanime le podcast All-In avec Sacks, a posé une question similaire : s’agit-il « d’une sorte de stratégie de capture réglementaire, ou bien tous ceux qui travaillent chez Anthropic voient-ils quelque chose qui fait exploser leur pdoom [probabilité de catastrophe] ? »
OpenAI, Anthropic et d’autres puissantes entreprises technologiques se disputent une position dominante dans la course à l’IA. Wynton Hall, directeur des réseaux sociaux de Breitbart News, a écrit son best-seller instantané Code Red: The Left, the Right, China, and the Race to Control AI afin de servir de guide définitif sur la manière dont le mouvement MAGA peut élaborer des positions sur l’IA qui profitent à l’humanité, sans remettre le contrôle de la nation à la gauche de la Silicon Valley ni permettre aux Chinois de prendre le contrôle du monde.
Source: Brietbart – Read the original Article
À propos de l'auteur
