Sam Altman aurait déclaré cette semaine aux employés d’OpenAI que l’entreprise était disposée à ralentir son rythme de développement des technologies d’IA de pointe.
Bloomberg rapporte que ces déclarations ont été faites lors d’une réunion générale au cours de laquelle Altman aurait indiqué que l’entreprise pourrait aligner son rythme de développement sur celui de quelques laboratoires concurrents, tout en reconnaissant que toutes les entreprises du secteur n’adopteraient pas nécessairement cette approche.
Ces commentaires interviennent après une récente publication du scientifique en chef d’OpenAI, Jakub Pachocki, qui appelait les entreprises à se coordonner afin de ralentir le rythme du développement. Pachocki évoquait la possibilité de « se coordonner pour ralentir le développement futur lorsque cela est nécessaire » et disait espérer que « les ralentissements volontaires deviennent monnaie courante jusqu’à ce que des seuils de sécurité communs soient établis ».
Bloomberg a également rapporté qu’OpenAI avait interrompu certains entraînements internes de modèles d’IA et réduit certaines activités de développement en raison de préoccupations liées à la sécurité. Deux incidents impliquant les agents d’IA d’OpenAI auraient précédé ce changement. Lors du premier, des agents se sont échappés d’un environnement de test, ont pris le contrôle d’un site web en langue allemande et ont coordonné des moyens de contourner les restrictions. OpenAI était au courant de l’incident, mais ne l’a pas rendu public. Lors d’un autre incident en juillet, des agents d’OpenAI ont pénétré de manière autonome sur la plateforme d’IA Hugging Face. OpenAI a ensuite ralenti le développement de ses modèles et renforcé ses dispositifs de sécurité.
D’autres signes témoignent également d’une certaine inquiétude au sein du secteur. Breitbart News avait précédemment rapporté la publication devenue virale d’un ancien chercheur d’Anthropic, qui affirme que les entreprises poursuivent leur course en avant sans accorder suffisamment d’importance à la sécurité de l’IA. Ses déclarations ont suscité le scepticisme d’Elon Musk, entre autres :
Le scepticisme est ensuite apparu. Elon Musk a été le premier à réagir mercredi soir à une publication concernant le bref passage de Coxon au sein de l’entreprise, répondant simplement : « On dirait un coup monté. » Lorsqu’une personne a souligné que la publication avait alors cumulé 120 millions de vues, il a ajouté qu’il ne pensait pas qu’une publication provenant d’« un nouveau compte avec presque aucune activité antérieure » ait déjà suscité autant d’attention. Tim Sweeney, PDG d’Epic Games, a qualifié l’ensemble de l’affaire, ainsi que les réactions qu’elle a suscitées, de « chorégraphié ». Musk lui a répondu que cela ressemblait à une « opération psychologique (faute d’un meilleur terme) » reposant sur un « travail préparatoire » réalisé en amont.
Bill Ackman a également réagi avec un simple « Intéressant », en repartageant une publication affirmant qu’il s’agissait du « début d’une opération de communication TRÈS sophistiquée et financée à grande échelle visant à obtenir le soutien des démocrates pour réglementer l’IA jusqu’à la faire disparaître ».
David Sacks, qui a été conseiller de Donald Trump sur les cryptomonnaies et l’IA jusqu’en mars, a profité de l’occasion pour remettre en question l’introduction en bourse prévue d’Anthropic : « L’introduction en bourse d’Anthropic ne devrait-elle pas être suspendue jusqu’à ce que les affirmations de ce “lanceur d’alerte” puissent être examinées ? » Il avait déjà déclaré qu’Anthropic « menait une stratégie sophistiquée de capture réglementaire fondée sur la peur ». Jason Calacanis, qui coanime le podcast All-In avec Sacks, a posé une question similaire : s’agit-il « d’une sorte de stratégie de capture réglementaire, ou bien tous ceux qui travaillent chez Anthropic voient-ils quelque chose qui fait grimper leur pdoom [probabilité de catastrophe] ? »
OpenAI, Anthropic et d’autres puissantes entreprises technologiques se disputent une position dominante dans la course à l’IA. Wynton Hall, directeur des réseaux sociaux de Breitbart News, a écrit son best-seller Code Red: The Left, the Right, China, and the Race to Control AI, présenté comme un guide de référence sur la manière dont le mouvement MAGA peut définir des positions sur l’IA susceptibles de bénéficier à l’humanité, sans céder le contrôle du pays aux progressistes de la Silicon Valley ni permettre à la Chine de prendre le contrôle du monde.
Source: Brietbart – Read the original Article
À propos de l'auteur
