Anthropic, l’entreprise dirigée par Dario Amodei, qui a consacré la dernière semaine à alerter sur les risques liés à l’avancée de l’IA, a révélé avoir créé un « wet lab » pour mener des expériences biologiques pilotées par l’IA.
Selon Reuters, Anthropic a confirmé exploiter un laboratoire de biologie dans la région de la baie de San Francisco, où l’entreprise utilise ses modèles d’IA pour réaliser des expériences physiques. Un « wet lab » est une installation spécialement conçue pour travailler avec des liquides potentiellement dangereux ou des échantillons biologiques.
Cette révélation intervient à un moment particulier, alors qu’Amodei mène une campagne appelant à ralentir le développement de l’IA. Des critiques, comme Steve Eisman, de The Big Short, affirment que l’objectif d’Amodei serait de créer une barrière autour de son entreprise afin de la protéger de la concurrence.
Eric Kauderer-Abrams, responsable des sciences de la vie chez Anthropic, a expliqué l’approche de l’entreprise en matière de recherche biologique. « Nous pensons que, pour faire de la biologie, le test final reste, et restera encore un certain temps, le travail réel en laboratoire », a-t-il déclaré à Reuters. « Nous le faisons absolument aujourd’hui. » Il a décrit le laboratoire comme comparable à ceux des entreprises de biotechnologie traditionnelles, Anthropic menant certaines recherches en interne tout en collaborant également avec des partenaires externes.
En avril, l’entreprise a racheté Coefficient Bio, une start-up spécialisée dans la biotechnologie et l’IA opérant discrètement, signalant ainsi ses ambitions dans la recherche biologique. Anthropic a indiqué que sa priorité était principalement la biologie fondamentale plutôt que la découverte de médicaments. Cette position semble stratégique, alors que l’entreprise entretient de nombreuses relations avec de grands groupes pharmaceutiques, à la fois comme clients et comme partenaires. Anthropic a récemment annoncé une collaboration avec Novo Nordisk portant sur la découverte conjointe de médicaments.
Le week-end dernier, le PDG d’Anthropic, Dario Amodei, a surpris le secteur de l’IA en appelant à ralentir son développement au nom de la sécurité. Dans un essai, Amodei présente un plan en trois étapes destiné à ralentir le rythme de développement de l’industrie de l’IA sans pour autant l’arrêter. « Pour être clair, ralentir ne signifie pas interrompre l’entraînement des modèles ou les progrès techniques, mais veiller à ce que les entreprises prennent suffisamment de temps pour aligner et sécuriser leurs modèles et permettre à des évaluateurs tiers de les vérifier », a-t-il écrit.
Anthropic affirme avoir déjà franchi la première étape en s’engageant « unilatéralement » à donner à des évaluateurs tiers un accès au niveau de celui accordé à ses employés, afin qu’ils puissent vérifier ses pratiques de sécurité et signaler d’éventuels incidents. Selon Amodei, cette mesure peut être mise en œuvre sans « sacrifier l’avantage commercial ou la position de leader des États-Unis dans l’IA ».
La deuxième étape appelle les principales entreprises d’IA des pays démocratiques à se coordonner autour de normes communes de sécurité. La troisième, et la plus ambitieuse, préconise une coopération entre les gouvernements démocratiques et autoritaires.
Le contraste entre ces avertissements sur les dangers potentiels de l’IA et la création d’un laboratoire de biologie n’est pas passé inaperçu dans le secteur technologique. Chamath Palihapitiya, investisseur et fondateur d’une start-up spécialisée dans le codage par IA, a commenté la situation sur X avec ironie : « Le groupe derrière des succès comme : “Nous allons tous mourir” et “Réglementez-moi maintenant” construit un laboratoire humide à San Francisco. Je ne recommande pas cela. »
Le directeur des réseaux sociaux de Breitbart News, Wynton Hall, a récemment publié des critiques à l’égard du mouvement « effective altruism », qu’il présente comme influent dans les débats sur la gouvernance de l’IA et la réglementation du secteur. Hall a également écrit Code Red: The Left, the Right, China, and the Race to Control AI, un ouvrage consacré aux débats sur la politique américaine en matière d’IA, à la concurrence avec la Chine et aux enjeux de gouvernance technologique.
Source: Brietbart – Read the original Article
À propos de l'auteur
