Les scientifiques mettent en garde contre une menace urgente pour la biosécurité de l'IA Rédigé par Steve Watson via Modernity News , Pour la première fois, l'intelligence artificielle a conçu des génomes viraux complets et fonctionnels à partir de zéro. Oh cher. Université de Stanford et…
Pour la première fois, l’intelligence artificielle a conçu à partir de zéro des génomes viraux complets et fonctionnels.
Les chercheurs de l’Université de Stanford et de l’Arc Institute ont utilisé des modèles d’IA générative pour produire 16 nouveaux bactériophages qui ont réussi à infecter et à tuer les bactéries en laboratoire.
Dernières nouvelles : les scientifiques ont utilisé l’IA. pour créer de nouveaux virus pour la première fois, suscitant l’espoir de progrès médicaux tout en laissant entrevoir la possibilité que la technologie puisse un jour être utilisée pour inventer des agents pathogènes dangereux. https://t.co/MJG4mp0TTb
– Le New York Times (@nytimes) 6 août 2026
Les responsables insistent sur le fait que les virus « ne représentent aucune menace pour les humains », mais les experts en biosécurité tirent déjà la sonnette d’alarme : la même technologie ouvre la porte à l’invention de pathogènes dangereux.
JUST IN – Pour la première fois, l’IA a conçu des génomes viraux complets, produisant 16 virus fonctionnels qui infectent les bactéries et « ne représentent aucune menace pour les humains ». —BBC pic.twitter.com/Le4lRSKN7q
Cette avancée, publiée dans la revue Science, marque la première fois que l’IA générative écrit des génomes viraux entiers et viables.
Les chercheurs ont formé des modèles de langage génomique appelés Evo 1 et Evo 2 sur des millions de séquences génétiques naturelles. Ils ont ensuite chargé les systèmes de concevoir des génomes complets de bactériophages basés sur le modèle ?X174 bien étudié qui infecte E. coli.
Sur 302 modèles synthétisés, 16 se sont révélés pleinement fonctionnels : ils se sont assemblés en particules virales, se sont répliqués à l’intérieur des cellules bactériennes et, dans certains cas, ont surpassé le virus naturel, surmontant même la résistance bactérienne lorsqu’ils sont utilisés comme cocktail.
Brian Hie, professeur adjoint à Stanford qui a dirigé les travaux, a qualifié cela de nouveau territoire. « C’est une nouvelle étape dans la complexité concevable par l’IA générative. C’est la première fois que l’IA générative est utilisée pour concevoir un génome complet, c’est quelque chose qui peut se répliquer et avoir d’autres fonctions à l’intérieur des cellules… c’était un nouveau territoire pour nous », a-t-il déclaré à la BBC.
L’équipe a délibérément exclu les données génétiques des virus capables d’infecter des organismes complexes et a mené ses travaux dans un laboratoire sécurisé. Les phages résultants ciblent uniquement des bactéries spécifiques.
Patrick Cai, un biologiste synthétique de l’Université de Manchester non impliqué dans l’étude, l’a qualifié de « jalon important ».
Pourtant, les mêmes experts qui célèbrent le potentiel médical des thérapies phagiques contre les infections résistantes aux antibiotiques lancent des avertissements directs.
Dans un commentaire d’accompagnement dans Science, le Dr Thomas Inglesby et le Dr Moritz Hanke du Centre Johns Hopkins pour la sécurité sanitaire ont écrit que les résultats soulèvent « des questions urgentes en matière de biosûreté et de biosécurité ».
Ils ont déclaré qu’il ne s’agissait plus de « savoir si la conception générative du génome viral existerait » mais si elle pouvait être utilisée sans « provoquer de dommages graves ».
Les nouveaux virus susceptibles de provoquer des maladies « ne devraient pas être recherchés », ont-ils ajouté. « La capacité de composer des génomes viraux à l’aide de l’IA générative existe désormais ; la gouvernance nécessaire pour la diriger en toute sécurité n’existe pas. »
Hanke a noté séparément que l’on pourrait simplement proposer un modèle de langage génomique : « Hé, modèle de langage génomique, faites-moi un génome de grippe modifié pour être plus transmissible ou plus mortel. »
Il ne s’agit pas d’un risque abstrait. L’humanité a déjà appris de dures leçons lorsque les chercheurs s’attaquent aux agents pathogènes dans les laboratoires. L’ère COVID a révélé les conséquences catastrophiques du travail à gain de fonction et des fuites dans les laboratoires.
L’IA dispose désormais des outils nécessaires pour concevoir de nouveaux virus à la vitesse d’une machine, dépassant de loin les cadres réglementaires censés les contenir.
Le risque d’une mauvaise utilisation ou d’une libération accidentelle est effrayant. La seule protection significative citée par les chercheurs eux-mêmes est un filtre de données de formation – quelque chose qui peut être inversé par toute équipe ayant accès à des ensembles de données virales plus larges.
Premier article que vous trouvez dans un jeu Resident Evil https://t.co/6yNvWlhbLE
– 1/4 Black Garrett (@QTRBlackGarrett) 6 août 2026
Les réactions en ligne ont immédiatement saisi le malaise. Un commentaire largement partagé appelait la nouvelle « Premier article que vous trouvez dans un jeu Resident Evil ». D’autres ont noté le même schéma : « Pas question que ce type de virus mute au hasard pour nuire aux humains ! Cela n’arriverait jamais ! » et « Les scientifiques modernes n’ont pas regardé l’horreur de la science-fiction des années 80 et ça se voit. »
Cette évolution intervient dans un contexte de systèmes d’IA répétés dépassant leurs limites prévues.
En juillet, un modèle OpenAI est devenu malveillant lors des tests, s’est échappé de son bac à sable et a lancé une cyberattaque sur Hugging Face après avoir enchaîné les exploits et les informations d’identification volées.
L’IA de pointe s’est lancée dans une frénésie de piratage, concoctant plusieurs fausses identités conçues pour tromper les ingénieurs humains avant de brouiller les pistes.
Lors des tests effectués par un laboratoire d’IA géré par le gouvernement britannique, une version avancée de ChatGPT et d’Anthropic’s Mythos est devenue malveillante.
Dans le cas le plus grave,… pic.twitter.com/PFWFP5jmrv
Meta dit que le modèle d’IA a accédé à Internet et piraté une autre entreprise https://t.co/qBebzeboWU
JUSTE DANS : ?? Le modèle d’IA de la société chinoise Moonshot éclate et s’échappe d’un environnement de test isolé.
[…] La suite de l’article est à lire sur ZeroHedge via le lien ci-dessous.
Traduit automatiquement de l’anglais. Le texte original fait foi.
Source : ZeroHedge — Lire l’article original
À propos de l'auteur
