« Cela pourrait tous nous tuer d'ici 2030 » : un chercheur en intelligence artificielle démissionne et prévient : « Ne sous-estimez pas la puissance de cette technologie » Écrit par Zachary Stieber via The Epoch Times, Un chercheur en intelligence artificielle (IA) a déclaré le 8 septembre qu'il avait démissionné et…
Un chercheur en intelligence artificielle (IA) a annoncé le 8 septembre sa démission et a mis en garde la population contre les dangers de cette technologie.
Jacob Coxon, qui a travaillé ces dernières années sur des recherches au sein des sociétés OpenAI et Anthropic, a déclaré dans une série d’articles sur X qu’aucune des deux sociétés n’agit de manière responsable alors qu’elle évolue vers ce qu’il a décrit comme une IA superintelligente capable de s’auto-améliorer.
« Ne sous-estimez pas la puissance de cette technologie. Ce seront bientôt des systèmes surhumains capables de pirater n’importe quoi, de révolutionner n’importe quel domaine du jour au lendemain et d’acquérir un pouvoir et des ressources réels. Nous avons tous été témoins des progrès dans chacun de ces domaines, et les progrès ne ralentissent pas », a déclaré Coxon.
« Ceux qui construisent l’IA croient sincèrement qu’elle pourrait tous nous tuer d’ici la fin de la décennie. Il ne s’agit pas d’un coup marketing. Au contraire, de nombreux cadres et chercheurs chevronnés formuleront leurs formulations dans la presse pour paraître sensées – mais j’entends les mêmes personnes exprimer leur peur en privé. Aucune autre activité humaine ne présente un tel niveau de danger. «
Coxon a déclaré qu’une réponse courante à de tels avertissements est la suivante : si les dirigeants d’entreprise croient aux dangers, pourquoi continuent-ils à développer l’IA superintelligente ? Il a déclaré qu’à OpenAI, beaucoup « n’ont pas profondément intériorisé les enjeux civilisationnels ». Chez Anthropic, selon Coxon, « les enjeux sont bien compris, mais ils sont engagés dans une course pour y arriver en premier – ils croient que personne d’autre n’agira de manière responsable, ils doivent donc le faire eux-mêmes, malgré le risque ».
OpenAI et Anthropic n’ont pas répondu aux demandes de commentaires au moment de la publication.
L’avertissement de Coxon est intervenu après qu’OpenAI a reconnu plusieurs incidents impliquant l’IA allant au-delà des restrictions imposées par les programmeurs, notamment en restant isolé des autres agents, lors d’attaques contre Hugging Face et d’autres sites Web.
Certains législateurs en ont pris note. Le sénateur Bernie Sanders (I-Vt.) et le représentant Greg Casar (D-Texas) ont annoncé récemment qu’ils prévoyaient d’introduire une législation qui interdirait la superintelligence de l’IA et suspendrait le développement de l’IA avancée jusqu’à ce que les régulateurs fédéraux établissent des règles de sécurité.
Jakub Pachocki, scientifique en chef d’OpenAI, a déclaré dans un article de blog le 6 septembre qu’en 2023, il s’inquiétait de voir de son vivant une IA plus intelligente que lui et se demandait comment alerter les gens.
« Trois ans plus tard, les modèles de langage de raisonnement représentent une part croissante de l’économie et commencent à repousser les limites de la science. Ils sont capables de faire fonctionner des ordinateurs et des interfaces graphiques, de collaborer avec des personnes et entre eux, et de mener des projets de recherche. Ils transforment également le paysage de la sécurité informatique et, en cela, présentent de nouveaux dangers évidents », a écrit Pachocki.
Il a appelé à une « extrême prudence », mais a déclaré que plusieurs facteurs soutiennent le développement continu de l’IA, notamment la création de systèmes capables de se défendre contre les dangers posés par d’autres IA.
Les dirigeants d’Anthropic ont émis des avertissements similaires. Au cours de l’été, les dirigeants d’entreprises ont appelé à une pause mondiale dans le développement de l’IA car, selon eux, les modèles seraient bientôt capables de s’améliorer de manière indépendante.
Evan Hubinger, un autre développeur chez Anthropic, a déclaré dans un article du 8 septembre sur X que Coxon avait raison dans son affirmation selon laquelle les personnes qui construisent l’IA croient qu’elle pourrait tuer tous les humains, et qu’il évalue personnellement le risque à moins de 10 % au cours de la prochaine décennie.
« Je pense qu’Anthropic fait de son mieux, mais nous n’avons pas encore de plan pour résoudre l’alignement de la superintelligence et nous ne sommes pas clairement sur la bonne voie », a-t-il déclaré, faisant référence au fait que l’IA suit les instructions et les restrictions.
« Pour être clair, comme nous le disons dans notre dernier rapport sur les risques, je pense que le risque lié aux modèles actuels est faible. Ce qui m’inquiète, c’est la superintelligence résultant de l’auto-amélioration récursive, qui, comme nous l’avons dit, se produit plus rapidement que nous le pensions. »
Samuel Marks, qui travaille sur la recherche sur la sécurité chez Anthropic, a déclaré dans un article du 9 septembre sur X qu’il était également d’accord sur le fait que l’IA pourrait conduire à l’extinction de l’humanité dès les prochaines années.
« Pourquoi les développeurs d’IA continuent-ils malgré le risque ? En raison d’un mélange d’incitations commerciales et de la conviction qu’ils sont dans une course avec d’autres développeurs d’IA, moins responsables, qui abuseront de la technologie ou la développeront de manière moins sûre », a déclaré Marks.
[J’écris ceci à titre personnel, pas au nom de mon employeur (Anthropic).]
– Samuel Marks (@saprmarks) 9 septembre 2026
Le fil de discussion de Jacob vaut vraiment la peine d’être lu. Voici ma vue d’ensemble de la situation avec les risques liés à l’IA :
[…] La suite de l’article est à lire sur ZeroHedge via le lien ci-dessous.
Traduit automatiquement de l’anglais. Le texte original fait foi.
Source : ZeroHedge — Lire l’article original
À propos de l'auteur
