Une semaine de plus, un nouvel avertissement apocalyptique venu des « Maîtres de l’Univers ».
Cette fois, il vient de Jacob Coxon, un chercheur de 27 ans qui a démissionné mardi d’Anthropic, le laboratoire d’IA de la Silicon Valley derrière le chatbot Claude. Coxon n’est pas parti discrètement. Il a annoncé son départ dans une série de sept publications sur X, qui ont depuis accumulé des dizaines de millions de vues, et a accordé une interview exclusive au Wall Street Journal pour s’assurer que personne ne passe à côté de son message.
« J’ai démissionné d’Anthropic aujourd’hui », a écrit Coxon. « J’ai passé les trois dernières années à faire de la recherche sur le pré-entraînement chez OpenAI et Anthropic. Aucune des deux entreprises n’agit de manière responsable. Elles foncent directement vers une superintelligence capable de s’améliorer elle-même et jouent notre vie aux dés. »
Les systèmes actuellement développés, a-t-il poursuivi, « peuvent pirater n’importe quoi, révolutionner n’importe quel domaine du jour au lendemain et acquérir un véritable pouvoir et des ressources ». Il a déclaré au Journal que « d’ici la fin de l’année prochaine, les choses pourraient déjà être hors de contrôle ».
Et dans une phrase reprise par pratiquement tous les médias traditionnels depuis : « Les personnes qui construisent l’IA pensent sincèrement qu’elle pourrait tous nous tuer avant la fin de la décennie. Ce n’est pas un coup marketing. »
Devons-nous les prendre au sérieux ?
Axios rapporte que des personnes travaillant au sein des entreprises d’IA se montrent « de plus en plus effrayées et préoccupées ». C’est peut-être vrai. Mais être « effrayé et préoccupé » est très différent du scénario façon Terminator présenté par Coxon, et les médias traditionnels semblent peu intéressés par cette différence.
Ce qui est véritablement inhabituel, c’est que les collègues actuels de Coxon se sont précipités pour le soutenir. Evan Hubinger, responsable scientifique de l’alignement chez Anthropic, a répondu sur X : « Jacob a raison ici — nous pensons vraiment, sincèrement, que l’IA pourrait tuer tous les humains ! Personnellement, je pense que la probabilité est supérieure à 10 % au cours de la prochaine décennie. Je crois qu’Anthropic fait de son mieux, mais nous n’avons pas encore de plan pour résoudre le problème de l’alignement avec une superintelligence et nous ne sommes clairement pas sur la bonne trajectoire. »
Samuel Marks, qui dirige l’équipe dite de « supervision évolutive » d’Anthropic, est également intervenu, précisant qu’il s’exprimait à titre personnel : « Les développeurs d’IA pensent que leur technologie pourrait provoquer l’extinction de l’humanité, ou des conséquences tout aussi catastrophiques. »
Autrement dit, deux cadres importants d’une entreprise qui prépare l’une des plus grandes introductions en Bourse de l’histoire ont expliqué au monde que leur propre produit pourrait anéantir l’humanité. Ils l’ont fait sur les réseaux sociaux, sans conséquence apparente. Imaginez un ingénieur de Boeing ou un scientifique de Pfizer faire la même chose tout en conservant son emploi.
« Anthropic a-t-elle une politique concernant les réseaux sociaux ? » a demandé l’analyste technologique Mike Solana. « Ou est-ce leur politique ? »
C’est une bonne question, et le calendrier mérite d’être examiné.
Le départ spectaculaire de Coxon est survenu quelques jours seulement après qu’OpenAI a lancé GPT-6 Astra, son modèle le plus puissant à ce jour. Pendant la majeure partie de la semaine précédente, Astra était le seul sujet dont parlait le monde de la technologie, les utilisateurs inondant les réseaux sociaux de démonstrations du modèle créant des jeux vidéo 3D complets à partir d’une simple commande. OpenAI avait toute l’attention. Anthropic, non.
Puis Coxon a démissionné, ses anciens collègues ont confirmé ses avertissements comme prévu et, mardi soir, Anthropic était de nouveau en une de tous les grands journaux du pays.
Remarquez le sous-texte du discours apocalyptique : la technologie d’Anthropic est tellement avancée qu’elle effraie les personnes mêmes qui la développent. Pour une entreprise qui chercherait à atteindre une valorisation de 2 000 milliards de dollars, ce message vaut plus que n’importe quelle campagne publicitaire.
Les sceptiques seraient peut-être plus indulgents si c’était la première fois. Mais ce n’est pas le cas.
En avril, Anthropic avait annoncé que son nouveau modèle Mythos était trop dangereux pour être rendu public. Cette annonce était intervenue quelques jours après le lancement par Google de son modèle Gemma 4 et juste après qu’OpenAI eut bouclé une gigantesque levée de fonds de 122 milliards de dollars.
Comme cette semaine, l’avertissement d’Anthropic avait monopolisé l’attention des médias et relégué ses concurrents au second plan.
Il s’avère que convaincre le public que votre produit pourrait provoquer la Singularité dès demain est très bon pour votre valorisation.
Parmi les laboratoires d’IA de pointe, Anthropic est unique sur ce point. Toute son image repose sur une posture de sécurité extrême : les avertissements solennels, les inquiétudes permanentes et les prédictions incessantes d’apocalypse.
Et cette stratégie est également payante à Washington, tout autant qu’à Wall Street.
Si l’IA finit effectivement par provoquer un événement majeur — et le scénario le plus probable n’est pas une révolte de type Skynet, mais plutôt une cyberattaque massive alimentée par l’IA, du genre de celle que Coxon lui-même a décrite comme un « tir de semonce » — l’entreprise qui aura passé des années à tirer la sonnette d’alarme sera celle que les législateurs, les régulateurs et le public considéreront comme l’adulte responsable.
Toutes les autres entreprises seront perçues comme les irresponsables qui ont ignoré les avertissements.
Il n’y a évidemment rien de mal à cela. Chaque entreprise cherche à défendre ses intérêts.
Le problème survient lorsque ceux qui écrivent les règles peuvent décider eux-mêmes de ce que signifie la « sécurité », car nous avons déjà vu ce film.
Souvenez-vous des équipes de « confiance et sécurité » des plateformes de réseaux sociaux. Et de l’« Online Safety Act » britannique ? Sans oublier la censure liée au COVID — justifiée, bien sûr, au nom de la « sécurité ».
La gauche a ses propres raisons de vouloir placer l’IA sous un contrôle centralisé, comme je l’ai écrit plus tôt cette année. Cela n’a rien à voir avec la superintelligence.
Les progressistes craignent qu’un système d’IA qui ne s’intéresse pas à la politique identitaire puisse produire des résultats remettant en cause les hypothèses empiriques vieilles d’un demi-siècle qui servent de fondement à la bureaucratie des droits civiques. Ils veulent donc s’assurer que cela n’arrive pas.
Des élus démocrates dans un nombre croissant d’États ont présenté des projets de loi visant à lutter contre la « discrimination algorithmique », une expression qui signifie en pratique tout résultat produit par une IA dans lequel les femmes et les minorités ne sont pas avantagées.
Derrière le jargon, il s’agit toujours de la même exigence d’égalité des résultats, adaptée à l’ère de l’intelligence artificielle.
C’est ici, chez Breitbart News, que j’avais tiré la sonnette d’alarme pour la première fois, il y a plusieurs années, au sujet du domaine de la « justice dans l’apprentissage automatique », une tentative du monde universitaire de mélanger la théorie critique de la race avec l’informatique.
Ce domaine existait avant l’explosion des grands modèles de langage. Dès 2019, des militants de gauche cherchaient déjà à monopoliser le domaine de la sécurité de l’IA et son influence sur les entreprises technologiques.
Ils étaient tellement déterminés que lorsque Google avait inclus une seule voix conservatrice modérée dans son « AI Ethics Council », des militants de gauche au sein de l’entreprise avaient fait pression sans relâche sur leurs supérieurs jusqu’à l’annulation de l’initiative.
Source: Brietbart – Read the original Article
À propos de l'auteur
