Dario Amodei, PDG et cofondateur d’Anthropic, a déclaré à CBS News qu’il soutenait une réglementation fédérale de l’IA et souhaitait que l’industrie ralentisse son rythme de développement, une position soutenue par Sam Altman d’OpenAI et Elon Musk de xAI, mais rejetée par le président Donald Trump.
CBS News rapporte qu’Amodei s’est entretenu avec la correspondante Jo Ling Kent au siège d’Anthropic à San Francisco. « Je ne vais pas vous mentir : il existe de vrais dangers », a déclaré Amodei. « Et je pense que pendant trop longtemps, l’industrie a menti aux gens sur le fait que cette technologie comportait des risques. »
L’interview intervient quelques jours après que Jacob Coxon, ancien chercheur chez Anthropic, a publié un avertissement sur les réseaux sociaux, accusant Anthropic et OpenAI de développer une superintelligence capable de s’améliorer elle-même. Il a qualifié cela de « pari avec nos vies ». Lors d’une interview avec CBS News, Coxon a comparé le risque aux scénarios les plus sombres d’Hollywood concernant une prise de contrôle par les machines. « Cela ne ressemble pas tellement à Terminator ou aux films de science-fiction », a-t-il déclaré. « Elle sera suffisamment intelligente pour nous tuer. »
Interrogé sur cet avertissement, Amodei ne l’a pas écarté. « Je ne pense pas avoir pleinement compris à quoi cela ressemblerait lorsque les progrès seraient aussi rapides », a-t-il déclaré. Il a décrit les capacités de l’IA comme évoluant selon une courbe exponentielle de plus en plus abrupte et estime que cette trajectoire devrait inciter l’industrie à la prudence. « Cela ne signifie pas que nous devons paniquer aujourd’hui. Cela ne signifie pas que nous devons tout arrêter », a-t-il déclaré. « Mais je dirais que c’est un signal d’alerte. Un signal d’alerte indiquant que nous devons ralentir. »
Cela fait écho à un essai publié samedi par Amodei, dans lequel il exhortait l’industrie technologique à « ralentir le rythme » du développement des capacités de l’IA, tout en faisant la distinction entre ralentir et arrêter. Interrogé sur la possibilité qu’Anthropic cesse de publier des modèles plus avancés, il a répondu : « Cela ne signifie pas cela. Cela signifie que nous devons nous assurer que chaque génération de modèles que nous publions est correctement testée. »
Dans le cadre de cet effort de test, Amodei a déclaré qu’Anthropic donnerait désormais aux évaluateurs indépendants un accès permanent à ses modèles d’IA, comparable à celui d’un employé. « Chaque fois que quelqu’un construit un modèle d’IA, un évaluateur tiers peut vérifier si cette entreprise respecte les pratiques de sécurité auxquelles elle s’est engagée », a-t-il expliqué. « C’est comme un inspecteur sanitaire. »
Il a également soutenu une réglementation fédérale de l’IA, alors que les législateurs étudient des propositions allant d’une interdiction totale de la superintelligence à l’imposition d’un « bouton d’arrêt » obligatoire pour les systèmes à haut risque. Selon lui, une interdiction totale va trop loin. « Le bouton d’arrêt de l’IA pourrait être une bonne idée. Mais je ne pense pas que l’interdire, l’interdire complètement, soit la bonne approche », a-t-il déclaré. « Premièrement, l’idée de ne jamais bénéficier des avantages extraordinaires de cette technologie, de ne jamais obtenir de traitements médicaux, ne me convient pas. Deuxièmement, cette technologie sera développée dans d’autres pays, y compris des pays autoritaires. »
Ce dernier point a conduit à l’une des questions les plus difficiles de l’entretien : les États-Unis doivent-ils ralentir même si la Chine ne le fait pas ? « C’est le dilemme le plus difficile. C’est l’aspect le plus difficile de notre situation », a répondu Amodei.
Il a évoqué les accords sur les armes nucléaires conclus entre les États-Unis et l’ancienne Union soviétique pendant la guerre froide comme modèle possible pour une gouvernance internationale de l’IA. « À plus long terme, il faudrait travailler ensemble pour instaurer une limite à la vitesse des progrès de l’IA », a-t-il déclaré. « Je pense que ce sera très difficile, car les incitations à prendre de l’avance et l’avantage militaire que cela procure sont énormes. Et honnêtement, je ne sais pas si c’est possible, mais nous devrions essayer. »
Amodei est également revenu sur un fait qui le met mal à l’aise : une entreprise privée dirige une technologie aux conséquences aussi importantes. « À mon avis, il a toujours été très étrange que cette technologie soit développée par une entreprise privée », a-t-il déclaré. « Les gens me posent constamment cette question : pourquoi le gouvernement ne développe-t-il pas cette technologie ? Et le plus étrange, c’est que je suis d’accord avec eux. Cela me met mal à l’aise. »
Interrogé sur la possibilité de confier la technologie au contrôle des gouvernements, il a fait une distinction : « À la bonne combinaison de gouvernements. » Il a expliqué craindre qu’un seul gouvernement puisse abuser de cette technologie aussi facilement qu’une seule entreprise. Il estime toutefois qu’une combinaison de gouvernements démocratiquement élus pourrait assurer une certaine forme de supervision ou de gouvernance commune.
Breitbart News a rapporté aujourd’hui que le président Donald Trump avait rejeté les appels à ralentir le développement de l’IA. Trump avait d’abord rejeté catégoriquement les avertissements. « Je pense que beaucoup de forces négatives soulèvent cette question alors qu’elles ne devraient pas le faire », a-t-il déclaré aux journalistes. « Et elles évoquent des choses qui n’arriveront pas. »
Quelques heures plus tard, à bord de son avion entre l’Irlande et Washington, il a nuancé son message, affirmant avoir parlé directement avec certains dirigeants du secteur. « Je ne minimise pas [les risques]. Mais cela apportera beaucoup plus de bien que de mal », a-t-il déclaré. Il a également affirmé avoir lui-même utilisé l’IA, sans préciser comment.
Le président Trump s’est ensuite exprimé plus longuement sur Truth Social, où il a déclaré que Dario Amodei essayait de se faire passer pour un « petit ange parfait » :
Le seul contrôle ou « garde-fou » dont l’IA a besoin est un PRÉSIDENT FORT ET INTELLIGENT (avec un QI élevé !), et les États-Unis en ont un à revendre ! L’administration Trump a empêché les « gens de l’IA » de faire des choses mauvaises ou potentiellement mauvaises, comme Dario (Anthropic !), qui prétend maintenant être un « petit ange parfait » — et nous continuerons à le faire ! Nous disposons déjà d’immenses pouvoirs CRIMINELS et RÉGLEMENTAIRES sur ces entreprises ! Une CONSPIRATION MALSAINE est en cours contre l’IA et les centres de données, et la seule personne qui s’en réjouit est la Chine. CELUI QUI GAGNE L’IA GAGNE ! Nous devançons la Chine et tous les autres, et nous continuerons à le faire. Théoriciens du complot, traîtres et lanceurs d’alerte, PRENEZ GARDE ! Merci de votre attention ! Président DONALD J. TRUMP
Dario Amodei a lancé une vaste campagne de communication visant à promouvoir des contrôles politiques et industriels qui renforceraient la position d’Anthropic dans le secteur de l’IA. Wynton Hall, directeur des réseaux sociaux de Breitbart News, a publié son best-seller du New York Times, Code Red: The Left, the Right, China, and the Race to Control AI, présenté comme un guide destiné au mouvement MAGA sur les positions à adopter concernant l’IA afin de bénéficier à l’humanité sans donner le contrôle du pays à la gauche de la Silicon Valley ni permettre à la Chine de prendre le contrôle du monde.
Source: Brietbart – Read The original Article
À propos de l'auteur
