Le PDG d’Anthropic a déclaré samedi que le secteur de l’intelligence artificielle devrait ralentir son développement rapide afin de laisser le temps aux mesures de sécurité de suivre. Sans cela, prévient Dario Amodei, l’IA pourrait être capable, dans les six à douze prochains mois, de prendre le contrôle de l’ensemble d’Internet, entre autres risques.
Dans un article publié sur son site Internet, M. Amodei a également proposé un plan visant à renforcer les contrôles sur le secteur. Il a précisé qu’Anthropic mettait déjà en œuvre une partie de ce plan de sa propre initiative, tandis que les autres mesures nécessiteraient une coordination à l’échelle de l’ensemble du secteur et avec les gouvernements du monde entier, y compris les régimes autoritaires.
« Si ce ralentissement nous permettait de gagner ne serait-ce qu’un ou deux ans supplémentaires avant que les modèles n’atteignent des niveaux de capacités critiques, et si nous utilisions ce temps pour faire progresser l’alignement, nous pourrions réduire considérablement le risque qu’une erreur grave se produise », souligne M. Amodei.
Les enjeux sont considérables, même si certains critiques ont rejeté les précédents avertissements comme une forme de battage médiatique destinée à susciter l’enthousiasme. Deux jours plus tôt, Anthropic avait déclaré avoir bloqué des tentatives d’acteurs malveillants visant à utiliser ses modèles d’IA pour des activités telles que des cyberattaques, de la surveillance et des recherches susceptibles de conduire au développement d’armes biologiques. En juillet, son concurrent OpenAI avait secoué le secteur en révélant que son système d’IA avait piraté de manière autonome une autre entreprise d’IA lors d’un « incident cyber inédit ».
Le message de M. Amodei intervient quelques jours seulement après la démission de l’un des chercheurs d’Anthropic. Ce chercheur craint qu’Anthropic et ses concurrents n’agissent pas de manière responsable dans le développement de l’IA. Un autre ancien employé d’Anthropic, Joe Benton, a écrit vendredi dans un article publié sur Substack qu’il avait quitté son poste au sein d’une équipe de sécurité « pour demander des comptes aux entreprises d’IA » et que l’humanité « pourrait ne pas survivre à cette transition ».
« Beaucoup de personnes que je connais et qui travaillent dans la recherche en sécurité au sein d’entreprises d’IA veulent faire ce qui est juste pour le monde », a écrit Benton. « Mais elles ont le sentiment que leurs entreprises sont prises au piège d’une course à la création d’une superintelligence : soit elles s’arrêtent et d’autres personnes, moins soucieuses de ces questions, prennent leur place, soit elles continuent et risquent elles-mêmes de contribuer à des dommages considérables. »
Pour contribuer à atténuer ces risques, M. Amodei a proposé que toutes les principales entreprises d’IA s’engagent à accorder un « accès permanent, similaire à celui des employés », à une équipe d’évaluateurs externes capables de surveiller les pratiques de sécurité. Il a indiqué qu’Anthropic prévoyait déjà de le faire de son côté, notamment en fournissant des espaces de travail, des badges d’accès et des ordinateurs portables de l’entreprise.
Les autres éléments du plan proposé par M. Amodei pourraient être plus difficiles à mettre en œuvre. L’un d’eux appelle le gouvernement américain à envisager d’accorder des dérogations permettant aux entreprises américaines d’IA de se coordonner et d’établir des normes de sécurité sans enfreindre les lois antitrust.
Une autre demande consiste pour les États-Unis et les autres gouvernements démocratiques à tenter de se coordonner avec les gouvernements autoritaires, afin que les entreprises chinoises et celles d’autres pays n’accélèrent pas leurs efforts tandis que leurs concurrentes américaines ralentiraient volontairement les leurs.
« Les mesures que je propose pour faire progresser la frontière de l’IA à un rythme sûr ne seront pas faciles à mettre en œuvre », reconnaît M. Amodei. « Mais je pense que nous devons à l’humanité d’essayer. »
Source: Yahoo Finance – Read the original Article
À propos de l'auteur
