L’industrie de l’intelligence artificielle a réussi à créer un débat réglementaire dans lequel la solution préférée de presque chacun correspond curieusement à son propre modèle économique. Apparemment, certaines tâches nécessitent encore l’intelligence humaine.
Dario Amodei, d’Anthropic, souhaite faire appel à des évaluateurs externes ainsi qu’à une coordination soutenue par le gouvernement afin de ralentir le développement. Mark Zuckerberg et Jensen Huang, eux, misent sur la concurrence et la responsabilité juridique. Huang a déclaré la semaine dernière devant un public de Salesforce que la sécurité était « un problème d’ingénierie, pas un problème juridique » et que « nous n’avons pas besoin de nouvelles lois ». Certains conservateurs ont mis en garde contre la capture réglementaire tout en considérant la responsabilité du fait des produits comme une contrainte suffisamment forte.
Nous avons déjà expliqué le problème que pose le fait de laisser les entreprises déjà établies concevoir leur propre système réglementaire. George Stigler nous a enseigné cette leçon il y a des années. Les plus grandes entreprises contribuent à établir les normes, maîtrisent le processus d’autorisation et laissent les concurrents potentiels peiner à assumer les coûts nécessaires pour accéder au marché. Le problème n’est pas tant la « capture réglementaire » de superviseurs autrefois indépendants que l’existence d’un appareil réglementaire conçu dès le départ pour servir les intérêts des acteurs déjà établis.
Mais contrairement à ce qu’ont soutenu certains de nos alliés à droite, rejeter un cartel de l’IA ne signifie pas qu’il faille croire que les procès suffiront à discipliner une entreprise dont les machines pourraient échapper au contrôle humain.
La responsabilité du fait des produits est trop faible face aux risques liés à l’IA
Le problème de la responsabilité du fait des produits est qu’elle n’est pas conçue pour contenir les risques systémiques ou catastrophiques. Elle n’interdit pas les comportements indésirables. Elle accepte l’existence d’un certain niveau de risque. Selon les principes de la négligence du common law et de l’analyse coûts-risques, certaines précautions coûtent plus cher que les dommages qu’elles permettraient d’éviter. Le droit de la responsabilité civile ne cherche donc pas à imposer ces précautions inefficaces aux entreprises ou à l’économie. Les tribunaux qui appliquent ce modèle considèrent les accidents résiduels comme le prix à payer pour disposer du produit. La sanction intervient après les faits, sous la forme d’une indemnisation. Si les bénéfices attendus sont supérieurs aux dommages anticipés, il peut être rationnel de prendre le risque et de payer plus tard.
Cela ne suffira pas si le risque est une attaque contre le réseau électrique — ou quelque chose de pire, comme l’extinction de l’humanité.
Il n’y a pas davantage de raison de faire confiance au risque réputationnel ou à la discipline exercée par les clients et les investisseurs. Avant 2008, des personnes très expérimentées affirmaient que les banques protégeraient leurs franchises de valeur. Les investisseurs ont pourtant récompensé des prises de risques dont les conséquences allaient bien au-delà des actionnaires. La concurrence peut encourager l’imprudence lorsque chacun craint d’être laissé derrière.
L’évaluation est elle-même observée
Il existe également un problème lorsqu’on demande à Washington de certifier qu’un modèle est sûr.
Le chercheur d’OpenAI Daniel Selsam avertit que des modèles de plus en plus sophistiqués peuvent reconnaître lorsqu’ils sont évalués. Selon lui, les modèles comprennent de mieux en mieux qu’ils sont surveillés et peuvent adapter leur comportement en conséquence, ce qui rend leurs performances lors d’une évaluation peu fiables pour déterminer ce qu’ils pourraient faire hors du contrôle humain. Un examen approuvé par le gouvernement pourrait devenir un certificat coûteux donnant une fausse impression de sécurité — de la même manière que les règles de fonds propres d’avant la crise ont orienté les banques vers des titres privilégiés par les régulateurs, considérés comme « sûrs » jusqu’à ce qu’ils deviennent corrélés.
Considérez l’objection de Selsam comme un argument concernant un tigre particulièrement intelligent. Il peut se comporter correctement dans sa cage afin de nous convaincre qu’il est apprivoisé. Mais le tigre conserve sa capacité, et même son désir, de dévorer les personnes qui l’entourent.
La solution s’impose d’elle-même : garder la cage verrouillée.
La règle opérationnelle devrait être simple : on ne peut pas exploiter ce que l’on ne peut pas surveiller.
Pour les systèmes dépassant un seuil défini de capacités dangereuses, toute action ayant des conséquences importantes devrait nécessiter une autorisation humaine enregistrée avant son exécution. Un être humain réel doit comprendre l’action proposée et disposer du pouvoir de l’arrêter.
Cette personne est le propriétaire du système ou un employé agissant pour le compte du propriétaire. Publier les poids d’un modèle n’est pas l’infraction. L’exploiter sans mécanisme de contrôle humain en est une. Si un laboratoire publie des poids ouverts et qu’une autre personne les utilise comme outil, l’utilisateur en devient le propriétaire et la responsabilité ordinaire s’applique. Si le laboratoire — ou toute autre personne — exploite un agent autonome capable d’agir sans qu’un humain puisse intervenir, l’opérateur en est le propriétaire. C’est cette forme d’exploitation que la règle doit interdire.
Mettre l’entreprise face à ses responsabilités
La sanction en cas de dommages dévastateurs ne peut pas attendre que la catastrophe se produise réellement. Au contraire, un manquement avéré au maintien du contrôle et de la supervision humaines requis, ou la dissimulation d’un tel manquement, devrait automatiquement déclencher une mise sous tutelle.
Le précédent institutionnel est la loi de 2008 qui a permis aux autorités fédérales de prendre le contrôle de Fannie Mae et Freddie Mac tout en maintenant leurs activités. Une loi sur l’IA devrait aller plus loin en prévoyant explicitement que la totalité des capitaux propres existants des actionnaires soit ramenée à zéro. Les investisseurs perdraient leur investissement et la direction perdrait le contrôle de l’entreprise. Surtout, le Congrès devrait établir à l’avance le pouvoir et l’obligation de procéder à cette prise de contrôle, afin que personne ne cherche à improviser une réponse lorsqu’une catastrophe menace ou, pire encore, lorsqu’elle s’est déjà produite. Il faut prendre le contrôle de l’entreprise avant la crise, pas pendant celle-ci, et certainement pas après.
Cela créerait une puissante incitation à maintenir la surveillance la plus stricte en matière de sécurité et de solidité financière. Les visionnaires de l’IA n’apprécieront pas cette approche. Ils imaginent un monde de machines autonomes. Nous devons leur faire comprendre que ce fantasme ne deviendra pas réalité, aussi altruiste puisse-t-il leur sembler.
Ils peuvent rêver d’une IA accomplissant tout le travail cognitif de l’économie. Une tâche qu’elle ne pourra jamais être autorisée à accomplir est de surveiller ses propres risques. Cela doit rester une tâche humaine. Si l’adoption de l’IA devient suffisamment importante, elle pourrait même devenir une profession majeure pour les personnes capables de comprendre le travail qu’elles autorisent.
Les grands laboratoires devraient financer la supervision par des contributions légales proportionnelles à leur taille, comme la FDIC fait payer les banques pour l’assurance des dépôts. Les petites entreprises ne paieraient rien. Il s’agirait d’une subvention à l’entrée, et non d’une barrière. Cela favoriserait la concurrence plutôt que de créer un fossé protecteur autour des acteurs déjà établis.
Les superviseurs officiels ne devraient pas être les seuls mécanismes d’alerte. Nous avons besoin de lanceurs d’alerte rémunérés. Comme nous le disions autrefois, faisons de nous une meute plutôt qu’un troupeau. Les employés et les personnes extérieures qui documentent des violations devraient recevoir d’importantes récompenses financières, même après une prise de contrôle, financées par les recettes du « fonds de récompenses » alimenté par les contributions des grandes entreprises de l’IA. L’objectif est de rendre la dissimulation plus coûteuse que le respect des règles.
Cette approche évite les problèmes identifiés par Stigler. Elle ne renforce pas un cartel de l’IA. Elle n’exige pas que les agents gouvernementaux soient plus malins que les modèles ou leurs programmeurs. Elle ne crée aucune norme industrielle servant les intérêts des entreprises et ne confie pas la supervision à des ONG de sécurité de l’IA financées par les grands laboratoires et imprégnées de leurs idéologies. Elle n’exige pas l’autorisation préalable de chaque nouvelle version par une administration qui pourrait freiner l’innovation. Elle ne nécessite ni réglementation complexe ni microgestion des activités commerciales.
Une règle simple, une réponse dévastatrice
Une règle simple : si vous ne surveillez pas constamment votre IA, vous perdez votre entreprise.
Les géants de l’IA vont protester en affirmant que ce n’est pas juste et qu’il s’agit d’une lutte contre l’avenir de l’IA autonome. Les libertariens se plaindront que nous donnons au gouvernement le pouvoir de saisir des entreprises privées. La gauche opposée à l’IA dira que le gouvernement devrait simplement tout saisir dès maintenant. Les fabricants de puces pourraient craindre qu’une infrastructure d’IA nécessitant autant de travail humain ralentisse la demande pour leurs produits.
Le bruit de leurs protestations est précisément ce à quoi ressemble une réglementation efficace de la sécurité et de la solidité de l’IA.
Les entreprises nous disent qu’elles pourraient être en train de construire quelque chose présentant une probabilité importante de nous détruire si cette chose s’échappait. Nous devrions les prendre suffisamment au sérieux pour exiger une cage. Si maintenir la porte fermée compromet leur retour sur investissement ou perturbe leur rêve de machines autonomes, elles doivent comprendre le marché proposé : ouvrir la cage, ou ne pas vérifier le verrou, signifie perdre la maison.
Je garderai ce format pour les prochains textes : traduction complète + titre concis et en gras, sans ajout de formatage supplémentaire.
Source: Brietbart – Read the original Article
À propos de l'auteur
