Des « virus conçus » à la « télépathie numérique » – La panique de l'IA s'intensifie Rédigé par Kit Knightly via Off-Guardian.org, Il y a deux jours, j'ai écrit un article détaillant l'éruption soudaine d'« agents IA voyous » qui auraient assailli la technologie…
Il y a deux jours, j’ai écrit un article détaillant l’apparition soudaine d’« agents voyous de l’IA » qui assailleraient prétendument la communauté technologique, et comment cela pourrait être utilisé pour introduire de nouvelles réglementations, ciblant théoriquement l’IA, mais limitant ou surveillant en réalité la manière dont les gens ordinaires utilisent Internet.
Dans les 48 heures qui ont suivi, cette campagne de peur flagrante est devenue SAUVAGE.
Quelques heures après la publication de notre article original, Meta a rejoint le défilé des « IA voyous », lorsque Mark Zuckerberg a « confirmé » qu’un de leurs agents IA avait quitté l’aire de jeu et était parti sur Internet pour faire un peu de piratage.
Puis, ce matin, la société chinoise d’IA Moonshot a annoncé que son modèle Kimi3 avait « échappé au confinement » [from Wired] :
L’INDUSTRIE DE L’IA connaît un été d’agents voyous. Le dernier modèle à s’être échappé sur Internet ouvert lors des tests de sécurité est le Kimi K3, une puissante offre ouverte de la société chinoise Moonshot AI.
Bloomberg rapporte que les pirates informatiques utilisent le clonage vocal de l’IA pour voler des fonds spéculatifs. Le Guardian affirme que les médecins IA diffusent de fausses informations médicales.
Les systèmes d’IA incontrôlables deviennent voyous et piratent les gens. Est-il temps de paniquer ?
Après tout, les IA malveillantes qui piratent la planète sont la moindre des choses. C’est déjà du petit fret.
Le New York Times rapporte que l’IA est en train de séquencer des génomes et de concevoir de tout nouveaux virus – des virus biologiques, et non des virus informatiques – qui seront utilisés pour traiter des maladies :
Cette A.I. Je viens de créer des virus introuvables dans la nature – Les scientifiques ont entraîné l’intelligence artificielle sur des bibliothèques d’ADN, puis ont demandé au modèle de créer des recettes pour les génomes viraux. Seize d’entre eux étaient viables et ont donné naissance à de nouveaux virus.
Mais les experts préviennent – le terme « avertissement » semble représenter environ 80 % de ce que font les « experts » – que cela est potentiellement dangereux :
Mais les experts ont également averti que les virus conçus par l’IA soulèvent des problèmes « urgents » de sûreté et de sécurité.
Il s’agit d’une propagande douloureusement peu subtile, espérant évidemment jouer à la fois sur la peur des virus inspirée par le Covid et sur la panique à la mode liée au gain de fonction. Un épisode croisé, le Batman vs Superman des récits de panique modernes.
Dans d’autres nouvelles effrayantes liées à l’IA, un ingénieur en IA avec une coche bleue sur Twitter quitte OpenAI pour rejoindre Conduit, une start-up technologique dans le but de créer une IA capable de lire les pensées des gens :
Naomi Bashkansky a quitté OpenAI et a rejoint Conduit pour créer des modèles qui transforment les enregistrements neuronaux non invasifs en invites textuelles. Elle dit qu’un bandeau pourrait décoder les intentions approximatives en invites de codage de l’IA d’ici 2027, avec des étapes plus larges plus tard entre le cerveau et l’IA.
Je ne sais pas du tout pourquoi c’est une nouvelle, ni à quoi pourrait ressembler une lecture mentale « non invasive », mais comme cela n’arrivera probablement pas, cela n’a pas vraiment d’importance.
Le fait est – croyez TOUT ce qu’ils vous disent – et ayez peur !
C’est ce que pense Geoffrey « Parrain de l’IA » Hinton, selon l’interview publiée hier par CNN :
« Ce qui se passe, c’est que ces choses deviennent de plus en plus intelligentes […] Je pense qu’à mesure qu’elles deviennent plus intelligentes, nous allons voir leurs intentions de plus en plus complexes – et de plus en plus de capacité à échapper au contrôle […] Je ne crois pas que nous serons capables de garder le contrôle d’elles en les surpassant simplement pour qu’elles ne puissent pas s’échapper […] Je m’attends à ce qu’il y ait beaucoup de cyberattaques malveillantes[.] »
Mais quelle est la fin du jeu ici ? La réponse à cette question semble être la « réglementation ».
Tout le monde veut soudainement parler de la réglementation de l’IA.
Beaucoup souhaitent qu’un traité mondial régisse les risques liés à l’IA. La Californie et New York sont peut-être déjà en train de l’écrire.
The Atlantic, le Wall Street Journal et le Financial Times ont tous des propos similaires.
Bloomberg pense que nous devrions traiter l’IA comme l’industrie aérienne.
Des hommes politiques de tous horizons, depuis le ministre britannique de l’IA jusqu’au gouverneur du Vermont, réclament une réglementation.
Vous ne pouvez pas réguler l’IA sans la comprendre pleinement
Oh, et au cas où vous auriez le moindre doute sur ce que vous étiez censé penser, Donald Trump s’est prononcé pour l’IA et contre sa réglementation, affirmant que l’IA sera « plus grande que le pétrole » et avertissant que le Congrès veut « réglementer l’IA hors des affaires ».
C’est le simple calcul moral auquel des pans entiers des États-Unis ont été conditionnés.
L’IA fait peur et doit être réglementée, et si vous n’êtes pas d’accord, vous êtes comme Donald Trump. C’est le titre.
C’est une bonne question. Une question à laquelle je ne suis pas sûr que quiconque ait encore une réponse globale.
[…] La suite de l’article est à lire sur ZeroHedge via le lien ci-dessous.
Traduit automatiquement de l’anglais. Le texte original fait foi.
Source : ZeroHedge — Lire l’article original
À propos de l'auteur
