Êtes-vous prêt pour l'opération psychologique "Rogue AI" ? Rédigé par Kit Knightly via Off-Guardian.org, Les IA se libèrent, voilà l'histoire. Cela a commencé il y a deux semaines, lorsqu'OpenAI a signalé qu'un de ses « agents » s'était échappé de sa zone de test et avait…
Tout a commencé il y a deux semaines, lorsqu’OpenAI a signalé qu’un de ses « agents » s’était échappé de sa zone de test et s’était déchaîné sur Internet pour lancer une « cyberattaque sans précédent ».
C’était clairement censé être plus effrayant que la réponse du public ne l’indiquait, car quelques jours plus tard, le PDG d’OpenAI, Sam Altman, était sur le podcast Invest like the Best, demandant pourquoi cela n’avait pas provoqué plus de panique :
« J’ai été un peu surpris que davantage de gens ne le ressentent pas de manière aussi viscérale »
Dans l’une des manœuvres de propagande les plus hilarantes de l’année, juste le lendemain de la déclaration d’Altman, CNN titrait :
La fuite du laboratoire OpenAI était plus importante que nous le pensions
« Cette chose dont tu n’avais pas peur ? Eh bien, c’était encore PLUS EFFRAYANT que ce que nous disions ! As-tu peur maintenant ? »
Mais l’absence de panique du public n’a pas empêché une autre IA de devenir voyou quelques jours plus tard, le modèle Claude d’Anthropic cette fois.
Et puis OpenAI a signalé lui-même deux autres incidents.
MISE À JOUR : Quelques heures seulement après la publication, META a rejoint la fête. Apparemment, leur IA s’est également « dévoyée » et a piraté une autre entreprise.
Jamais dans l’histoire de l’activité humaine les entreprises n’ont été aussi enclines à signaler les problèmes de leurs produits. Il semble qu’une IA malveillante soit le dernier accessoire indispensable dans la Silicon Valley.
Le raisonnement derrière cela n’est pas difficile à suivre. Lorsque votre produit est une intelligence artificielle, réaliser de manière mélodramatique que votre système est encore plus intelligent que vous ne le pensiez est un simple stratagème marketing.
Et quand l’un de vos rivaux devient voyou, vous devez devenir voyou aussi, sinon vous admettrez que votre modèle n’est pas aussi intelligent que le leur.
« Une société d’IA admet que son modèle est plus intelligent qu’elle ne le pensait ! » n’est qu’une publicité sous forme de titre effrayant.
C’est comme si Ford « admettait » que ses voitures sont encore plus économes en carburant que prévu. Ou McDonalds réalisant que ses cuisiniers sont devenus « voyous » et produisent des aliments à la fois moins chers ET plus délicieux que ce qu’ils avaient imaginé.
Mais il y a bien plus que du battage médiatique technologique et une stratégie de marketing viral. Nous sommes orientés sur la voie de « l’IA comme menace effrayante ».
Voir, par exemple, les dizaines d’articles parlant d’IA malveillantes, du Guardian au New York Times en passant par le Wall Street Journal.
« Rogue » est clairement le mot du jour. Notez qu’ils ne disent pas qu’il y a eu un « dysfonctionnement » ou qu’il y a eu une « erreur », car cela implique des erreurs ou une mauvaise conception.
Non, l’IA est devenue voyou, ce qui est à la fois cool, sexy et effrayant. Un mot choisi par un groupe de discussion composé de responsables marketing permanents qui ont trop regardé de science-fiction.
En parlant d’adolescents permanents qui regardent trop de science-fiction, voici Sam Altman (encore une fois) déclarant que nous avons déjà atteint la singularité, la phase mythique du développement technologique où les machines deviennent suffisamment intelligentes pour créer des versions encore plus intelligentes d’elles-mêmes sans intervention humaine.
Il raconte des conneries, bien sûr, mais l’histoire est l’histoire ici. Pourquoi dirait-il cela ? Pourquoi maintenant ?
Manifestement préoccupé par le fait que ce raz-de-marée de propagande était trop subtil, NBC est venue vraiment enfoncer le clou :
Ces violations indiquent que les capacités croissantes de l’IA alimentent déjà les menaces de sécurité que les experts craignent depuis longtemps.
Aujourd’hui encore, nous recevons des rapports du tout nouvel AI Security Institute du Royaume-Uni selon lesquels des agents d’IA voyous (il y a encore ce mot) avaient tenté de tromper les gens en créant de fausses identités.
Et je pense que cela commence à faire partie au moins d’une partie de l’agenda plus large ici.
Après tout, si l’IA est si douée pour prétendre être humain et qu’elle crée de fausses identités pour voler des données, eh bien… comment pouvons-nous savoir qui est vraiment humain ?
Peut-être que chacun devrait recevoir une identification numérique pour aider à « prouver l’humanité ».
Ce n’est pas moi qui le dis, ce sont des groupes de réflexion comme OneID ou des « experts » qui témoignent devant le congrès.
Mais la poussée toujours présente de l’identification numérique n’est que l’un des problèmes les plus évidents parmi les problèmes potentiels soulevés par le récit effrayant de l’IA.
Pour l’instant, nous sommes encore dans la phase génératrice de peur. Se faire remplir d’hormones effrayantes par des articles comme celui-ci…
Les médecins trompeurs générés par l’IA représentent un « énorme danger pour la sécurité publique »
[…] La suite de l’article est à lire sur ZeroHedge via le lien ci-dessous.
Traduit automatiquement de l’anglais. Le texte original fait foi.
Source : ZeroHedge — Lire l’article original
À propos de l'auteur
