200 000 fausses « victimes » d'IA déployées pour attaquer les fraudeurs en ligne
La société de technologie australienne Apate déploie dans le monde entier une vaste gamme de personnages de robots IA qui jouent le rôle de victimes d’arnaques crédules et font perdre des millions d’heures aux escrocs chaque mois.
De manière hilarante, l’une des mesures de performance mensuelles de l’entreprise est le nombre de fois où des escrocs frustrés injurient les « victimes » idiotes qui jouent les idiots et les enchaînent.
« Je pense que nous sommes la seule entreprise au monde à conserver dans ses KPI le nombre de mots F que les escrocs leur lancent », a déclaré le fondateur d’Apate, Dali Kaafar, à Magazine avec un petit rire.
La société dispose d’une écurie de près de 200 000 personnages IA capables de tenir des conversations téléphoniques convaincantes et de discuter sur les réseaux sociaux et les plateformes de messagerie.
« Je peux vous dire que nous traitons essentiellement, comme nous les appelons, des centaines de milliers d’appels par jour et à peu près des centaines de milliers de conversations sur les autres canaux », dit-il.
Chaque heure du temps perdu par un escroc est une heure supplémentaire pendant laquelle il n’escroque pas un membre du public. Au cours des six semaines précédant la fin de 2025, les robots d’Apate ont lancé 600 000 appels frauduleux pour une seule société de télécommunications appelée TPG en Australie.
« En gros, nous avons perdu plus de cinq cents jours de temps aux escrocs », explique-t-il. « Cela équivaut à environ treize millions de dollars économisés. »
L’autre objectif des robots est d’obtenir des renseignements exploitables pour les banques et les sociétés de télécommunications afin de lutter contre les réseaux frauduleux en Australie, en Asie, en Afrique, au Royaume-Uni et en Europe.
Les robots Apate traitent les fraudeurs via le chat. Source : Apaté
Kaafar dit qu’il a eu l’idée lorsqu’il a reçu un appel frauduleux alors qu’il pique-niqueait avec sa famille à Sydney en novembre 2021.
Au grand dam de sa femme, mais pour le plus grand plaisir de ses enfants, il a traîné l’escroc pendant 44 minutes en se faisant passer pour un rube crédule tombant dans le piège de l’arnaque.
« Ce qui a suivi était littéralement une émission de comédie complète pour mes enfants », dit-il, ajoutant que pendant l’appel, il avait également appris beaucoup d’informations potentiellement utiles sur les mécanismes de l’arnaque et les tactiques utilisées.
« En raccrochant, je me souviens avoir pensé très clairement : si je pouvais faire ça juste pour m’amuser, imaginez ce que la technologie peut faire à grande échelle. »
Travaillant alors comme professeur à l’Université Macquarie, il a évoqué l’idée avec certains de ses doctorants travaillant sur l’IA et la sécurité.
« J’ai dit : « Les gars, il doit y avoir une bien meilleure façon de procéder. Construisons quelque chose qui automatisera réellement tout ce processus d’engagement des fraudeurs à grande échelle, mais aussi, peut-être plus important encore, extraira toutes sortes d’informations de ces conversations.’ Et c’est littéralement comme ça que tout a commencé.
En quelques mois, ils ont obtenu un financement de l’Office of National Intelligence pour étudier cette idée, et le projet a été transféré de l’université à Apate en 2023. La société travaille désormais avec la plupart des grandes banques d’Australie, ainsi qu’avec de nombreuses banques au Royaume-Uni, en Afrique du Sud et en Asie du Sud-Est.
Apate est loin d’être la seule entreprise à attaquer les fraudeurs à l’aide de robots IA, même si elle le fait à une plus grande échelle que la plupart des autres. La société de télécommunications britannique O2 a lancé l’année dernière une campagne AI Granny, qui frustre les escrocs en prenant des heures de leur temps à parler de ses 28 chats. Il s’agissait autant d’une campagne publicitaire visant à avertir le public des dangers des appels frauduleux qu’autre chose.
AI Granny très divertissante d’O2. Source : 02
Apate a été lancé avec 120 personnages différents de différents sexes, âges et types de personnalité, et compte désormais 197 000 personnages avec des tics vocaux et des accents identifiables, et ils font les mêmes bruits que les gens font lorsqu’ils essaient de penser à quoi dire.
« Nous avons passé beaucoup de temps à affiner et à construire ces robots IA qui ressemblent exactement à vous, moi et nos voisins », dit-il.
Les modèles d’IA ont été formés sur « des centaines et des centaines » d’heures de conversations enregistrées entre des escrocs humains et des escrocs, afin de pouvoir employer des contre-stratégies.
« Ils savent qu’ils parlent à des méchants, si vous voulez, et ils naviguent vraiment dans les conversations de manière à ce que cela semble vraiment très, très réaliste pour n’importe quel escroc, même si un escroc est sceptique à propos de certaines choses. » Les robots sont envoyés sur WhatsApp et Telegram pour agir comme des pots de miel pour les escrocs. Même si le vieux cliché selon lequel on ne peut pas arnaquer un honnête homme n’est pas vrai, il est tout de même très possible d’exploiter le désir d’argent d’un escroc.
« Ce sont vraiment des cybercriminels. Je pense que nous oublions très souvent que ce sont des cybercriminels qui tentent de récupérer les économies des gens. Et donc cet élément de cupidité est parfois ce que nos robots exploitent également. »
Les robots collectent des informations précieuses à partir de chaque appel frauduleux
Dans l’industrie de la cryptographie, Apate travaille pour « l’un des leaders de l’analyse de la blockchain », qui peut être ou non Chainalysis. Ils ne souhaitent pas faire perdre du temps aux fraudeurs : ils veulent obtenir des informations sur les portefeuilles et les méthodes utilisés par les fraudeurs afin de pouvoir suivre les flux de fonds.
« Ces robots, au fur et à mesure qu’ils participent à différentes conversations, extraient de nouvelles adresses de portefeuille cryptographique par centaines et par milliers », dit-il. « Ce sont des données et des renseignements qui arrivent littéralement avant que leurs dégâts ne surviennent. »
L’escroquerie est un gros business, et les centres d’appels sont « en grande partie des entreprises », explique Kaafar.
« Ces données sont très, très importantes car, littéralement, c’est le nouveau compte ou le nouveau portefeuille auquel vous devez vraiment prêter une attention extrême. Parce que c’est là que ces… complexes frauduleux collectent leur argent ou leurs fonds. »
« Pensez-y littéralement comme si vous étiez toujours en avance sur les tactiques des fraudeurs. Et plus vous en savez avant que l’argent ne soit transféré, mieux c’est. »
[…] La suite de l’article est à lire sur ZeroHedge via le lien ci-dessous.
Traduit automatiquement de l’anglais. Le texte original fait foi.
Source : ZeroHedge — Lire l’article original
À propos de l'auteur
