Au milieu des débats en cours sur les risques potentiels de l'intelligence artificielle, la technologie a pris un tournant innovant avec la création d'une "mamie IA" conçue pour faire perdre du temps aux escrocs. Jeudi, l'entreprise britannique de télécommunications Virgin Media O2 a présenté Daisy, un chatbot sur mesure qui engage les escrocs lors d'appels téléphoniques en temps réel. La tâche de Daisy est de tenir les fraudeurs occupés le plus longtemps possible, les ennuyant et les frustrant comme ils le font aux consommateurs partout dans le monde. Le chatbot automatise le "scambaiting", une pratique où des individus se font passer pour des victimes potentielles d'escroquerie pour faire perdre du temps et des ressources aux escrocs, exposer leurs tactiques, rassembler des informations pour les forces de l'ordre et confondre leurs appareils. Récemment nommée "responsable des relations avec les escrocs" chez O2, Daisy se fait passer pour une personne âgée, une tranche démographique sujette aux arnaques. Contrairement aux scambaiters humains qui ont besoin de pauses, Daisy peut rester au téléphone avec les escrocs jour et nuit. “Pendant qu'ils parlent avec moi, ils ne peuvent pas vous escroquer, et soyons honnêtes, cher ami, j'ai tout le temps du monde”, déclare Daisy dans une vidéo d'O2. La vidéo la présente comme une femme générée par IA avec des cheveux gris, des lunettes, et des perles, parlant sur un téléphone fixe rose. Bien que Daisy semble être une voisine calme, elle combat efficacement les escrocs à travers de longues conversations interminables.

La vidéo présente de l'audio provenant de véritables échanges, avec des escrocs devenant de plus en plus frustrés alors que Daisy continue de parler sans divulguer aucune information personnelle qu'ils recherchent, comme des numéros de compte bancaire ou de carte de crédit. “Cela fait presque une heure, pour l'amour de (juron inaudible), ” grogne un escroc exaspéré, à quoi Daisy répond calmement, “Oh là là, comme le temps passe vite. ” Dans un autre échange, Daisy est impatiente de parler de son chat, Fluffy, et aime partir dans des digressions sur la famille ou son passe-temps du tricot, tout en fournissant de faux renseignements personnels comme des informations bancaires inventées. Daisy est certainement divertissante dans son rôle. Daisy combine divers modèles d'IA pour écouter un appelant, transcrire sa voix en texte, puis utiliser un grand modèle de langage personnalisé pour répondre. Une couche de "personnalité" de personnage lui donne une personnalité de gentille grand-mère britannique, basée sur la grand-mère d'un membre du personnel pour l'authenticité, selon VCCP Faith, l'agence créative londonienne derrière Daisy. “En faisant croire aux escrocs qu'ils fraudinent une véritable personne et en exploitant leurs préjugés sur les personnes âgées, Daisy les empêche de cibler de vraies victimes et révèle des tactiques courantes utilisées par les escrocs, aidant ainsi les clients à mieux se protéger”, a déclaré O2. Jim Browning, un scambaiter sur YouTube avec plus de 4, 3 millions d'abonnés, a aidé O2 à entraîner l'IA qui propulse Daisy. L'entreprise affirme que Daisy "fait déjà perdre des centaines et des centaines d'heures aux escrocs". O2 encourage les consommateurs à rester vigilants face aux escroqueries potentielles, en transférant les appels et SMS suspects à un numéro qu'elle fournit. Bien qu'une mamie IA ne puisse pas arrêter seule les escrocs, Daisy pourrait les ralentir considérablement. Espérons qu'elle inspire beaucoup d'autres fausses grands-mères à se joindre à la lutte contre la fraude.