Un banc del Regne Unit ha emès una advertència que “milions” d’individus podrien convertir-se en objectiu d’estafes que utilitzen intel·ligència artificial per replicar les seves veus. Starling Bank, un prestador exclusivament en línia, ha destacat que els estafadors poden aprofitar la tecnologia IA per clonar la veu d’una persona amb tan sols tres segons d’àudio, potencialment extrets de vídeos que l’individu ha compartit en línia. Aquests estafadors poden identificar els amics i familiars de la persona, utilitzant la veu generada per IA per simular una trucada telefònica amb l'objectiu de sol·licitar diners. Segons Starling Bank, aquestes estafes tenen la capacitat de “atrapar milions” i ja han afectat centenars de persones.

Una enquesta recent, realitzada per més de 3. 000 adults, en col·laboració amb Mortar Research, va revelar que més d’un quart dels enquestats van informar haver estat objectiu d’una estafa amb clonació de veu per IA durant l’últim any. L’enquesta també va indicar que el 46% dels participants desconeixien l’existència d’aquestes estafes i el 8% va admetre que enviarien diners com a sol·licitat per un ésser estimat, fins i tot si la trucada semblés sospitosa. Lisa Grahame, directora de seguretat de la informació de Starling Bank, va afirmar en un comunicat de premsa: “La gent sovint publica contingut en línia amb la seva veu, sense adonar-se que pot fer-los més susceptibles a l'engany”. Com a resposta, el banc està advocant perquè els individus estableixin una “frase segura” amb els seus familiars, una frase senzilla i fàcil de recordar que sigui diferent de les seves contrasenyes habituals, per verificar la seva identitat durant les trucades telefòniques. Starling Bank també va advertir contra la compartició d’aquesta frase segura via missatge de text, ja que podria facilitar l’adquisició per part dels estafadors. Si s'ha de compartir d'aquesta manera, el missatge hauria d’eliminar-se després que el destinatari l’hagi vist. A mesura que la tecnologia IA millora en imitar les veus humanes, creixen les preocupacions sobre la seva capacitat per facilitar activitats criminals, com l'accés no autoritzat a comptes bancaris i la disseminació de desinformació.