Brittiská banka vydala varovanie, že „milióny“ jednotlivcov sa môžu stať cieľmi podvodov, ktoré využívajú umelú inteligenciu na replikáciu ich hlasov. Starling Bank, výlučne online veriteľ, zdôraznila, že podvodníci môžu využiť technológiu AI na klonovanie hlasu človeka s využitím len troch sekúnd zvuku, ktorý môže byť získaný z videí, ktoré jednotlivec zdieľal online. Títo podvodníci potom môžu identifikovať priateľov a rodinných príslušníkov osoby, pričom používajú AI-generovaný hlas, aby simulovali telefónny hovor s cieľom získať peniaze. Podľa Starling Bank majú tieto podvody schopnosť „nachytať milióny ľudí“ a už ovplyvnili stovky ľudí.

Nedávny prieskum s viac ako 3 000 dospelými osobami, ktorý vykonala banka v spolupráci s Mortar Research, odhalil, že viac ako štvrtina respondentov uviedla, že bola v poslednom roku cielená podvodom s AI kopírovaním hlasu. Prieskum tiež ukázal, že 46 % účastníkov nevedelo o existencii takýchto podvodov a 8 % priznalo, že by poslali peniaze na požiadanie milovanej osoby, aj keď by hovor znel podozrivo. Lisa Grahame, hlavná riaditeľka pre informačnú bezpečnosť v Starling Bank, v tlačovej správe poznamenala: „Ľudia často zverejňujú online obsah, ktorý obsahuje ich hlas, bez toho, aby si uvedomili, že ich to môže viac vystaviť podvodom. “ V reakcii na to banka vyzýva jednotlivcov, aby so svojimi príbuznými zaviedli „bezpečnú frázu“ — jednoduchú a zapamätateľnú frázu, ktorá sa odlišuje od ich bežných hesiel, na overenie ich identity počas telefonických hovorov. Starling Bank tiež varovala pred zdieľaním tejto bezpečnej frázy prostredníctvom textu, pretože to môže podvodníkom uľahčiť jej získanie. Ak ju je potrebné zdieľať týmto spôsobom, správa by mala byť po jej prečítaní prijímateľom odstránená. Ako sa technológia AI zlepšuje v napodobňovaní ľudských hlasov, obavy o jej schopnosť uľahčovať kriminálne aktivity, ako napríklad neoprávnený prístup k bankovým účtom a šírenie dezinformácií, rastú.