Umetna inteligenca (UI) spreminja številne vidike vsakdanjega življenja, vendar izkoristijo ta napredek tudi spletni kriminalci za napredovanje prevar z lažnimi elektronskimi sporočili. Chatbot-i z UI, kot je ChatGPT, jih vse bolj uporabljajo za ustvarjanje elegantnih, profesionalno izgledajočih phishing e-poštnih sporočil, ki nimajo običajnih gramatičnih napak ali nenavadnega izražanja, ki naj bi prejemnikom pomagali prepoznati prevaro. Ta razvoj močno oslabi tradicionalne zaščitne ukrepe proti prevaram, ki so temeljili na opazovanju slabega jezika kot ključnega kazalca. Veliko prevarantov, tudi tistih, ki niso rodjeni govorci angleščine, uporablja orodja UI, ki so bila usposobljena na pristnih marketinških materialih zaupanja vrednih bank, trgovcev in ponudnikov storitev, in ustvarjajo lažna sporočila, ki zelo spominjajo na legitimne e-pošte, kar strankam otežuje ločevanje med resničnimi in zlonamernimi komunikacijami. Ta trend je zaskrbel strokovnjake za kibernetsko varnost in oblasti zaradi obsega in resnosti grožnje. Vpliv UI-podprte prevare je jasno viden na nedavnih podatkih FBI, ki kažejo, da so prevare s phishingom in povezani prevare lani povzročile neverjetnih 16, 6 milijard dolarjev škode. Poleg finančne škode phishing omogoča krajo identitete, nepridobljen dostop do občutljivih računov in širjenje zlonamerne programske opreme, kar dolgoročno škoduje žrtvam. Strokovnjaki opozarjajo, da UI prispeva k izboljšanju kakovosti e-poštnih sporočil, hkrati pa povečuje hitrost in obseg napadov.

Samodejno ustvarjanje prevarnih sporočil omogoča kibernetskim kriminalcem izvajanje obsežnih kampanj, ki ciljajo na milijone ljudi hkrati, z minimalnim človeškim naporom, čimer povečujejo učinkovitost in dobičkonosnost. Na to grožnjo dodatno vpliva pojav dostopnih generativnih orodij UI, ki lahko ustvarjajo globokefekte videoposnetkov in zvočne klone, kar omogoča prevarantom izdelavo prepričljivih zvočnih in vizualnih imitacij zaupanja vrednih posameznikov ali institucij. To povečuje učinkovitost ciljnih napadov spear-phishing, na primer tako, da zavarajo glas ali video podjetniškega izvršnega direktorja ali banke, da pritisnejo na žrtve, naj razkrivajo zaupne informacije ali odobrijo lažne transakcije. Kljub tem napredkom, ki pomagajo prevarantom, strokovnjaki za kibernetsko varnost vztrajajo, da je zaznavanje prevarnih e-poštnih sporočil še vedno možno, čeprav postaja vse zahtevnejše. Za učinkovito odkrivanje je danes potrebna napredna analiza, ki presega le pregled besedila, vključuje pa tudi analizo vedenja, filtriranje na podlagi strojnega učenja, odkrivanje anomalij in izobraževanje uporabnikov o razvijajočih se taktikah phishinga. Hkrati morajo posamezniki in organizacije ostati previdni in posodabljati ukrepe za kibernetsko varnost, vključno z nenehnim nadzorom, rednimi usposabljanji za prepoznavanje sofisticiranih prevar, večfaktorsko avtentikacijo in takojšnjim poročanjem o sumljivih sporočilih, da zmanjšajo tveganje. Ker UI nadaljuje svoj razvoj in se še bolj vpleta v načine izvajanja prevar, se skupnost za kibernetsko varnost sooča z nujno nalogo, da prehiti zlonamerne akterje. Ta stalni razvoj prevar s pomočjo UI poudarja nujnost močne sodelovanja med ustvarjalci tehnologije, organi pregona, industrijo in javnostjo pri ustvarjanju učinkovitih obrambnih ukrepov, izmenjavi informacijske viri in ozaveščanju. Na kratko, UI-podprte prevare predstavljajo pomembno stopnjo napredovanja v sofisticiranosti kibernetskih zločinov. Medtem ko UI nudi močne orodje za komunikacijo in ustvarjanje vsebin, obenem opremlja prevarante z neprimerljivimi sredstvi za zavajanje in izkoriščanje žrtev na velikem obsegu. Boj proti tej napredujoči grožnji zahteva proaktivni, večplastni pristop, ki vključuje napredno tehnologijo, izobraževanje in previdnost, znam osnovo za zaščito posameznikov in organizacij v digitalni dobi.