Umjetna inteligencija (UI) mijenja mnoge aspekte svakodnevnog života, ali cyberkriminalci koriste taj napredak za unapređenje phishing prevara. Chatboti na temelju UI poput ChatGPT-a sve se češće koriste od strane prevaranata za izradu profesionalno oblikovanih phishing e-pošta, bez tipičnih gramatičkih pogrešaka i neugodnih izraza koji su nekada pomagali primateljima prepoznati prijevaru. Ovaj razvoj ozbiljno slabi tradicionalne obrane od phishinga koje su se oslanjale na uočavanje lošeg jezika kao ključnog pokazatelja. Mnogi prevaranti, uključujući i one koji nisu izvornigovori engleskog, koriste alate temeljenje na UI nastavljenom na autentičnim marketinškim materijalima od pouzdanih banaka, trgovaca i pružatelja usluga, stvarajući lažne poruke koje vrlo vješto oponašaju legitimne e-pošte, čineći izuzetno teškim razlikovanje pravih od zlonamjernih komunikacija. Ovaj trend zabrinuo je stručnjake za cyber sigurnost i nadležne institucije zbog velikih razmjera i ozbiljnosti prijetnje. Utjecaj UI-poduprte phishing prijevare jasno je vidljiv na najnovijim podacima FBI-ja, koji pokazuju da su prijevare putem phishinga i s njima povezane prijevare izazvale nevjerojatnih 16, 6 milijardi dolara gubitaka samo prošle godine. Osim financijskih šteta, phishing omogućava krađu identiteta, neovlašteni pristup osjetljivim računima i distribuciju zlonamjernog softvera, što dovodi do dugoročnih šteta za žrtve. Stručnjaci ističu da značaj UI ne leži samo u poboljšanju kvalitete e-pošte; ona također povećava brzinu i opseg napada.

Automatizirana generacija poruka prevara omogućuje cyberkriminalcima da pokrenu masovne kampanje usmjerene na milijune istovremeno s minimalnim ljudskim naporom, čime se povećava učinkovitost i profitabilnost. Složenost prijetnje pojačava i porast dostupnosti jeftinih generativnih alata temeljenih na UI, koji mogu stvarati deepfake video snimke i glasovne kopije, omogućavajući prevarantima da fabriciraju uvjerljive audio i vizualne imitacije pouzdanih osoba ili institucija. To čini ciljane spear-phishing napade još učinkovitijima, primjerice lažiranjem glasa ili videa izvršnog direktora tvrtke ili bankovnog predstavnika kako bi se prisililo žrtve na otkrivanje povjerljivih podataka ili odobravanje lažnih transakcija. Unatoč ovim naprecima koji pomažu prevarantima, stručnjaci za cyber sigurnost ističu da je otkrivanje phishing e-pošta i dalje moguće, iako sve zahtjevnije. Učinkovito otkrivanje sada zahtijeva sofisticiranu analizu koja nadilazi samo provjeru teksta, uključujući analizu ponašanja, filtriranje na temelju strojno učenih modela, detekciju anomalija te edukaciju korisnika o stalno evoluirajućim phishing prijetnjama. U isto vrijeme, pojedinci i organizacije moraju ostati budni i ažurirati sigurnosne mjere, koristeći kontinuirani nadzor, redovnu obuku za prepoznavanje sofisticiranih phishing napada, višestruku autentifikaciju i brzo prijavljivanje sumnjivih poruka kako bi smanjili rizik. Kako UI nastavlja napredovati i sve više se integrirati s metodama phishing napada, zajednica za cyber sigurnost suočava se s hitnim izazovom da pretekne zlonamjerne aktere. Ovaj kontinuirani razvoj scamova vođen UI-jem ističe ključnu potrebu za snažnom suradnjom tvoraca tehnologije, tijela za provedbu zakona, industrije i javnosti u inoviranju obrane, razmjeni informacija o prijetnjama i podizanju svijesti. Ukratko, phishing s UI-jem predstavlja značajno povećanje sofisticiranosti cyber kriminala. Iako UI nudi moćne alate za komunikaciju i stvaranje sadržaja, istovremeno oprema prevarante neviđenim sredstvima za obmanu i iskorištavanje žrtava na širokoj razini. Borba protiv ove napredne prijetnje zahtijeva proaktivni, višeslojni pristup koji integrira naprednu tehnologiju, edukaciju i stalnu budnost kako bi se zaštitile pojedince i organizacije u digitalnom dobu.