Dirbtinis intelektas pastaruoju metu smarkiai išsivystė, keisdamas tokius laukus kaip komunikacija, pramogos ir saugumas. Tačiau, kaip ir bet kuri galinga technologija, jos piktnaudžiavimas kelia rimtų iššūkių. Vienas svarbiausių klausimų – apgavikai pasinaudoja AI vaizdo taikymais, kad vykdytų sudėtingas sukčiavimo ir apsimetimo schemas, ženklindami šią tendenciją kaip neraminančią cybernusikaltimų raidą, kurią globaliai stebi saugumo ekspertai. Neseniai pareikalavo dėmesio OpenAI Sora iOS programėlės išleidimas, kuri naudoja pažangų vaizdo generavimo modelį, leidžiantį vartotojams lengvai kurti itin realistiškus AI sukurtus vaizdo įrašus. Nepaisant inovacijų, Sora turi prieštaringą funkciją – panaikinti vandens ženklus, kurie yra įterpti į AI sukurtą turinį ir identifikuoja jį kaip dirbtinį. Šis panaikinimas komplikuoja realaus turinio ir gilios imitacijos atskyrimą, didinant apgaulės pavojų. Ekspertai įspėja, kad tokios priemonės gali dar labiau padidinti jau ir taip augančią problemą. Apsimetimo sukčiai plito ir prieš atsirandant prieinamoms AI vaizdo generatoriams, jų padarytos žalos atlyginimas siekė didelius sumas ir veikė kaip pasitikėjimo skaidrumu sumažėjimas skaitmeninėje komunikacijoje. Dabar apgavikai gali naudotis pažangia edukacija vaizdo bei garso manipuliavimo priemonėmis, kad sukurtų itin įtikinamas gilias imitacijas, imituojančias tikrus žmonių veidus ir balsus. Tokie klastotės gali apsimesti vadovais, pareigūnais, žvaigždėmis ar paprastais žmonėmis, siekdami sukčiauti, skleisti klaidą, vogti tapatybę ar reikalauti išpirkos. Siekiant spręsti šią problemą, platformos kaip Meta AI riboja tam tikras funkcijas – pavyzdžiui, vengia balsų kopijavimo, siekdamos sumažinti apsimetimo riziką. Vis dėlto daugelis AI taikomųjų priemonių vis dar siūlo plačias galimybes kopijuoti balsus ir veidus, kas didina sukčiavimo mastą ir veiksmingumą. Šios funkcijos ypač sumaišo ribas tarp autentiško ir sukurto turinio, apsunkindamos jų atpažinimą net ir ekspertams, neturinčiais specializuotų priemonių. Saugumo įmonės, tokios kaip GetReal Security ir Sophos, akcentuoja plačiai paplitusią ir augančią AI įkvėptų sukčiavimų grėsmę.

Jų tyrimai rodo, kad sukčiavimai, remiantis AI sukurtais vaizdais ir garsais, sparčiai didėja, dažnai taikydamiesi į verslą ir žinomus asmenis. Jie įspėja, kad dėl sparčiai tobulėjančios AI technologijos tradicinės saugumo priemonės gali tapti nepakankamos, todėl būtinos proaktyvios strategijos – pažangios atpažinimo algoritmai ir išsami skaitmeninio raštingumo mokymai, padedantys mažinti pavojus. Įdomu tai, kad OpenAI pažymi, jog jų plačiai naudojamas ChatGPT ne dažniau padeda aptikti sukčiavimus nei juos sukelia. Tai pabrėžia AI dvigubą vaidmenį: vienu atveju ji leidžia naujiems grėsmių veikėjams veikti, kitu – stiprina gynėjų sugebėjimus atpažinti apgaulę. Visgi, AI sukeltų sukčiavimų masto ir automatizacijos klausimai išlieka pagrindiniai. Masinis įtikinamų gilios imitacijos vaizdų ir garso gaminimas vienu spustelėjimu gali sukelti suklastotų skandalų proveržį, jei atsakomieji veiksmai atsiliks. Ši situacija atskleidžia, kad žmonija vis dar yra ankstyvosiose AI vystymosi stadijose. Kai ši technologija toliau vyksta, balansavimas tarp naudingų taikymo būdų ir piktnaudžiavimo bus sudėtingas ir dinamiškas iššūkis. Devėjimasis turi būti dėmesingas – kūrėjai, saugumo profesionalai, politikai ir visuomenė – būtinai turi būti budrūs. Etikos principų laikymasis, skaidrios praktikos ir tvirta saugumo sistema yra būtini, siekiant sumažinti žalą ir maksimizuoti AI naudą visuomenei. Apibendrinant, tokios programėlės kaip OpenAI Sora pavyzdys parodo tiek įdomų technologinį pažangą, tiek ir didelius skaitmeninio saugumo iššūkius. Kai AI generuojami vaizdo įrašų įrankiai tampa prieinamesni ir pažangesni, jų piktnaudžiavimas sukčiavimo ir apsimetimo schemomis auga smarkiai. Šių problemų sprendimas reikalauja daugiadalykio požiūrio, apimančio technologinius sprendimus, reguliacinę priežiūrą, švietimą ir bendradarbiavimą. Didesnio sąmoningumo ir pasirengimo dėka visuomenė gali geriau įveikti šio besikeičiančio kibernetinio saugumo peizažo iššūkius ir apsaugoti asmenis bei organizacijas nuo vis įtikinamesnių dirbtinio intelekto sukčiavimų.