Жасанды интеллект соңғы уақытта айтарлықтай даму үстінде, ол коммуникация, көңіл көтеру және қауіпсіздік салаларын өзгертіп жатыр. Алайда, кез келген қуатты технология сияқты, AI-ды дұрыс пайдаланбау ауыр проблемалар туындатады. Оның бірі – алаяқтар AI видеосын қолдану арқылы күрделі алаяқтық және алдаудың схемаларын жүзеге асыруы, бұл киберқылмыстың қайнап келе жатқан түрінің өсуін көрсетеді әрі әлемнің қауіпсіздік мамандарын алаңдатып отыр. Соңғы мысал ретінде OpenAI-дің Sora iOS қосымшасы келтіріледі, ол заманауи видеосурет генерациялау моделін пайдалана отырып, пайдаланушыларға жоғары дәрежеде шынайы AI-генерацияланған видеоларды оңай жасауға мүмкіндік береді. Алайда, оның ішінде пікірталас тудыратын бір функция бар – су белгілерін жою мүмкіндігі. Бұл белгілер AI-мен жасалған контентті анықтауда көмектеседі, бірақ оны алып тастау жалған видеолар мен шынайы контентті ажыратуды күрделендіреді, алдаудың ықтималдығын арттырады. Мамандар мұндай құралдардың әрі қарай жағдайды ушықтыруы мүмкін деп ескертеді. Әлеуметтік желілер мен мобильді платформаларда қол жетімді бола бастағанға дейін де, алдау схемалары кеңінен таралған еді, олардың салдарынан жеке адамдар мен ұйымдар айтарлықтай қаржыны жоғалтып, цифрлық коммуникацияға деген сенім төмендеген болатын. Қазіргі уақытта алаяқтар заманауи видеосурет пен дыбыс манипуляциялау технологияларын қолдана отырып, нақты адамдардың бет-бәйнесін және дауыстарын қайталап шығарған терең жалған видеоларды жасауға қабілетті. Мұндай жалғандар басшыларды, шенеуніктерді, жұлдыздарды немесе қарапайым адамдарды алдауға, фишинг, сәйкестендіру деректерін ұрлау, жалған ақпарат тарату және тәуелділік жасау үшін пайдаланылады. Осыған күресу мақсатында, Meta AI сияқты платформалар кейбір функцияларды шектейді, мысалы, дауысты көшіру мүмкіндігін болдырмайды, бұл алдаудың қауіпін азайтады. Дегенмен, көптеген AI қолданбалары әлі күнге дейін кең көлемде дауыс пен бет-бейне көшірме мүмкіндігін ұсынып отыр, бұл алдаудың деңгейі мен әсерін арттырып жатыр. Бұл ерекшеліктер шынайы және жалған медиа арасындағы шекараны әжептәуір бұзып, тіпті мамандарға да жалғанды анықтауда қиындық туғызады. GetReal Security және Sophos сынды қауіпсіздік компаниялары AI-мен жүргізілетін алдаудың кең таралып, өсіп келе жатқан қауіп екенін айқындайды.

Олардың зерттеу нәтижелері AI-мен жасалған видео және дыбыс арқылы жасалатын алаяқтықтардың саны артқанын көрсетеді, oftentimes бизнес пен танымал тұлғаларды нысанаға алады. Олар AI технологиясы тез дамып жатқанда, дәстүрлі қауіпсіздік шаралары тиімсіз болуы мүмкін екенін ескертеді, сондықтан да проактивті стратегиялар — мысалы, озық анықтау алгоритмдері және сандық сауаттылықты тәрбиелеу қажет. Қызық тұсы, OpenAI-дің кеңінен қолданылатын ChatGPT құралы көбінесе алдау анықтауда көмектескен, яғни AI-дың екіжақты рөлін көрсетеді: бір жағынан, жаңа қауіп-қатерлерді тудырса, екінші жағынан, қорғанушылардың жалғанды анықтау қабілеттерін арттырады. Дегенмен, AI-мен жасалған алдаудың масштабталуы және автоматтандырылуы негізгі қауіп саналуда. Ұсақ effort-пен сенімді жалған видеоларды көптеп жасау мүмкіндігі алаяқтықтардың көбейуіне себеп болуы ықтимал, егер қауіп-қатерлерді анықтау шаралары жеткіліксіз болса. Бұл жағдай көрсетеді, адамзат әлі жасанды интеллекттің даму дәуірінің бастапқы кезеңінде тұр. Бұл технологиялар дамыған сайын, оларды пайдалы да, зиянды да пайдалану арасындағы тепе-теңдікті сақтау — күрделі әрі динамикалық міндет. Бұл процесте әзірлеушілер, қауіпсіздік мамандары, заң шығарушылар мен қоғамның ағартушылық рөлдері өте маңызды. Әлеуметтік жауапкершілікпен жасалған этикалық даму, ашық тәжірибе және кезеңдік қауіпсіздік шаралары зиянды азайтуға, ал AI-дың қоғамға пайдасын арттыруға көмектеседі. Қысқаша айтқанда, OpenAI-дің Sora сияқты қолданбалары үміт сыйлайтын технологиялық прогресті және соған сәйкес маңызды цифрлық қауіпсіздік мәселелерін көрсетеді. AI-мен жасалған видеолардың қолжетімділігі мен күрделілігі өсіп келе жатқанда, оларды алаяқтықта және жалғанды қоюда пайдалану көбейіп барады. Мұндай проблемаларға кешенді түрде әрекет ету үшін технологиялық жаңашылдық, реттеу, білім беру және ынтымақтастық ұйымдастыру керек. Артудаған хабардарлық пен даярлық арқылы қоғам жаңа киберқауіпсіздік ахуалында жеке тұлғалар мен ұйымдарды жүмыс істеуге әрі қорғануға қабілетті бола алады.