«Құрбан болу үшін адам болу жеткілікті», – дейді адвокат Кэрри Голдберг, AI дәуіріндегі дипфейк порнографиясының қауіп-қатерлерін атап өтіп. Кек алу мақсатында порнографияны, яғни жыныстық суреттерді келісімсіз тарату, интернеттің бастапқы кезеңдерінен бері бар. Алайда, AI құралдарының өсуі кез-келген адамның, тіпті әзірге жалаңаш сурет түсірмеген немесе таратпаған адамдардың да, осы қудалаудың нысанасына айналу мүмкіндігін тудырады. AI технологиялары енді адамның бетін жалаңаш денеге орналастыруға немесе біреудің жалаңаш сияқты болып көрінуі үшін суреттерді өзгертуге қабілетті. Өткен жылы, AI-мен жасалған келісімсіз порнографияның құрбандары арасында Тейлор Свифт және өкілі Александрия Окас-Кортес сияқты танымал тұлғалар, сондай-ақ жоғары сынып оқушылары болды. Дипфейк порнографиясының өзіне немесе баласына қатысы бар екенін білгенде бұл тәжірибе қорқынышты және қиын екенін айтады Голдберг, Нью-Йоркта жыныстық қылмыстар мен онлайн қудалау құрбандарын қорғайтын C. A. Goldberg Law жетектейді. «Бұл, әсіресе, интернетті қорқынышты және түсініксіз жер ретінде сезінетін жас адамдар үшін өте қиын», - деді ол. Бақытымызға орай, бұл қудалаудың нысанасына айналған адамдар өзін қорғау үшін жасай алатын қадамдар және көмек алу көздері бар екенін Голдберг CNN-нің жаңа технологиялық подкастында, Clare Duffy-мен «Terms of Service» атты сұхбатында айтты. Terms of Service күнделікті кездесетін жаңа технологияларды түсіндіруді көздейді. (Голдбергпен толық әңгімелесуді осында тыңдаңыз. ) Голдберг AI арқылы жасалған жыныстық суреттердің нысанасына айналған адамдардың бірінші қадамы — әдетке қайшы көрінсе де, экран суретін алу керек деп кеңес берді. «Интернеттен оны дереу жоюды ынталандырады», - деді Голдберг.

«Бірақ егер оны қылмыстық түрде хабарлау мүмкіндігін қаласаңыз, дәлелдерді сақтау өте маңызды». Осыдан кейін, жәбірленушілер Google, Meta және Snapchat сияқты платформалар ұсынған формалар арқылы осындай суреттерді жоюды сұрай алады. StopNCII. org және Take It Down сияқты коммерциялық емес ұйымдар бірнеше платформадан суреттерді бір уақытта алып тастауға көмектесе алады, бірақ барлық сайттар бірлесе бермейді. Тамызда екі партиядан тұратын сенаторлар тобы Х және Discord сияқты жетілуі төмен онға жуық техникалық компанияларға осы бағдарламаларға қатысуға үндеген ашық хат жазды. Келісімсіз жыныстық суреттер мен дипфейктерді қарау сирек екіжақты келісімді тапты. Жасөспірімдер мен ата-аналар АИ арқылы жасалған порнография әсеріне қатысты Капитолия төбесінде өткен тыңдауда куәлік беріп, онда Республикашы сенатор Тед Круз Демократиялық сенатор Эми Клобучар және басқаларымен қолдаған заң жобасын жариялап, мұндай жарияланымдарды қылмыстық жауапкершілікке тартуды және әлеуметтік медиа платформаларынан хабарланған контентті алып тастауды талап етті. Әзірге, жәбірленушілер әртүрлі штаттардың заңдарын басшылыққа алуы керек. Кейбір штаттарда ересектердің ашық дипфейктерін жасауға немесе таратуға қатысты заңдар жоқ, дегенмен AI арқылы жасалған балалардың суреттері әдетте балаларға жыныстық зорлық материалдары туралы заңдарға жатады. «Қолжетімді болашақ зиянкестер үшін кеңесім – біреудің бейнесін масқаралау мақсатында пайдалануға моралдық тұрғыдан жиркенішті болмау», - деді Голдберг. «Құрбандардың бұған жол бермеу үшін істей алатыны аз. Біздің цифрлық қоғамымызда толық қауіпсіздікке жету мүмкін емес, бірақ басқаларға дұрыс қарау – біздің міндетіміз».