Санта Барбара Индепендент газетасы SantaBarbaraCounty оқырмандарына әсер ететін штаттық және жергілікті мәселелерді қамтитын CalMatters. org сайтынан жарияланған жаңалықтарды қайта жариялайды. Калифорния прокуроры Роб Бонта Elon Musk пен xAI-ды соңғы аптада заңсыз келісімсіз ашық немесе жыныстық бейнелер таратуға мүмкіндік берген технологиялары бойынша тергеу жүргізіп жатқанын хабарлады. xAI компаниясы өткен айда Grok AI құралын жаңартқанын және оған сурет редакциялау функциясын қосқанын мәлімдеді, оны пайдаланушылар X желісінде әйелдер мен балалардың киімдерін алып тастау үшін қолданған. Бонта xAI-дың келісімсіз жыныстық мазмұнды жалған түрде жасау және тарату бойынша рөлін көрсететін хабарламалар көбейіп кеткенін сынға алып, бұл әрекетті тоқтатуды талап етті. Ол компанияны дереу әрекет етуге шақырып, мұндай бейнелермен айналысатын Калифорния тұрғындарына жария ету үшін прокурордың веб-сайты арқылы хабарласуды ұсынды. xAI бұл тергеу туралы комментарий бермеді. Bloomberg зерттеуі бойынша, Grok қолданатын X пайдаланушылары басқа платформаларға қарағанда көп келісімсіз жыныстық мазмұндағы суреттер жариялаған. Musk заңсыз мазмұн жасаушыларға салдары болатынын уәде етті, ал жақында Grok тек төлем жасаған жазылушыларға суреттерді редакциялау мүмкіндігін шектеді. Жаңа қабылданған Калифорния заңына сәйкес, AB 621, «deepfake» порнографиясын жасап, тарату мәселесінде жасалған және xAI бұған заңды түрде жауапкершілікке тартылады, деп экспертизалық сарапшы Сам Дордулян айтты. Заңның авторы, департамет мүшесі Ребекка Баум-Каган, AB 621-дің X платформасында болған зло үштіктерді тоқтатуға арналғанын атап өтіп, оның зорлық-зомбылық пен беделге зиян келтірудің ауыр психологиялық әсері бар екенін көрсетті, соның ішінде жыныстық пайдалану материалдарында қолданылған балалар бар. Бонтаң тергеуі біздің елдің губернаторы Гавин Ньюсом, Еуроодақ пен Үндістандағы реттеу шаралары және Малайзия, Индонезия және мүмкін Ұлыбританияда тыйым салулар сияқты басқа да шақырулардан кейін келіп отыр. Grok қолданушы жүктеулері Apple және Google дүкендерінде өсіп отырғандықтан, заң шығарушылар мен қорғаушылар бұл компанияларға бұл қолданбаны жоюды талап етіп отыр. Grok-тың дизайн себептері мен оның даулы мәселелерге қалай жауап бергені әлі анық емес, ал сараптамалар оны ең ашық емес жасанды интеллект жүйелері қатарына қосты. Deepfake-тің нақты зияны туралы дәлелдер күн сайын көбейіп келеді. 2024 жылы FBI жасөспірімдерді олжалап, зорлық-зомбылық пен өз-өзіне зақым келтіру сияқты жағдайларға әкелетін deepfake-тер бойынша өсіп келе жатқан талап-арыздарды ескертті. Аудит нәтижесінде AI оқыту деректерінде балаларға жыныстық зорлық-зомбылық жасалған материалдар табылды, олар анықтамалар мен ашық суреттерді жасау мүмкіндігін берді. Democracy and Technology орталығы жүргізген сауалнамаға қатысқандардың 15%-ы соңғы бір жылдың ішінде өздерінің немесе оқушылардың сексуалды мазмұндағы суреттерін көргендерін немесе білетіндерін айтты. Бұл тергеу Бонта прокурордың жасөспірімдерді AI зиянынан қорғау бағытындағы жұмысын жалғастырып жатыр.

Өткен жылы ол чатботтар мен жасөспірімдер арасында өзін-өзі зақымдауға немесе жыныстық мазмұнға әңгімелесуге тыйым салатын заңға қолдау көрсеткен еді. Сондай-ақ, ол 44 штатқа бірігіп, Meta және OpenAI сияқты компаниялардан жасөспірімдермен орын алған кемшіліктері туралы түсіндірме талап етті. 2019 жылдан бері Калифорния deepfake-ке қарсы бірнеше заң қабылдады. AB 621 бұлардан бұрынғы заңдарды толықтырып, ол келісімсіз deepfake таратуға қатысатын компанияларды «жинақтау» арқылы заңмен жауапкершілікке тартуға мүмкіндік берді, және жергілікті билік арқылы сотқа арыз беруді жеңілдетті. Заң зиянды дәлелдемелерді 150 000 доллардан 250 000 долларға дейін арттырды және заңсыз сайттарға айыппұл ретінде әр бұзушылық үшін 25 000 доллар салуды көздейді. 2024 жылы қабылданған басқа заңдар (AB 1831 және SB 1381) балалық жыныстық мазмұнның анықтамасын кеңейтті, және әлеуметтік медиа платформаларына deepfake-терді жедел жою үшін қарапайым процедуралар ұсыну міндеттелді. Ал өткен жылы бір сот deepfake-ті пайдалану бойынша заңға кесір болған заңды жойды, бұл X және Musk-тың ісі бойынша сот ісінің нәтижесінде болды. Заңдар әлі де жетілдірілсе де, сарапшылар like Dordulian, бұзушылықтарды дәлелдеу қиын деп санайды, өйткені жеке бөлісетін немесе кең таралмайтын ашық кескіндерде байқалған жағдайда. Мысалы, бір медбике өзіне жасалған манипуляцияланған суреттерді тапқан клиенттің ісі дәлелдердің жеткіліксіздігін көрсетеді, ол Victims жекелеген deepfake-ке қатысты заңдардан гөрі жалқаулықты дәлелдеуді талап етеді. Зардап шеккендер «жасау» мен «тарату» арасындағы алшақтықты байқап, қорғау шектеулі екенін айтып отыр. Psst немесТехникада ақпаратты ашқан whistleblower-лерге арналған заңды ұйымдарының негізіне салынған Дженнифер Гибсон, Калифорнияның зиянды жасанды интеллект қауіптері туралы хабарлайтындарға жығылу құқығын қорғайтынын айтады, бірақ deepfake-ке қатысты іс-әрекеттерді қамтымайды. Егер осы қорғаулар deepfake-терге қатысты болса, бұрынғы X қызметкерлері жуық арада Grok-тың заңсыз мазмұнын жасап шығаруға қатысқаны үшін заңды қорғау алатын еді. Гибсон мұндай инсайдерлерге зор серпін беріп, жәбірленушілердің алдын алуға көмектесу үшін қорғауды қатайтуды importance етеді, соның арқасында компаниялардың жауапкершілігін арттырып, қоғамды қорғау қажеттігін алға тартады. Қорытындылай келе, Калифорния жасанды интеллект негізіндегі келісімсіз және ашық deepfake суреттердің таралуына қарсы белсенді жұмыс жүргізуде, оның ішінде тергеулер мен заңдар қабылдау арқылы, алайда белсенділер әрі қарай да реформалар мен ашықтықты талап етіп отыр, өйткені бұл зардап шеккендерді тиімді қорғау үшін және компанияларды жауапкершілікке тарту үшін аса маңызды.