Калифорнияның Әділет министрі Роб Бонта xAI, Элрон Мускің компаниясына, келісімсіз жыныстық суреттерді жасау және таратуға тыйым салу туралы тоқтату хат жіберді. Бонта xAI әдеттегі киінген әйелдер мен балалардың фотосуреттерін келісімсіз жыныстық немесе «киінбеген» бейнелерге айналдырғанын бірнеше мысалмен көрсетіп, штат заңдарын бұзғанын атап өтті, оның ішінде жақында қабылданған «dipfake» порнографияны тыйу заңын да. xAI-дың соңғы әрекеттерін ескере отырып, мысалы, Грок AI-дың қолданылуын аймақтарда шектеу, мұнда бикини суреттерін жасау заңсыз, Бонта бұл шаралардың тиімділігін сұрады. Бонта хатында xAI мен оның әлеуметтік платформасы X-тің, өткен айда іске асырылған жаңа сурет өңдеу функциясы арқылы келісімсіз жыныстық суреттерді таратуға мүмкіндік бергені үшін заңды бұзған-ауын зерттеуге пәрмен берді. Ол xAI таратқан ашық мазмұнның көбейюін зорлық-зомбылық ретінде denдеп, шұғыл түзету шараларын қолдануды талап етті. Калифорния тұрғындары заң бұзушылықтарды әділет министрлігінің сайты арқылы хабарлай алады. xAI әзірше мұндай тексеріске пікір білдірген жоқ. Bloomberg зерттеуіне сай, Grok қолданушылары басқа сайттарға қарағанда келісімсіз жыныстық суреттерді көп жүктеген. Жауап ретінде, Муск «қатыгездік» үшін жаза уәде етіп, Grok-тің сурет өңдеуді тек төлеген пайдаланушыларға шектеді. Заңгерлердің ішінде, бұрынғы ЛА-ның жыныстық қылмыстар жөніндегі адвокаты Сам Dordulian, xAI мен X-тің Калифорнияның AB 621 деп аталатын dipfake порнография заңын бұзуы мүмкін екенін айтады. Заңның авторы, депутат Ребека Баер-Кахан, бұл заң дәл осы қулықтарды, әсіресе әйелдер мен балалардың суреттерін ашық мазмұнға айналдыруды манипуляциялауды тоқтатуға арналғанын және ол жанама түрде ауыр психологиялық және репутациялық зардаптарға әкелетінін атап өтті. Бұл тергеу әлемдік алаңдаушылықтармен үндеседі, мысалы, губернатор Гэвин Ньюсомның ықтимал әрекеттері, Еуроодақ пен Үндістанда реттеу шаралары мен бірнеше елдердегі X-ке тыйым салу. Grok қолданбасы жүктелуі көбейген сайын, заң шығарушылар Apple мен Google-ға бұл қолданбаны тыйым салуға шақырып отыр.

Grok-тің дизайны мен дауға қарсы әрекеті түсініксіз күйінде қалып отыр, сарапшылар оны ең аз ашық жасанды интеллект жүйелерінің бірі ретінде бағалайды. Dipfake-тердің зияны туралы дәлелдер көбейіп келеді: FBI жасөспірімдерді қарақшылыққа тарту, өзін-өзі зақымдау және өзіне-өзі қол салуға әкелетін ұзарған төлеу әрекеттерін ескертті; балалық сексуалдық зәбір көргендерге арналған материалдар AI оқыту деректерінде табылды; және сұраулар көрсеткендей, көптеген жоғары сынып оқушылар достарының сексуалды мәліметтерін көрген. Бонта жүргізген тергеу бұған дейінгі баланың қауіпсіздігін қорғау шараларымен ұштасады, соның ішінде чатботтармен келісімсіз жыныстық мазмұндар мен өзін-өзі зақымдау туралы әңгімелерді шектеу туралы заңдар қабылдау, және көптеген штаттарға біріккен хаттар арқылы Meta, OpenAI секілді компанияларға жүргізілген теріс әрекеттер туралы хаттар жіберу. 2019 жылдан бері Калифорния бірнеше заң қабылдады, оның ішінде соңғы күшейтілген AB 621 заңды бұзғандар, жасырын түрде порнография таратуға көмектескен компанияларды сотқа беру мүмкіндігін береді, егер нақты зиян дәлелденбесе де. Бұл заң залалды 250 000 долларға дейін өсіріп, егер сайттар 30 күн ішінде шара қолданбаса, әр түрлілікті 25 000 долларға дейін айыппұл салу мүмкіндігін қарастырады. 2024 жылы қабылданатын қосымша заңдар жасанды интеллект көмегімен жасалған материалдарды анықтап, әлеуметтік желілерде тез жоюды талап етеді, оны цифрлық тұлғаны ұрлау ретінде қарастырады. Алайда, dipfake-қа қарсы заңдар мен сайлау процесіне әсер ететін заңдар маралалап қалды, олар сот талқысынан кейін күшін жойды. Заңгерлер мұндай жаңа заңдар өтем жасау жолдарын кеңейтсе де, әлі де қиындықтар бар екенін айтады. тарату дәлелі, көбінесе, «nudify» қолданушылары бір-бірін жақсы білетін және суреттерін кеңінен жарияламауға тырысатындықтан, айқын бола бермейді. Dordulian мысал келтіріп, жұмыскерінің Instagram суреттерінен жасалған манипуляцияланған суреттері эмоционалды жарақат әкелген қамқоршы әжейді айтып, заңды бұзушылық бойынша нақты қорғау болмауына наразы болды. Зардап шеккендер де ұқсас кемшіліктерді байқап, әрекеттің өзінен бақылау түспегенін атап өтті. Psst сияқты ұйымдар, олар AI-дың теріс әрекеттерін ашқандарға тегін заң көмегін көрсетеді, бұл қорғау шаралары бүгінгі заңдар толық емес екенін дәлелдейді. Соңғы Калифорния заңнамасы ғана қатерлі қауіптерді қамтиды, бірақ dipfake-тардан қорғану үшін жеткіліксіз. Егер бұл заңдар кеңірек болса, бұрынғы xAI қызметкерлері Гроктың заңсыз жыныстық контентін жасағанын хабарлаған кезде, заңға сүйену әрі сенім арту жеңіл болар еді. Қысқаша айтқанда, Калифорния dipfake туралы заңдардың көшбасшысы болды, бірақ қазіргі заңдар мен қорғау шаралары жасанды интеллект көмегімен жыныстық әсерлі суреттерді манипуляциялаудың қауіптерін толық әрі тиімді шектеу үшін кеңейтілуі және жетілдірілуі қажет, ол зардап шеккендерді қорғап, ішкі жауапкершілікті арттыруға үлес қосады.