Santa Barbara Independent atkārto stāstus no CalMatters. org, kas apraksta valsts un vietējos jautājumus, kas ietekmē Santa Barbara apgabala lasītājus. Kālifornijas Prokurora ģenerālis Rob Bonta paziņoja par izmeklēšanu pret Elon Muska X un xAI saistībā ar apsūdzībām, ka viņu tehnoloģijas ir ļāvušas nelegāli izplatīt nekonfidenciālas kailas vai seksuālas attēlus pēdējo nedēļu laikā. Ziņots, ka xAI pagājušajā mēnesī atjauninājusi savu Grok AI rīku, pievienojot attēlu rediģēšanas iespējas, ko lietotāji izmantojuši X platformā, lai noņemtu apģērbu sieviešu un bērnu attēlos. Bonta nosodīja straujo ziņojumu skaita pieaugumu, kas atklāj, ka xAI ir veicis un ievietojis nepubliskus seksuāli atklātus saturus internetā, uzsverot, cik daudz kaitējuma tas rada. Viņš aicināja uzņēmumu rīkoties nekavējoties un aicināja Kalifornijas iedzīvotājus, kuri saskārušies ar šādiem attēliem, ziņot par to vietnē prokurora ģenerāļa tīmekļa vietnē. Kad ar to sazinājās, xAI par izmeklēšanu nebija sniegusi komentārus. Bloomberg aptauja liecina, ka X platformas lietotāji, izmantojot Grok, ievietoja vairāk nekonfidenciālu seksuālu attēlu nekā jebkurā citā platformā. Musks solīja sekas nelegālo satura veidotājiem, un nesen Grok ir ierobežojis attēlu rediģēšanu tikai maksas abonentiem. Nesen pieņemtais Kalifornijas likums AB 621 attiecas uz “deepfake” pornogrāfijas radītāju un izplatītāju juridisku atbildību, un, pēc juridisko ekspertu Sam Dordulian vārdiem, xAI šķiet pārkāpj šo likumu. Aizstāvētājas Rebekas Bauer-Kahan, likuma autore, teica, ka AB 621 ir izstrādāts, lai risinātu tādas kaitīgās darbības kā tās, kas tagad notiek X platformā, uzsverot ievainoto cilvēku, tai skaitā bērnu, kuri tiek izmantoti seksuālajā ļaunprātībā, psiholoģisko un reputācijas bojājumu. Bontas izmeklēšana seko līdzīgas izmeklējumu aicinājumu kampaņai, ko izteikuši guvējs Gavin Newsom, regulējuma reakcija Eiropā un Indijā, un aizliegumi X lietošanai Malaizijā, Indonēzijā un iespējams arī Apvienotajā Karalistē. Ar grozījumiem Apple un Google veikalos pieejamajā Grok lietotnē, kas biežāk lejupielādēta, politiķi un aktīvisti aicina šīs platformas aizliegt šo lietotni. Tās veidošanas motīvi un reakcija uz skandālu joprojām nav skaidri, un analīzes to ierindo starp vismazāk pārredzamām mākslīgā intelekta sistēmām. Pierādījumi par reālu kaitējumu no deepfakes arvien pieaug. 2024. gadā FBI brīdināja par paaugstinātu izspiešanu ar deepfake tehnoloģiju jauniešu vidū, kas ir saistīta ar pašsavainošanu un pašnāvībām. Veiktās pārbaudes atklāja bērnu seksuālās ļaunprātības materiāla klātbūtni AI mācību datos, ļaujot ģenerēt atklātus attēlus. Pētniecības centrs “Center for Democracy and Technology” veiktajā aptaujā 15% vidusskolēnu norādīja, ka ir pazīstami ar vai ir redzējuši seksuālas dabu attēlus par vienaudžiem pēdējā gada laikā. Šī izmeklēšana papildina Prokurora ģenerāļa Bontas pastāvīgās pūles aizsargāt jauniešus no AI nodarītajiem kaitējumiem.

Pagājušajā gadā viņš atbalstīja likuma projektu, kas aizliedz čatbotu iesaistīšanos ar mazgadīgajiem pašsavainojuma vai seksuāli atklāta satura veidošanā, kā arī pievienojās 44 valstu prasībām, lai uzņēmumi kā Meta un OpenAI izskaidro nepiemērotu rīcību ar mazgadīgajiem čatbotos. Kopš 2019. gada Kalifornija ir pieņēmusi vairākus likumus pret deepfakes. AB 621 groza un pastiprina iepriekšējos pasākumus, ļaujot prokuroriem iesūdzēt tiesā uzņēmumus, kas “neatbildīgi” veicina nelegālu deepfake izplatīšanu, kā arī ļauj indivīdiem vērsties tiesā caur vietējām iestādēm. Šis likums palielina iespējamos kompensācijas līdzekļus no 150 000 līdz 250 000 dolāriem un piemēro 25 000 dolāru sodu par katru pārkāpumu nepilnīgiem interneta portāliem. Papildus 2024. gadā pieņemti likumi (AB 1831 un SB 1381) paplašina bērnu pornogrāfijas definīciju, iekļaujot tajā AI ģenerētu saturu, un prasa sociālo mediju platformām piedāvāt vienkāršas deepfake noņemšanas iespējas, kategorijā tos reģistrējot kā digitālo identitātes zādzību. Pagājušajā gadā federāls tiesnesis atcēla likumu, kas ierobežoja deepfake izmantošanu vēlēšanās, pēc X un Muska prasības. Neskatoties uz juridiskajiem panākumiem, eksperti, piemēram, Dordulian, uzskata, ka nepieciešamas papildu reformas, jo ir grūti pierādīt pārkāpumus, ja seksuālie attēli tiek koplietoti privāti vai neplaši izplatīti. Situācijas, kad auklīte atrod manipulētus attēlus, kas izveidoti par viņu klientu, ilustrē, kā pašreizējie likumi var piespiest bojātos balstīties uz neuzmanības prasībām, nevis uz konkrētiem deepfake likumiem. Bojāto novērojumi liecina, ka pastāv plaisa starp “radīšanu” un “izplatīšanu”, kas ierobežo aizsardzību. Jennifer Gibson, Psst līdzdibinātāja, kas ir bezmaksas juridiska grupa tehnoloģiju insaidītājiem, norāda, ka, lai gan Kalifornija aizsargā insaidītājus, kas risina katastrofālus AI riskus, šādi likumi neattiecas uz tiem, kas atklāj deepfake radītās kaitīgās darbības. Ja šīs aizsardzības būtu iekļautas deepfakes, bijušie X darbinieki, kas ziņoja par Grok nelegālo saturu, būtu saņēmuši juridisku aizsardzību par insaidīšanu. Gibson uzsver steidzamas nepieciešamības pēc stiprākiem aizsardzības mehānismiem, lai iekšējie darbinieki varētu ziņot par paredzamām pārkāpumu darbībām, nodrošinot uzņēmumu atbildību un sabiedrības drošību. Kopsavilkumā, Kalifornija aktīvi risina AI radīto un izplatīto nevispilnīgu un seksuāli atklātu deepfake attēlu radīšanas un izplatīšanas draudus, nesenie izmeklējumi un likumdošana rāda, ka nepieciešamas papildu reformas un caurspīdīgums, lai efektīvi aizsargātu upurus un uzņēmumu atbildību.