Santa Barbara Independent ponovo objavljuje priče sa CalMatters. org koje pokrivaju državne i lokalne probleme koji utiču na čitaoce okruga Santa Barbara. Generalni tužilac Kalifornije Rob Bonta najavio je istraživanje Elon Muska i njegove platforme X i xAI zbog optužbi da su njihove tehnologije omogućile ilegalno širenje nechećene golotinje ili seksualnih slika u poslednjih nekoliko nedelja. Navodi se da je xAI prošle nedelje ažurirao svoj alat Grok AI da bi uključio mogućnosti uređivanja slika, što su korisnici iskoristili na X platformi da bi uklonili odeću sa slika žena i dece. Bonta je osudio porast izveštaja koji otkrivaju ulogu xAI u proizvodnji i postavljanju nechećene seksualno eksplicitne sadržine na internet, ističući uznemiravanje koje to izaziva. Pozvao je kompaniju da odmah preduzme akciju i pozvao Kalifornijce pogođene takvim prikazima da ih prijave putem veb sajta generalnog tužioca. Kada su kontaktirali, xAI se nije izjasnio o istrazi. Istraživanje Bloomberg-a ukazuje da su korisnici X platforme koji koriste Grok objavljivali više nechećene eksplicitne slike nego na bilo kojoj drugoj platformi. Musk je obećao sankcije za tvorce ilegalnog sadržaja, a nedavno je Grok opciju za uređivanje slika ograničio samo za plaćene pretplatnike. Nedavno usvojeni zakon Kalifornije, AB 621, odgovornost za tvorce i distributere „deepfake“ pornografije postavlja na pravnu odgovornost, a čini se da xAI krši ovaj zakon, prema pravnom stručnjaku Samu Dordulianu. Poslanica Rebeca Bauer-Kahan, autorica zakona, izjavila je da je AB 621 osmišljen da adresira zloupotrebe poput onih koje sada vidimo na X platformi, ističući ozbiljnu štetu po mentalno zdravlje i reputaciju žrtava, uključujući i decu eksploatisanu u materijalima seksualnog zlostavljanja. Bontina istraga sledila je slične pozive za istragom od strane guvernera Gavina Newsoma, regulatorni reakcije u EU i Indiji, kao i zabrane X platforme u Maleziji, Indoneziji, a moguće i u Velikoj Britaniji. Dok narudžbine za preuzimanje Grok aplikacije na Apple i Google prodavnicama rastu, zakonodavci i zagovornici pozivaju ove kompanije da zabrane aplikaciju. Razlozi iza dizajna Grok i odgovor na kontroverzu ostaju nejasni, a analize je stavljaju u red najneprozirnijih sistema veštačke inteligencije. Dokazi o pravoj šteti od deepfake tehnologije sve se više akumuliraju. U 2024. godini FBI je upozorio na rast slučajeva ucene putem deepfake sadržaja usmerenih na mlade, povezane sa samopovređivanjem i suicidima. Auditi su otkrili materijal seksualnog zlostavljanja dece u podacima za treniranje AI, što omogućava generisanje eksplicitnih slika. Anketa Centra za demokratiju i tehnologiju pokazala je da 15% srednjoškolaca zna ili je videlo seksualno eksplicitan sadržaj vršnjaka tokom prošle godine. Ova istraga pridružuje se stalnim naporima generalnog tužioca Bonte da zaštiti mlade od štete koju može izazvati veštačka inteligencija.

Prošle godine, podržao je zakon kojim se zabranjuje chatbotovima da angažuju maloletnike u razgovorima o samopovređivanju ili seksualno eksplicitnim temama, kao i zahteve poverenih 44 savezne države kompanijama poput Meta i OpenAI da objasne neprikladno ponašanje chatbotova sa maloletnicima. Od 2019. godine Kalifornija je donela brojne zakone za zaštitu od deepfake tehnologije. AB 621 menja i jača prethodne mere omogućavajući tužiocima da tuže kompanije koje „samovoljno“ omogućavaju ilegalnu distribuciju deepfake sadržaja, kao i da pojedinci traže pravdu putem lokalnih vlasti. Zakon povećava potencijalne štete sa 150. 000 na 250. 000 dolara i uvodi novčane kazne od 25. 000 dolara po prekršaju za nepoštovanje pravila na veb stranicama. Dodatni zakoni iz 2024. (AB 1831 i SB 1381) proširili su definiciju dečije pornografije uključivanjem materijala generisanog veštačkom inteligencijom i zahtevaju od društvenih mreža jednostavno uklanjanje deepfake sadržaja, klasifikovanog kao digitalno krivotvorenje identiteta. Zakon kojim je bilo zabranjeno korišćenje deepfake tehnologije u izbornim procesima prošle godine poništen je od strane saveznog sudije nakon tužbe platforme X i Muska. Uprkos pravnim napretcima, stručnjaci poput Dorduliana smatraju da su potrebne dalje reforme, jer je dokazivanje prekršaja teško kada se eksplicitne slike dele privatno ili nisu široko dostupne. Primeri poput dadilje koja otkriva manipulisan slike sebe izrađene od strane klijenta ilustruju kako trenutni zakoni mogu primorati žrtve da se oslanjaju na tužbe za nepažnju umesto na specifične zakone o deepfake sadržajima. Žrtve su primetile da postoje praznine između „kreiranja“ i „distribucije“ u postojećem zakonodavstvu, što ograničava zaštitu. Jennifer Gibson, suosnivačica Psst, pravnog udruženja koje pruža besplatnu pravnu pomoć zviždačima u tehnologiji, napominje da, iako Kalifornija štiti zviždače koji ukazuju na katastrofalne rizike veštačke inteligencije, takvi zakoni ne pokrivaju one koji izlažu štetu od deepfake sadržaja. Da su ove zaštite uključile deepfake tehnologiju, bivši zaposleni na X platformi koji su prijavili ilegalno generisane eksplicitne sadržaje mogli bi dobiti pravnu zaštitu za svoj rad na zviždu. Gibson ističe hitnu potrebu za jačim zaštitama kako bi insidersi mogli prijavljivati predvidive zloupotrebe i osigurali odgovornost korporacija i javnu sigurnost. Ukratko, Kalifornija aktivno radi na suzbijanju opasnosti koje predstavlja veštačka inteligencija u kreiranju i distribuciji nechećene i eksplicitne deepfake sadržine putem nedavnih istraživanja i zakona, ali zagovornici naglašavaju da su potrebne dalje reforme i veća transparentnost kako bi se efikasno zaštitile žrtve i državni sistemi odgovornosti.