Kaliforniya Başsavcı Yardımcısı Rob Bonta, xAI, Elon Musk’un şirketine, rızası olmadan cinsel içerikli görsellerin oluşturulmasını ve dağıtılmasını durdurması yönünde ihtar mektubu gönderdi. Bonta, xAI’ın, kadınlar ve çocuklara ait sıradan, giyinik fotoğrafları, rıza olmadan cinsel açıdan açık veya “çıplak” tasvirlere dönüştürdüğü birçok vakaya dikkat çekti ve bu durumun eyalet yasalarını, özellikle yakın zamanda getirilen “deepfake” porno yasağı da dahil olmak üzere ihlal ettiğine vurgu yaptı. xAI’ın son zamanlarda bikini görselleri üretmenin yasak olduğu bölgelerde Grok AI kullanımını sınırlaması gibi adımlar attığını da belirten Bonta, bu önlemlerin etkinliğini sorguladı. Bonta’nın mektubu, geçen ay başlatılan ve Grok’un yeni görsel düzenleme özelliği aracılığıyla rızası olmadan cinsel içerikli görsel yayılımını sağlayıp sağlamadığı konusunda yapılan soruşturmanın ardından geldi. Kendisi, xAI tarafından üretilen açık içeriklerin artışını taciz edici olarak nitelendirerek, derhal müdahale edilmesini talep etti. Zarar gören Kaliforniyalılar, ihlal bildirimlerini FBI’nın web sitesi üzerinden yapabilirler. xAI henüz soruşturmaya ilişkin herhangi bir açıklama yapmadı. Bloomberg’in araştırmasına göre, Grok kullanıcıları, en çok rızası olmadan cinsel içerikli görselleri paylaşan site oldu. Musk, suçlulara “sonuçlar” olacaklarını vaat ederken, Grok’ta görsel düzenleme sadece ücretli kullanıcılara açıldı. Hukuk uzmanları, eski LA cinsel suçlar savcısı Sam Dordulian da dahil olmak üzere, xAI ve X’in, Kaliforniya’nın AB 621 deepfake porno kurallarını muhtemelen ihlal ettiğini söylüyor. Yasayı yapan Temsilci Rebecca Bauer-Kahan, yasanın özellikle kadın ve çocukların görsellerinin, açık içerik haline getirilmesinin manipüle edilerek ciddi psikolojik ve itibar zararlarına yol açan bu tarz suiistimalleri hedef aldığını vurguladı. Bu soruşturma, küresel endişelerle de uyumlu olarak, California Valisi Gavin Newsom’un çağrıları, AB ve Hindistan’daki düzenleyici tepki ve çeşitli ülkelerde X’in outright yasaklanması gibi gelişmeleri içeriyor. Grok uygulama indirmeleri hızla artarken, milletvekilleri Apple ve Google’dan bu uygulamayı yasaklamalarını talep ediyor.

Grok’un tasarımının arkasındaki motivasyonlar ve yaşanan anlaşmazlıklara yanıtı ise henüz netlik kazanmadı; analizler, onu en az şeffaf yapay zeka sistemleri arasında gösteriyor. Deepfake’lerin verdiği zararın kanıtları artıyor: FBI, gençlerle ilgili artan tehdit amaçlı şantaj vakalarına dikkat çekerken, bu durumların kendine zarar ve intihara yol açtığını belirtiyor; yapay zekanın eğitim verilerinde çocuklara ait cinsel istismar materyalleri bulundu; ve yapılan araştırmalar, birçok lise öğrencisinin akranlarına ait cinsel içerikli görsellere maruz kaldığını gösteriyor. Bonta’nın soruşturması, daha önce de gençleri zararlı yapay zeka içeriklerinden korumak amacıyla, reşit olmayan kullanıcıların cinsel içerik veya kendine zarar veren içeriklerle sohbet etmelerini kısıtlayan yasa tasarılarını destekleme ve Meta ile OpenAI gibi şirketleri, reşit olmayanlara yönelik uygunsuz chatbot etkileşimleri konusunda baskı altına alan çoklu eyalet mektuplarına katılma girişimlerinin ardından geldi. 2019’dan bu yana Kaliforniya, deepfake’lere karşı birçok mevzuat çıkardı. Son zamanlarda güçlendirilmiş AB 621 sayılı yasa, rızası olmadan deepfake porno’nun yayılmasını bilinçli şekilde destekleyen şirketleri, mağdurlarda gerçek zarar kanıtı olmadan dava edebiliyor; zararın yaklaşık 250 bin dolara kadar çıkması mümkün ve kurallara uymayan siteler, 30 gün içinde harekete geçmezse her ihlal için 25 bin dolar ceza ödeyebilir. 2024 yılında yürürlüğe giren ek yasalar, çocuk pornosu tanımını, yapay zekayla üretilmiş materyalleri de kapsayacak şekilde genişletti ve sosyal medyada bu tür deepfake’lerin hızla kaldırılması zorunluluğu getirdi; böylece, bunlar dijital kimlik hırsızlığı kapsamında değerlendirildi. Ancak, X ve Musk tarafından açılan bir dava sonucunda, seçimlerde deepfake kullanımını sınırlayan bir yasa iptal edildi. Hukuk uzmanları, yeni yasa paketlerinin tazminat yollarını açmasına rağmen, pek çok durumda, dağıtımın kanıtlanması zor olabiliyor; çünkü “nudify” uygulaması kullanıcılarının genellikle birbirini tanıdığı ve görselleri geniş çapta paylaşmadığı biliniyor. Dordulian, işçinin Instagram fotoğraflarını manipüle ederek onun üzerinde duygusal travmaya yol açan ve hukuki olarak net bir yol sunmayan bir danışman hakkında örnek verdi. Mağdurlar, sadece içerik üretme işleminin bile denetlenemediği ve sınırlanmadığına dair benzer deneyimlerini aktardı. Psst’ten Jennifer Gibson gibi savunucular, mevcut yasaların içerden gelen kişileri, zararlı yapay zeka uygulamalarını ortaya çıkaranları yeterince korumadığını savunuyor. Yakın zamanda kabul edilen Kaliforniya muhbirlik yasası, maalesef, büyük ölümler veya ciddi hasara yol açan felaketleri kapsıyor; deepfake bağlantılı zararlar ise dışında kalıyor. Eğer bu yasa daha geniş olsaydı, Grok’un yasa dışı cinsel içerik ürettiğini raporlayan eski X çalışanları, hukuki süreçlerde daha güçlü koruma sağlayabilirdi. Özetle, Kaliforniya deepfake yasa koyuculuğu konusunda öncü olsa da, mevcut mevzuat ve korumalar, yapay zeka destekli cinsel içerik manipülasyonlarının artan risklerine karşı yeterince gelişmiş değil; mağdurların korunması ve iç denetimin teşvik edilmesi için yasa ve uygulamaların genişletilmesi gerekiyor.