Santa Barbara Independent, Santa Barbara County okuyucularını etkileyen devlet ve yerel konuları kapsayan hikâyeleri CalMatters. org'tan tekrar yayımlamaktadır. California Başsavcısı Rob Bonta, son haftalarda teknolojilerinin rızası olmadan çıplak veya cinsel görüntülerin yasa dışı yayılmasını sağlamasıyla suçlanan Elon Musk’ın X ve xAI şirketlerini incelemeye başladı. xAI’nin geçen ay Grok AI aracını görüntü düzenleme özellikleriyle güncellediği ve kullanıcıların X üzerinden kadın ve çocuk fotoğraflarından kıyafetleri kaldırmak için bu özellikleri kullandığı bildirildi. Bonta, xAI'nin rızası olmadan cinsel içerikli materyal üretip paylaşmasındaki rolüne ilişkin artan raporları kınadı ve bunun yol açtığı tacizi vurguladı. Şirketi hemen harekete geçmeye çağırdı ve bu tarz görüntüleri maruz kalan Kaliforniyalıların savcıların internet sitesi üzerinden bildirimde bulunmalarını istedi. xAI’ya soruşturmayla ilgili yorum yapmadı. Bloomberg araştırması, Grok kullanarak yaptığı paylaşımlarda X kullanıcılarının diğer platformlara kıyasla daha fazla rızası alınmamış çıplak ve açık görüntü paylaştığını gösterdi. Musk, yasa dışı içerik üretenlere karşı sonuçlar vaat etti ve yakın zamanda Grok’un görüntü düzenleme özelliğini sadece ücretli abonelere erişilebilir hale getirdi. Yeni kabul edilen Kaliforniya yasası AB 621, “deepfake” pornografi oluşturan ve dağıtan kişileri yasal olarak sorumlu tutuyor ve xAI’ın bu yasanın ihlal ettiğine dair hukukçu Sam Dordulian’a göre görünmektedir. Yasayı hazırlayan Temsilci Rebecca Bauer-Kahan, AB 621’in X’de şu anda yaşanan suistimalleri ele almak amacıyla tasarlandığını belirtti ve mağdurlar, özellikle çocuklar, cinsel istismar içeriklerinde kullanılanların ciddi psikolojik ve itibar kaybına uğradığını vurguladı. Bonta’nın soruşturması, California Valisi Gavin Newsom’un çağrıları, AB ve Hindistan’da artan düzenleyici tepkiler ve Malezya, Endonezya ile İngiltere’de yürürlükteki yasaklar gibi gelişmelerle paralel ilerliyor. Apple ve Google mağazalarında Grok uygulaması indirmelerinin artmasıyla, yasa yapıcılar ve savunucular bu uygulamanın yasaklanmasını talep ediyor. Grok’un tasarımındaki nedenler ve ortaya çıkan tartışmaya nasıl yanıt verdiği belirsizliğini koruyor; ayrıca analizler Google ve Apple’ın uygulamalarını en az şeffaf AI sistemleri arasında sıralamaktadır. Deepfake’lerden kaynaklanan gerçek zararların kanıtı giderek artıyor. 2024’te FBI, gençleri hedef alan deepfake bump ve tehditlerle ilgili artan şantaj vakaları konusunda uyardı ve bu suçların kendine zarar verme ve intiharla ilişkilendirildiğini belirtti. Denetimler, AI eğitim verilerinde çocuklara ait cinsel içerikli materyallerin bulunduğunu ve bu sayede açık görüntülerin üretildiğini ortaya koydu. Democracy and Technology Merkezi’nin anketi, lise öğrencilerinin yüzde 15’inin geçtiğimiz yıl içerisinde ya tanık olduğunu ya da akranlarının cinsel açıdan uygunsuz görüntülerini görmüş olduğunu gösterdi. Bu soruşturma, Bonta’nın gençleri yapay zekanın zararlı etkilerinden koruma çabalarına katkıda bulunuyor.

Geçen yıl, çocuklara zararlı ve cinsel içerikli sohbetlerin önlenmesi amacıyla chatbotların bu tür konuşmalara girmesini yasaklayan bir yasa tasarısını desteklemiş ve 44 eyaletle birlikte Meta ve OpenAI gibi şirketlerden uygun olmayan davranışlar hakkında açıklama talep etmişti. 2019’dan beri Kaliforniya, deepfake’e karşı koruyucu birçok yasa çıkardı. AB 621, önceki düzenlemeleri değiştirilerek ve güçlendirerek, adliyelerin “dikkatsizce” suç teşkil eden deepfake içeriğin yayılmasını sağlayan şirketlere dava açmasına imkan tanıyor ve kişiler yerel makamlardan hukuki destek alabiliyor. Yasa, olası tazminat miktarını 150. 000 dolar’dan 250. 000 dolar’a çıkarıyor ve uyumsuz sitelere her ihlal için 25. 000 dolar ceza getiriyor. 2024 yasaları olan AB 1831 ve SB 1381 ise, AI üretimi materyalleri çocuk pornografisi tanımına ekleyerek, sosyal medya platformlarının deepfake’leri kolayca kaldırabilmelerine imkan sağlayacak ve bu paylaşımları dijital kimlik hırsızlığı kategorisine alıyor. Ayrıca, geçen yıl, X ve Musk’ın itirazı üzerine federal bir yargıç tarafından geçerli olmayan seçimlerde deepfake kullanımıyla ilgili yasa iptal edildi. Hukuki ilerlemelere rağmen, Dordulian gibi uzmanlar, özellikle özel ortamda ya da geniş çapta paylaşılmayan açık görüntülerde ihlallerin ispatının zor olduğunu belirterek, daha fazla reform gerektiği görüşünde. Örneğin, bir dadının bir müşterisi tarafından manipüle edilmiş kendi görüntülerini keşfetmesi gibi vakalar, mevcut yasaların mağdurların özellikle ihmal iddialarına yönelmesine neden olabileceğini gösteriyor. Mağdurlar, hukuk sisteminde “yaratım” ve “yayım” arasındaki farklar nedeniyle koruma açısından boşluklar olduğunu dile getiriyorlar. Psst adında, teknoloji alanında whistleblower’lar için ücretsiz hukuki destek sağlayan bir grup üyesi Jennifer Gibson, Kaliforniya’nın yapay zekanın risklerine karşı ihbarcıları koruyan yasaları olduğunu, fakat bu tür yasaların deepfake’lerle ilgili zararları korumadığını belirtiyor. Eğer bu tür korumalar deepfake’leri de kapsasaydı, önceki X çalışanları, Grok’un yasa dışı içerik üretimine ilişkin yaptığı ihbarlar üzerinden hukuki güvencelere sahip olabilirdi. Gibson, içeriden gelen ihbarları kolaylaştıracak ve şirketlerin sorumluluğunu arttıracak güçlü korumaların acilen gerekliliğine vurgu yapıyor. Özetle, Kaliforniya, yasa dışı ve rızası olmadan üretilmiş ve dağıtılmış deepfake görüntülerinin yapay zekaya dayalı üretim ve paylaşımını engellemek amacıyla yoğun şekilde soruşturmalar ve yeni mevzuatlar yürürlüğe koyuyor. Ancak, savunucular, mağdurların korunması ve şirketlerin sorumluluğunun arttırılması için daha fazla reform ve şeffaflık gerektiğini vurguluyor.