Birinci bir engelin aşıldığına dair haber, California Meclisi'ndeki bir yasa tasarısının, yapay zeka tarafından üretilen çocuk pornosunu yasaklamayı hedeflediğini gösteriyor. AB 1831 olarak bilinen tasarı, Meclis'in Kamu Güvenliği Komitesi'nden geçti ve önümüzdeki hafta Gizlilik ve Tüketici Koruma Komitesi tarafından incelenecek. Bu tasarının amacı, California'nın mevcut çocuk pornosu yasalarındaki bir açığı gidermektir. Mevcut yasalar şu anda gerçek çocuklarla ilgili cinsel istismar içeren materyalin üretimini, dağıtımını ve sahiplenmesini suç kapsamına alırken, yapay zeka ile oluşturulmuş çocukları anımsatan görüntülerin ihmal edilmesine neden oluyor. Tasarıyı savunanlar, yapay zeka tarafından oluşturulan materyallerin genellikle gerçek çocukların yüzlerini kullandığını ve bu görüntülerin yayılmasıyla daha fazla mağduriyet yaşandığını belirtmektedir. Duruşmada, Orange County Şerif Dairesi'nden Dedektif Heather Timmins, etkilenen çocuklar üzerindeki etkiyi vurguladı ve bu görüntülerin kampüslerinde dolaştığını bilmelerinin onlar için aşağılayıcı olduğunu söyledi. Yasama sponsorlarından Ventura County Bölge Savcısı Erik Nasarenko, yapay zekanın bu karanlık yönünün hızla ele alınması gerektiğini vurgulayarak, çocukları içeren yapay zeka destekli içeriğin gerçek istismar olduğunu ve mağdursuz olarak kabul edilmemesi gerektiğini vurguladı.

AB 1831, bilgisayarla oluşturulmuş veya yapay zeka kullanılarak üretilmiş çocuk cinsel istismar materyalinin oluşturulmasını, dağıtımını ve sahiplenmesini yasaklamayı amaçlamaktadır. Kolluk kuvveti temsilcilerinin yanı sıra, eski Disney Channel çocuk oyuncusu Kaylin Hayman da duruşmada ifade verdi. Şu anda 16 yaşında olan Hayman, geçen yıl FBI tarafından kendisine ulaşılarak benzeri görülmemiş bir şekilde cinsel faaliyetlerde bulunduğu görülen yapay zeka ile oluşturulmuş videolar hakkında bilgilendirildiğini paylaştı. Kendini bu tür rahatsız edici bir şekilde gören yetişkin erkekler tarafından gözlemlendiğini bilmek, Hayman'ın kendini taciz edilmiş ve iğrenç hissetmesine neden olduğunu ifade etti. Son zamanlarda, yapay zekanın cinsel istismarını mümkün kılan olaylar Güney Kaliforniya'da meydana geldi. Örneğin, Beverly Hills'in Beverly Vista Ortaokulu'ndaki beşinci sınıf öğrencisi beş öğrenci, birbirlerinin çıplak görüntülerini oluşturmak için yapay zekayı kullanmaları nedeniyle geçen ay okuldan uzaklaştırıldı. Benzer şekilde, Calabasas Lisesi ve Laguna Beach Lisesi'nde de yapay zeka kötüye kullanımına ilişkin olaylar bildirildi.