Los Angeles okul yetkilileri, Fairfax High School topluluğu içinde uygunsuz fotoğrafların dolaştırıldığı iddialarını şu anda araştırıyor. Buna göre, olası bir teknoloji kötüye kullanımı örneği daha, öğrenciler tarafından, bir okul ilçesi açıklamasına göre, teknoloji kötüye kullanımı örneğine başka bir örnektir. Yalnızca geçen hafta, Laguna Beach High School yöneticileri, bir öğrencinin, yapay zeka kullanarak topluluğun diğer öğrencileri hakkında "uygunsuz görüntüler" oluşturup dolaştırdığı iddiası üzerine bir soruşturma başlattı. Ocak ayında, Beverly Hills'teki beşinci sınıf öğrencisi olan beşinci sınıf öğrencisi, sınıf arkadaşlarının sahte çıplak resimlerini üretmek ve paylaşmakla ilişkili oldukları için okuldan atıldı. Bu öğrenciler, sınıf arkadaşlarının yüzlerini oluşturulan çıplak bedenlere yerleştirmek için yapay zeka kullandılar. Bu resimler, mesajlaşma uygulamaları aracılığıyla yayıldı ve toplamda 16 beşinci sınıf öğrencisini hedef aldı. Los Angeles Unified School District'in bu olayda yapay zeka kullanımı net değildir çünkü bu bilgiyi açıklamadı. Okul bölgesi, iddialara ciddi bir yaklaşım sergileyerek, bu iddiaların Los Angeles Unified topluluğunun değerleriyle uyumlu olmadığını ve gerektiğinde uygun disiplin haksızlık yapılırsa alınacağını belirtti. İlk bulgulara göre, resimlerin Los Angeles Unified ile ilişkili olmayan üçüncü taraf bir mesajlaşma uygulaması kullanılarak oluşturulup paylaşıldığı görülmektedir, okul bölgesinin açıklamasına göre. Okul bölgesi, tüm sınıf seviyelerinde öğrencilere "dijital vatandaşlık" dersleri vermek için çaba gösterdiklerini vurguladı. Ayrıca, etik teknoloji kullanımı, yapay zeka ve okul toplulukları içinde dijital vatandaşlık, gizlilik ve güvenliği teşvik etme konularında eğitimi arttırmaya yönelik taahhütlerini de vurguladılar. Benzer olaylarda yerel polis departmanlarının da dahil olduğu bilinmektedir. Ancak, Los Angeles Unified School District, Los Angeles veya okul polisinin soruşturmaya dahil olup olmadığını veya herhangi bir disiplin cezasının uygulanıp uygulanmadığını açıklamadı. Deepfake teknolojisi, gerçek kişilerin fotoğraflarının bilgisayar tarafından üretilen çıplak bedenlerle birleştirilmesine olanak tanır.

Bu sahte resimler bir cep telefonu kullanılarak üretilebilir. Son bir rapora göre, Calabasas'tan 16 yaşındaki bir lise öğrencisi, eski bir arkadaşının onun hakkında yapay zeka kullanarak pornografik görüntüler üretip dolaştırdığını paylaştı. Ocak ayında, yapay zeka tarafından üretilen Taylor Swift'in cinsel içerikli görüntüleri sosyal medyada yayıldı. Uzmanlar, California bir öğrencinin rızası olmadan sınıf arkadaşının çıplak fotoğrafını paylaşırsa, çocuk pornographyası ve düzensiz davranışla ilgili eyalet yasaları kapsamında soruşturmaya tabi tutulabileceğini savunuyor. Ancak bu yasaların yapay zeka üretimi deepfake'ler için uygulanmayabileceği belirtilmektedir. Kurbanlara, yapay zeka tarafından üretilen cinsel içerikli içeriğin üretimini ve paylaşımını, söz konusu kişilerin onayını almadan suç sayacak bir yasa tasarısı da dahil olmak üzere birçok federal yasa tasarısı önerilmiştir. Başka bir yasa tasarısı ise kurbanlara dava açma hakkı vermeyi amaçlamaktadır. California'da, intikam pornosu ve çocuk pornosunu, bilgisayar tarafından üretilen görüntüleri de içerecek şekilde yasaklamaları genişletme önerileri sunulmuştur. Okul bölgeleri bu teknolojiyi anlamak ve yönetmek için aktif olarak çalışmaktadır. Orange County Eğitim Departmanı, AI ve eğitim sistemine entegrasyonu konusunda aylık toplantılar düzenlemeye başlamıştır.