Władze szkół w Los Angeles obecnie prowadzą dochodzenie w sprawie oskarżeń o rozpowszechnianie nieodpowiednich zdjęć w społeczności Fairfax High School, co wskazuje na kolejny przypadek możliwego nadużycia technologii przez uczniów, jak wynika z oświadczenia dystryktu. Zaledwie w zeszłym tygodniu administrowanie Laguna Beach High School rozpoczęło śledztwo po tym, jak uczeń rzekomo użył sztucznej inteligencji do tworzenia i rozpowszechniania "nieodpowiednich zdjęć" kolegów ze szkoły. W styczniu pięciu ósmoklasistów z Beverly Hills zostało wydalonych ze szkoły za ich udział w tworzeniu i udostępnianiu fałszywych nagich zdjęć kolegów z klasy. Uczniowie ci wykorzystali sztuczną inteligencję do nałożenia twarzy kolegów na wygenerowane nagie ciała. Zdjęcia, które były rozpowszechniane za pośrednictwem aplikacji wiadomości, celowały w łącznie 16 ósmoklasistów. Udział sztucznej inteligencji w incydencie w Fairfax High jest nadal niejasny, ponieważ Los Angeles Unified School District nie udostępnił tej informacji w swoim oświadczeniu. Dystrykt wyraził poważne podejście do oskarżeń, stwierdzając, że nie są one zgodne z wartościami społeczności Los Angeles Unified, i odpowiednie środki dyscyplinarne zostaną podjęte, jeśli będzie taka potrzeba. Na podstawie wstępnych ustaleń wydaje się, że zdjęcia zostały stworzone i udostępnione za pomocą aplikacji wiadomości stron trzecich niepowiązanych z Los Angeles Unified, jak wynika z oświadczenia dystryktu. Dystrykt podkreślił swoje wysiłki w zakresie prowadzenia lekcji "obywatelstwa cyfrowego" dla uczniów wszystkich klas. Akcentowali swoje zaangażowanie w podnoszenie świadomości dotyczącej etycznego korzystania z technologii, w tym sztucznej inteligencji, promowanie obywatelstwa cyfrowego, prywatności i bezpieczeństwa w społeczności szkolnej. Podobne incydenty wymagały zaangażowania lokalnych służb policyjnych. Jednak Los Angeles Unified School District nie ujawnił, czy w dochodzeniu zaangażowane były policja Los Angeles lub policja szkolna, ani czy podjęto jakiekolwiek środki dyscyplinarne. Technologia deepfake umożliwia łączenie prawdziwych zdjęć osób z wygenerowanymi komputerowo nagimi ciałami.

Te sfabrykowane obrazy mogą być tworzone za pomocą telefonu komórkowego. Według niedawno opublikowanego raportu stacji KABC-TV, 16-letnia uczennica z Calabasas podzieliła się, że była ofiarą byłej przyjaciółki, która użyła sztucznej inteligencji do generowania i rozpowszechniania pornograficznych zdjęć. W styczniu na mediach społecznościowych rozpowszechnione zostały sztucznie generowane obrazy o charakterze seksualnym przedstawiające Taylor Swift. Eksperci twierdzą, że jeśli uczeń z Kalifornii udostępni nagie zdjęcie kolegi z klasy bez zgody, grozi mu oskarżenie zgodnie z przepisami stanowymi dotyczącymi pornografii dziecięcej i wykroczeń obyczajowych. Jednak te przepisy mogą nie dotyczyć deepfake'ów generowanych za pomocą sztucznej inteligencji. Wielokrotnie proponowano uchwalenie federalnych ustaw, w tym jednej, która kryminalizuje produkcję i udostępnianie sztucznie generowanego treści seksualnie eksplicitnego bez zgody przedstawionych osób. Inny projekt ustawy ma na celu przyznanie ofiarom prawa do wniesienia pozwu. W Kalifornii, ustawodawcy wysunęli propozycje rozszerzenia zakazów dotyczących revenge porn i pornografii dziecięcej na obejmowanie wygenerowanych komputerowo obrazów. Dystrykty szkolne aktywnie pracują nad zrozumieniem i zarządzaniem tą technologią. Departament Edukacji Orange County rozpoczął prowadzenie miesięcznych spotkań z dystryktami w celu omówienia sztucznej inteligencji i jej integracji w system edukacji.