Las autoridades escolares de Los Ángeles están investigando actualmente denuncias de fotos inapropiadas que se están circulando dentro de la comunidad de la Escuela Secundaria Fairfax, lo que indica otro posible caso de mal uso de la tecnología por parte de los estudiantes, según un comunicado del distrito. Justo la semana pasada, los administradores de la Escuela Secundaria Laguna Beach iniciaron una investigación después de que un estudiante supuestamente utilizara inteligencia artificial para crear y circular "imágenes inapropiadas" de sus compañeros de clase. En enero, cinco estudiantes de octavo grado de Beverly Hills fueron expulsados por su participación en la creación y distribución de imágenes falsas desnudas de sus compañeros de clase. Estos estudiantes utilizaron inteligencia artificial para superponer los rostros de sus compañeros de clase sobre cuerpos desnudos generados. Las imágenes, que se difundieron a través de aplicaciones de mensajería, apuntaban a un total de 16 estudiantes de octavo grado. La participación de la IA en el incidente de Fairfax High aún no está clara, ya que el Distrito Escolar Unificado de Los Ángeles no proporcionó esta información en su comunicado. El distrito expresó una postura seria ante las denuncias, afirmando que no se alinean con los valores de la comunidad unificada de Los Ángeles y que se tomarán las medidas disciplinarias adecuadas en caso necesario. Según los hallazgos iniciales, parece que las imágenes fueron creadas y compartidas utilizando una aplicación de mensajería de terceros no afiliada a Los Ángeles Unificado, según el comunicado del distrito. El distrito destacó sus esfuerzos para brindar lecciones de "ciudadanía digital" a los estudiantes de todos los niveles. Hicieron hincapié en su compromiso de mejorar la educación sobre el uso ético de la tecnología, incluida la IA, así como de promover la ciudadanía digital, la privacidad y la seguridad dentro de las comunidades escolares. Incidentes similares han involucrado la participación de departamentos de policía locales. Sin embargo, el Distrito Escolar Unificado de Los Ángeles no reveló si la policía de Los Ángeles o la escolar han participado en su investigación o si se han tomado medidas disciplinarias. La tecnología deepfake permite fusionar fotos reales de personas con cuerpos desnudos generados por computadora.

Estas imágenes fabricadas se pueden crear utilizando un teléfono móvil. Según un informe reciente de KABC-TV, una estudiante de secundaria de 16 años de Calabasas compartió que un antiguo amigo utilizó IA para generar y difundir imágenes pornográficas de ella. En enero, imágenes sexualmente explícitas generadas por IA de Taylor Swift se difundieron en las redes sociales. Los expertos argumentan que si un estudiante de California comparte una foto desnuda de un compañero de clase sin consentimiento, potencialmente podrían enfrentar enjuiciamiento según las leyes estatales sobre pornografía infantil y conducta desordenada. Sin embargo, estas leyes podrían no aplicarse a deepfakes generados por IA. Se han propuesto numerosos proyectos de ley federales, incluido uno que criminalizaría la producción y difusión de contenido sexualmente explícito generado por IA sin el consentimiento de las personas representadas. Otro proyecto de ley tiene como objetivo otorgar a las víctimas el derecho a demandar. En California, los legisladores han presentado propuestas para ampliar las prohibiciones de la pornografía vengativa y la pornografía infantil para incluir imágenes generadas por computadora. Los distritos escolares están trabajando activamente para comprender y gestionar esta tecnología. El Departamento de Educación del Condado de Orange ha comenzado a liderar reuniones mensuales con los distritos para discutir la IA y su integración en el sistema educativo.