I en växande mängd incidenter där artificiell intelligens (AI) används för att skapa och sprida manipulerade bilder av elever, särskilt unga flickor, brottas skolor och föräldrar med utmaningen att hantera denna fråga. Ett fall i Illinois, där en elev använde AI för att skapa nakenbilder av klasskamrater, har lett till en polisutredning. På liknande sätt har det skett incidenter i Florida och Kalifornien som har lett till gripanden och avstängningar av elever som varit inblandade i att skapa och dela manipulerade bilder med hjälp av AI-teknologi.

Eftersom dessa incidenter fortsätter att inträffa uppmanas utbildare och administratörer att fastställa tydliga regler och policys för användning av AI för att förebygga sådana incidenter i framtiden. Den ökande förekomsten av AI i samhället kräver proaktiva åtgärder för att hantera missbruk av teknologin.