Dirbtinio intelekto technologijos, nepaisant daugybės pažangų ir naudų įvairiuose sektoriuose, pastaruoju metu buvo išnaudotos būdais, keliančiais svarbių etinių ir teisinių klausimų. Viena ypač neraminanti problema yra DI naudojimas manipuliuoti šeimos nuotraukomis, paverčiant jas nepadoriais vaizdais. Šis neteisėtas naudojimo būdas vis labiau tai kelia susirūpinimą teisėsaugos institucijoms ir vaikų apsaugos aktyvistams visame pasaulyje. Dirbtinio intelekto valdomos vaizdų manipuliacijos leidžia paprastoms šeimos nuotraukoms – skirtoms įamžinti laimingus ir privatus akimirkas – būti pakeistoms į netinkamą ir žalingą turinį be tų, kurie vaizduojami, sutikimo ar žinios. Šie pakoreguoti vaizdai gali atrodyti itin realistiškai, todėl jų aptikimas ir teisminis nagrinėjimas yra labai sudėtingi. Teisėsauga yra pirmaujanti kovojant su šiuo neraminančiu reiškiniu. DI algoritmų tikslumas leidžia piktavaliams kurti ar keisti vaizdus, kuriuose vaizduojami nepilnamečiai, netinkamai, komplikuojant tyrimus ir trukdant teisingumui. Tokie suklastoti vaizdai gali būti platinami internetu plačiai, prisidedant prie platesnės vaikų seksualinės prievartos medžiagos (CSAM) sklaidos problemos. Tradiciškai kovojant su CSAM, dėmesys būdavo skiriamas tikriems vaizdams ir vaizdo įrašams, gautiems iš tikrų nusikaltimų.

Tačiau dirbtinio intelekto generuojami netikri vaizdai sukelia naują sudėtingumo sluoksnį – jie nesimoko iš realių nusikaltimų, tačiau gali būti panaudoti priekabiavimui, prievartavimui ar šantažui, sukeliant reikšmingą emocinį skausmą vaizduojamiems asmenims. Be to, DI modifikuotų nepadorių vaizdų egzistavimas kelia iššūkių dabartinėms teisės normoms. Prokurorai ir įstatymų leidėjai sunkiai apibrėžia ir kategorizuoja šiuos DI sukurtus vaizdus – atskiria juos nuo tikrų vaikų išnaudojimo turinio ir nusprendžia dėl tinkamų sankcijų bei prevencijos būdų. Šis teisės aiškumas kartais pristabdo efektyvią kovą su nusikaltėliais. Technologijų įmonės ir kibernetinio saugumo ekspertai aktyviai kuria pažangius aptikimo įrankius, siekdami greitai ir tiksliai identifikuoti DI modifikuotus vaizdus ir apriboti jų plitimą socialiniuose tinkluose bei tamsiojoje internete. Tačiau, kadangi DI technikos sparčiai vystosi, aptikimo metodų eiga turi būti nuolat tobulinama, kad jie liktų veiksmingi. Visuomenės švietimo kampanijos turi esminę vaidmenį. Mokinant šeimas apie galimus pavojus ir ragindami būti atsargiems dalijantis nuotraukomis internete, galima sumažinti šios rūšies išnaudojimo riziką. Ypač tėvams ir globėjams rekomenduojama būti atsargiems, kai skelbiama šeimos nuotraukas, ypač vaizduojant nepilnamečius, viešose ar nesaugiose platformose. Apibendrinant, nors DI toliau keičia kasdienį gyvenimą, jo netinkamas naudojimas kuriant nepadorius šeimos nuotraukų pakeitimus kelia rimtus iššūkius, reikalaujančius koordinuoto veikimo. Teisėsauga, teisinės sistemos, technologijų tiekėjai ir visuomenė turi bendradarbiauti kuriant efektyvias strategijas, kaip įveikti šią naują interneto vaikų seksualinės prievartos formą. Gerinant technologines gynybines priemones, stiprinant teisines priemones ir didinant informuotumą, visuomenė gali veiksmingiau apsaugoti vaikų teises ir orumą skaitmeninėje erdvėje.