Veštačka inteligencija, uprkos brojnim dostignućima i prednostima u raznim sektorima, nedavno je zloupotrebljena na načine koji izazivaju ozbiljne etičke i pravne zabrinutosti. Jedan posebno zabrinjavajući problem je korišćenje AI za manipulaciju porodičnih fotografija u neprimerene slike. Ovaj vid zloupotrebe postaje sve veći problem za organe gonjenja i zaštitu dece širom sveta. AI-vođena manipulacija slikama sada omogućava običnim porodičnim fotografijama – koje treba da uhvate srećne i privatne trenutke – da se preprave u neprikladan i štetan sadržaj bez pristanka ili znanja osoba na slici. Ove manipulirane slike mogu izgledati alarmantno realistično, što otežava njihovo otkrivanje i gonjenje počinilaca. Policija i drugi organi za sprovođenje zakona vode glavnu reč u suzbijanju ovog uznemirujućeg trenda. Preciznost AI algoritama omogućava zlonamernim akterima da kreiraju ili modifikuju slike koje uključuju maloletnike na neprimeren način, što otežava istrage i usporava pravdu. Takve lažne slike mogu se široko deliti na internetu, doprinoseći širem problemu cirkulacije materijala o seksualnom zlostavljanju dece (CSAM). Tradicionalno, napori u suzbijanju CSAM fokusirali su se na identifikaciju i uklanjanje originalnih fotografija i videa nastalih putem stvarnog zlostavljanja.

Međutim, AI-generisane lažne slike donose novu složenost – one ne prikazuju stvarno zlostavljanje, ali mogu biti zloupotrebljene za uznemiravanje, ucenu ili otmicu, izazivajući značajnu emotivnu štetu kod osoba na slici. Takođe, prisustvo AI-izmenjenih neprimerenih slika izaziva probleme u važećim pravnim okvirima. Tužioci i zakonodavci imaju poteškoće da jasno definišu i kategorizuju ove AI-kreirane videe – razlikujući ih od pravog sadržaja o zloupotrebi dece i određujući odgovarajuće kazne i mere prevencije. Ova pravna nejasnoća ponekad usporava efikasne reakcije protiv počinilaca. Kompanije za tehnologiju i stručnjaci za sajber bezbednost aktivno razvijaju napredne alate za otkrivanje koji brzo i precizno identifikuju slike manipulirane AI-jem, sa ciljem da se spreči njihovo širenje na društvenim mrežama i na tamnom webu. Ipak, s obzirom na brzi razvoj AI tehnika, metode otkrivanja moraju se stalno unapređivati kako bi ostale efektivne. Javne kampanje podizanja svesti igraju ključnu ulogu u ovom procesu. Edukacija porodica o potencijalnim rizicima i podsticanje opreza prilikom deljenja fotografija na internetu mogu pomoći u smanjenju rizika od ovakvih zloupotreba. Posebno se savetuje roditeljima i starateljima da budu oprezni kod objavljivanja porodičnih slika, posebno onih koje prikazuju maloletnike, na javnim ili nesigurnim platformama. Ukratko, iako AI i dalje transformiše mnogo aspekata svakodnevnog života, njena zloupotreba u generisanju neprimerenih modifikacija porodičnih fotografija donosi ozbiljne izazove koji zahtevaju koordinisane napore. Organi reda, pravni sistemi, tehnološki pružaoci i javnost moraju zajednički raditi na razvoju efikasnih strategija za suzbijanje ove pojavnosti online zlostavljanja dece. Unapređivanjem tehnoloških odbrana, jačanjem pravnih mera i podizanjem svesti, društvo može efikasnije štititi prava i dostojanstvo dece u digitalnom dobu.