Технологијата за вештачка интелигенција, и покрај тоа што нуди многу напредоци и предности во различни сектори, неодамна беше злоупотребена на начини кои имаат значајни етички и правни последици. Еден од најзагрижувачките проблеми е употребата на АИ за манипулирање со семејни фотографии во непристојни слики. Оваа форма на злоупотреба станува се поголем проблем за служби за безбедност и заштита на децата ширум светот. Производите од вештачка интелигенција за манипулација со слики сега овозможуваат обичните семејни фотографии—кои имаат за цел да ја доловат среќната и приватната реалност—да се променат во несоодветни и штетни содржини без согласност или знаење на луѓето на сликите. Овие манипулирани фотографии можат да изгледаат застрашувачки реалистично, што ја отежнува нивната детекција и гонење. Настапените од служби за безбедност се на првата линија во борбата против овој вознемирувачки тренд. Точноста на алгоритмите за АИ овозможува злонамерните актери да создаваат или измислуваат слики со малолетници во непристојни ситуации, што ја комплицира истрагата и одолговлекува правдата. Таквите измислени слики можат широко да се шират на интернет, што дополнително го нагласува проблемот со циркулацијата на материјал со детска сексуална злоупотреба (CSAM). Традиционално, напорите за борба против CSAM биле фокусирани на откривање и отстранување на автентичните фотографии и видеа од вистинска злоупотреба.

Сепак, лажните слики создадени со АИ додаваат ново ниво на сложеност—нивните содржини не го претставуваат вистинското злоупотребување, но тие можат да бидат злоупотребени за вознемирување, присила или рекет, нанесувајќи значајна емоционална штета на оние кои се наоѓаат на нив. Покрај тоа, присуството на непристојни слики кои изгледаат како создадени со АИ претставува предизвици за сегашните правни рамки. Јавните обвинители и законодавците се соочуваат со тешкотии да ги дефинираат и категоризираат овие визуелни материјали создадени со вештачка интелигенција—да ги разграничат од вистински содржини за злоупотреба на дете и да одредат соодветни казни и превентивни мерки. Оваа правна неизвесност понекогаш ја забавува ефективната реакција против сторителите. Технолошките компании и стручњаците за безбедност на интернет активно развиваат напредни алатки за детекција со цел брзо и прецизно да ги идентификуваат сликите создадени со АИ, со цел да го спречат нивното ширење на социјалните мрежи и на темниот интернет. Меѓутоа, бидејќи техниките за АИ брзо напредуваат, методите за детекција мора секогаш да се адаптираат за да останат ефективни. Кампањите за јавна свест играат важна улога во ова. Обучувањето семејства за потенцијалните ризици и промовирањето на претпазливост при објавување фотографии на интернет можат да помогнат во намалувањето на изложеноста на такви злоупотреби. Родителите и чуварите особено се посоветувани да бидат внимателни при објавувањето на семејни фотографии, особено оние со малолетници, на јавни или неосигурени платформи. Во заклучок, додека вештачката интелигенција продолжува да го трансформира секојдневниот живот, нејзината злоупотреба за создавање непристојни измени на семејните фотографии отвора сериозни предизвици кои бараат координирана акција. Правосудните органи, правните системи, технолошките провајдери и јавноста мора да соработуваат за да развијат ефикасни стратегии за борба против оваа нова форма на онлајн сексуална злоупотреба на деца. Со подобрување на технолошките одбрани, јакнење на правните мерки и зголемување на свесноста, општеството може посилно да ги заштити правата и достоинството на децата во дигиталната ера.