უსაფრთხოების მეთვალყურეს მიხედვით, ხელოვნური ინტელექტის საშუალებებით გენერირებული ბავშვის სექსუალური ჩაგვრის გამოსახულებების გავრცელება ფართო ინტერნეტში იზრდება და აღწევს “კრიტიკულ პუნქტს”. ინტერნეტის მეთვალყურეობის ფონდი (IWF) იტყობინება, რომ უკანონო AI-შექმნილი კონტენტის რაოდენობა, რომელიც ბოლო ექვსი თვის განმავლობაში ნახეს ონლაინ, უკვე გადააჭარბა მთლიან წინა წელს აღმოჩენილი მასალის რაოდენობას. ამ მასალის უმრავლესობა მოხსენიებული იყო ფართო ინტერნეტის საჯარო ხელმისაწვდომ არეალებში და არ იქნა გამოავლინა სიღრმეში ვებში, რომელიც საჭიროა სპეციფიური ბრაუზერები ხელმისაწვდომი გახადოს. დერეკ რეი-ჰილი, IWF-ის დროებითი გამგეობის თავმჯდომარე, აღნიშნა, რომ გამოსახულებების დახვეწილობა მიუთითებს იმაზე, რომ AI საშუალებები იყვნენ გაწვრთნილები ფაქტობრივი მსხვერპლების გამოსახულებების და ვიდეოების გამოყენებით. „ბოლო თვეების მონაცემებით, ეს საკითხი არ მცირდება, არამედ მართლაც გაუარესდა, “ განაცხადა მან. IWF-ის ანალიტიკოსმა აღნიშნა, რომ AI-თ მოქმედი კონტენტის მდგომარეობა მიაღწევს კრიტიკულ ჯერზე, სადაც უსაფრთხოების ორგანიზაციები და სამართლებრივი ორგანოები გაურკვევია გამოსახულება კი ჯერჯერობით მეტყველებს თუ არა რეალურ ბავშვს მწუხარებაში. ამ წლის სექტემბრამდე განხორციელებული ექვსი თვის განმავლობაში, IWF-მა გაამაკროს 74 შემთხვევაში AI-თ შექმნილი ბავშვის სექსუალური ჩაგვრის მასალებთან (CSAM), რომელიც იყო საკმარისად რეალისტური, რომ შეეჯახა გაერთიანებული სამეფოს კანონთან, როდესაც გასული წლის განმავლობაში იყო 70 შემთხვევა. ნაკლები ანგარიშები შეიძლება ეხებოდეს მრავალ გამოსახულებებს, რომლებიც იპოვებიან ვებგვერდზე. გარდა ამისა, IWF-მა შეამჩნია არა მარტო AI გამოსახულებები ფაქტობრივი ჩაგვრის მსხვერპლებით, არამედ „შეცვლილი ღრმა სიმართლე“ ვიდეოები, რომელიც მანიპულირებს ნათესაურ პორნოგრაფიაზე AI გამოყენების მიცემას, რომ შეკრებით სცენარებში გამოსცხადოს მეფობების კონტენტი.

ორგანიზაცია ადრე იცნობდა, რომ AI გამოყენებული იყო ცნობილი ხალხის გამოსახულების სამართლებრივი შემთხვევების შექმნაში, როგორც ბავშვთა გვერდის კარტინები. • სხვა შემთხვევებში მიაღებული იქნა AI-თ შექმნილ გამოსახულებებს, სადაც ფოტოები დატოვებული ბავშვების შესახებ ინტერნეტში შეიცვალა, რომ გამოჩნდნენ შიშველ. ბოლო ექვსი თვის განმავლობაში IWF-ის მიერ აღინიშნა, რომ AI-თ შექმნილი კონტენტის 50%-ზე მეტი რუსეთსა და აშშ-ში მდებარე სერვერებზე იყო განათლებული, იაპონიამ და ნიდერლანდებმაც მნიშვნელოვან რაოდენობებთან ერთად. IWF სიაში აქვეყნებს URL-ებს, რომლებიც შეესაბამება ამ გამოსახულებას, რაც შემდეგ იზიარებს ტექნოლოგიური ინდუსტრიასთან ბლოკაციის განყოფილებით და ხელმიშვნელად გახადოს. IWF-მ განაცხადა, რომ არაკანონიერი AI-თ მოქმედი გამოსახულების შესახებ მოვრცილების 80% მოვიდა სოციალური ადგილების თანაგარდარების აღნიშვნებისგან, რომელიც საჯარო ფორუმებში ან AI გალისტრებზე პოულობდნენ. Instagram-ი sextortion-ის საკითხზე პასუხის გაცემით, რომელიც მოაზროვნეებს ატყუებს მათზე ნათების ინტიმური გამოსახულების გადაცემაში, უნიკალური ქალის იდენტიფიკაციის მქონე კრიმინალების მიერ, Instagram-მა გაამიანი ახალი ზომები. პლატფორმა განასახობებს ფუნქციას, რომელიც რბილ სურათებს პირდაპირ მიგზავნებში იწყებს (DMs), ნიშნავს მომხმარებლებს ჩამოაყენონ ნებისმიერი შეტყობინების გაგზავნამდე ან არა. როდესაც რბილი სურათი მიიღება, მომხმარებელს შეუძლია გადაწყვიტოს ნახვა და შეუძლია შეგონება მიიღოს, რომ შეუძლია დაბლოკოს გამგზავნი ან შეგონება მიცემოს ინსტაგრამს. ეს ფუნქცია ავტომატურად ჩაირთვება თინეიჯერების ანგარიშებზე გლობალურად დაწყების კვირიდან და შესაძლებელია დაეხმაროს რეკრუფხული შეტყობინებების მოლოდინით მიუხედავად იმისა, რომ „დევაისზე შეუსაბამო იდენტიფიკაცია“ ინსტრუმენტის მიერ რბილის სურათები ავტომატურად ინსტაგრამზე ან სამართლებრივი ორგანიზაციებისთვის შეესაბლა ვერ მოხდება.