ვიდეოები, რომლებიც შექმნილია OpenAI-ს Sora აპლიკაციით, სწრაფად იპყრობს პლატფორმებს, როგორიცაა TikTok და Instagram Reels, რაც თითქმის unavoidable-ნად აქცევს სინთეტიკურ AI-დან შექმნილ შინაარსს — ბევრი მომხმარებლისთვის ეს წესიერული მტკივნეული საკითხია. თუმცა, ციფრული უსაფრთხოების ექსპერტები აფრთხილებენ უფრო ღრმა, ნაკლებად გამოხატულ ზეგავლენაზე: OpenAI-ს ეფექტურად წარუდგინა დიფფეიქები როგორც გასართობი, მთავარ წამახალისებელ მარკეტინგულ ტენდენციად, რომელიც რეკომენდაციული ალგორითმებისეულმა რეიტინგებმა დაუჩინოს. ამ ვიდეოებს მრავალმა ნახა, და დამოკიდებულებები სიმართლესა და ონლაინ ნორმებზე იცვლება. დეიზე სოდერბერგ-რივკინი, ყოფილი TikTok-ის სანდოობისა და უსაფრთხოების მენეჯერი, აღწერს ამას, როგორც დიფფეიქების მიღებას "პუბლიცისტისა და გავრცელების გარიგება", რასაც ემატება უკვე მიხვედრილი ტექნოლოგია ახალი, დიდი პლატფორმის მქონე. ეარონ როდერიკსი, Bluesky-ის სანდოობისა და უსაფრთხოების ხელმძღვანელი, გაფრთხილებულია, რომ საზოგადოება ვერ არის მზად რეალობისა და ფაბრიკაციის სიღრმის ზღვრის გასარჩევად. მან ხაზგასმით აღნიშნა რისკები, როგორიცაა იოლიფაბრიკირებული ყალბი სამხილები ადგილობრივი ჯგუფებისთვის ან ინდივიდებისთვის, და მასშტაბური ძაღლები, როდესაც უამრავი მომხმარებელი არ ფლობს მედია განათლებას ან ინსტრუმენტებს სიმართლისა და ფანტასტიკის გასარჩევად. სამმა ექს- OpenAI თანამშრომელმა NPR-ს უთხრა, რომ Sora-ს გაშვება მათთვის მოულოდნელი არ იყო, მათ მიიჩნიეს ეს კოზირად ახალი ვიდეო ტექნოლოგიის პრეზენტაციისთვის, საინვესტიციო პერდიადში, რომელიც reminiscentობდა ChatGPT-ს დებიუტს. OpenAI-მ გამოიყენა რამდენიმე უსაფრთხოების რეგულაცია — მათ შორის მოდერაცია, ძაღლების აკრძალვა, ძალადობის და პორნოგრაფიის აკრძალვები, ვერცხლის ნიშნების გამოყენება და ლიკენსების კონტროლი — თუმცა მომხმარებლები ხშირად იყენებენ ხრიკებს საკუთარი დაცვის მოპოვებისთვის, რაც სხვადასხვა წამოწყებაში გამუდმებით საჭიროებს კომპანიად რეაგირებას. ერთი ანონიმური ყოფილი OpenAI თანამშრომელი გამოთქვამს შეშფოთებას, რომ როდესაც კონკურენცია გრძელდება AI-გან შექმნილი ვიდეო სოცმედიაში, უსაფრთხოების წესები შეიძლება გაძლიერდეს, რაც შესაძლოა საზოგადოებისთვის საზიანო იყოს. სოდერბერგ-რივკინი ვარაუდობს, რომ გაუკონტროლებელი, Sora-ს მსგავსი აპლიკაციები without უსაფრთხოების ზომები, დაიწყებენ გამოჩენას — მსგავსი Elon Musk-ის Grok მსგავსი ჩატბოტის, — და იქნება გამოყენებული კი ჰორորը, როგორიცაა ბავშვთა სექსუალური ძალადობის მასალა ან სახელმწიფოს ეკონომიკური პროპაგანდა. ამ დროისთვის, Sora iPhone-ის ყველაზე პოპულარული აპლიკაციაა, მაგრამ ჯერ კიდევ ექსკლუზიური წვრთნილია მიწოდებაზე.

მომხმარებლები აღნიშნავენ ვითარების დაძაბულობის ზრდას: ცნობილების იმიტირება და უკიდურესი ფაილები (მაგალითად, ფეიკი ჯეფრი ეფსტეინის ვიდეოები ან შონ “დიდი” კომბსის სამადarsinnaapput) უფრო გაგართულად ხდება, თუმცა კონტენტში მტკიცებულებათა, მაგალითად დაპატიმრებებისა თუ ნაცისტური ფორმის ფაილების შექმნა კვლავ შესაძლებელია. OpenAI-ს თანამეღვაწე სემი ალტმანი გამოაცხადა გეგმებზე, რომ მისთვის ლიკენსების გამოყენება “უარყოფილი” (opt-out)-დან “შერჩევით მიღებულად” (opt-in) გადასვლას და შემდგომ შემოსავლების გაზიარებას უფლებადამცველებისთან ერთად, რაც სწრაფად ვითარდება ისეთივე როგორც ადრე იყო ChatGPT-ის დებიუტი. ადამიანებმა, რომლებიც მოიხსნი გახმოვანებამ, ინტროვიზიციული ამო, რომ გუნდის გენერალური მიზანი ჯერ ისევ AI-გან შემოსული ვიდეოების ბაზრის გამტაცებელია და დიდი მნიშვნელობა აქვს, მოუწევთ თუ არა პლატფორმებს მკაცრი შეზღუდვების დაწესება თუ აკრძალვა. სოდერბერგ-რივკინი მიიჩნევს, რომ აკრძალვა ნაკლებად სავარაუდოა და შედეგიც უუნარო, რადგან AI კონტენტის აღმოჩენა ტექსტში, სურათებში და ვიდეოებს შორის სულ უფრო ძნელდება. მან გაფრთხილება გასცა, რომ “არა-AI” პოლიტიკა ვერ უშლის არაფერს AI-ის ინტეგრაციას ონლაინ სივრცეში. მეორე ექს-OpenAI თანამშრომელი დაამატა, რომ deepfake სოციალური აპის გაშვება სწორ ბიზნეს-ცდილად არის დასმული, მიუხედავად იმისა, რომ რეალობა უფრო და მარტივად ერის ეცოდინება უქმნის. მან აღნიშნა, რომ ეს გარდაუვალია, ვინაიდან ვინმეს უნდა მიეღოს ლიდერობა ამ ბაზარზე. იმავდროულად, Meta და Google გამოუშვეს კონკურენტულ AI ვიდეო ხელსაწყოებს (Vibes და Veo 3), მაგრამ Sora-ს გამოშვებამ ნამდვილად შეუწყო პიროვნული AI ვიდეო კონტენტის მასიური გავრცელება. სანდოობის და უსაფრთხოების ექსპერტები მიიჩნევენ Sora-ს ერთ-ერთ პიროვნება ისტორიაში, რომ deepfakes-მა გადაინაცვლოს იშვიათი ანახლებიდან ყოველდღიურ ციფრულ შინაარსად, რაც შეიძლება გამოიწვიოს სოციალურ მედიაში გამოყოფა ან ნდობის ნგრევა ონლაინ მედიის ერთგულებაზე. დეზინფორმაციის ექსპერტები ხანგრძლივად აფრთხილებდნენ “მწტავის დივიდენდს” — სადაც მრავალი deepfake საშუალებას აძლევს ნამდვილ კონტენტი განგებ მოხსნას როგორც ყალბი — მაგრამ ამ მოვლენას ახლა მეტად აუცილებელი სიდიდე აქვს.