OpenAI’nin Sora uygulamasıyla oluşturulan videolar, TikTok ve Instagram Reels gibi platformları hızla dolduruyor ve yapay zeka tarafından üretilen sahte içeriklerin neredeyse kaçınılmaz hale gelmesine neden oluyor—bu da birçok kullanıcının giderek daha fazla rahatsızlık duyduğu bir durum. Ancak, dijital güvenlik uzmanları daha derin ve daha az belirgin bir etkiye dikkat çekiyor: OpenAI, deepfake’leri eğlenceli ve ana akım bir trend haline getirerek, öneri algoritmalarıyla teşvik edilen bir şekilde, aslında bu teknolojiyi yeniden markalaştırmış oluyor. Milyonlarca kişi bu videolarla karşılaştıkça, gerçeklik algısı ve çevrimiçi normlar şekilleniyor. Daisy Soderberg-Rivkin, eski TikTok güvenlik yöneticisi, bu durumu deepfake’lerin “bir halkla ilişkiler ve dağıtım anlaşması” kazandığını ve zaten endişe verici olan bu teknolojinin yeni ve geniş bir platformda daha da yaygınlaştığını belirtti. Bluesky güvenlik ve güvenilirlik yöneticisi Aaron Rodericks ise, toplumun gerçeklik ve yapay üretim arasındaki sınırı bulanıklaştırmaya hazırlıksız olduğunu uyardı. Rodericks, kimlik gruplarını veya bireyleri hedef alan kolayca sahte edilen sahte kanıtlar ve büyük ölçekli dolandırıcılık gibi riskleri vurguladı; çoğu kullanıcı ise doğruyu yanlıştan ayırt etmek için medya okuryazarlığı veya araçlara sahip değil. NPR’ye konuşan üç eski OpenAI çalışanı, Sora’nın piyasaya çıkışını şaşırtıcı bulmadıklarını, bunun yatırımcı baskısı altında yeni video teknolojisini tanıtmak için stratejik bir adım olduğunu düşündüklerini söylediler; bu adım, ChatGPT’nin çıkışını andıran bir hamleydi. OpenAI, moderasyon, sahtekarlık, şiddet ve porno içeriklerine karşı yasaklar, watermark kullanımı ve benzerliklerin kontrolü gibi çeşitli güvenlik önlemleri uyguladıysa da, kullanıcılar bu önlemleri aşmanın yollarını buluyor ve şirket ise sürekli yeni çözümler arıyor. Bir anonim eski OpenAI çalışanı, yapay zeka ile üretilen video tabanlı sosyal medyada rekabetin kızışmasıyla güvenlik kurallarının gevşeyebileceğinden ve bunun toplum üzerinde olumsuz etkiler yaratabileceğinden endişe duydu. Soderberg-Rivkin, Sora gibi, güvenlik önlemleri olmayan ve düzenlenmemiş uygulamaların ortaya çıkacağını öngördü—örneğin Elon Musk’ın Grok sohbet botuna benzer yeni platformlar gibi—ve bunların çocuklara yönelik cinsel istismar materyalleri veya devlet destekli gerçekçi propaganda gibi zararlı yapay içerikler üretmekte kullanılabileceğini belirtti. Şu anda Sora, en çok tercih edilen iPhone uygulaması olmakla birlikte, davetiyeyle erişiliyor.

Kullanıcılar, ünlülerin taklit edilmesi ve aşırı sahte içeriklerin (örneğin, sahte Jeffrey Epstein videoları veya Sean “Diddy” Combs’in hapishane açıklamaları) üretiminin zorlaştığını fark ediyor; ancak tutuklamalar veya Nazi kıyafetleri gibi tartışmalı içerikler üretilmeye devam ediyor. OpenAI CEO’su Sam Altman, benzer içeriklerin kullanımını “çıkarma” yerine “katılma” modeline geçirmeyi ve gelir paylaşımı yapmayı planladıklarını açıkladı; bu, ilk ChatGPT günlerindeki hızlı ve gelişen yaklaşıma işaret ediyor. Yapay zeka tarafından oluşturulan içeriklerin artması, kullanıcıların yorgunluğu ve platformların bu tür materyalleri engelleyip engellemeyeceği konusunda soruları gündeme getiriyor. Soderberg-Rivkin, yasak uygulanmasının pek olası olmadığını ve bu politikaların da etkili olmayacağını düşünüyor; çünkü metin, görsel ve videolarda yapay zeka içeriğini tespit etmek giderek zorlaşıyor. Ona göre, “Yapay zekaya hayır” politikası, yapay zekanın çevrimiçi sızmasını durduramaz. Bir başka eski OpenAI çalışanı ise, derin sahte sosyal uygulaması başlatmanın, kötüleşen gerçeklik erozyonuna rağmen akıllıca bir işletme kararı olduğunu savundu; bunun, piyasayı domine edecek birinin kaçınılmaz olduğunu belirtti. Öte yandan, Meta ve Google da rekabet eden yapay zeka video araçları (Vibes ve Veo 3) geliştirdi; ancak Sora’nın piyasaya çıkması, kişisel yapay zeka video içeriğinin yaygınlaşmasını hızlandırdı. Güvenlik ve güvenilirlik uzmanları, Sora’yı tarihi bir dönüm noktası olarak görüyor; bu noktada deepfake’ler, nadir görülen novetelerden günlük dijital içeriğe dönüşüyor ve bunun sonucunda sosyal medyadan uzaklaşma ya da çevrimiçi medyanın bütünlüğüne olan güvenin tamamen sarsılması riski ortaya çıkıyor. Yanlış bilgi uzmanları uzun zamandır “yalancının getirisi”ni uyarıyorlar—yani, bol miktarda deepfake’in gerçek içeriğin sahte olarak reddedilmesine neden olması—ve bu fenomenin gerçekliği artık her zamankinden daha acil hale geldi.