Kamu Menfaati için Çalışan ve kamu çıkarlarını korumaya adamış önde gelen denetim kurumu Public Citizen, Deepfake teknolojisinin önemli riskler taşıdığı gerekçesiyle OpenAI'den hemen Sora 2 adlı yapay zeka destekli video uygulamasını geri çekmesini talep etti. Grup, sosyal medyada gerçekliği manipüle eden ve yanlış bilgi yayan AI tarafından üretilen videolara artan endişeler arasında demokrasiye, kişisel haklara ve kamu güvenliğine yönelik tehditleri vurguluyor. Public Citizen’e göre, OpenAI’ın Sora 2’yi aceleyle piyasaya sürmesi büyük ölçüde yapay zeka alanındaki rekabet baskılarından kaynaklandı ve bu nedenle kamuya açık lansman öncesinde yeterli güvenlik önlemleri alınmadı. Sonuç olarak, Sora 2, onaysız deepfake videoların yaygın şekilde oluşturulması ve dağıtılmasını mümkün kıldı; bu videolar, kadınlara karşı taciz amacıyla kullanılmış ve olayları uydurmak için kullanılarak duygusal ve itibar kaybına neden oldu. Kullanıcıların yapay zeka destekli video klipler oluşturmasına olanak tanıyan bu uygulama, TikTok ve Instagram gibi platformlarda hızla popülerlik kazandı. İçeriği, garip ve abartılı ünlü betimlemelerden, gerçekmiş gibi görünüp kamu algısını saptırabilecek gerçekçi ama yanıltıcı senaryolara kadar geniş bir yelpazede değişiyor. Public Citizen, teknolojinin ikna edici olmakla birlikte yanlış da olabilen görüntüler üretme kapasitesinin ciddi riskler taşıdığını vurguluyor; özellikle de bu videolar bağlam veya doğrulama olmadan yayıldığında durum daha da tehlikeli hale geliyor. OpenAI, bazı endişeleri –örneğin Martin Luther King Jr. gibi belirli figürlerin betimlemelerini engellemek ve SAG-AFTRA gibi sektör gruplarıyla işbirliği yapmak– ele almaya çalıştıysa da, eleştirmenler bu çabaların daha çok tepkisel olduğunu, proaktif olmadığını savunuyor.

Public Citizen, OpenAI’nin temel olarak kamuoyunun tepkisine yanıt verdiğini ve etik kuralları başlangıçtan itibaren kurmadığını iddia ediyor. Bu, OpenAI’nin yapay zekaya bağlı zararlar konusundaki ilk tartışması değil. Şirketin ChatGPT platformu, psikolojik zarar, ihmal ve yetersiz kötüye kullanım önlemleri iddialarıyla davalarla karşı karşıya kalmıştı. Public Citizen, yapay zeka destekli araçların kapsamlı denetim olmadan piyasaya sürülmesinin bu sorunları daha da artırdığını ve dijital medyaya olan güveni ve demokratik kurumları tehdit ettiğini uyarıyor. OpenAI, Sora 2 hakkında sınırlı sayıda kamuoyu açıklaması yaptı ve içerik üreticileri, film stüdyoları ve hak sahipleriyle işbirliği içinde korumaları artırmak ve kötüye kullanma risklerini azaltmak için çalışmalar yürüttüklerini belirtti. Şirket, ayrıca Japonya’daki yaratıcı sektörlerle de iletişim kuruyor; yapay zekanın sanatsal haklar ve fikri mülkiyet üzerindeki etkilerinden endişe duyuyorlar. Public Citizen, Sora 2 gibi üretici yapay zeka uygulamalarının hızla ve belli kurallar olmadan piyasaya sürülmesinin gizlilik, gerçeklik ve demokratik istikrarı zayıflattığını vurguluyor. Uygulamayı kaldırma talebinde bulunmaları, yapay zeka sektörünün toplumsal yararları piyasa rekabetinden ön planda tutması çağrısının bir parçası. Kamu politikacıları, geliştiriciler ve sivil toplum kuruluşlarından, sorumlu yapay zeka geliştirme ve kullanımını sağlayacak kapsamlı ve etik çerçeveler oluşturmalarını istiyorlar. Yapay zeka teknolojisi geliştikçe ve toplum içine daha fazla entegre oldukça, Public Citizen’in uyarıları, böylesine dönüştürücü araçların kullanımında karşılaşılan temel zorluklar ve sorumlulukların altını çiziyor. Yeniliği teşvik etmekle birlikte kamu menfaatlerini korumak, yapay zeka tarafından üretilen içeriklerin karmaşıklığı ve sonuçları genişlerken hayati önem taşıyor.