Το Public Citizen, ένας εξέχων οργανισμός επιτήρησης αφιερωμένος στην προστασία του δημόσιου συμφέροντος, κάλεσε την OpenAI να αποσύρει άμεσα την εφαρμογή βίντεο με τεχνητή νοημοσύνη, Sora 2, επικαλούμενος σημαντικούς κινδύνους που εγείρει η τεχνολογία deepfake. Ο οργανισμός επισημαίνει απειλές για τη δημοκρατία, τα προσωπικά δικαιώματα και την δημόσια ασφάλεια amid αυξανόμενες ανησυχίες για βίντεο που παράγονται με τεχνητή νοημοσύνη, τα οποία παραποιούν την πραγματικότητα και διαδίδουν παραπληροφόρηση στα social media. Σύμφωνα με το Public Citizen, η βιαστική κυκλοφορία του Sora 2 από την OpenAI οφείλεται κατά κύριο λόγο σε ανταγωνιστικές πιέσεις στη τεχνητή νοημοσύνη, οδηγώντας σε ανεπαρκή μέτρα ασφαλείας πριν από την δημόσια παρουσίαση. Ως αποτέλεσμα, το Sora 2 έχει επιτρέψει τη μαζική δημιουργία και διανομή videos deepfake χωρίς συναίνεση, πολλά από τα οποία περιέχουν disturbing περιεχόμενο που χρησιμοποιείται για παρενόχληση γυναικών και κατασκευή γεγονότων, προκαλώντας ψυχολογική και φήμης ζημιά. Η εφαρμογή, που επιτρέπει στους χρήστες να δημιουργούν βίντεο με τεχνητή νοημοσύνη, έχει ταχύτατα αποκτήσει δημοφιλία σε πλατφόρμες όπως το TikTok και το Instagram. Το περιεχόμενό της ποικίλλει από παράξενα, υπερβολικά πορτρέτα διασημοτήτων μέχρι ρεαλιστικά αλλά παραπλανητικά σενάρια που μπορούν να διαστρεβλώσουν την κοινή αντίληψη. Το Public Citizen επισημαίνει ότι η ικανότητα της τεχνολογίας να παράγει πειστικό αλλά ψευδές υλικό θέτει σοβαρούς κινδύνους, ειδικά όταν αυτά τα βίντεο διαδίδονται χωρίς πλαίσιο ή επιβεβαίωση. Αν και η OpenAI προσπάθησε να αντιμετωπίσει ορισμένες ανησυχίες—όπως το μπλοκάρισμα απεικονίσεων ορισμένων χαρακτήρων, όπως ο Martin Luther King Jr. , και η συνεργασία με βιομηχανικές ενώσεις όπως η SAG-AFTRA—οι επικριτές υποστηρίζουν ότι αυτές οι προσπάθειες είναι αντιδραστικές και όχι προληπτικές. Το Public Citizen διατείνεται ότι η OpenAI απαντά κυρίως στην δημόσια οργή αντί να θέτει ηθικά όρια από την αρχή. Αυτή δεν είναι η πρώτη φορά που η OpenAI βρίσκεται σε controversey σχετικά με ζημιές που προκαλεί η τεχνητή νοημοσύνη.

Η πλατφόρμα ChatGPT έχει αντιμετωπίσει μηνύσεις για ψυχολογική ζημιά, αμέλεια και ανεπαρκείς μηχανισμούς καταπολέμησης κακής χρήσης. Το Public Citizen προειδοποιεί ότι η κυκλοφορία εργαλείων γεννήσιμης τεχνητής νοημοσύνης χωρίς αυστηρή εποπτεία επιτείνει αυτά τα προβλήματα, απειλώντας την εμπιστοσύνη στα ψηφιακά μέσα και τους δημοκρατικούς θεσμούς. Η OpenAI έχει δώσει περιορισμένες δημόσιες απαντήσεις σχετικά με το Sora 2, δηλώνοντας ότι συνεργάζεται με δημιουργούς περιεχομένου, στούντιο κινηματογράφου και δικαιούχους για την ενίσχυση των προστασιών και τη μείωση των κινδύνων κακής χρήσης. Η εταιρεία επίσης συνεργάζεται με ενδιαφερόμενους από τον δημιουργικό χώρο της Ιαπωνίας, εκφράζοντας ανησυχία για τον αντίκτυπο της τεχνητής νοημοσύνης στα καλλιτεχνικά δικαιώματα και την πνευματική ιδιοκτησία. Το Public Citizen υπογραμμίζει ότι η ταχεία, χωρίς ρύθμιση διάθεση εφαρμογών γεννήσιμης τεχνητής νοημοσύνης όπως το Sora 2 υπονομεύει την ιδιωτικότητα, την ακεραιότητα των γεγονότων και τη δημοκρατική σταθερότητα. Η απαίτηση για την απομάκρυνση της εφαρμογής αντικατοπτρίζει μια ευρύτερη έκκληση στον κλάδο της τεχνητής νοημοσύνης να δώσει προτεραιότητα στην ευημερία του δημόσιου συμφέροντος έναντι του ανταγωνισμού στην αγορά. Καλούν τους πολιτικούς, τους προγραμματιστές και την κοινωνία των πολιτών να συνεργαστούν για να θεσπίσουν ολοκληρωμένα, ηθικά πλαίσια που θα διασφαλίζουν υπεύθυνη ανάπτυξη και χρήση της τεχνητής νοημοσύνης. Καθώς η τεχνολογία της τεχνητής νοημοσύνης προοδεύει και ενσωματώνεται πιο βαθιά στην κοινωνία, οι προειδοποιήσεις του Public Citizen υπογραμμίζουν τις κρίσιμες προκλήσεις και τις ευθύνες που συνεπάγεται η αξιοποίηση αυτών των μετασχηματιστικών εργαλείων. Η ισορροπία μεταξύ καινοτομίας και προστασίας του δημόσιου συμφέροντος remains ουσιώδης καθώς οι περιπλοκές και οι συνέπειες του περιεχομένου που παράγεται από τεχνητή νοημοσύνη επεκτείνονται.