Public Citizen, un watchdog important dedicat să protejeze interesele publice, a făcut apel la OpenAI să retragă imediat aplicația sa video alimentată de AI, Sora 2, citând riscuri semnificative generate de tehnologia deepfake. Grupul evidențiază amenințări la adresa democrației, drepturilor personale și siguranței publice în contextul îngrijorărilor crescute legate de videoclipurile create cu AI, care manipulează realitatea și răspândesc dezinformare pe rețelele sociale. Potrivit Public Citizen, lansarea grăbită a Sora 2 de către OpenAI a fost impulsionată în mare măsură de presiuni competitive din domeniul AI, ducând la implementarea insuficientă a măsurilor de siguranță înainte de lansarea publică. Ca urmare, Sora 2 a permis crearea și distribuirea pe scară largă de videoclipuri deepfake fără consimțământ, multe dintre ele conținând conținut tulburător, utilizat pentru hărțuire asupra femeilor și pentru fabricarea de evenimente, cauzând daune emoționale și reputaționale. Această aplicație, care permite utilizatorilor să genereze clipuri video bazate pe AI, a devenit rapid populară pe platforme precum TikTok și Instagram. Conținutul său variază de la portretizări ciudate și exagerate ale celebrităților până la scenarii realiste, dar înșelătoare, care pot distorsiona percepția publicului. Public Citizen subliniază că abilitatea tehnologiei de a produce imagini convingătoare, dar false, reprezintă riscuri grave, mai ales atunci când aceste videoclipuri se răspândesc fără context sau verificare. În timp ce OpenAI a încercat să răspundă unor îngrijorări — precum blocarea reprezentărilor anumitor figurile istorice precum Martin Luther King Jr. și colaborarea cu grupuri din industrie precum SAG-AFTRA — criticii susțin că aceste eforturi sunt reactive mai degrabă decât proactive.

Public Citizen afirmă că OpenAI răspunde în principal la indignarea publicului, în loc să stabilească controale etice de la început. Aceasta nu este prima controversă pentru OpenAI în legătură cu prejudiciile cauzate de AI. Platforma sa ChatGPT s-a confruntat cu procese ce susțineau deteriorarea psihologică, neglijență și lipsa unor măsuri adecvate de prevenire a utilizărilor abuzive. Public Citizen avertizează că lansarea unor instrumente generative AI fără o supraveghere amănunțită agravează aceste probleme, amenințând încrederea în mediul digital și în instituțiile democratice. OpenAI a oferit răspunsuri publice limitate privind Sora 2, declarând că colaborează cu creatorii de conținut, studiouri de film și deținătorii de drepturi pentru a îmbunătăți protecțiile și a reduce riscurile de abuz. Compania se implică, de asemenea, cu actorii din sectorul creativ din Japonia, preocupați de impactul AI asupra drepturilor artistice și proprietății intelectuale. Public Citizen subliniază că implementarea rapidă și nereglamentată a aplicațiilor generative AI, precum Sora 2, subminează intimitatea, integritatea factuală și stabilitatea democratică. Solicitarea lor de eliminare a aplicației reflectă un apel mai larg pentru industria AI de a priorita bunăstarea publicului în detrimentul competiției pe piață. Ei îndeamnă factorii de decizie, dezvoltatori și societatea civilă să stabilească împreună cadre etice și cuprinzătoare, care să asigure dezvoltarea și utilizarea responsabilă a AI. Pe măsură ce tehnologia AI avansează și devine tot mai integrată în societate, avertismentele Public Citizen evidențiază provocările critice și responsabilitățile implicate în gestionarea unor astfel de instrumente transformatoare. Echilibrarea inovației cu protejarea intereselor publice rămâne esențială, întrucât complexitatea și consecințele conținutului generat de AI continuă să crească.