Public Citizen, virtur viðvörunarmál sem helgað er vernd almenningsáhuga, hefur beðið OpenAI að hætta strax við vörur sínar, Sora 2, sem byggir á gervigreind, vegna stórhættu sem felst í djúpfakes-tækni. Hópurinn bendir á ógnir við lýðræði, persónuréttindi og almannaöryggi í ljósi vaxandi áhyggja yfir AI-stýrdum myndbandi sem stjórnar raunveruleika og dreifir misskilningi á samfélagsmiðlum. Samkvæmt Public Citizen var skyndiútgáfa OpenAI af Sora 2 að hluta til knúin áfram af keppnisþrýstingi í AI-geiranum, sem leiddi til þess að öryggisráðstafanir voru of litlar áður en vörunni var hleypt af stokkunum. Þannig hefur Sora 2 gert mögulegt að búa til og dreifa víðsvegar djúpfakes-myndböndum án samþykkis, mörg með ógnvekjandi efni sem er notað til að áreita konur og skapa falskar atburðir, sem valda tilfinningalegu og orðsporstjóraleku tjóni. Forritið, sem gerir notendum kleift að framleiða myndbandssnið á grundvelli gervigreindar, hefur farið vaxandi í vinsældum á miðlum eins og TikTok og Instagram. Innihaldið spannar allt frá furðulegum, áráttuðum myndum af frægum einstaklingum til raunhæfra en blekkjandi staðhæfinga sem geta ógnað skynjun almennings. Public Citizen leggur áherslu á að hættan felst í getu tækni til að framkalla sannfærandi en fölsk myndbönd, sérstaklega þegar þau dreifast án samhengi eða staðfestingar. Þó OpenAI hafi reynt að bregðast við sumar áhyggjur – svo sem að takmarka lýsingu á ákveðnum persónum eins og Martin Luther King Jr. og reiða sig á samtök atvinnugreina eins og SAG-AFTRA – halda gagnrýnendur því fram að þessar aðgerðir séu viðbragð og ekki róttækar lausnir.

Public Citizen fullyrðir að OpenAI svarar frekar við þjóðhátíðartilfinningum heldur en að koma á lagalegu og siðferðilegu stigi frá byrjun. Þetta er ekki í fyrsta sinn sem OpenAI lendir í deilum vegna skaðvalds af völdum AI. Plateforma þeirra, ChatGPT, hefur verið kærð fyrir meinta andlega skaða, vanrækslu og skort á viðeigandi varúðarráðstöfunum til að koma í veg fyrir misnotkun. Public Citizen varar við því að útgáfa gæða vinnulíkingartól án ítarlegs eftirlits eykur vandamál þessara og minna traust á stafrænum miðlum og lýðræðislegum stofnunum. OpenAI hefur gefið takmarkaðar afsökunarbeiðnir um Sora 2, þar sem fyrirtækið segir að það vinni með efnisframleiðendum, kvikmyndastúdíóum og réttindaaðilum til að efla vernd og draga úr misnotkunarhættu. Fyrirtækið er einnig í samskiptum við hagsmunaaðila í skapandi greinum í Japan og hefur áhyggjur af áhrifum AI á listarréttindi og hugverkarétt. Public Citizen fer þess á leit að hraðvirk, óstudd og óregluleg þróun gervigreindarforrita eins og Sora 2 undirgrófi friðhelgi einkalífs, sannleiksgildi og lýðræðislegan stöðugleika. Krafan um að hætta notkun forritsins er hluti af breiðari nálgun þar sem AI-geirinn er hvattur til að leggja megináherslu á almannahagsmuni frekar en markaðssetningu. Þeir kalla eftir samvinnu stjórnvalda, þróunaraðila og borgaralegs samfélags til að setja saman heildstæð, siðferðilega viðmið sem tryggja ábyrgðarfulla þróun og notkun AI. Þegar tækni gervigreindar þróast og fær meira vægi í samfélaginu, minna boðskapur Public Citizen á mikilvægi að taka á þeim áskorunum og ábyrgð sem fylgja því að nýta þessi umbreytandi verkfæri. Jafnvægi milli nýsköpunar og verndar almenningsáhuga verður að vera grundvallaratriði þegar flækjustig og afleiðingar AI-stýrðra efnis eflaust aukast.