Қоғамдық азаматтар» — қоғамдық мүдделерді қорғауға арналған танымал бақылаушы ұйым, OpenAI-ге дереу әрекет етіп, Sora 2 атты AI негізделген видеоприложениені жоюды талап етті. Бұл талап Deepfake технологиясының айтарлықтай қауіптерімен байланысты. Ұйым демократияға, жеке құқықтарға және қоғам қауіпсіздігіне қатер төндіретін шынайылықты бұрмалау және ақпаратты тарату үшін қолданылатын AI жасалған видеоға алаңдаушылық білдірді. Қоғамдық азаматтардың мәліметінше, OpenAI-дің Sora 2-ні асығыс шығаруы AI саласындағы бәсекелестік қысымымен байланысты болды, нәтижесінде қоғамға арналған қауіпсіздік шаралары жеткіліксіз орындалды. Соның әсерінен Sora 2 кеңінен таралып, келісімсіз жасалған Deepfake видеоларды құруға және таратуға мүмкіндік берді, олардың ішінде әйелдерді қорлау үшін қолданылған мазмұндар мен оқиғаларды бұрмалап көрсету бар, бұл эмоционалды және репутациялық зиян келтірді. Бұл қолданба, қолданушыларға AI арқылы видео клиптер жасауға мүмкіндік беретін, TikTok және Instagram сияқты платформаларда тез танымал бола бастады. Оның мазмұны шынайы, бірақ бұрмаланған — танымал тұлғалардың шошытатын, преувеличениямен берілген суреттерінен бастап, қоғамның қабылдауын бұрмалауы мүмкін сценарийлерге дейін өзгереді. Қоғамдық азаматтар технологияның сенімді әрі жалған кескіндер жасау қабілеті ауыр қауіп-қатер төндіретінін айтады, әсіресе бұл видеолар контекстсіз және тексерусіз таралғанда. OpenAI кейбір мәселелерді шешуге тырысқанымен — мысалы, Мартин Лютер Кинг сияқты белгілі тұлғалардың бейнелерін блоктау немесе SAG-AFTRA сияқты сала ұйымдарымен жұмыс істеу — сыншылар бұл әрекеттер реактивті, алдын ала жоспарланбаған деп есептейді.

Қоғамдық азаматтар OpenAI тек қоғамдық шаттықты қолдаудың орнына, этикалық бақылауларды бастапқыда орнатпастан, көбіне ашу-ызаға жауап береді деп санайды. Бұл OpenAI-дің AI-ге байланысты алғашқы дауы-қайшылықтары емес. Оның ChatGPT платформасы психологиялық зиян келтіру, абайсыздығы және дұрыс қорғаныс шараларының жеткіліксіздігі үшін сотқа тартылды. Қоғамдық азаматтар зиян келтіруші AI құралдарын алдын ала мұқият бақылаусыз шығарудың бұл мәселелерді ушықтырып, цифрлық медиа мен демократиялық институттарға сенімге қауіп төндіретінін ескертеді. OpenAI Sora 2-мен байланысты шектеулі жария пікірлер беріп отыр, олар мазмұн жасаушылармен, кино студияларымен және құқық иелерімен бірлесе отырып, қорғау шараларын күшейту және зорлау қаупін азайту бағытында жұмыс істеп жатқанын айтты. Сонымен қатар, компания Жапонияның шығармашылық секторындағы мүдделі тараптармен де байланыс орнатып, жасанды интеллектінің өнер құқықтары мен интеллектуалды меншікті қорғауға әсерін бақылауға тырысуда. Қоғамдық азаматтар бұған қоса, Sora 2 сияқты генеративті AI қосымшалардың жедел және реттелмеген түрде іске қосылуы жеке өмірді қорғау, фактілердің шынайылығы және демократиялық тұрақтылықты әлсірететінін ерекше атап өтеді. Олардың бұл талаптары – AI саласын нарықтық бәсекелестік емес, қоғамның игілігін басты орынға қоюға шақыру. Олар саясаткерлерді, әзірлеушілерді және қоғамдық ұйымдарды жауапкершілікке негізделген этикалық құралдар құру үшін ынтымақтастықта жұмыс істеуге шақырады, олар жауапты AI даму мен қолдануды қамтамасыз етеді. AI технологиясы дамып, қоғамда кеңінен енген сайын, Қоғамдық азаматтардың ескертулері мұндай айрықша күшті құралдармен жұмыс істеудің маңызды мәселелері мен міндеттерін көрсетеді. Инновация мен қоғамдық мүдделерді қорғау балансын сақтау – AI жасалған контенттің күрделілігі мен салдарын арттыра отырып, аса маңызды болып қала береді.