Sora аппликейшнээр зугаалж байх нь бодит байдалгүй, олон төрлийн хэт реалистик цөөн хэдэн богино видео болон хэтэрхий хуурмаг олонсонд цөглөн орж буй мэт санагддаг: Майкл Жексон бүүстер хийх, Predator эвэрт амьтан бургер шарж байгаагаа эргүүлж үзүүлж буй, од тэнгэрийн баавгай шилийг мөргөж орж ирж буй, элизабет хаан пабын ширээнээс унах зэрэг нь цөөнгүй. ChatGPT-ийн бүтээгч OpenAI-аас гаргасан Sora нь бүрэн хиймэл оюун ухаанаар бүтээгдсэн клипүүдийг үүсгэж, үзэгчдийг гайхшруулдаг ч гэсэн хэрэглэгчийг үзэж буй зүйлсийн жинхэнэ эсэхийг үргэлж эргэж асуухад тулгаж байна. Deepfake мэргэшсэн, хүний эрхийн төлөө тэмцэгч Сам Gregory Sora-г жинхэнэ болон хиймэл агуулгыг ялгахыг бараг боломжгүй болгодог гэж сэрэмжлүүлж байна. Энэ апп нь бүх төрөлхийн мэдээлэл дээгүүр эргэлддэг итгэмээргүй “мүлгээс” үүсгэдэг. Зургийн зөвхөн хиймэл оюун ухааны бүтээлүүдээр хийгдсэн хэдий ч, энэ апп шинэ, 2023 оны есдүгээр сарын 30-нд гарч ирснээс хойш нэг долоо хоногийн дотор олон таталтад хүрч, АНУ-ын хувьд апп дэлгүүрийн хэмжээнд тэргүүлж байна. Одоогоор Sora-ийн хэрэглээ зөвхөн тус улсын iOS хэрэглэгчдэд урилгын кодтойгээр хязгаарлагдмал. Видео бүтээхийн тулд хэрэглэгчид нүүрээ сканэж, дууны дээж авах бөгөөд тухайн видеог бүтээхэд зориулсан текстийн хөтөлбөр оруулна. Энэ нь 10 секундын хэт_REAL clips-ийг, дуу, яриатайгаар үүсгэж өгдөг. “Cameos” функции нь хэрэглэгч эсвэл найзын нүүрийг одоогийн видео дээр нэмэх боломжийг олгодог. Sora нь видеог суулгах үед водоростойддог ч олон вэбсайтууд эдгээр тэмдэглэгээг арилгадаг. Эхэндээ OpenAI нь хуульд заасан эзэмшигчийн зөвшөөрөлгүйгээр нөхөж үзүүлэхийг зөвшөөрч байсан ч, цаашдаа эзэд өөрсдийн агуулгыг блоклох, өөрчлөх боломжийг хүсэх болсон. Энэ байдал нь алдартнуудын тухай хуурамч дүрслэлүүдийг бүтээхэд хүргэсэн. Тухайлбал, Тупак Шакур Кубын гудамжид алхаж явах, Адольф Хитлер Майкл Жексон руу тулгарах, Мартиний Лутер Кинг Жүний хувилбар дээр энгийн яриаг өөрчилсөн илтгүүлэл зэргийг оролцуулсан. Robin Williams-ийн охин Zelda Williams эдгээр видеог үл хүндэтгэх гэж хэлж, онлайн лайк авахын тулд хүний амьдралыг болон урлагийн өвийг ашиглахыг зэмлэж байна. Мөн Kobe Bryant, Stephen Hawking, Ерөнхийлөгч Кеннедигийн хиймэл дүрслэлүүд олон нийтийн сошиал платформуудаар илүү өргөн тархаж байна. Fred Rogers-ийн гэр бүл түүний зураг дутагдсан, унасан буу барьсан эсвэл Тупактай харилцаж буйгаар дүрсэлсэн Sora-ийн видеог зөрчсөн болохыг шүүмжилж, түүнийг хоосон мэдээлэлд хүргэж болохыг анхааруулж, OpenAI-гийн платформ дээр түүний дүрсийг хаахыг албан ёсоор хүсчээ. Ийм зэрэгцээ, Холливудын уран бүтээлчид, SAG-AFTRA зэрэг холбоод эрхийн төлөө өрсөлдөж, эвдэрсэн хууль зөрчсөн дүрслэлүүдийг цэгцлэхийг шаардсаар байна. Зохиогчийн эрхийн асуудлын улмаас OpenAI-ийн захирал Сам Алтман эрхийн эзэд өөрсдийн дүрсүүдийг хэрхэн ашиглахыг илүү хяналттай болгох, орлого хуваалцах талаар төлөвлөж байгаа гэдгээ мэдэгдэв.

Студиууд одоо “сонгож болох” системийг ашиглах боломжтой болсноор эхний бодлого болох “сонгож болохгүй” бодлогыг өөрчилжээ. Алтман өөрийн ирээдүйн зорилго нь хувь хүн, бүтээлч байдлыг хөгжүүлэх, “харилцагч фэн фикишн”-ийн хэлбэрээр шинэ сэтгэмж гаргах бодолтой байна. Одоогоор үхсэн эрхмүүдийн хөрөнхий болон дүрслэлийг хамгаалах зорилгоор олон талын хариуцлага хэрэгжиж эхэлж байна. CMG Worldwide кампанит ажил нь 20 гаруй алдартны хиймэл дүрсийг илрүүлэх зорилгоор Loti AI-тай хамтран ажиллаж байгаа бөгөөд тэдний дунд Burt Reynolds, Rosa Parks орж байна. Loti AI нь Sora 2 гарснаас хойш 30 дахин нэмэгдсэн бүртгэлүүдийг мэдээлж, хэрэглэгчид хиймэл оюун ухаан ашиглан хуурамч дүрслэлийг буцаан хянахыг оролдож байна. 2024 оны эхэн үеийн байдлаар хэдэн мянган хуулбар хиймэл дүрслэлүүдийг устгасан байна. Martin Luther King Jr-ийг зүхсэн дүрслэлээс хойш, OpenAI түүний зураг үүсгэхийг зогсоож, хөршийнхөө хүсэлтийн дагуу илэрхийлж, оролцогчдын дүрсийг хязгаарлахыг хүсэж байна. Тэд өдгөө түүний хөрлийг Sora-ийн “Cameo” функцээс хаах боломжийг олгож байна. Мэдээллийн эрхийн зөрчил, дүрсийг дахин үүсгэхэд үүсдэг зөрчлийг багасгах зорилгоор OpenAI эрхийн зөрчилд сэрэмжлүүлэг өгч, Disney-ийн дүрслэлүүдийг бүтээхэд хориг тавьсан. Зарим хэрэглэгч эдгээр хязгаарлалт, журмыг зогоох зорилгоор мемүүд үүсгэж байна. Түүнчлэн, “AI хаягдал” гэх нэртэй, интернерийн нийтлэг төөрөгдөл, хачин зүйлс — ээж нар crocodile мөрдөж, “Тамхи олуулсан олимп” гэх мэт — илүү үзэгчдийг татаж байна. Үүнийг хөгжүүлэгчид “Cocomelon for adults” гэж нэрлэж, мөнгө олох зам болгож байна. Шүүмжлэгчид хэлдэг нь, нэр алдар, эрхмүүдийн хөрсийг зүгээр л хэрэглэж, олны анхаарлыг татах нь онцгой хамгаалалтгүй, мэдээллийн алдаа, итгэл найдвар алдахад хүргэж болзошгүй юм. Мөн технологийг буруу ашиглах, улс орнууд пропагандад ашиглах зэрэг асуудлууд байнга гарч байна. Gregory-ийн хэлж буйгаар, худал жагсаалын зураг авалт, эвдэрсэн хүн амьтны дүрс, хүний үгийг өөрчилсөн видеонууд нийт үнэн бодит байдалд маш их нэр төр, итгэлийг алдуулах аюултай хэмжээнд хүрч байна.