วิดีโอที่สร้างด้วยแอป Sora ของ OpenAI กำลังแพร่กระจายอย่างรวดเร็วในแพลตฟอร์มเช่น TikTok และ Instagram Reels ทำให้เนื้อหาที่เป็น AI สังเคราะห์แทบจะหลีกเลี่ยงไม่ได้ ซึ่งเป็นสิ่งที่หลายผู้ใช้รู้สึกหงุดหงิดมากขึ้นเรื่อย ๆ อย่างไรก็ตาม ผู้เชี่ยวชาญด้านความปลอดภัยทางดิจิทัลเตือนถึงผลกระทบที่ลึกซึ้งกว่าและไม่ชัดเจน: OpenAI ได้เปลี่ยนภาพลักษณ์ของ deepfakes ให้กลายเป็นเทรนด์สนุกสนานและเป็นที่นิยมในสายกลาง ซึ่งได้รับการส่งเสริมอย่างกระตือรือร้นโดยอัลกอริทึมแนะนำ เมื่อมีคนจำนวนมากเจอวิดีโอเหล่านี้ ความเชื่อในความจริงและมาตรฐานออนไลน์กำลังถูกเปลี่ยนแปลง เดซี่ โซเดอร์เบิร์ก-ริฟกิน อดีตผู้จัดการฝ่ายความน่าเชื่อถือและความปลอดภัยของ TikTok อธิบายว่านี่คือ deepfakes ที่ได้รับ “นักประชาสัมพันธ์และข้อตกลงการเผยแพร่” ซึ่งขยายเทคโนโลยีที่น่ากังวลอยู่แล้วไปยังแพลตฟอร์มใหม่และกว้างใหญ่ จอห์น รอดริกส์ หัวหน้าแผนกความน่าเชื่อถือและความปลอดภัยของ Bluesky เตือนว่ารัฐสังคมยังไม่พร้อม รับมือกับเส้นแบ่งระหว่างความจริงและการปลอมแปลงที่เลือนราง เขาเน้นความเสี่ยง เช่น หลักฐานเท็จที่ปลอมแปลงได้ง่าย เพื่อโจมตีกลุ่มหรือบุคคลในเรื่องตัวตน และการหลอกลวงระดับใหญ่ โดยผู้ใช้ส่วนใหญ่ยังขาดความสามารถด้านสื่อหรือเครื่องมือในการแยกแยะความจริงจากนิยาย พนักงานเก่าของ OpenAI สามคนบอกกับ NPR ว่าไม่แปลกใจที่ Sora เปิดตัว เนื่องจากมองว่าเป็นกลยุทธ์ในการแสดงเทคโนโลยีวิดีโอใหม่ท่ามกลางแรงกดดันจากนักลงทุน ซึ่งเป็นแรงผลักดันที่คล้ายคลึงกับการเปิดตัว ChatGPT OpenAI ได้ดำเนินการเพิ่มมาตรการด้านความปลอดภัยหลายอย่าง รวมถึงการกลั่นกรอง การห้ามหลอกลวง ความรุนแรง และเนื้อหาเกี่ยวกับเพ pornography การติดลายน้ำ และการควบคุมการใช้ภาพลักษณ์ ถึงอย่างนั้น ผู้ใช้ก็ยังหาวิธีหลีกเลี่ยงการป้องกันเหล่านี้อยู่เสมอ ซึ่งกระตุ้นให้บริษัทต้องตอบสนองอย่างต่อเนื่อง หนึ่งในอดีตพนักงาน OpenAI ที่ไม่เปิดเผยตัวตน แสดงความกังวลว่าขณะที่การแข่งขันในด้านวิดีโอที่สร้างด้วย AI เข้มข้นขึ้น มาตรการด้านความปลอดภัยอาจอ่อนลง ซึ่งอาจเป็นอันตรายต่อสังคม โซเดอร์เบิร์ก-ริฟกินทำนายว่า แอปพลิเคชันอย่าง Sora ที่ไม่ได้รับการควบคุมและไม่มีมาตรการด้านความปลอดภัย จะเกิดขึ้นตามมา เช่นเดียวกับ Gok ของ Elon Musk และอาจถูกใช้ในทางที่เป็นอันตราย เช่น การสร้างเนื้อหาอนาจารเด็ก หรือข่าวสารโฆษณาแบบรัฐสนับสนุนที่สมจริง ปัจจุบัน Sora เป็นแอปพลิเคชันท็อปสำหรับ iPhone แต่ยังเป็นแบบเชิญเท่านั้น ผู้ใช้รายงานว่าข้อจำกัดต่าง ๆ เพิ่มขึ้น เช่น การปลอมตัวคนดังและการสร้างเนื้อหาที่เกินจริง (เช่น วิดีโอปลอมของ Jeffrey Epstein หรือคำแถลงของ Sean “Diddy” Combs เกี่ยวกับการถูกคุมขัง) ยังคงยากขึ้นที่จะผลิต ถึงอย่างนั้น เนื้อหาที่เป็นข้อขัดแย้ง เช่น การจับกุม หรืองเครื่องแบบนาซีก็ยังคงสร้างวิดีโอได้อยู่ นักบริหารของ OpenAI ซีอีโอแซม อัลท์แมน ประกาศแผนที่จะเปลี่ยนการใช้ภาพลักษณ์จาก “การปฏิเสธ” เป็น “การรับ” และในที่สุดก็จะแบ่งรายได้ให้กับเจ้าของลิขสิทธิ์ ซึ่งเป็นแนวทางที่เปลี่ยนไปอย่างรวดเร็วคล้ายกับช่วงต้นของ ChatGPT กระแสเนื้อหาที่สร้างด้วย AI ที่เพิ่มขึ้น ทำให้เกิดคำถามเกี่ยวกับความเหนื่อยล้าของผู้ใช้และว่าจะมีการดำเนินการกวดขันหรือแบนเนื้อหาดังกล่าวหรือไม่ โซเดอร์เบิร์ก-ริฟกินเชื่อว่าการแบนจะไม่เกิดขึ้นและจะไม่ได้ผลด้วยซ้ำ เนื่องจากความยากในการตรวจสอบเนื้อหา AI ไม่ว่าจะเป็นข้อความ ภาพ หรือวิดีโอ เธอเตือนว่ากฎ “ไม่ใช้ AI” ก็ไม่สามารถหยุดการแทรกซึมของ AI ได้ พนักงานเก่าหนึ่งคนของ OpenAI ยังกล่าวว่าการเปิดตัวแอปโซเชียลเน็ตเวิร์กที่สร้าง deepfake เป็นการเคลื่อนไหวทางธุรกิจที่ดี แม้การเสื่อมถอยของความเป็นจริงจะเลวร้ายลงก็ตาม ซึ่งเป็นเรื่องที่หลีกเลี่ยงไม่ได้ที่ใครบางคนจะครองตลาดนี้ ขณะเดียวกัน Meta และ Google ก็ได้เปิดตัวเครื่องมือวิดีโอ AI แข่งขันกัน (Vibes และ Veo 3) แต่การเปิดตัว Sora ก็เป็นตัวเร่งให้การแพร่หลายของเนื้อหา AI แบบส่วนตัวเพิ่มขึ้นอย่างรวดเร็ว ผู้เชี่ยวชาญด้านความน่าเชื่อถือและความปลอดภัยมองว่า Sora เป็นจุดเปลี่ยนประวัติศาสตร์ที่ทำให้ deepfakes กลายเป็นเนื้อหาดิจิทัลในชีวิตประจำวัน ซึ่งอาจนำไปสู่การถอนตัวจากสื่อสังคมออนไลน์ หรือการล่มสลายของความเชื่อถือในความถูกต้องของสื่อออนไลน์ นักวิจารณ์ข่าวปลอมเตือนไว้เป็นเวลานานเกี่ยวกับ “เงินปันผลของผู้โกหก” — ที่ซึ่ง deepfake ที่แพร่หลายทำให้เนื้อหาจริงถูกมองว่าเป็นของปลอม แต่ความเป็นจริงของปรากฏการณ์นี้ตอนนี้กลายเป็นเรื่องเร่งด่วนมากขึ้นกว่าที่เคย