เป็นเวลาหลายปีที่ทีมผู้วิจารณ์ของ Meta ได้ประเมินความเสี่ยงที่อาจเกิดขึ้นเมื่อมีฟีเจอร์ใหม่เปิดตัวบน Instagram, WhatsApp และ Facebook โดยประเมินกังวลต่าง ๆ เช่น การคุกคามความเป็นส่วนตัวของผู้ใช้งาน, อันตรายต่อเยาวชน หรือการแพร่กระจายของเนื้อหาเป็นเท็จหรือเป็นพิษ การตรวจสอบความเป็นส่วนตัวและความสมบูรณ์นี้ดำเนินการโดยผู้ประเมินผลมนุษย์เป็นหลัก อย่างไรก็ตาม เอกสารภายในที่ได้รับจาก NPR เปิดเผยว่า Meta มีแผนที่จะทำให้กระบวนการประเมินความเสี่ยงเหล่านี้เป็นอัตโนมัติถึง 90% ในไม่ช้านี้ ซึ่งหมายความว่าการอัปเดตอัลกอริทึมที่สำคัญ ฟีเจรความปลอดภัยใหม่ ๆ และการเปลี่ยนแปลงในการแบ่งปันเนื้อหาจะได้รับการอนุมัติส่วนใหญ่โดยระบบ AI โดยไม่ต้องมีการตรวจสอบจากบุคลากรที่พิจารณาผลที่อาจไม่คาดคิดหรือการใช้ในทางผิด ในองค์กร Meta การเปลี่ยนแปลงนี้ถือว่าเป็นประโยชน์ต่อผู้พัฒนาผลิตภัณฑ์โดยช่วยเร่งความเร็วในการปล่อยอัปเดตและฟีเจอร์ แต่พนักงานทั้งในปัจจุบันและที่ผ่านมาแสดงความกังวลว่าการใช้ระบบอัตโนมัติดังกล่าวอาจนำไปสู่การตัดสินใจความเสี่ยงที่ไม่เพียงพอ ซึ่งอาจก่อให้เกิดอันตรายต่อโลกจริงได้ อดีตผู้บริหารของ Meta กล่าวว่าการเปิดตัวผลิตภัณฑ์อย่างรวดเร็วโดยที่ไม่ผ่านการตรวจสอบที่เข้มงวดเท่าที่ควร เพิ่มความเสี่ยงที่ผลลัพธ์ด้านลบจะเกิดขึ้นมากขึ้น เนื่องจากความผิดพลาดอาจไม่ได้รับการจับก่อน Meta ระบุว่าได้ลงทุนเป็นพันล้านเพื่อปกป้องความเป็นส่วนตัวของผู้ใช้ และการเปลี่ยนแปลงในการตรวจสอบความเสี่ยงนี้มีเป้าหมายเพื่อขจัดความล่าช้าในการตัดสินใจ ในขณะเดียวกันยังคงรักษาความเชี่ยวชาญของมนุษย์ไว้สำหรับประเด็นใหม่หรือที่ซับซ้อน โดยอ้างว่าเฉพาะการตัดสินใจชนิด “ความเสี่ยงต่ำ” เท่านั้นที่จะเป็นอัตโนมัติ แต่เอกสารภายในชี้ให้เห็นว่าการทำให้เป็นอัตโนมัติอาจแพร่หลายไปยังพื้นที่อ่อนไหว เช่น ความปลอดภัยของ AI ความเสี่ยงในเยาวชน และความสมบูรณ์โดยรวมของแพลตฟอร์ม ซึ่งรวมถึงเนื้อหาเกี่ยวกับความรุนแรงและข้อมูลเท็จ กระบวนการใหม่จะให้ทีมผลิตภัณฑ์กรอกแบบสอบถามเพื่อรับ “คำตัดสินทันที” จาก AI ซึ่งจะแสดงความเสี่ยงและการบริหารจัดการที่จำเป็น ก่อนหน้านี้ ผู้ประเมินความเสี่ยงต้องอนุมัติการอัปเดตผลิตภัณฑ์ก่อนที่จะปล่อยออกมา ปัจจุบัน วิศวกรสามารถประเมินความเสี่ยงเองเป็นหลัก เว้นแต่จะขอให้มีการตรวจสอบจากมนุษย์ การเปลี่ยนแปลงนี้เปิดโอกาสให้วิศวกรและทีมผลิตภัณฑ์ ซึ่งมักไม่ใช่ผู้เชี่ยวชาญด้านความเป็นส่วนตัว ทำการตัดสินใจเอง ซึ่งสร้างความกังวลเกี่ยวกับคุณภาพของการประเมิน ขวัญ คริเกอร์ อดีตผู้อำนวยการด้านนวัตกรรมความรับผิดชอบของ Meta เตือนว่าทีมผลิตภัณฑ์จะถูกประเมินโดยเน้นการเปิดตัวอย่างรวดเร็วมากกว่าความปลอดภัย และการประเมินตนเองอาจกลายเป็นเพียงการทำตามแบบฟอร์มโดยไม่สนใจปัญหาที่สำคัญ เขายังกล่าวว่ามีความเป็นไปได้ที่จะบรรจุระบบอัตโนมัติในบางด้าน แต่ก็เตือนว่าการพึ่งพา AI มากเกินไปอาจลดคุณภาพของการตรวจสอบลง Meta ลดความกังวลโดยระบุว่ามีการตรวจสอบคำตัดสินของ AI สำหรับโครงการต่าง ๆ ที่ไม่มีการตรวจสอบจากมนุษย์ รวมถึงการดำเนินงานในยุโรปซึ่งอยู่ภายใต้กฎหมายระเบียบเข้มงวด เช่น พระราชบัญญัติบริการดิจิทัล จะยังคงมีการควบคุมดูแลโดยมนุษย์จากสำนักงานใหญ่ในไอร์แลนด์ บางการเปลี่ยนแปลงสอดคล้องกับการยุติโครงการตรวจสอบข้อเท็จจริงและการผ่อนคลายนโยบายการพูดเกลียดชัง ซึ่งเป็นสัญญาณของการเปลี่ยนแปลงในเชิงกลยุทธ์ของบริษัทให้เน้นความรวดเร็วในการอัปเดตและลดข้อจำกัดด้านเนื้อหา ซึ่งเป็นการผ่อนคลายแนวทางเดิมที่เคยใช้เพื่อป้องกันการใช้แพลตฟอร์มในทางผิด วิธีการนี้เป็นไปตามความพยายามของ CEO มาร์ก ซักเคอร์เบิร์ต ที่ต้องการปรับตัวให้เข้ากับบุคคลทางการเมืองอย่างอดีตประธานาธิบดีทรัมป์ ซึ่งซักเคอร์เบิร์ตเคยอธิบายว่าการเลือกตั้งของทรัมป์เป็น “จุดเปลี่ยนวัฒนธรรม” ความพยายามในการทำให้อัตโนมัติยังเชื่อมโยงกับกลยุทธ์ระยะยาวของ Meta ที่จะใช้ AI เพื่อเร่งกระบวนการต่าง ๆ ท่ามกลางการแข่งขันจาก TikTok, OpenAI และอื่น ๆ ซึ่งล่าสุด Meta ได้เพิ่มความพึ่งพา AI ในการบังคับใช้กฎเนื้อหา โดยใช้โมเดลภาษาที่สามารถทำงานได้ดีขึ้นกว่ามนุษย์ในบางด้าน เช่น การดำเนินการด้านนโยบาย ทำให้ผู้ตรวจสอบจากมนุษย์สามารถมุ่งเน้นไปในกรณีที่ซับซ้อนมากขึ้น คารี่ ฮาร์บาสต์ อดีตผู้เชี่ยวชาญด้านนโยบายสาธารณะของ Facebook สนับสนุนการใช้ AI เพื่อเพิ่มความเร็วและประสิทธิภาพ แต่เน้นย้ำว่าต้องมีการตรวจสอบจากมนุษย์ด้วย ขณะที่อีกคนหนึ่งที่เคยทำงานใน Meta ตั้งคำถามว่าการเร่งประเมินความเสี่ยงในผลิตภัณฑ์ใหม่เป็นเรื่องที่ฉลาดหรือไม่ โดยชี้ให้เห็นว่าการตรวจสอบอย่างเข้มงวดในผลิตภัณฑ์ใหม่นั้นมักพบปัญหาที่ถูกมองข้ามไป มิเชล โพรทติ หัวหน้าฝ่ายความเป็นส่วนตัวของ Meta ด้านผลิตภัณฑ์ อธิบายว่าการเปลี่ยนแปลงนี้เป็นการเสริมพลังให้กับทีมผลิตภัณฑ์และพัฒนาการจัดการความเสี่ยงให้เรียบง่ายขึ้น การเปิดตัวระบบอัตโนมัติได้เร่งดำเนินการในเดือนเมษายนและพฤษภาคม 2024 อย่างไรก็ตาม ผู้มีส่วนได้ส่วนเสียบางรายวิจารณ์ว่า การไม่ให้มนุษย์มีส่วนร่วมในการประเมินความเสี่ยงเป็นการลดมุมมองด้านมนุษย์ที่สำคัญต่อความเสียหายที่อาจเกิดขึ้น ซึ่งอาจถือได้ว่าเป็นการกระทำ “ไร้ความรับผิดชอบ” ในบริบทของพันธกิจของ Meta โดยรวมแล้ว Meta กำลังเปลี่ยนจากการประเมินความเสี่ยงโดยมนุษย์เป็นหลัก ไปสู่การใช้ AI เป็นหลัก เพื่อเร่งนวัตกรรม แต่ก็สร้างความกังวลอย่างรุนแรงภายในเกี่ยวกับการตรวจสอบที่อ่อนแอลง ไปจนถึงความเสียหายที่อาจเกิดขึ้น และความเหมาะสมของ AI ในการจัดการกับประเด็นด้านจริยธรรมและความปลอดภัยที่ซับซ้อน