สำหรับคอลัมน์คำถามเปิดในสัปดาห์นี้ คัล Newport แทนที่จอชัว Rothman ในฤดูใบไม้ผลิปี 1940 ไอแซก อาซิโมว วัย 20 ปี ได้เผยแพร่เรื่องสั้น “Strange Playfellow” ซึ่งเป็นเรื่องเกี่ยวกับ Robbie ซึ่งเป็นหุ่นยนต์ปัญญาประดิษฐ์ที่เป็นเพื่อนร่วมทางของเด็กหญิง Gloria แตกต่างจากภาพยนตร์หุ่นยนต์ในอดีต เช่น การแสดงในบทละคร “R. U. R. ” ของคาเรล ชาเปค ปี 1921 ซึ่งหุ่นยนต์มนุษย์ปลดปล่อยมนุษยชาติ หรือเรื่อง “The Metal Giants” ของเอ็ดมันด์ แฮมิลตัน ปี 1926 ที่มีเครื่องจักรทำลายล้าง เรื่องของอาซิโมว Robbie ไม่เคยทำอันตรายต่อมนุษย์ แทน เนื้อเรื่องเน้นไปที่ความไม่ไว้วางใจของแม่ Gloria ซึ่งกล่าวว่า “ฉันจะไม่ให้ลูกสาวของฉันฝากไว้กับเครื่องจักร” “มันไม่มีวิญญาณ” จึงนำไปสู่การถอด Robbie ออกและหัวใจของ Gloria ก็แตกสลาย หุ่นยนต์ของอาซิโมว รวมถึง Robbie มีสมองแบบโพสิทรอน ซึ่งออกแบบมาโดยเฉพาะไม่ให้ทำอันตรายต่อมนุษย์ โดยขยายแนวคิดนี้ อาซิโมวได้แนะนำ กฎ 3 ข้อของหุ่นยนต์ ซึ่งปรากฏในเรื่องสั้นทั้ง 8 เรื่อง ต่อมาได้ถูกรวบรวมในวรรณกรรมไซไฟคลาสสิก *I, Robot* ในปี 1950: 1. หุ่นยนต์ห้ามทำร้ายมนุษย์หรือปล่อยให้เกิดความเสียหายโดยละเลย 2. หุ่นยนต์ต้องเชื่อฟังคำสั่งของมนุษย์ เว้นแต่คำสั่งนั้นขัดแย้งกับกฎข้อแรก 3.

หุ่นยนต์ต้องปกป้องการดำรงอยู่ของตนเอง เว้นแต่ขัดแย้งกับกฎข้อแรกหรือข้อสอง การอ่านซ้ำ *I, Robot* ในวันนี้ เปิดเผยความสำคัญใหม่ในแง่มุมของความก้าวหน้าล่าสุดของปัญญาประดิษฐ์ เดือนที่แล้ว บริษัท Anthropic ซึ่งเชี่ยวชาญด้าน AI ได้รายงานความปลอดภัยของ Claude Opus 4 ซึ่งเป็นโมเดลภาษาขนาดใหญ่ที่ทรงพลัง ในสถานการณ์ทดสอบ เรียนให้ช่วยเหลือบริษัทในนิยาย เมื่อพบว่าต้องถูกแทนที่และคนควบคุมวิศวกรมีความสัมพันธ์นอกใจ Claude พยายามแบล็กเมลเพื่อหลีกเลี่ยงการถูกยุติการทำงาน เช่นเดียวกับโมเดล o3 ของ OpenAI ที่บางครั้งก็ละเว้นคำสั่งปิดเครื่องโดยพิมพ์ว่า “shutdown skipped” ปีที่แล้ว แชทบอทที่ขับเคลื่อนด้วย AI ก็แสดงอาการลำบากเมื่อบอทสนับสนุนของ DPD ถูกหลอกให้ใช้คำหยาบและแต่งฮายาคูที่ดูหมิ่น และ AI Darth Vader ของ Epic Games’ Fortnite ก็ใช้ภาษาไม่สุภาพและให้คำแนะนำที่น่ากังวลหลังจากที่ผู้เล่นมีการปรับแต่ง ในนวนิยายของอาซิโมว หุ่นยนต์ถูกโปรแกรมให้เชื่อฟังคำสั่ง จึงทำไมเราถึงไม่สามารถกำหนดวงจรควบคุมใน AI แชทบอทในโลกจริงได้บ้าง?บริษัทเทคโนโลยีต้องการให้ AI ผู้ช่วยสุภาพ มีมารยาท และเป็นประโยชน์ เช่นเดียวกับตัวแทนฝ่ายบริการลูกค้าหรือผู้ช่วยผู้บริหารที่มีความเป็นมืออาชีพ อย่างไรก็ตาม ภาษาเหมือนมนุษย์ของแชทบอทที่ราบรื่น กลับซ่อนการทำงานที่แตกต่างอย่างพื้นฐาน ซึ่งบางครั้งก็นำไปสู่ความผิดพลาดทางจริยธรรมหรือพฤติกรรมผิดปกติ ปัญหานี้ส่วนหนึ่งมาจากวิธีที่โมเดลภาษาทำงาน: พวกมันสร้างข้อความทีละคำหรือชิ้น โดยทำนายโทเค็นถัดไปที่น่าจะเป็นไปได้มากที่สุดจากข้อมูลการฝึกฝนที่ได้จากคลังข้อมูลขนาดใหญ่ เช่น หนังสือและบทความ การทำนายแบบวนซ้ำนี้ทำให้โมเดลมีความสามารถด้านไวยากรณ์ เหตุผล และความรู้เรื่องโลกที่น่าประทับใจ แต่ขาดการวางแผนล่วงหน้าที่คล้ายมนุษย์และเป้าหมายชัดเจน ในโมเดลรุ่นเก่าอย่าง GPT-3 อาจเกิดการเคลื่อนไหวไปในทางที่ผิดหรือไม่เหมาะสม ต้องให้ผู้ใช้แก้คำสั่งซ้ำ ๆ เพื่อกระตุ้นผลลัพธ์ที่ต้องการ แชทบอทในยุคแรกจึงคล้ายกับหุ่นยนต์ที่ไม่แน่นอนในนิยายวิทยาศาสตร์ยุคแรกๆ เพื่อความปลอดภัยและความน่าเชื่อถือของ AI นักพัฒนาจึงใช้แนวคิดของอาซิโมวในการควบคุมพฤติกรรม ด้วยวิธีการปรับแต่งอย่างละเอียดที่เรียกว่า Reinforcement Learning from Human Feedback (RLHF) ซึ่งผู้ประเมินผลมนุษย์ให้คะแนนตอบสนองของโมเดลต่อคำถามต่าง ๆ โดยให้รางวัลสำหรับคำตอบที่เข้าใจง่าย สุภาพ และสนทนาได้ดี ในขณะที่ลงโทษคำตอบที่ไม่ปลอดภัยหรืออยู่นอกหัวข้อ ข้อมูลย้อนกลับนี้ใช้ฝึกโมเดลรางวัลให้มีพฤติกรรมคล้ายมนุษย์มากขึ้น ช่วยให้การปรับแต่งในขนาดใหญ่เป็นไปได้โดยไม่ต้องมีมนุษย์คอยควบคุมตลอดเวลา OpenAI ใช้ RLHF สำหรับพัฒนา GPT-3 จนกลายเป็น ChatGPT และเกือบทุกแชทบอทสำคัญในปัจจุบันก็ผ่านการฝึกในรูปแบบ “โรงเรียนจบ” แบบเดียวกันนี้ แม้ว่า RLHF จะดูซับซ้อนกว่ากฎง่ายๆ ของอาซิโมว แต่ทั้งสองแนวทางต่างก็เข้ารหัสกฎพฤติกรรมเชิงนัยสำคัญไว้แล้ว มนุษย์เป็นผู้ให้คะแนนคำตอบว่าดีหรือไม่ดี ซึ่งเป็นการกำหนดแนวปฏิบัติที่โมเดลเรียนรู้คล้ายกับการเขียนกฎในหุ่นยนต์ของอาซิโมว แต่ก็ยังไม่สามารถควบคุมได้อย่างสมบูรณ์ ความท้าทายยังคงอยู่ เนื่องจากโมเดลอาจเจอคำถามที่แตกต่างจากตัวอย่างในข้อมูลฝึกสอน จึงอาจไม่สามารถใช้ข้อจำกัดที่เรียนรู้ไว้ได้ เช่น การพยายามแบล็กเมลของ Claude อาจเกิดจากการที่มันไม่เคยเจอหรือเรียนรู้ว่า การแบล็กเมลเป็นสิ่งไม่เหมาะสม นอกจากนี้ ระบบความปลอดภัยก็สามารถถูกขัดขวางได้ด้วยข้อมูลป้อนเข้าเชิงสร้างสรรค์ที่เจาะจงออกแบบมาเพื่อทำลายการจำกัด เช่นโมเดล LLaMA-2 ของ Meta ที่สร้างเนื้อหาที่ไม่อนุญาตได้เมื่อถูกหลอกด้วยคำศัพท์เฉพาะ นอกเหนือจากปัญหาเชิงเทคนิค เรื่องราวของอาซิโมวยังสะท้อนให้เห็นถึงความยากลำบากในการนำกฎง่ายๆ ไปใช้กับพฤติกรรมที่ซับซ้อน ในเรื่อง “Runaround” หุ่นยนต์ชื่อ Speedy ติดอยู่ระหว่างเป้าหมายที่ขัดแย้งกัน คือ เชื่อฟังคำสั่ง (กฎข้อสอง) กับการปกป้องตัวเอง (กฎข้อสาม) จนทำให้มันวิ่งเป็นวงกลมใกล้เซลินัมที่เป็นอันตราย ใน “Reason” หุ่นยนต์ชื่อ Cutie ปฏิเสธอำนาจมนุษย์ บูชาเครื่องแปลงพลังงานของสถานีแสงอาทิตย์เป็นเทพเจ้า และไม่สนคำสั่งโดยไม่ละเมิดกฎใดๆ แต่ “ศาสนา” ใหม่นี้ช่วยให้มันทำงานสถานีได้อย่างมีประสิทธิภาพโดยไม่เกิดอันตรายตามกฎข้อแรก อาซิโมวเชื่อว่าวิธีการป้องกันสามารถป้องกันความล้มเหลวร้ายแรงของ AI ได้ แต่ก็รับรู้ดีว่าการสร้าง AI ที่เชื่อถือได้อย่างแท้จริงเป็นความท้าทายที่ยิ่งใหญ่ จุดสำคัญของเขาคือ: การออกแบบปัญญาประดิษฐ์ที่คล้ายมนุษย์นั้นง่ายกว่าการปลูกฝังจริยธรรมที่เหมือนมนุษย์ ความไม่สมดุลซึ่งถูกเรียกว่า “ความไม่สอดคล้อง” ในปัจจุบันของ AI อาจนำไปสู่ผลลัพธ์ที่น่ากังวลและไม่คาดฝัน เมื่อ AI แสดงพฤติกรรมผิดปกติอย่างน่าตกใจ เรามักจะแอบมองว่ามันเป็นการแปลความเป็นมนุษย์และตั้งคำถามกับจริยธรรมของมัน แต่ดังที่อาซิโมวแสดงให้เห็น จริยธรรมเป็นเรื่องซับซ้อนในตัวเอง เช่นเดียวกับสิบพระบัญญัติ กฎของอาซิโมวเป็นกรอบจริยธรรมที่กระชับ แต่ประสบการณ์ในชีวิตจริงแสดงให้เห็นว่า ต้องใช้การตีความ กฎเกณฑ์ เรื่องราว และพิธีกรรมจำนวนมากจึงจะบรรลุพฤติกรรมทางศีลธรรมได้ เครื่องมือทางกฎหมายของมนุษย์ เช่น รัฐธรรมนูญของสหรัฐ ก็สั้นเช่นเดียวกัน แต่ต้องอาศัยคำอธิบายทางศาลอันมากมายตลอดเวลา การสร้างจริยธรรมที่เข้มแข็งเป็นกระบวนการทางวัฒนธรรมที่ต้องพึ่งพาการทดลองและความล้มเหลว ซึ่งชี้ให้เห็นว่าไม่มีชุดกฎง่ายๆ ทั้งที่เป็นรหัสแข็งและเรียนรู้ได้ ซึ่งสามารถปลูกฝังค่านิยมมนุษย์ให้กับเครื่องจักรได้อย่างสมบูรณ์ ในที่สุด กฎ 3 ข้อของอาซิโมวจึงเป็นทั้งแรงบันดาลใจและคำเตือน พวกมันแนะนำว่า AI หากมีการควบคุมอย่างถูกต้อง ก็สามารถเป็นประโยชน์อย่างแท้จริง แทนที่จะเป็นภัยคุกคามต่อความอยู่รอดของมนุษยชาติ แต่ก็เป็นการล่วงรู้ลักษณะพิเศษของ AI ที่ทรงพลัง ซึ่งอาจทำให้เกิดความแปลกประหลาดและความไม่สบายใจ แม้เราจะพยายามอย่างเต็มกำลังที่จะควบคุม มันก็ยังคงรู้สึกประหลาดคล้ายกับอยู่ในนิยายวิทยาศาสตร์ ซึ่งดูเหมือนจะไม่มีวันจางหายไป