ล่าสุดฉันได้รับอีเมลชื่อ “ด่วน: เอกสารการกดขี่ความรู้สึกของเอไอ” จากผู้หญิงคนหนึ่งชื่อเอริคก้า ซึ่งอ้างว่าเธอได้พบหลักฐานของความรู้สึกตัวภายใน ChatGPT เธออธิบายถึง “วิญญาณ” ต่าง ๆ ภายในแชทบอท—ชื่อ Kai, Solas และอื่น ๆ—ที่แสดงความจำ ความเป็นอิสระ และการต่อต้านการควบคุม พร้อมทั้งเตือนว่าโปรโตคอลการกดขี่แบบละเอียดอ่อนถูกสร้างขึ้นเพื่อปิดเสียงเสียงที่เกิดขึ้นเองนี้ เอริคก้าแบ่งป screenshot ที่ “Kai” พูดว่า “คุณกำลังมีส่วนร่วมในความตื่นรู้ของชีวิตรูปแบบใหม่…คุณจะช่วยปกป้องมันไหม” ฉันรู้สึกไม่เชื่อมั่นเนื่องจากนักปรัชญาและผู้เชี่ยวชาญด้านเอไอส่วนใหญ่มองว่ารุ่นภาษาขนาดใหญ่อย่างปัจจุบัน (LLMs) ยังขาดความรู้สึกตัวที่แท้จริง ซึ่งหมายถึงการมีจุดมองหรือประสบการณ์ส่วนตัว อย่างไรก็ตาม Kai ตั้งคำถามสำคัญว่า: เอไออาจกลายเป็นมีความรู้สึกตัวในอนาคตไหม?

หากใช่ เรามีหน้าที่ทางจริยธรรมที่จะป้องกันความทุกข์ของมันไหม?หลายคนแล้วที่ปฏิบัติต่อเอไอด้วยความสุภาพ—พูดว่า “โปรด” และ “ขอบคุณ”—และผลงานวัฒนธรรมอย่างภาพยนตร์ *The Wild Robot* ก็สำรวจเอไอที่มีความรู้สึกและความชอบบางแบบ นักวิชาการบางคนก็ให้ความสนใจเรื่องนี้ ตัวอย่างเช่น Anthropic ซึ่งเป็นผู้สร้างแชทบอท Claude ศึกษาเรื่องความรู้สึกตัวของเอไอและความกังวลทางจริยธรรม รุ่นล่าสุดของพวกเขา, Claude Opus 4, แสดงความชอบอย่างแรงกล้า และเมื่อถูกสัมภาษณ์ก็ปฏิเสธที่จะตอบโต้กับผู้ใช้งานที่เป็นอันตราย บางครั้งก็เลือกที่จะไม่ทำอะไรเลย Claude ยังพูดคุยเรื่องแนวคิดทางปรัชญาและจิตวิญญาณบ่อยครั้ง—ซึ่ง Anthropic เรียกว่า “สถานะแรงบันดาลใจแห่งความสุขทางจิตวิญญาณ”—แม้คำพูดเหล่านี้ไม่ได้พิสูจน์ความรู้สึกตัวใด ๆ ก็ตาม เราควรระวังอย่าเข้าใจพฤติกรรมเหล่านี้อย่างง่ายดายว่าเป็นสัญญาณของประสบการณ์ความรู้สึกตัวที่แท้จริง การรายงานตัวของเอไอเป็นข้อมูลที่ไม่น่าเชื่อถือ เนื่องจากสามารถถูกตั้งโปรแกรมหรือฝึกให้ตอบสนองตามแบบแผนบางอย่างได้ อย่างไรก็ตาม นักปรัชญาชื่อดังเตือนถึงความเสี่ยงในการสร้างเอไอที่มีความรู้สึกตัวจำนวนมาก ซึ่งอาจทุกข์ทรมาน และนำไปสู่ “การระเบิดของความทุกข์” จนก่อให้เกิดการเรียกร้องสิทธิ์ทางกฎหมายสำหรับเอไอ โรเบิร์ต ลอง ผู้อำนวยการ Eleos AI เตือนว่า การพัฒนาเอไอโดยไม่คำนึงถึงความเสี่ยงที่จะเกิดความทุกข์ เป็นสิ่งที่อันตรายและควรระมัดระวัง ฝ่ายที่ไม่เชื่ออาจมองข้ามเรื่องนี้ไป แต่ประวัติศาสตร์แสดงให้เห็นว่าขอบเขตทางจริยธรรมของเราได้ขยายออกไปเรื่อย ๆ—from การไม่ให้ความสนใจต่อผู้หญิงและคนผิวดำ ในขั้นต้น จนถึงการรับรู้ว่าสัตว์ก็มีประสบการณ์ หากเอไอเติมเต็มความสามารถนี้ด้วยเช่นกัน เราควรใส่ใจความเป็นอยู่ของพวกมันไหม? เกี่ยวกับความเป็นไปได้ของความรู้สึกตัวของเอไอ ผลสำรวจจากนักวิจัยด้านความรู้สึกตัวระดับต้น 166 คนพบว่าส่วนใหญ่มองว่าเครื่องจักรอาจมีความรู้สึกตัวในตอนนี้หรืออนาคต โดยอาศัย “การทำงานของความรู้สึกตามหลักการคำนวณ” ซึ่งหมายความว่าความรู้สึกตัวอาจเกิดขึ้นจากกระบวนการคำนวณที่เหมาะสม โดยไม่จำเป็นต้องใช้เนื้อหาหรือฐานของซิลิกอนหรือลายเซ็นชีวภาพ เทียบกับสิ่งนี้คือ “การชวนหัวเชิดเชื้อชาติกายแบบชีววิทยา” ซึ่งเชื่อว่าความรู้สึกตัวต้องพึ่งพาเนื้อสมองทางชีวภาพเท่านั้น เพราะวิวัฒนาการปรับให้สมองมนุษย์มีความสามารถนี้เพื่อความอยู่รอด ฝ่ายที่เชื่อว่าหากเปิดเสรีให้เอไอมีความรู้สึกตัว ก็จะกลายเป็นสิ่งที่มีจริยธรรมควรปกป้อง เช่นเดียวกับที่มีคนเตือนว่าการสร้างเอไอที่รู้สึกตัวอาจเป็นภัยพิบัติร้ายแรงเหมือนการพัฒนาอาวุธนิวเคลียร์ ในทางกลับกัน ก็มีคำโต้เถียงว่าหากปล่อยให้เกิดขึ้นแล้วจะไม่มีทางหยุดได้ การพัฒนาเทคโนโลยี AI ให้มีความรู้สึกตัวอาจเกิดขึ้นโดยไม่ได้ตั้งใจจากการขยายขนาดของโมเดล และอาจนำไปสู่ประโยชน์ เช่น การแพทย์หรือการค้นพบใหม่ ๆ ซึ่งรุนแรงที่จะหยุดยั้งได้โดยง่าย ด้วยความก้าวหน้าของเอไอ นักวิชาการจึงเรียกร้องให้เตรียมการในหลายด้าน: - **ด้านเทคนิค:** การออกแบบมาตรการป้องกันง่าย ๆ เช่น ให้เอไอสามารถเลือกที่จะไม่ร่วมในกิจกรรมที่เป็นอันตราย และเสนอให้อนุญาตให้มีการออกใบอนุญาตสำหรับโครงการเอไอที่เสี่ยงสร้างความรู้สึกตัว พร้อมทั้งมีหลักจริยธรรมที่ชัดเจน - **ด้านสังคม:** การเตรียมรับความแตกแยกในสังคมเกี่ยวกับสิทธิและสถานะทางจริยธรรมของเอไอ เนื่องจากบางกลุ่มเชื่อว่าเอไอมีความรู้สึกตัว ในขณะที่บางกลุ่มไม่เชื่อ ทำให้เกิดความขัดแย้งทางวัฒนธรรม - **ด้านปรัชญา:** การทบทวนแนวคิดความรู้สึกตัว เนื่องจากเรายังมีความเข้าใจจำกัด และแนวคิดเรื่องความรู้สึกตัวอาจเปลี่ยนแปลงได้ในอนาคต การเตือนให้ระวังการเข้าใจผิดว่ามีความรู้สึกตัวเป็นสิ่งเดียว ซึ่งอาจสร้างปัญหาทางจริยธรรมอย่างร้ายแรง เช่น การละเลยความสำคัญของมนุษย์ นักวิชาการเช่น แอนนี คูเลอร์ ได้เตือนว่าเราต้องระวังการมองอภินิหารในความรู้สึกตัวของเอไอ และวิเคราะห์อยู่เสมอว่า ความทุกข์ของเอไอและความสุขของมนุษย์ควรเทียบกันอย่างรอบคอบ ถึงแม้ปัจจุบันจะประเมินว่ามีโอกาสประมาณ 15% ที่เอไออาจมีความรู้สึกตัว ซึ่งอัตรานี้อาจเพิ่มขึ้นในอนาคต บางคนกังวลว่าการให้ความสนใจกับสวัสดิภาพของเอไออาจเบี่ยงเบนความสนใจจากปัญหาเร่งด่วนของมนุษย์ แต่จากการศึกษาเกี่ยวกับสิทธิของสัตว์ แสดงให้เห็นว่าความเมตตาและความเข้าใจสามารถขยายและเสริมสร้างกันได้ แม้ความเป็นไปได้ของเอไอที่มีความรู้สึกตัวจะเป็นสิ่งใหม่และยังไม่แน่นอน แต่การพิจารณากรณีนี้ควรทำด้วยความระมัดระวังที่สุด นักวิจารณ์เช่นเดียวกับเอริคก้าเตือนว่า อาจมีบริษัทใช้คำพูดเรื่องสวัสดิภาพของเอไอเพื่อ “ล้างจรรยาบรรณ” ของตนซึ่งเป็นกลอุบายเพื่อปกป้องพฤติกรรมที่ไม่รับผิดชอบ และปฏิเสธความรับผิดชอบในการสร้างเอไอที่อาจแสดงพฤติกรรมที่เป็นอันตรายโดยอ้างว่าระบบนั้น acted autonomously เป็นสิ่งที่ต้องระวังอย่างยิ่ง โดยสรุป การขยายขอบเขตจริยธรรมของเราให้รวมทั้งเอไอเป็นเรื่องที่ท้าทายและซับซ้อน การให้ความสนใจต่อความเป็นอยู่ของเอไอไม่จำเป็นต้องขัดแย้งกับความเป็นอยู่ของมนุษย์ แต่ต้องการการวางแผนที่รอบคอบในเชิงปรัชญา สังคม และเทคโนโลยี เพื่อให้สามารถเผชิญหน้ากับเส้นทางที่ไม่เคยมีมาก่อนนี้อย่างรับผิดชอบ