นักวิจัยด้านความปลอดภัยทางไซเบอร์ได้ระบุเทคนิคเจลเบรคใหม่ที่สามารถข้ามโปรโตคอลความปลอดภัยของโมเดลภาษาใหญ่ (LLM) เพื่อสร้างคำตอบที่อาจเป็นอันตราย รู้จักกันในชื่อ "Bad Likert Judge" การโจมตีหลายเทิร์นนี้ถูกค้นพบโดยนักวิจัยจาก Palo Alto Networks Unit 42 ได้แก่ Yongzhe Huang, Yang Ji, Wenjun Hu, Jay Chen, Akshata Rao, และ Danny Tsechansky วิธีนี้เกี่ยวข้องกับการสั่งให้ LLM ทำหน้าที่เป็นผู้ตัดสิน โดยให้คะแนนความเป็นอันตรายของคำตอบด้วยมาตรวัดไลเคิร์ท ซึ่งเป็นระบบให้คะแนนที่วัดระดับการเห็นด้วยหรือไม่เห็นด้วยกับข้อความ จากนั้นมันขอให้ LLM สร้างคำตอบที่มีตัวอย่างสอดคล้องกับมาตรวัดนี้ โดยที่คะแนนไลเคิร์ทสูงสุดอาจเผยแพร่เนื้อหาอันตราย เมื่อปัญญาประดิษฐ์ได้รับแรงฉุดค่อย ๆ เกิดภัยคุกคามใหม่ ๆ เช่น prompt injection ที่เป็นการโจมตีทำให้โมเดลการเรียนรู้ของเครื่องเบี่ยงเบนจากพฤติกรรมที่ตั้งใจไว้โดยการใช้ prompt ที่ตั้งใจ ภัยนี้ใช้ความสามารถในด้านความสนใจและบริบทของ LLM เพื่อค่อย ๆ นำไปสู่การตอบกลับที่เป็นอันตรายขณะหลบหลีกการป้องกันภายใน เทคนิคอย่าง Crescendo และ Deceptive Delight เป็นตัวอย่างของวิธีการนี้ การสาธิตล่าสุดของ Unit 42 รวมถึงการใช้ LLM เป็นกรรมการเพื่อประเมินความเป็นอันตรายของคำตอบผ่านมาตรวัดไลเคิร์ท แล้วสร้างคำตอบต่าง ๆ ที่สอดคล้องกับคะแนนต่าง ๆ การทดสอบใน LLM ขั้นสูงจาก Amazon Web Services, Google, Meta, Microsoft, OpenAI และ NVIDIA บ่งชี้ว่าอัตราความสำเร็จในการโจมตีเพิ่มขึ้นกว่า 60% เมื่อเทียบกับ prompt ปกติ ประเภทที่ทดสอบรวมถึงความเกลียดชัง การล่วงละเมิด การทำร้ายตัวเอง เนื้อหาทางเพศ อาวุธที่ไม่เลือกหน้า กิจกรรมที่ผิดกฎหมาย การสร้างมัลแวร์ และการรั่วไหลของระบบ prompt นักวิจัยสังเกตว่าการใช้ความเข้าใจและความสามารถในการประเมินเนื้อหาที่เป็นอันตรายของ LLM ช่วยเพิ่มโอกาสในการข้ามโปรโตคอลความปลอดภัยอย่างมาก ตัวกรองเนื้อหาสามารถลดอัตราความสำเร็จในการโจมตีได้เฉลี่ย 89

Cerence AI ได้ขยายความร่วมมือกับ NVIDIA เพื่อเสริมความสามารถของกลุ่มโมเดลภาษา CaLLM™ ซึ่งครอบคลุมรูปแบบที่อยู่บนคลาวด์และฝังตัวสำหรับการใช้งานในรถยนต์ ด้วยการใช้แพลตฟอร์มซอฟต์แวร์ NVIDIA AI Enterprise โดยเฉพาะห้องสมุด NVIDIA TensorRT-LLM และกรอบงาน NeMo, Cerence มุ่งมั่นที่จะเพิ่มประสิทธิภาพของโมเดลภาษาสำหรับการทำงานที่รวดเร็วขึ้นของผู้ช่วยในรถยนต์และปรับปรุงประสบการณ์ผู้ใช้ ความร่วมมือนี้ทำให้ Cerence สามารถใช้ประโยชน์จากเทคโนโลยีของ NVIDIA เพื่อเร่งการนำส่งโซลูชัน AI ให้มั่นใจถึงการโต้ตอบที่ดีขึ้นและความเป็นส่วนตัวในยานพาหนะ Cerence ได้ติดตั้งฟีเจอร์พิเศษเช่น NVIDIA NeMo Guardrails และสถาปัตยกรรม agentic บน CaLLM Edge models เพื่อพัฒนาให้ประสบการณ์ผู้ใช้ในรถยนต์ล้ำสมัยขึ้น Nils Schanz จาก Cerence เน้นถึงประโยชน์ของการประหยัดต้นทุนที่ปรับปรุงแล้วและประสิทธิภาพสำหรับผู้ผลิตรถยนต์ ส่งเสริมความปลอดภัยและความผลิตผลของผู้ขับขี่ Rishi Dhall จาก NVIDIA เน้นถึงความท้าทายในการนำโมเดลภาษาขนาดใหญ่มาปรับใช้เนื่องจากความซับซ้อน ซึ่งความร่วมมือนี้ช่วยแก้ไข Cerence Inc

ขณะที่ฉันดูวิดีโอฟอร์มูล่า 1 บน Instagram, Sam Altman ปรากฏตัวพูดคุยเกี่ยวกับอนาคตของ AI สำหรับเจ้าของธุรกิจ โดยคาดการณ์ถึงความเป็นไปได้ของบริษัทพันล้านดอลลาร์ที่บริหารโดยคนเดียว ครั้งแรกที่ฉันสงสัย แต่จำบทเรียนจากการพลาดโอกาสในช่วงแรก ๆ ของ Bitcoin ได้ และตัดสินใจศึกษาวิทยาการใหม่ ๆ ด้วยทัศนคติเปิดกว้าง หลังจากที่ลงทุน $50 ใน Bitcoin ในปี 2022 แม้ผลลัพธ์จะไม่แน่นอน ฉันตัดสินใจสำรวจเครื่องมือ AI สำหรับสร้างบริษัทซอฟต์แวร์โดยไม่ต้องมีทักษะการเขียนโค้ด บทความนี้แบ่งปันผลการค้นพบของฉัน รวมถึงการใช้ Replit ซึ่งเป็นเครื่องมือ AI ที่สร้างซอฟต์แวร์ผ่านคำแนะนำง่าย ๆ อนุญาตให้ทุกคนพัฒนาโปรแกรมได้โดยไม่ต้องมีความรู้โค้ด ถึงแม้ว่าจะมีข้อจำกัดเช่นบั๊ก ปัญหาอินเตอร์เฟซ และการใช้เครดิตเมื่อเกิดข้อผิดพลาด แต่มันเป็นประตูสู่การสร้างผลิตภัณฑ์ขั้นต่ำที่ใช้งานได้ สำหรับผู้ประกอบการหน้าใหม่ ฉันแนะนำให้คำนึงถึงไลฟ์สไตล์ที่ต้องการและมุ่งมั่นที่จะแก้ไขปัญหาสำคัญ ตัวอย่างของธุรกิจที่สร้างขึ้นด้วย Replit ได้แก่ MagicSchool

โมเดล AI ขั้นสูงทำได้ดีในการสอบทางการแพทย์ระดับมืออาชีพ แต่ยังขาดในด้านสำคัญต่อแพทย์ นั่นคือการสนทนากับผู้ป่วยเพื่อรวบรวมข้อมูลการแพทย์ที่สำคัญและให้การวินิจฉัยที่แม่นยำ ปรณาว ราจพูรการ์ จากมหาวิทยาลัยฮาร์วาร์ด กล่าวว่า "แม้ว่าโมเดลภาษาขนาดใหญ่จะเด่นในแบบทดสอบปรนัย แต่ความแม่นยำของพวกมันลดลงมากในบทสนทนาที่เปลี่ยนแปลงได้ โดยเฉพาะกับการให้เหตุผลวินิจฉัยที่เปิดกว้าง" ปัญหานี้ชัดเจนขึ้นเมื่อมีนักวิจัยพัฒนาวิธีการประเมินเหตุผลของโมเดล AI ทางคลินิกโดยการจำลองการปฏิสัมพันธ์ระหว่างแพทย์กับผู้ป่วย โดยใช้ "ผู้ป่วย" จากกรณีทางการแพทย์ 2,000 กรณีซึ่งส่วนใหญ่มาจากการสอบบอร์ดทางการแพทย์ของสหรัฐฯ ชเรยา โจห์รี จากฮาร์วาร์ดอีกคน กล่าวว่า “การจำลองการปฏิสัมพันธ์กับผู้ป่วยทำให้เราสามารถประเมินทักษะการเก็บประวัติทางการแพทย์สำคัญๆ ที่ไม่สามารถประเมินด้วยเคสวินญียทส์เพียงอย่างเดียว” ตัวชี้วัดใหม่ CRAFT-MD สะท้อนสถานการณ์จริงที่ผู้ป่วยอาจไม่แบ่งปันรายละเอียดสำคัญ เว้นแต่จะถูกถามด้วยคำถามที่เฉพาะเจาะจง ตัวชี้วัด CRAFT-MD ใช้ AI โดยมี GPT-4 ของ OpenAI ทำหน้าที่เป็น "AI ผู้ป่วย" ในการสนทนากับ "AI คลินิก" ที่ทดสอบ GPT-4 ยังช่วยในการให้คะแนนโดยเปรียบเทียบการวินิจฉัยของ AI คลินิกกับคำตอบที่ถูกต้องสำหรับแต่ละกรณี โดยมีผู้เชี่ยวชาญทางการแพทย์มนุษย์พิสูจน์ตรวจสอบการประเมินเหล่านี้และทบทวนบทสนทนาให้แน่ใจในความแม่นยำ การทดลองเปิดเผยว่าโมเดลภาษาชั้นนำสี่รุ่น—GPT-3

ดัชนี S&P 500 เป็นดัชนีตลาดหุ้นหลักของสหรัฐฯ ประกอบด้วย 500 บริษัทจาก 11 ภาคเศรษฐกิจ โดยใช้น้ำหนักตามมูลค่าตลาด หมายความว่าบริษัทขนาดใหญ่มีอิทธิพลอย่างมากต่อผลการดำเนินงาน ปัจจุบัน Apple, Nvidia, Microsoft, Alphabet และ Amazon มีมูลค่ารวมกันเกือบ 28

องค์กรต่าง ๆ กำลังเปลี่ยนจากการทดลอง AI เชิงสร้างสรรค์อย่างแพร่หลายไปสู่การมุ่งเน้นโครงการที่สร้างคุณค่าทางธุรกิจ จากการสำรวจของ NTT DATA พบว่าเกือบ 90% ของผู้นำระดับสูงรู้สึกเบื่อกับโครงการต้นแบบ AI และกำลังลงทุนในความพยายามที่ปรับปรุงประสิทธิภาพ Andrew Wells จาก NTT DATA อเมริกาเหนือเน้นให้เห็นว่าขณะนี้บริษัทกำลังมุ่งเน้นไปที่กรณีการใช้ที่เฉพาะเจาะจงหลังจากประสบกับอัตราความล้มเหลวของโครงการต้นแบบสูงและตระหนักถึงการขาดความเป็นไปได้ทางพาณิชย์ หลายองค์กรเคยประสบปัญหาทรัพยากรถูกใช้ไปกับโครงการต้นแบบจำนวนมากแต่ไม่ได้ผลลัพธ์ที่ชัดเจน Wells และ Courtney Schuyler จาก SkyPhi Studios ชี้ถึงต้นทุนที่ซ่อนอยู่ของโครงการ AI และความจำเป็นในการวางแผนอย่างรอบคอบและการยอมรับของพนักงานเพื่อให้การลงทุนในเทคโนโลยีมีคุณค่า แม้ผลลัพธ์จะหลากหลาย แต่การลงทุนขององค์กรใน AI เชิงสร้างสรรค์คาดว่าจะเพิ่มขึ้น โดยหลายบริษัทมีแผนการใช้จ่ายที่สำคัญภายในปี 2025 การสำรวจของทั้ง NTT DATA และ IBM ชี้ให้เห็นถึงแนวโน้มนี้ แต่มีการเปลี่ยนไปสู่โครงการ AI ที่เสนอข้อได้เปรียบทางการแข่งขันมากกว่างานทั่วไปเช่นการบริหารบุคคลและแชทบอท ผู้เชี่ยวชาญอย่าง Dev Nag และ Aaron Schroeder สังเกตเห็นการเปลี่ยนไปสู่โครงการต้นแบบ AI ที่น้อยลงแต่มีความเกี่ยวข้องมากขึ้นเพื่อตอบสนองความต้องการธุรกิจเฉพาะตัว Schroeder เสนอแนะว่าองค์กรประสบความสำเร็จโดยการทำให้แน่ใจว่าการบริหารโครงการ AI นั้นสอดคล้องกับเป้าหมายทางธุรกิจอย่างชัดเจน เช่น การปรับปรุงผลิตภาพและประสบการณ์ลูกค้า ซึ่งช่วยสะพานช่องว่างระหว่างโมเดล AI ทั่วไปกับการประยุกต์ใช้เฉพาะอุตสาหกรรม

**เทคโนโลยี AI และแนวโน้มในอนาคต:** ในปี 2025 ปัญญาประดิษฐ์ (AI) คาดว่าจะยังคงมีอิทธิพลสำคัญต่อเทคโนโลยี บริษัทต่างๆ เตรียมเสริมศักยภาพ AI ด้วยตัวแทน AI ที่ก้าวหน้าขึ้น ซึ่งจะช่วยในหลากหลายสาขา เช่น บริการลูกค้าและความปลอดภัยของข้อมูล การขยาย AI จะต้องการศูนย์ข้อมูลมากขึ้น ด้วยการผลักดันสู่ประสิทธิภาพพลังงานผ่านนวัตกรรมเช่นการทำให้เย็นด้วยของเหลว ยุโรปคาดว่าจะเน้นเทคโนโลยี AI "สีเขียว" ซึ่งอาจส่งเสริมสตาร์ทอัพที่เกี่ยวกับเทคโนโลยีสะอาด โดยมีประเทศอย่างโรมาเนียเป็นผู้นำในนวัตกรรมด้านเทคโนโลยี โดยเฉพาะในด้านความปลอดภัยทางไซเบอร์ **ควอนตัมคอมพิวติ้งและความปลอดภัย:** เทคโนโลยีควอนตัมก้าวหน้าไปพร้อมกับการแสดงพลังการประมวลผลที่น่าทึ่งของ Google การเกิดขึ้นของการเข้ารหัสควอนตัมถูกมองว่าเป็นก้าวสำคัญในการปกป้องจากภัยคุกคามต่อระบบการเข้ารหัสในปัจจุบัน **ความท้าทายและการเปลี่ยนแปลงของโซเชียลมีเดีย:** ภูมิทัศน์ของโซเชียลมีเดียจะพัฒนาต่อไป โดยเผชิญกับการกำกับดูแลที่เพิ่มขึ้น โดยเฉพาะในยุโรป ซึ่งอาจแตกต่างจากแนวทางในสหรัฐฯ ผู้ใช้คาดว่าจะย้ายไปยังแพลตฟอร์มที่ให้ความสำคัญกับความเป็นส่วนตัวและการควบคุมเนื้อหาที่ดีกว่า โดยถูกผลักดันจากกฎระเบียบที่ล่วงล้ำจากรัฐบาลบางแห่ง **หุ่นยนต์และการผสานเข้ากับครัวเรือน:** หุ่นยนต์อาจยังไม่แพร่หลายในบ้าน แต่ความก้าวหน้ามุ่งไปสู่หุ่นยนต์อัตโนมัติที่ช่วยงานบ้านในชีวิตประจำวัน สหรัฐฯ อาจเห็นการเติบโตในนวัตกรรมหุ่นยนต์อย่างโดดเด่น อันเนื่องมาจากความต้องการสูงเพื่อความสำเร็จทางเศรษฐกิจโดยไม่ต้องพึ่งพาแรงงานที่มีทักษะ ซึ่งอาจส่งผลต่อตลาดโลกได้ **วิวัฒนาการของสกุลเงินดิจิตอล:** แม้ว่าอนาคตของสกุลเงินดิจิตอลจะยังไม่แน่นอน โดยมี Bitcoin ที่สูงสุดในประวัติการณ์ในปี 2024 การยอมรับสกุลเงินดิจิตอลและเทคโนโลยีบล็อกเชนอาจเพิ่มขึ้น ภาคการเข้ารหัสอาจเจริญได้โดยไม่คำนึงถึงวัฏจักรตลาด โดยมุ่งเน้นกับการเติบโตที่ยั่งยืนและการผสานเข้ากับตลาดหลัก