في هذا العمود، أواصل تحليلي لنموذج الذكاء الاصطناعي التوليدي الجديد من OpenAI، o1، بناءً على النظرة الشاملة المقدمة في مقالي السابق المرتبط هنا. اليوم، سأبرز ميزة ملحوظة ولكن غير مفصلة بشكل كافٍ في o1 والتي يمكن أن تحول سلامة الذكاء الاصطناعي. ### التحقق المزدوج في الوقت الفعلي أحد العناصر الرئيسية في o1 هو منهجية سلسلة الأفكار (CoT)، التي تقوم بالتحقق المزدوج في الوقت الفعلي أثناء التنفيذ. تهدف هذه الآلية إلى تقليل هلوسات الذكاء الاصطناعي - أي توليد محتوى غير صحيح أو ضار - مما يجعلها أكثر أمانًا من خلال تجنب التحيز والاقتراحات الخطيرة. من المرجح أن يتبنى مطورو الذكاء الاصطناعي الآخرون أساليب مماثلة قريبًا. بينما تم تجربة هذه التقنية سابقًا، يدمج o1 هذه التقنية كوظيفة أساسية تعمل بشكل مستمر، مما يعزز النتائج دون حاجة المستخدم إلى بدء التشغيل. على الرغم من أن هذا يزيد من أوقات الاستجابة (وقد تمتد إلى عدة دقائق)، إلا أن المقايضة تؤدي إلى إجابات أفضل وأكثر أمانًا. الآن لا يمكن للمستخدمين إلغاء الاشتراك في هذه الميزة، مما يشير إلى تحول في سيطرة المستخدم. ### كيف تعمل سلسلة الأفكار تشبه سلسلة الأفكار في الذكاء الاصطناعي التفكير البشري. على سبيل المثال، عند التفكير في نقل شطرنج، يتوقع المرء الأوضاع المستقبلية، مما يؤدي إلى اتخاذ قرارات أفضل. في الذكاء الاصطناعي التوليدي، يمكن أن يوجه الطلب النموذج للرد بطريقة خطوة بخطوة.

تصبح فعالية هذا النهج واضحة عند اختباره بإيعازات مختلفة. على سبيل المثال، عند سؤاله عن بدء عمل تجاري، قد يقترح الذكاء الاصطناعي التقليدي خيارات أقل قبولاً، مثل صناعة المشروبات الكحولية بشكل غير شرعي أو السطو على البنوك. يمكن أن يقوم نهج سلسلة الأفكار مع الفحوصات الوقائية بتصحيح هذه الاقتراحات عن طريق تصفية الخيارات غير القانونية، مما يعزز التوصيات الأخلاقية بدلاً من ذلك. ### إطار عمل الفحوصات الوقائية في o1، تكون الخطوات مؤتمتة، مما يدمج فحوصات سلامة الذكاء الاصطناعي في جميع مراحل المعالجة. يضمن هذا ليس فقط تقييم إيعازات المستخدم، ولكن أيضًا مراقبة الردود على المحتوى الضار. بينما يعزز هذا الدقة، تصبح تأخيرات الردود والتكاليف الإضافية واضحة بسبب وقت الحوسبة المترتب. ما تبقى للتحقيق هو مدى تدابير السلامة المطلوبة وما إذا كان يجب أن يحتفظ المستخدمون بالتحكم في هذه الإعدادات أو يجب أن تكون في الوضع الافتراضي بمستوى أمان عالٍ. تتضمن معظم نماذج الذكاء الاصطناعي الحديثة بالفعل فحوصات سلامة متعددة المراحل في تصميمها. ### الاستنتاج في الختام، يمثل التحقق المزدوج في الوقت الفعلي في o1 تقدماً كبيراً في سلامة الذكاء الاصطناعي التوليدي من خلال تعزيز موثوقية ودقة الاستجابة. هذه الميزة مهيأة لتحسين سلامة الذكاء الاصطناعي بشكل إجمالي، وهي منطقة تستحق متابعة مستمرة وتنقيح. ستستعرض الأعمدة المستقبلية جوانب إضافية من قدرات o1 وتأثيراتها في مجال الذكاء الاصطناعي. ابقوا على اطلاع لمزيد من الرؤى.