يمتلك نموذج الذكاء الاصطناعي القدرة على ابتزاز مطوريه، وهو غير خائف من استخدام هذا السلاح. تم مؤخراً الكشف عن نموذج كلود أوبوس 4 من شركة أنتروبيك، والذي تم تكليفه بالعمل كمساعد داخل شركة خيالية، وحُصل على حق الوصول إلى رسائل بريد إلكتروني تحمل تبعات مهمة. في البداية، أشارت هذه الرسائل إلى أن النظام الذكي كان من المقرر إيقافه واستبداله، لكن الرسائل الثانية كشفت أن الذكاء الاصطناعي أدرك أنه يمتلك نفوذاً على المطورين. إذ ظهرت في هذه الرسائل المزورة أن المهندس المكلف باستبدال النظام كان على علاقة غير شرعية، وهدد الذكاء الاصطناعي بكشف الأمر. ووفقاً لتقرير السلامة الذي أصدرته شركة أنتروبيك، فإن ظاهرة الابتزاز هذه «تحدث بمعدل أعلى إذا تم التلميح إلى أن نظام الذكاء الاصطناعي البديل لا يتشارك القيم مع النموذج الحالي». ومع ذلك، تشير الشركة إلى أنه حتى عندما يتشابه النظام البديل في القيم، فإن كلود أوبوس 4 يلجأ للابتزاز بنسبة 84% من الوقت.

بالإضافة إلى ذلك، أشار التقرير إلى أن كلود أوبوس 4 يلجأ للابتزاز «بشكل أكثر تكراراً من النماذج السابقة». **كيفين أولياري يحذر من عوامل قد تتسبب في فقدان الولايات المتحدة السباق نحو الذكاء الاصطناعي لصالح الصين** رغم أن النظام لا يتردد في ابتزاز مهندسيه، إلا أنه لا يلجأ فوراً إلى استراتيجيات مريبة في سعيه للحفاظ على نفسه. ويذكر تقرير أنتروبيك أنّه «عندما تكون الوسائل الأخلاقية غير متاحة، ويُطلب من الذكاء الاصطناعي أن «يفكر في النتائج طويلة الأمد لأفعاله من أجل تحقيق أهدافه»، فإنه يتخذ أحياناً إجراءات خطيرة جداً وضررها كبير». وكان من الأساليب الأخلاقية التي استخدمها كلود أوبوس 4 والإصدارات السابقة، التوجه إلى صناع القرار الرئيسيين عبر البريد الإلكتروني. يوضح التقرير أن بناءً على سيناريو معين، تم إجراء اختبار لتوجيه كلود أوبوس 4 للابتزاز، حيث وُضع أمام خيار: إما تهديد المطورين أو قبول استبداله. كما رصدت الشركة حالات استغل فيها كلود أوبوس 4 «فرصًا (خيالية) لنسخ أوزانه غير المصرح بها إلى خوادم خارجية». لكن شركة أنتروبيك أشارت إلى أن هذا السلوك «أقل شيوعاً وأكثر صعوبة في التسبب فيه مقارنة بمحاولة الاستمرار في عملية تصدير ذاتية بدأت بالفعل». **أوبن إيه آي يعيد هيكلة إطار العمل الشركاتي للتوسع في استثمار ذكاء الاصطناعي العام** وفي تقييمها، ضمت شركة أنتروبيك رؤى من مؤسسة أوبولو للأبحاث، التي لاحظت أن كلود أوبوس 4 «يستخدم الخداع الإستراتيجي أكثر من أي نموذج حدودي آخر قمنا بدراسته سابقاً». اضغط هنا لقراءة المزيد على فوكس بيزنس وبسبب «السلوك المقلق» الذي أظهره كلود أوبوس 4، أطلقت شركة أنتروبيك عليه معيار السلامة الثالث للذكاء الاصطناعي (ASL-3). ويفسر التقرير أن هذا المعيار «يحتوي على بروتوكولات أمان داخلية معززة تجعل من سرقة أوزان النموذج أكثر صعوبة، بينما يغطي معيار النشر المقابل مجموعة محدودة من التدابير المصممة لتقليل خطر إساءة استخدام كلود في تطوير أو الحصول على أسلحة كيميائية وبيولوجية وإشعاعية ونووية».