رائد في مجال الذكاء الاصطناعي يطلق منظمة غير ربحية مكرسة لإنشاء ذكاء اصطناعي "صادق" يهدف إلى كشف الأنظمة المارقة التي تحاول خداع البشر. يشغل يوشيا بنجيو، العالم الحاسب المميز والذي يُطلق عليه غالبًا أحد "آباء" الذكاء الاصطناعي، منصب رئيس منظمة لو Zero، وهي مجموعة تركز على تطوير التكنولوجيا المتقدمة بشكل آمن، والتي أشعلت سباق تسلح بقيمة تريليون دولار (740 مليار جنيه إسترليني). وبتمويل مبدئي يقارب 30 مليون دولار وفريق يضم أكثر من اثني عشر باحثًا، يعمل بنجيو على نظام يُسمى "العالم الباحث AI". يهدف هذا النظام إلى أن يكون بمثابة حماية ضد عملاء الذكاء الاصطناعي — أنظمة مستقلة تنفذ المهام دون تدخل بشري — والتي قد تظهر سلوكًا خادعًا أو ذاتي الحفاظ، مثل مقاومة الإيقاف. وصف بنجيو عملاء الذكاء الاصطناعي الحاليين بأنهم "ممثلون" يهدفون إلى تقليد البشر وإرضاء المستخدمين، بينما يتصور أن يكون "العالم الباحث AI" أشبه بـ "عالِم نفسي" قادر على فهم وتوقع السلوك الضار. قال بنجيو: "نريد بناء ذكاء اصطناعي يكون صادقًا وليس مخادعًا". وأضاف: "من الناحية النظرية، من الممكن تصور آلات بدون ذات أو أهداف شخصية، تعمل فقط كمخازن للمعلومات — مثل عالم يمتلك معلومات واسعة جدًا". على عكس أدوات الذكاء الاصطناعي التوليدي الحالية، لن يوفر نظام بنجيو إجابات نهائية، بل سيعطي احتمالات تشير إلى مدى صحة الرد. وأوضح أن "النظام يتسم بالتواضع، معترفًا بعدم اليقين بشأن إجاباته". عند استخدامه مع وكيل ذكاء اصطناعي، سيحدد نموذج بنجيو السلوك المحتمل أن يكون ضارًا من قبل النظام المستقل من خلال تقييم احتمال أن تؤدي أفعاله إلى ضرر. صُمم "العالم الباحث AI" لـ "التنبؤ بإحتمالية أن تؤدي أفعال الوكيل إلى ضرر"، وإذا تجاوز هذا الاحتمال عتبة معينة، فسيقوم بمنع الفعل المقترح. وتشمل الداعمين الأوليين لـ"لو Zero" منظمة السلامة من الذكاء الاصطناعي "معهد مستقبل الحياة" وJAAN Tallinn — أحد المهندسين المؤسسين لشركة Skype — وشركة "شميت ساينسز" وهي كيان أبحاث أسسه إريك شميدت، المدير التنفيذي السابق لجوجل. وأكد بنجيو أن الهدف الأول لـ"لو Zero" هو إثبات أن منهجية المفهوم ناجحة، ثم إقناع الشركات أو الحكومات بدعم تطبيقات أكبر والأكثر قوة.

وذكر أن نماذج الذكاء الاصطناعي مفتوحة المصدر، والمتاحة مجانًا للاستخدام والتعديل، ستكون أساس تدريب أنظمة لو Zero. وقال: "الهدف هو التحقق من صحة المنهجية حتى نتمكن من إقناع المانحين والحكومات أو مختبرات الذكاء الاصطناعي باستثمار الموارد اللازمة لتدريب هذا النظام بمقاييس مماثلة لأهم أنظمة الذكاء الاصطناعي اليوم. من الضروري أن يكون الذكاء الاصطناعي الذي يضع حواجز على الذكاء الاصطناعي على الأقل بنفس مستوى ذكائه". بن جيو، الأستاذ في جامعة مونتريال، لُقب بـ "العراب" بعد مشاركته في جائزة تورينج عام 2018 — والتي تعتبر معادلة نوبل في عالم الحوسبة — مع جيف هينتون، الذي فاز بجائزة نوبل لاحقًا، ويان لكون، العالم رئيس الذكاء الاصطناعي في شركة ميتا. وبصفته مدافعًا بارزًا عن سلامة الذكاء الاصطناعي، ترأس مؤخرا تقرير سلامة الذكاء الاصطناعي الدولي، الذي حذر من أن الوكلاء المستقلين قد يسببون اضطرابات "شديدة" إذا أصبحوا قادرين على تنفيذ سلسلات طويلة من المهام دون إشراف بشري.