لقد تم تشجيع شركات الذكاء الاصطناعي على تكرار حسابات السلامة التي أبلغت عن الاختبار النووي الأول الذي قام به روبرت أوبنهايمر قبل إصدار أنظمة فائقة القوة. كشفت ماكس تيغمارك، شخصية بارزة في سلامة الذكاء الاصطناعي، أنه أجرى حسابات مماثلة لتلك التي قام بها الفيزيائي الأمريكي آرثر كومبتون قبل اختبار تريتي. وجد تيغمارك أن هناك احتمالاً بنسبة 90% أن تقدم ذكاء اصطناعي متقدم للغاية خطرًا وجوديًا. تقدمت الحكومة الأمريكية على اختبار تريتي في عام 1945 بعد تأكيدات بأن فرصة إشعال قنبلة نووية للجوطة وتشكيل تهديد للبشرية كانت صغيرة جدًا. وفي ورقة كتبها تيغمارك وثلاثة من طلاب معهد ماساتشوستس للتكنولوجيا (MIT)، يوصون بحساب "ثابت كومبتون"، الذي يُعرف بأنه احتمال أن يهرب الذكاء الاصطناعي القوي جدًا من السيطرة البشرية. وفي مقابلة مع الكاتبة الأمريكية بيرل باك في عام 1959، قال كومبتون إنهوافق على الاختبار بعد تقديره لفرص حدوث تفاعل اندماجي عشوائي "أقل بقليل" من واحد في ثلاثة ملايين. جادل تيغمارك بأنه يجب على شركات الذكاء الاصطناعي أن تتحمل مسؤولية تحديد دقيق لما إذا كانت الذكاء الفائق الاصطناعي (ASI)—نظام نظري يتجاوز الذكاء البشري في جميع المجالات—سيفلت من الرقابة البشرية. وقال: "الشركات التي تبني الذكاء الفائق بحاجة إلى حساب ثابت كومبتون، أي الاحتمال أن نفقد السيطرة عليه". وأضاف: "من غير الكافي أن تقول 'نشعر بالثقة تجاهه'.

عليهم أن يحسبوا النسبة المئوية. " اقترح تيغمارك أن التوافق حول ثابت كومبتون المستمد من عدة شركات من شأنه أن يُولّد "الإرادة السياسية" لوضع معايير سلامة AI على الصعيد العالمي. وبصفته أستاذًا في الفيزياء وباحثًا في AI في MIT، شارك تيغمارك في تأسيس معهد مستقبل الحياة، وهو منظمة غير ربحية تروج لتطوير AI بشكل آمن. نشرت المنظمة رسالة مفتوحة في عام 2023 تدعو إلى وقف تطوير أنظمة AI قوية. وقع على الرسالة أكثر من 33, 000 شخص، من بينهم إيلون ماسك—داعم مبكر للمنظمة—ومؤسس أبل ستيف وزنياك. وهي الرسالة التي صدرت بعد أشهر من إصدار ChatGPT، والذي شكّل بداية لعهد جديد في تطوير الذكاء الاصطناعي، وحذرت من أن مختبرات الذكاء الاصطناعي تشارك في "سباق خارج عن السيطرة" لنشر "عقول رقمية أكثر قوة" لا يمكن لأحد "فهمها أو توقعها أو السيطرة عليها بشكل موثوق". وتحدّث تيغمارك إلى صحيفة ذي غارديان خلال تطوير مجموعة من خبراء الذكاء الاصطناعي — بمن فيهم متخصصون في صناعة التكنولوجيا، وممثلون عن وكالات السلامة المدعومة من الدولة، وأكاديميون — لنهج جديد لتطوير AI بشكل آمن. وأصدر تقرير "توافق سنغافورة بشأن أولويات البحث في سلامة الذكاء الاصطناعي العالمي"، الذي أعدّه تيغمارك وعالم الحاسوب يوشوا بنجيو وعدة فرق من شركات قيادية في مجال الذكاء الاصطناعي مثل OpenAI وGoogle DeepMind، والذي حدد ثلاثة مجالات رئيسية للبحث: تطوير طرق لقياس تأثير أنظمة الذكاء الاصطناعي الحالية والمستقبلية؛ وتحديد السلوك المطلوب للذكاء الاصطناعي وتصميم أنظمة لتحقيقه؛ وإدارة والسيطرة على سلوك الذكاء الاصطناعي. وأشار تيغمارك إلى أن الدفع نحو تطوير AI آمن قد استعاد زخمه بعد القمة الحكومية الأخيرة حول الذكاء الاصطناعي في باريس، حيث رفض نائب الرئيس الأمريكي جي دي فانس مخاوف السلامة، وصرّح بأن مستقبل الذكاء الاصطناعي "لن يُحسم بالتفكير المفرط في السلامة". وقال تيغمارك: "يبدو أن الغمام الذي خيم على باريس قد انقشع، وأن التعاون الدولي عاد بقوة. "