কৃত্রিম বুদ্ধিমত্তা কোম্পানিগুলোকে উদ্বুদ্ধ করা হয়েছে তারা রবার्ट অপ্পেনহাইমারের প্রথম পরমাণু পরীক্ষার সিদ্ধান্তের নিরাপত্তা গণনাগুলি পুনরাবৃত্তি করে তারপর ultra-শক্তিশালী ব্যবস্থা প্রকাশ করতে। এআই নিরাপত্তার একজন উল্লেখযোগ্য ব্যক্তিত্ব ম্যাক্স টেগমার্ক প্রকাশ করেছেন যে, তিনি সেই গণনাগুলির মতো গণনা করেছেন, যেগুলি করা হয়েছিল মার্কিন পদার্থবিজ্ঞানী আর্থার কম্পটনের দ্বারা ট্রিনিটি পরীক্ষার আগে। টেগমার্ক আবিষ্কার করেছেন যে, একটি অত্যন্ত উন্নত এআই সম্ভবত একটি অস্তিত্বের জন্য ঝুঁকি সৃষ্টি করবে ৯০% সম্ভাবনায়। সংযুক্তরাষ্ট্র সরকার ১৯৪৫ সালে ট্রিনিটি পরীক্ষার মাধ্যমে এগিয়ে গিয়েছিল, এ ব্যাপারে নিশ্চয়তা পাওয়ার পরে যে সাধারণ পরিস্থিতিতে পারমাণবিক বোমা আকাশে আগুন লাগানো এবং মানবতাকে হুমকি দেওয়ার সম্ভাবনা ক্ষণস্থায়ী। টেগমার্ক এবং তার এমআইটি-র তিনজন ছাত্রের লেখা এক পত্রে তারা সুপারিশ করেছেন “কম্পটন ধ্রুবক” হিসাব করার জন্য, যা সংজ্ঞায়িত হয় কোনো সম্পূর্ণ শক্তিশালী এআই মানব নিয়ন্ত্রণ থেকে পলায়ন করবে তার সম্ভাবনা হিসেবে। কম্পটন, ১৯৫৯ সালে মার্কিন লেখিকা পিয়ারল বুকের সঙ্গে এক সাক্ষাৎকারে বলেছিলেন যে, তিনি পরীক্ষাটি অনুমোদন করেছিলেন, যখন তিনি অন্যমনস্ক ফিউশন প্রতিক্রিয়ার সম্ভাবনা অনুমান করেছিলেন, সেটি “প্রায় তিন মিলিয়নের একের চেয়ে কিছুটা কম”। টেগমার্ক যুক্তি দিয়েছেন যে, এআই কোম্পিগুলিকে দায়িত্ব নিতে হবে ব্যাপকভাবে নির্ধারণ করার জন্য, যে কৃত্রিম সুপার ইন্টেলিজেন্স (ASI)—এক তাত্ত্বিক ব্যবস্থা যা মানব বুদ্ধিমত্তাকে সবক্ষেত্রে অতিক্রম করবে—মানব নজরদারিতে পরতে পারবে কি না। “সুপার-ইন্টেলিজেন্স নির্মাণকারী কোম্পিগুলোকে কম্পটন ধ্রুবক গণনা করতে হবে, অর্থাৎ, আমাদের কত শতাংশ সম্ভাবনা আছে যে আমরা এর নিয়ন্ত্রণ হারাবো, ” তিনি বলেছেন। “এটা বলা যথেষ্ট নয়, ‘আমরা এর বিষয়ে ভাল অনুভব করি।’ তাদের অবশ্যই শতাংশ গণনা করতে হবে।” টেগমার্ক বলেছেন, একাধিক সংস্থা থেকে আসা কম্পটন ধ্রুবকের জন্য ঐক্যমত তৈরি হলে তা “রাজনৈতিক অঙ্গীকার” তৈরি করবে, যা বিশ্বব্যাপী এআই নিরাপত্তা মানদণ্ড প্রতিষ্ঠার জন্য প্রয়োজন। প্রাথমিক পদার্থবিজ্ঞান and এআই গবেষক হিসেবে এমআইটির টেগমার্ক “ফিউচার অব লাইফ ইনস্টিটিউট” প্রতিষ্ঠা করেছেন, যা একটি অ-লাভজনক সংস্থা, নিরাপদ এআই বিকাশকে প্রোমোট করে। ২০২৩ সালে এই সংস্থা এক খোলা চিঠি প্রকাশ করে, যেখানে বার্তা ছিল শক্তিশালী এআই তৈরি করতে বিরতি নেওয়ার জন্য। এই চিঠিতে স্বাক্ষর করেন ৩৩, ০০০ এর বেশি ব্যক্তি, যার মধ্যে এলন মাস্ক—সংস্থার প্রাথমিক সমর্থক—এবং অ্যাপল সহ-প্রতিষ্ঠাতা স্টিভ ওজনিয়াকও ছিলেন। চিঠিটি, যা চ্যাটজিপিটির মুক্তির মাসের পরে প্রকাশিত হয়েছিল, যেটি একটি নতুন এআই উন্নয়নের যুগের সূচনা করে, সতর্ক করে বলেছে যে, এআই ল্যাবগুলো “আউট-অফ-কন্ট্রোল রেসে” লিপ্ত, যেখানে তারা “অজস্র শক্তিশালী ডিজিটাল মন” তৈরি করছে, যাদের হিসাবে কেউ “বোঝা, পূর্বাভাস বা নির্ভরযোগ্য নিয়ন্ত্রণ” করতে পারবে না। টেগমার্ক গার্ডিয়ানকে বলেছেন, যখন প্রযুক্তি খাতের পেশাজীবী, রাষ্ট্র-সমর্থিত নিরাপত্তা সংস্থা প্রতিনিধিরা ও অধ্যাপকরা একসঙ্গে এআই নিরাপত্তার জন্য এক নতুন পদ্ধতি তৈরি করছে। সিঙ্গাপুরের বৈশ্বিক এআই নিরাপত্তা গবেষণার অগ্রাধিকার বিষয়ক কনসেন্সাস রিপোর্টে, যা তৈরি করেছেন টেগমার্ক, শীর্ষ কম্পিউটার বিজ্ঞানী ইয়োশুয়া বেঙ্গিয়ো এবং OpenAI ও Google DeepMind-এর মতো শীর্ষ এআই সংস্থার কর্মীরা, তিনটি মূল গবেষণা ক্ষেত্র নির্ধারিত হয়েছে: বর্তমান ও ভবিষ্যৎ এআই সিস্টেমের প্রভাব পরিমাপের পদ্ধতি বিকাশ; কাঙ্খিত এআই رفتار নির্ধারণ ও সেই অনুযায়ী সিস্টেম ডিজাইন; এবং এআই আচরণ পরিচালনা ও নিয়ন্ত্রণ করা। রিপোর্টটি উল্লেখ করে, যে নিরাপদ এআই উন্নয়নের জন্য প্রচেষ্টা সম্প্রতি প্যারিসে সরকারী এআই শীর্ষ সম্মেলনের পর নতুন গতি পেয়েছে, যেখানে মার্কিন সহ-রাষ্ট্রপতি জেডি ভ্যান্স নিরাপত্তা নিয়ে উদ্বেগ উপেক্ষা করে বলেছেন, “এআই ভবিষ্যত ‘সতর্কতা নিয়ে ভাবনা’ নয়।” টেগমার্ক বলেছেন, “প্যারিসের আবর্তন দেখে সত্যিই মনে হচ্ছে, অন্ধকার কেটে গেছে এবং আন্তর্জাতিক সহযোগিতা আবার তুঙ্গে উঠেছে।”