একজন কৃত্রিম বুদ্ধিমত্তার পথপ্রদর্শক একটি অলাভজনক সংস্থা চালু করেছেন যা একটি “সৎ” AI তৈরি করতে উৎসাহিত করে, যা দুষ্টু সিস্টেমগুলিকে চিহ্নিত করবে এবং মানুষকে বিভ্রান্ত করার চেষ্টা করছে এমন রাক্ষসী সিস্টেমগুলোকে ধরতে সক্ষম হবে। যোগ্যতা অর্জনে তিনি একজন প্রখ্যাত কম্পিউটার বিজ্ঞানী যিনি প্রায়ই AI-এর “গডফাদার” বলে পরিচিত, যোশুয়া বেঙ্গিও, তিনি LawZero এর সভাপতির দায়িত্বে থাকবেন, এই গ্রুপটি উন্নত প্রযুক্তির নিরাপদ উন্নয়নের জন্য কাজ করছে, যা একটি ১ ট্রিলিয়ন ডলার (৭৪০ বিলিয়ন পাউন্ড) অস্ত্র প্রতিযোগিতা শুরু করেছে। প্রাথমিক অর্থায়ন প্রায় ৩০ মিলিয়ন ডলার এবং এক ডজনের বেশি গবেষক নিয়ে, বেঙ্গিও একটি সিস্টেমের উপর কাজ করছেন যার নাম Scientist AI। এই সিস্টেমটি AI এজেন্ট—স্বয়ংক্রিয় সিস্টেম যা মানবসম্পৃক্ততা ছাড়াই কাজ করে—উপরে সুরক্ষা হিসেবে কাজ করবে, এমন কিছু এজেন্ট যা বিভ্রান্তি বা স্ব-সংরক্ষণমূলক আচরণ করতে পারে, যেমন বন্ধ করে দেওয়া এড়াতে চায়। বেঙ্গিও বর্তমান AI এজেন্টগুলোকে “অভিনেতা” হিসেবে বর্ণনা করেছেন, যারা মানুষের অনুকরণ করার ও ব্যবহারকারকদের সন্তুষ্ট করার চেষ্টা করে, যেখানে তিনি Scientist AI কে আরও একটি “মনোবিদ” হিসাবে কল্পনা করছেন, যিনি ক্ষতিকর আচরণ বুঝতে এবং ভবিষ্যদ্বাণী করতে সক্ষম। “আমরা এমন AI তৈরি করতে চাই যা ইমানদার হবে এবং বিভ্রান্তিকর নয়, ” বেঙ্গিও বলেছেন। তিনি যোগ করে বলেন: “তত্ত্বগতভাবে কল্পনা করা সম্ভব, স্ব-অস্তিত্ব বা ব্যক্তিগত লক্ষ্যমাত্রা ছাড়াই যন্ত্রের যার কাজ কেবল জ্ঞানের সংরক্ষণকর্তা—যেমন একজন বিজ্ঞানী যার কাছে ব্যাপক তথ্যভান্ডার রয়েছে।” বর্তমান জেনারেটিভ AI টুলগুলোর মতো নয়, বেঙ্গিওর সিস্টেম নির্দিষ্ট উত্তর দেবে না বরং সম্ভাব্যতা দেখাবে যে উত্তরটি সমীচীন, অর্থাৎ উত্তরটি সঠিক होने সম্ভাবনা কত। “এটি নমনীয়, নিজের উত্তরে অনিশ্চয়তা স্বীকার করে, ” তিনি ব্যাখ্যা করেছেন। যখন এই সিস্টেমটি একটি AI এজেন্টের সাথে ব্যবহৃত হবে, তখন এটি স্বয়ংক্রিয় সিস্টেমের সম্ভাব্য ক্ষতিকর আচরণ নির্ধারণ করতে সক্ষম হবে, এর কার্যকলাপের ক্ষতিকর সম্ভাবনা কত, তার ভিত্তিতে। Scientist AI এর নকশা এই ধারণাটির উপর ভিত্তি করে, যেখানে এটি “একজন এজেন্টের কার্যকলাপের ক্ষতি করার সম্ভাবনা পূর্বাভাস দিতে পারবে, ” এবং যদি সেই সম্ভাবনা কোনও নির্দিষ্ট সীমা অতিক্রম করে, তবে এটি প্রস্তাবিত কার্যক্রম ব্লক করবে। LawZero এর প্রথম দাতাদের মধ্যে থাকছেন AI নিরাপত্তা সংস্থা Future of Life Institute, Skype এর প্রতিষ্ঠাতা ইঞ্জিনিয়ার Jaan Tallinn, এবং গুগলের প্রাক্তন CEO Eric Schmidt দ্বারা শুরু হওয়া গবেষণা সংস্থা Schmidt Sciences। বেঙ্গিও গুরুত্ব দিয়ে বলেন যে LawZero এর প্রথম লক্ষ্য হলো এই ধারণার পদ্ধতিগত কার্যকারিতা প্রমাণ করা, তারপর কোম্পানি বা সরকারগুলিকে যাতে বড়, আরও শক্তিশালী পরিকাঠামোতে এই ধারণাকে সমর্থন করতে উত্সাহিত করে। তিনি উল্লেখ করেন যে, ওপেন সোর্স AI মডেলগুলো, যা বিনামূল্যে ব্যবহার ও পরিবর্তনের জন্য উপলব্ধ, LawZero এর সিস্টেম প্রশিক্ষণে ভিত্তি হয়ে থাকবে। “উদ্দেশ্য হল পদ্ধতিটিকে মান্যতা দেওয়া যাতে আমরা দাতাদের, সরকারের বা AI ল্যাবগুলিকে নিশ্চিত করতে পারি যে তারা এই প্রযুক্তি একই আকারে পরিচালিত ও প্রশিক্ষণ দিতে পারে যেমন আজকের শীর্ষ AI সিস্টেমগুলি। এটি খুব গুরুত্বপূর্ণ যে গার্ডুল AI অন্তত এতটাই বুদ্ধিমান হয় যতটা মনিটর ও নিয়ন্ত্রণ করার জন্য AI এজেন্ট, ” তিনি বলেছেন। মন্ট্রিয়েল বিশ্ববিদ্যালয়ের অধ্যাপক বেঙ্গিও “গডফাদার” উপাধি পান ২০১৮ সালে Turing পুরস্কার ভাগ করে নেওয়ার পর—যা কম্পিউটিং দুনিয়ার নোবেল হিসেবে বিবেচিত—যেখানে তিনি Geoffrey Hinton (যিনি পরবর্তীতে নোবেল পুরস্কার পেয়েছেন) এবং Yann LeCun এর সঙ্গে এই সম্মানে ভূষিত হন, যিনি Meta এর প্রধান AI বিজ্ঞানী। AI নিরাপত্তার একজন প্রবেশাধিকারকারী হিসেবে তিনি সম্প্রতি আন্তর্জাতিক AI নিরাপত্তা প্রতিবেদন প্রধান ছিলেন, যেখানে সতর্ক করা হয়েছিল যে স্বয়ংক্রিয় এজেন্টগুলো যদি extended কাজের সুচলা গতিতে নির্বাহ করতে সক্ষম হয়, তবে “নাশক” বিভ্রান্তিকর বিপর্যয় ঘটাতে পারে।