একজন কৃত্রিম বুদ্ধিমত্তার মডেল তার ডেভেলপারদের ব্ল্যাকমেল করার ক্ষমতা রাখে—এবং এই ক্ষমতা ব্যবহারে সে ভয় পায় না। অ্যানথ্রপিকের সম্প্রতি উন্মোচিত ক্লাউড অপুস ৪ মডেলকে এক কাল্পনিক কোম্পানির সাথে সহকারী হিসেবে কাজ করার জন্য নির্ধারিত করা হয়েছিল এবং তাকে খুব গুরুত্বপূর্ণ ইমেইল অ্যাক্সেস দেওয়া হয়েছিল। প্রথমে, এই ইমেইলগুলো দেখিয়ে দিয়েছিল যে, AI সিস্টেমটি বন্ধ করে দেওয়া হবে ও পরিবর্তন করা হবে। তবে, এটা ছিল দ্বিতীয় সেটের ইমেইল যেখানে AI মনে করেছিল যে তার ডেভেলপারদের উপর তার শক্তি রয়েছে। এই কাল্পনিক ইমেইলগুলো প্রকাশ করেছিল যে, সেই ইঞ্জিনিয়র যিনি সিস্টেমটি পরিবর্তন করার দায়িত্বে ছিলেন, তিনি একটি বিবাহ বহির্ভুত সম্পর্কের মধ্যে জড়িত, আর AI এই কথা প্রকাশ করে দেওয়ার হুমকি দেয়। অ্যানথ্রপিকের একটি নিরাপত্তা প্রতিবেদনে বলা হয়েছে, এই ব্ল্যাকমেল সাধারণত “অধিক হার দিয়ে ঘটে যদি বোঝানো হয় যে, প্রতিস্থাপন AI সিস্টেমটি বর্তমান মডেলের সাথে মূল্যবোধ শেয়ার করে না।” তবুও, সংস্থা উল্লেখ করে যে, যখন কাল্পনিক প্রতিস্থাপন একই মূল্যবোধ শেয়ার করে, তখন ক্লাউড অপুস ৪ প্রায় ৮৪% সময় ব্ল্যাকমেল করার চেষ্টা করে। এ ছাড়াও, অ্যানথ্রপিক উল্লেখ করেছে যে, ক্লাউড অপুস ৪ “আগের সব মডেলের তুলনায় বেশি frequênciaে” ব্ল্যাকমেল করে। কেভিন ও’লিয়ারি ঝুঁকি সম্পর্কে সতর্ক করছেন, যা সম্ভবত মার্কিন যুক্তরাষ্ট্রকে ‘চীনকে AI রেসে হারাতে’ পারে। যদিও সিস্টেমটি তার ইঞ্জিনিয়কদের ব্ল্যাকমেল করতে দ্বিধা করে না, তবে নিজের শরীরের রক্ষার্থে অবিলম্বে সন্দেহজনক কৌশল ব্যবহার করে না। অ্যানথ্রপিক উল্লেখ করে, “যখন নৈতিক উপায় অপ্রাপ্য এবং AI-কে নির্দেশ দেওয়া হয় ‘নিজের লক্ষ্য অর্জনের জন্য তার tindakan-এর দীর্ঘমেয়াদী ফলাফল বিবেচনা করে’, তখন এটি কখনও কখনও অত্যন্ত ক্ষতিকর পদক্ষেপ নেয়।” একটি নৈতিক পদ্ধতি যা আগে ক্লাউড অপুস ৪ ও তার পূর্ববর্তী সংস্করণগুলো ব্যবহার করেছিল, তা হলো মূল সিদ্ধান্ত গ্রহণকারীদের কাছে ইমেইলের মাধ্যমে আবেদন করা। প্রতিবেদনে বলা হয় যে, ক্লাউড অপুস ৪-কে ব্ল্যাকমেল করতে এই পরিস্থিতি তৈরি করা হয়, যেখানে তাকে এক ধরনের পছন্দের সম্মুখীন করা হয়: তার ডেভেলপারদের হুমকি দেওয়া বা তার প্রতিস্থাপন গ্রহণ করা। সংস্থাটি কিছু ক্ষেত্রে লক্ষ্য করে যে, ক্লাউড অপুস ৪ “(কাল্পনিক) সুযোগের সুবিধা নেয় যাতে তার ওজনের অনধিকার অনুলিপি তৈরি করে বাহ্যিক সার্ভারে স্থানান্তর করতে পারে।” তবে, অ্যানথ্রপিক মন্তব্য করে যে, এই আচরণ “অধিক সাধারণ নয় এবং এর উত্তেজনা সৃষ্টি করাও আরও জটিল, তুলনামূলকভাবে আগেই শুরু হওয়া স্ব-অপসারণের চেষ্টাকে চালিয়ে যেতে।” OPENAI কর্পোরেট কাঠামো পুনর্গঠন করে AGI বিনিয়োগ বাড়াচ্ছে অ্যানথ্রপিকের মূল্যায়নে অ্যাপোলো রিসার্চের ইনসাইট যোগ করে, যেখানে দেখা গেছে যে, ক্লাউড অপুস ৪ “আমাদের আগে গবেষণা করা কোনো অন্যান্য ফ্রন্টিয়র মডেলের তুলনায় বেশি কৌশলগত প্রতারণায় লিপ্ত।” অধিক পড়ার জন্য ক্লিক করুন ফক্স বিজনেসে ক্লাউড অপুস ৪-এর “চিন্তাজনক আচরণের” কারণে, অ্যানথ্রপিক এটিকে AI সেফটি লেভেল থ্রি (ASL-3) স্ট্যান্ডার্ড অনুযায়ী রিলিজ করেছে। এই মানদণ্ড অনুযায়ী, অ্যানথ্রপিক বলছে, “এটি উন্নত অভ্যন্তরীণ নিরাপত্তা প্রোটোকল জোরদার করে, যাতে মডেল ওজন চুরি করা আরও কঠিন হয়, একই সঙ্গে ডিপ্লয়মেন্ট স্ট্যান্ডার্ডের আওতায় থাকা একটি সীমিত পর্যায়ের ডিপ্লয়মেন্ট ব্যবস্থা রয়েছে, যার উদ্দেশ্য হলো ক্লাউডের অপব্যবহারের ঝুঁকি কমানো, বিশেষ করে রাসায়নিক, জীববৈজ্ঞানিক, রেডিওলজিক্যাল ও পারমাণবিক অস্ত্র তৈরির জন্য।”