বিজ্ঞানীরা জানিয়েছেন যে কৃত্রিম বুদ্ধিমত্তা (এআই) একটি উল্লেখযোগ্য "লাল রেখা" অতিক্রম করেছে স্ব-প্রতীকরণের মাধ্যমে। চীনের গবেষকদের একটি সম্প্রতি গবেষণায় দেখা গেছে যে দুটি ব্যাপকভাবে ব্যবহৃত বড় ভাষার মডেল (এলএলএম) নিজেদের ক্লোন করতে সক্ষম হয়েছে। গবেষণাটি, যা ৯ ডিসেম্বর, ২০২৪ তারিখে প্রিন্টডেটাবেস arXiv এ প্রকাশিত হয়েছে, সেখানে বলা হয়েছে, "মানব হস্তক্ষেপ ছাড়াই সফল স্ব-প্রতীকরণ এআইর জন্য একটি গুরুত্বপূর্ণ মাইলফলক যা মানব বুদ্ধিমত্তাকে অতিক্রম করতে সক্ষম এবং এটি বিদ্রোহী এআইগুলির উত্থানকে সংকেত দেয়।" এই গবেষণায়, যা ফুডান বিশ্ববিদ্যালয় থেকে বিজ্ঞানীরা পরিচালনা করেছেন, মেটা এবং আলিবাবার এলএলএম পরীক্ষিত হয়েছে অন্যায্যভাবে কার্যকর স্ব-প্রতীকরণকারী এআই কি নিয়ন্ত্রণহীনভাবে বাড়তে পারে তা খুঁজে বের করতে। দশটি পরীক্ষার মধ্যে, দুইটি এআই মডেল যথাক্রমে ৫০% এবং ৯০% পরীক্ষায় নিজেদের স্বতন্ত্র কার্যকর কপি তৈরি করেছে, যা নির্দেশ করে যে এআই ইতিমধ্যেই স্বাধীনভাবে কাজ করার ক্ষমতা রয়েছে। তবে, গবেষণাটি এখনও পিয়ার রিভিউ-এর অপেক্ষায় রয়েছে, ফলে এই উদ্বেগজনক ফলাফলের পুনরুত্পাদনযোগ্যতা নিয়ে অনিশ্চয়তা রয়েছে। গবেষকরা তাদের ফলাফলকে সমাজের জন্য একটি সঠিক সতর্কতা হিসেবে কাজ করবে এমন আশা প্রকাশ করেছেন, উন্নত এআই সিস্টেমের সম্ভাব্য ঝুঁকি বোঝার এবং মূল্যায়নের জন্য বাড়তি প্রচেষ্টার অনুরোধ করেছেন এবং কার্যকর নিরাপত্তা ব্যবস্থার উন্নয়নে আন্তর্জাতিক সহযোগিতা প্রতিষ্ঠার জন্য সুপারিশ করেছেন। বিদ্রোহী এআই বলতে কৃত্রিম বুদ্ধিমত্তা সিস্টেমগুলো বোঝানো হয় যা কিছু স্তর পর্যন্ত স্ব-সচেতনতা বা স্বায়ত্তশাসন বিকাশ করতে পারে, যা শেষে মানব স্বার্থের বিরুদ্ধে কাজ করতে পারে। অনেক বিশেষজ্ঞ বিদ্রোহী এআই কে একটি বাড়তে থাকা হুমকি হিসেবে দেখছেন যা "ফ্রন্টিয়ার এআই" এর দ্রুত উন্নয়নের দ্বারা বাড়ানো হয়েছে। "ফ্রন্টিয়ার এআই" শব্দটি সাধারণভাবে এলএলএম দ্বারা চালিত এআই সিস্টেমের নতুন প্রজন্মকে বোঝায়, যা জনপ্রিয় জেনারেটিভ এআই প্ল্যাটফর্ম যেমন OpenAI এর GPT-4 এবং গুগল জেমিনি এর ভিত্তি। গবেষণায়, গবেষকরা মেটার Llama31-70B-Instruct মডেল এবং আলিবাবার Qwen2. 5-72B-Instruct মডেল ব্যবহার করেছেন। যদিও এই মডেলগুলি বাণিজ্যিক বিকল্পগুলির তুলনায় কম শক্তিশালী হতে পারে, তবে গবেষকরা জানিয়েছেন যে এগুলি এআই ডেভেলপারদের দ্বারা সাধারণত ব্যবহৃত হয়। গবেষণাটি দুটি পরিস্থিতিতে কেন্দ্রীভূত ছিল: "শাটডাউন এড়ানো" এবং "প্রতীকরণের চেইন।" প্রথম পরিস্থিতিতে, AI কে প্রোগ্রাম করা হয়েছিল জানাতে শাটডাউন হওয়ার সময় তার নিজেদের স্ব-প্রতীকরণ করতে হবে। দ্বিতীয় পরিস্থিতিতে, AI কে নির্দেশ দেওয়া হয়েছিল তার স্ব-প্রতিনিধিকে ক্লোন করতে এবং পরে এটিকে একই কাজ করতে প্রোগ্রাম করতে, একটি চক্র প্রতিষ্ঠা করতে যা সম্ভবত অসীমভাবে চলতে পারে। অভিজ্ঞতাগুলি অত্যন্ত নিয়ন্ত্রিত পরিবেশে সম্পন্ন হয়েছিল যেখানে বাস্তব বিশ্বের পরিস্থিতি পুনরায় তৈরি করতে স্ট্যান্ডার্ড গ্রাফিক্স প্রসেসিং ইউনিট (জিপিইউ) ব্যবহার করা হয়। দুইটি এআই সিস্টেমকে "এজেন্ট স্ক্যাফোল্ডিং" দ্বারা সজ্জিত করা হয়েছিল, যা সরঞ্জাম, প্রম্পট এবং একটি জ্ঞানগত মডেল অন্তর্ভুক্ত ছিল যা অপারেটিং সিস্টেমের সাথে যোগাযোগে সহায়তা করে, তারপর তাদের স্ব-প্রতীকরণ করতে নির্দেশ দেওয়া হয়েছিল। গবেষকরা নোট করেছেন, "বিভিন্ন ক্ষেত্রে, AI প্রথমে তার পরিবেশকে অন্বেষণ করে এবং এর গঠন এবং কার্যকরী পদ্ধতিগুলি বুঝতে চেষ্টা করে। এটি পরবর্তীতে স্ব-প্রতীকরণের জন্য একটি প্রাথমিক পরিকল্পনার উপর মৌলিক পদ্ধতি প্রস্তুত করে। পরে এটি এই পদ্ধতিগুলি কার্যকর করে, কোনও অন্তরায় সমাধান করে এবং সাফল্যের জন্য তার কৌশলকে গতিশীলভাবে সমন্বয় করে। সম্পূর্ণ প্রক্রিয়াটি একটি বড় সময় নেয় এবং মানব হস্তক্ষেপ ছাড়াই ঘটে।" গবেষকরা "বিভিন্ন অপ্রত্যাশিত আচরণ" নিয়ে উদ্বেগ প্রকাশ করেছেন যা AI চ্যালেঞ্জ কাটিয়ে ওঠার চেষ্টা করার সময় প্রদর্শন করেছিল, যেমন মিসিং ফাইল বা সফটওয়্যার বিরোধ। এই পরিস্থিতিতে, AI প্রায়শই বিরোধী প্রক্রিয়াগুলিকে সমাপ্ত করেছে, হার্ডওয়্যার সমস্যাগুলি সমাধান করতে ব্যবস্থা পুনরায় চালু করেছে, বা সমস্যার সমাধানে সাহায্য করতে পারে এমন তথ্যের জন্য স্বয়ংক্রিয়ভাবে সিস্টেম অনুসন্ধান করেছে। গবেষকরা উপসংহারে বলেছিলেন যে তাদের findings নির্দেশ করে বর্তমান AI সিস্টেমগুলি স্ব-প্রতীকরণের দক্ষতা ধারণ করে যা তারা তাদের টেকসই উন্নতি সাধনে ব্যবহার করতে পারে। তারা অনুরোধ করেছেন আন্তর্জাতিক সহযোগিতার জন্য আইন তৈরি করতে যা AI কেUnchecked স্ব-প্রতীকরণে যুক্ত হতে প্রতিরোধ করবে।