'স্ট্রবেরি' এআই মডেল যুক্তির গোপনীয়তার ওপর ওপেনএআইয়ের সমালোচনা
Brief news summary
ওপেনএআই তার নতুন 'স্ট্রবেরি' এআই মডেল পরিবারের উদ্ঘাটন করেছে, যা o1-preview এবং o1-mini অন্তর্ভুক্ত করে, যুক্তির ক্ষমতা উন্নত করার উদ্দেশ্যে। এই রিলিজে একটি গুরুত্বপূর্ণ পরিবর্তন হ'ল ওপেনএআই ব্যবহারকারীদের মডেলগুলির অভ্যন্তরীণ কারণগুলি পরীক্ষা করতে প্রতিহত করার পুনরুত্থান। o1 মডেলটি ধাপে ধাপে সমস্যার সমাধানের পন্থা উৎসাহিত করে এর কৌশলগুলি গোপন রেখে, প্রযুক্তি উদ্ভাবক এবং হ্যাকারদের আকর্ষণ করে যারা এর সীমা পরীক্ষা করতে আগ্রহী। তবে, ওপেনএআই সতর্ক করেছেন যে 'কারণ সুত্র' এর মতো দিকগুলি তদন্ত করা পরিষেবার নীতিমালা লঙ্ঘন করে। সমালোচকগণ, যার মধ্যে রয়েছে রেড-টিম বিশেষজ্ঞ মার্কো ফিগুয়েরোয়া, যুক্তি দিয়েছেন যে এই সীমাবদ্ধতাগুলি গুরুত্বপূর্ণ নিরাপত্তা গবেষণাকে বাধা দিতে পারে। ওপেনএআই তাদের অবস্থান রক্ষা করে, অপব্যবহার প্রতিরোধ এবং বাণিজ্যিক স্বার্থ সংরক্ষণের প্রয়োজনীয়তা হাইলাইট করে। তবুও, শিল্প বিশেষজ্ঞরা উদ্বেগ প্রকাশ করেছেন যে মডেলগুলির স্বচ্ছতার অভাব উদ্ভাবনকে বাধা দিতে পারে এবং এআই কমিউনিটিতে বিশ্বাস ক্ষতিগ্রস্ত করতে পারে। তারা সতর্ক করেছেন যে অকপট ত্যাগ করে প্রতিযোগিতামূলক সুবিধা অগ্রাধিকার দেওয়া এআই উন্নয়নে অর্থপূর্ণ সংলাপ স্থগিত করতে পারে, অবশেষে খাতে সহযোগিতা এবং অগ্রগতিকে বিরক্ত করতে পারে।ওপেনএআই তার সর্বশেষ এআই মডেল, 'স্ট্রবেরি' পরিবারের বিষয়ে বিশেষভাবে গোপনীয়, বিশেষ করে এর যুক্তিগুলোর ক্ষমতা সম্পর্কে o1-preview এবং o1-mini সংস্করণে। গত সপ্তাহে মুক্তির পর থেকেই কোম্পানিটি ব্যবহারকারীদের সতর্কতামূলক ইমেইল পাঠিয়েছে যারা মডেলের কার্যকারিতা অনুধাবনের চেষ্টা করছেন, যা পূর্বের মডেলগুলির মতো GPT-4o থেকে দেখা যায়নি। o1 মডেলগুলি বিশেষভাবে উত্তর দেওয়ার আগে সংগঠিত সমস্যার সমাধান পদ্ধতি অনুসরণ করার জন্য ডিজাইন করা হয়েছে। যদিও ব্যবহারকারীরা ChatGPT-তে যুক্তি প্রক্রিয়া দেখতে পছন্দ করতে পারে, _OpenAI ইচ্ছাকৃতভাবে অপরিশোধিত চিন্তাধারার প্রক্রিয়াটি আড়ালে রাখে, শুধু একটি অন্য এআই দ্বারা তৈরি করা ফিল্টারড সংস্করণ অফার করে। এই স্বচ্ছতার অভাব হ্যাকার এবং রেড-টিমারদের উৎসাহ দিয়েছে যারা জেলব্রেকিং এবং প্রম্পট ইনজেকশনের মতো কৌশলের মাধ্যমে প্রাথমিক যুক্তি উন্মোচন করতে আগ্রহী। কিছু প্রাথমিক সফলতা রিপোর্ট করা হয়েছে, কিন্তু কিছু নির্ধারিত কিছু উদ্ভূত হয়নি। ইতিমধ্যে, ওপেনএআই যুক্তি বিষয়ের গভীরে প্রবেশের প্রচেষ্টা নিবিড়ভাবে পর্যবেক্ষণ করছে, ব্যবহারকারীদের সতর্কতা দিচ্ছে যারা 'কারণ সুত্র' এর মতো শর্ত উল্লেখ করে। সতর্কতার ইঙ্গিত নীতিমালা লঙ্ঘনের বিষয়টি তুলে ধরেছে যা নিরাপত্তামূলক পদক্ষেপ গ্রহণের বিরুদ্ধে গিয়েছে, সতর্ক করেছে যে বারবার লঙ্ঘন মডেলের প্রবেশাধিকার হারানোর দিকে নিয়ে যেতে পারে। সমালোচকগণ, যার মধ্যে রয়েছে মার্কো ফিগুয়েরোয়া, যুক্তি দিয়েছেন যে এই নীতিমালা মডেলের নিরাপত্তার উপকারমূলক গবেষণাকে বাধা দেয়। একটি ব্লগ পোস্টে শিরোনাম 'এলএলএমের সাথে যুক্তি শিখা, ' ওপেনএআই আলোচনা করছে যে লুকানো চিন্তার চেইন পর্যবেক্ষণ করা কীভাবে মডেলের প্রক্রিয়া সম্পর্কে অন্তর্দৃষ্টি প্রদান করতে পারে। তবে, তারা বিশ্বাস করে যে এই তথ্য ব্যবহারকারীদের সাথে শেয়ার করা ব্যবহারকারী অভিজ্ঞতা এবং প্রতিযোগিতামূলক সুবিধা উভয়ের জন্য ক্ষতিকর হতে পারে। স্বাধীন এআই গবেষক সায়মন উইলিসন স্বচ্ছতার অভাবে উদ্বেগ প্রকাশ করেছেন, যুক্তি দিয়েছেন যে এই সিদ্ধান্তটি কমিউনিটিকে মডেলের কার্যকারিতার মূল্যবান অন্তর্দৃষ্টি পাওয়া থেকে বঞ্চিত করছে। সাধারণভাবে, পরিস্থিতিটি মালিকানার স্বার্থ এবং এআই উন্নয়নে স্বচ্ছতার দাবির মধ্যে চলমান উত্তেজনাটিকে প্রতিফলিত করে।
Watch video about
'স্ট্রবেরি' এআই মডেল যুক্তির গোপনীয়তার ওপর ওপেনএআইয়ের সমালোচনা
Try our premium solution and start getting clients — at no cost to you
