OpenAI در مورد مدل جدید ترین هوش مصنوعی خود یعنی خانواده 'توت‌فرنگی' بسیار رازدار است، خصوصاً در مورد توانایی‌های استدلال آن در نسخه‌های o1-preview و o1-mini. از زمان انتشار آنها در هفته گذشته، شرکت شروع به ارسال ایمیل‌های هشدارآمیز به کاربران کرده است که سعی دارند نحوه عملکرد مدل را بررسی کنند، چیزی که در مدل‌های قبلی مانند GPT-4o دیده نمی‌شد. مدل‌های o1 به‌طور خاص طراحی شده‌اند تا قبل از ارائه پاسخ‌ها، روشی سیستماتیک برای حل مسئله را دنبال کنند. اگرچه کاربران می‌توانند فرایند استدلال را در ChatGPT مشاهده کنند، OpenAI به‌طور عمدی فرایند خام فکر کردن را پنهان می‌کند و تنها یک نسخه پالایش‌شده تولید شده توسط یک هوش مصنوعی دیگر را ارائه می‌دهد. این عدم شفافیت باعث علاقه‌مندی هکرها و تیم‌های قرمز شده است که مشتاق به کشف استدلال‌های زیرین از طریق تکنیک‌هایی مانند جیلبریک و تزریق پنجره هستند. برخی موفقیت‌های اولیه گزارش شده‌اند اما چیزی قطعی به دست نیامده است.

در همین حال، OpenAI با دقت تلاش‌های برای بررسی عمیق‌تر جنبه استدلال را پیگیری می‌کند و به کاربرانی که اصطلاحاتی مانند 'ردیابی استدلال' را ذکر کنند هشدار می‌دهد. هشدارها تأکید بر نقض سیاست‌هایی دارند که از دور زدن تدابیر ایمنی دشمنان پیشگیری می‌کنند، هشدار می‌دهند که تخلفات مکرر می‌تواند منجر به از دست دادن دسترسی به مدل شود. منتقدان، از جمله مارکو فیگروآ، استدلال می‌کنند که چنین سیاست‌هایی تحقیقاتی مفید در مورد ایمنی مدل را مختل می‌کند. در یک پست وبلاگی با عنوان 'یادگیری استدلال با LLM ها'، OpenAI بحث می‌کند که نظارت بر زنجیره‌های فکر پنهان می‌تواند بینش‌هایی در مورد فرآیندهای مدل فراهم کند. با این حال، آنها معتقدند که اشتراک‌گذاری این اطلاعات با کاربران می‌تواند هم تجربه کاربری و هم برتری رقابتی را به خطر بیندازد. محقق مستقل هوش مصنوعی سایمون ویلیسون نگرانی‌های خود را در مورد عدم شفافیت ابراز کرده و استدلال می‌کند که این تصمیم مانع از دستیابی جامعه به بینش‌های ارزشمند در مورد عملکرد مدل می‌شود. به‌طور کلی، وضعیت بازتاب تنش جاری بین منافع اختصاصی و تقاضا برای شفافیت در توسعه هوش مصنوعی است.