OpenAI тримає велику секретність щодо свого останнього AI-моделю, родини 'Strawberry', особливо що стосується його здатності до міркувань у версіях o1-preview та o1-mini. Після їх виходу минулого тижня компанія почала надсилати попереджувальні електронні листи користувачам, які намагаються досліджувати, як функціонує модель, щось не бачилося в попередніх моделях, як-от GPT-4o. Моделі o1 спеціально розроблені для дотримання систематичного методу вирішення проблем перед наданням відповідей. Незважаючи на те, що користувачі можуть вибрати перегляд процесу міркувань у ChatGPT, OpenAI навмисно приховує необроблений процес мислення, пропонуючи лише відфільтровану версію, створену іншим AI. Ця відсутність прозорості викликала інтерес серед хакерів та фахівців з безпеки, які прагнуть виявити приховані міркування за допомогою технік, як-от джейлбрейкінг та ін'єкція підказок. Деякі ранні успіхи вже повідомлено, але нічого остаточного ще не з'явилося.

Тим часом OpenAI уважно стежить за спробами поглиблено вивчати аспект міркувань, надсилаючи попередження користувачам, які згадують терміни, наприклад, 'трасування міркувань'. Попередження підкреслюють порушення політики проти обходу заходів безпеки, попереджаючи, що повторні порушення можуть призвести до втрати доступу до моделі. Критики, в тому числі Марко Фігєроа, стверджують, що такі політики перешкоджають корисним дослідженням безпеки моделі. У блог-пості під назвою 'Навчання міркуванню з LLMs' OpenAI обговорює, як моніторинг прихованих думкових ланцюгів може надати уявлення про процеси моделі. Однак вони вважають, що обмін цією інформацією з користувачами може скомпрометувати як користувацький досвід, так і конкурентну перевагу. Незалежний дослідник AI Саймон Віллісон висловив занепокоєння щодо відсутності прозорості, стверджуючи, що рішення заважає спільноті отримувати цінні уявлення про функціональність моделі. В цілому, ситуація відображає постійну напругу між власницькими інтересами та вимогою прозорості в розвитку AI.