OpenAI je veľmi tajomná v súvislosti so svojím najnovším modelom AI, rodinou „Strawberry“, najmä pokiaľ ide o jeho schopnosti uvažovania vo verziách o1-preview a o1-mini. Od ich vydania minulý týždeň spoločnosť poslala varovné e-maily používateľom, ktorí sa snažia skúmať, ako model funguje, čo nebolo vidieť pri skôrších modeloch ako GPT-4o. Modely o1 boli špeciálne navrhnuté tak, aby pred poskytnutím odpovedí dodržiavali systematickú metódu riešenia problémov. Hoci používatelia môžu zobraziť proces uvažovania v ChatGPT, OpenAI zámerne zakrýva surový proces myslenia, pričom ponúka iba filtrovanú verziu vytvorenú inou AI. Tento nedostatok transparentnosti vzbudil záujem medzi hackermi a red-teamermi, ktorí sa snažia odhaliť základné uvažovanie prostredníctvom techník ako jailbreaking a prompt injection. Hlásili sa niektoré skoré úspechy, ale nič definitívne nezaznelo.

Medzitým OpenAI pozorne sleduje pokusy o hlbšie skúmanie aspekty uvažovania a vydáva varovania používateľom, ktorí spomínajú termíny ako „reasoning trace“. Varovania zdôraznili porušenia politík proti obchádzaniu bezpečnostných opatrení, varujúc, že opakované porušenia by mohli viesť k strate prístupu k modelu. Kritici, vrátane Marca Figueroa, tvrdia, že takéto politiky bránia prínosnému výskumu bezpečnosti modelu. V blogovom príspevku s názvom „Learning to Reason With LLMs“, OpenAI diskutuje o tom, ako monitorovanie skrytých myšlienkových reťazcov môže poskytnúť pohľady na procesy modelu. Veria však, že zdieľanie týchto informácií s používateľmi by mohlo ohroziť užívateľskú skúsenosť a konkurenčnú výhodu. Nezávislý AI výskumník Simon Willison vyjadril obavy z nedostatku transparentnosti a tvrdí, že toto rozhodnutie bráni komunite v získavaní cenných poznatkov o funkcionalite modelu. Celkovo táto situácia odráža pretrvávajúce napätie medzi proprietárnymi záujmami a požiadavkami na transparentnosť vo vývoji AI.