OpenAI este foarte secretoasă în legătură cu cel mai recent model AI, familia „Strawberry”, în special în ceea ce privește abilitățile de raționament ale versiunilor o1-preview și o1-mini. De la lansarea lor săptămâna trecută, compania a trimis emailuri de avertizare utilizatorilor care încearcă să exploreze cum funcționează modelul, ceva ce nu s-a văzut la modelele anterioare, cum ar fi GPT-4o. Modelele o1 au fost special concepute pentru a urma o metodă sistematică de rezolvare a problemelor înainte de a oferi răspunsuri. Deși utilizatorii pot opta să vadă procesul de raționament în ChatGPT, OpenAI ascunde deliberat procesul brut de gândire, oferind doar o versiune filtrată creată de un alt AI. Această lipsă de transparență a stârnit interesul în rândul hackerilor și al echipelor de securitate dornici să descopere raționamentul de bază prin tehnici precum jailbreaking și injectare de prompturi. S-au raportat unele succese timpurii, dar nimic definitiv nu a ieșit la iveală.

Între timp, OpenAI monitorizează îndeaproape încercările de a pătrunde mai adânc în aspectul raționamentului, emițând avertismente utilizatorilor care menționează termeni precum „trasabilitatea raționamentului”. Avertismentele au subliniat încălcările politicilor împotriva ocolirii măsurilor de siguranță, avertizând că încălcările repetate ar putea duce la pierderea accesului la model. Criticii, inclusiv Marco Figueroa, susțin că astfel de politici împiedică cercetarea benefică asupra siguranței modelului. Într-o postare pe blog intitulată „Învățarea de a raționa cu LLM-uri”, OpenAI discută despre cum monitorizarea lanțurilor ascunse de gândire poate oferi informații despre procesele modelului. Cu toate acestea, ei cred că împărtășirea acestei informații cu utilizatorii ar putea compromite atât experiența utilizatorului, cât și avantajul competitiv. Cercetătorul independent AI Simon Willison și-a exprimat îngrijorarea față de lipsa de transparență, susținând că decizia împiedică comunitatea să obțină informații valoroase despre funcționalitatea modelului. În general, situația reflectă o tensiune continuă între interesele de proprietate și cererea de transparență în dezvoltarea AI.