OpenAI està sent molt secretista sobre el seu últim model d'IA, la família 'Strawberry', especialment pel que fa a les seves capacitats de raonament en les versions o1-preview i o1-mini. Des del seu llançament la setmana passada, l'empresa ha enviat correus electrònics d'advertència als usuaris que intenten explorar com funciona el model, quelcom que no es va veure amb models anteriors com el GPT-4o. Els models o1 han estat específicament dissenyats per seguir un mètode sistemàtic de resolució de problemes abans de proporcionar respostes. Tot i que els usuaris poden optar per veure el procés de raonament a ChatGPT, OpenAI deliberadament oculta el procés de pensament cru, oferint només una versió filtrada creada per una altra IA. Aquesta falta de transparència ha despertat l'interès entre hackers i red-teamers ansiosos per descobrir el raonament subjacent mitjançant tècniques com el jailbreaking i la inserció de preguntes. S'han informat d'alguns èxits inicials, però no ha sorgit res definitiu.

Mentrestant, OpenAI està monitoritzant de prop els intents de profunditzar en l'aspecte del raonament, emetent advertències als usuaris que esmenten termes com 'reasoning trace'. Les advertències han destacat violacions de polítiques contra l'elusió de mesures de seguretat, alertant que múltiples infraccions podrien provocar la pèrdua d'accés al model. Els crítics, incloent Marco Figueroa, argumenten que aquestes polítiques impedeixen la recerca beneficiosa sobre la seguretat del model. En una entrada de bloc titulada 'Learning to Reason With LLMs', OpenAI discuteix com el monitoratge de cadenes de pensament ocultes pot proporcionar visions sobre els processos del model. No obstant això, creuen que compartir aquesta informació amb els usuaris podria comprometre tant l'experiència de l'usuari com l'avantatge competitiu. El investigador independent d'IA Simon Willison ha expressat preocupacions per la falta de transparència, argumentant que la decisió impedeix a la comunitat obtenir visions valuoses sobre la funcionalitat del model. En conjunt, la situació reflecteix una tensió continuada entre els interessos propietaris i la demanda de transparència en el desenvolupament d'IA.