OpenAI er mjög leyndardómsfullt um nýjasta gervigreindarlíkanið sitt, „Jarðarber“ fjölskyldan, sérstaklega varðandi hæfileika þess til röksemdafærslu í o1-preview og o1-mini útgáfum. Frá því að þau voru gefin út í síðustu viku hefur fyrirtækið sent viðvörunarbréf til notenda sem reyna að kanna hvernig líkanið virkar, eitthvað sem ekki hefur sést með fyrri líkönum eins og GPT-4o. O1 líkanin eru sérstaklega hönnuð til að fylgja kerfisbundinni lausnarleið áður en svar er gefið. Þó notendur geti valið að sjá rökferlið í ChatGPT, hylur OpenAI viljandi hráa hugsunarferlið og býður aðeins upp á síaða útgáfu sem búin er til af annarri gervigreind. Þessi skortur á gagnsæi hefur vakið áhuga meðal hakkara og “red-teamers” sem vilja afhjúpa undirliggjandi röksemdir með tækni eins og “jailbreaking” og “prompt injection”. Sumir fyrstu sigrar hafa verið tilkynntir, en ekkert endanlegt hefur komið í ljós.

Á meðan fylgist OpenAI náið með tilraunum til að kafa dýpra í röksemdarferlið, gefandi út viðvaranir til notenda sem nefna hugtök eins og „röksemdafærslu ferli“. Viðvaranir hafa undirstrikað brot á reglum gegn því að sneiða hjá öryggisráðstöfunum, varandi að endurtekin brot gætu leitt til taps á aðgangi að líkaninu. Gagnrýnendur, þar á meðal Marco Figueroa, halda því fram að slík stefna hindri gagnlega rannsókna á öryggi líkansins. Í bloggfærslu sem heitir “Learning to Reason With LLMs, ” ræðir OpenAI um hvernig eftirlit yfir falin hugsunarkeðjur getur veitt innsýn í ferli líkansins. Hins vegar telja þeir að það að deila þessari upplýsingum með notendum geti skaðað bæði notendaupplifun og samkeppnisforskot. Sjálfstæður gervigreindarannsakandi, Simon Willison, hefur tjáð áhyggjur af skortinum á gagnsæi, haldandi því fram að ákvörðunin hindri samfélagið frá því að öðlast mikilvægar upplýsingar um virkni líkansins. Almennt endurspeglar staðan átak á milli eignaréttarhagsmuna og kröfunnar um gagnsæi í þróun gervigreindar.