Az OpenAI nagy titoktartással kezeli legújabb AI modelljét, a „Strawberry” családot, különösen az o1-preview és o1-mini verziók érvelési képességeit illetően. A múlt heti megjelenésük óta a cég figyelmeztető e-maileket küldött azoknak a felhasználóknak, akik megpróbálták feltárni, hogyan működik a modell, amit a korábbi modelleknél, például a GPT-4o-nál nem tapasztaltak. Az o1 modelleket kifejezetten arra tervezték, hogy következetes problémamegoldási módszert kövessenek a válaszok megadása előtt. Bár a felhasználók választhatják, hogy megtekintik az érvelési folyamatot a ChatGPT-ben, az OpenAI szándékosan elrejti a nyers gondolatmenetet, és csak egy szűrt változatot kínál, amelyet egy másik AI készít. Ez az átláthatóság hiánya felkeltette a hackerek és a red-teamerek érdeklődését, akik olyan technikákkal próbálják feltárni az alapérvelést, mint a jailbreak és a prompt injekció. Néhány kezdeti sikerről már beszámoltak, de semmi végleges nem derült ki.

Eközben az OpenAI szorosan figyelemmel kíséri az érvelési aspektus mélyebb feltárására irányuló próbálkozásokat, és figyelmeztetéseket küld azoknak a felhasználóknak, akik olyan kifejezéseket említenek, mint az „érvelési nyom”. A figyelmeztetések kiemelték a biztonsági intézkedések megkerülésére irányuló szabályzatok megsértését, és figyelmeztették, hogy az ismétlődő szabálysértések a modellhez való hozzáférés elvesztéséhez vezethetnek. A kritikusok, köztük Marco Figueroa, azt állítják, hogy az ilyen szabályok akadályozzák a modell biztonságára irányuló hasznos kutatásokat. Egy „Tanulás az LLM-ekkel való érveléshez” című blogbejegyzésben az OpenAI arról beszél, hogyan nyújthatnak betekintést a rejtett gondolati láncok megfigyelése a modell folyamataiba. Azonban úgy vélik, hogy ezeknek az információknak a megosztása a felhasználókkal veszélyeztetheti mind a felhasználói élményt, mind a versenyelőnyt. Független AI kutató, Simon Willison aggodalmát fejezte ki az átláthatóság hiánya miatt, ami szerinte megakadályozza, hogy a közösség értékes betekintést nyerjen a modell működésébe. Összességében a helyzet a szabadalmaztatott érdekek és az AI fejlesztésének átláthatóságára vonatkozó igény közötti folyamatos feszültséget tükrözi.