OpenAI, en son AI modeli 'Çilek' ailesi hakkında, özellikle o1-preview ve o1-mini versiyonlarının akıl yürütme yetenekleriyle ilgili olarak oldukça gizemli davranıyor. Geçen hafta piyasaya sürülmelerinden bu yana, şirket modeli nasıl işlediğini araştırmaya çalışan kullanıcılara uyarı e-postaları gönderdi, bu önceki modellerde (örneğin GPT-4o) görülmemiş bir durumdu. o1 modelleri, cevap vermeden önce sistematik bir problem çözme yöntemini izlemek üzere özel olarak tasarlanmıştır. Kullanıcılar ChatGPT'de akıl yürütme sürecini görmeyi tercih edebilse de, OpenAI ham düşünce sürecini kasıtlı olarak gizler ve sadece başka bir AI tarafından oluşturulmuş filtrelenmiş bir sürüm sunar. Bu şeffaflık eksikliği, hilekarlık ve istem enjeksiyonu gibi tekniklerle altta yatan akıl yürütmeyi ortaya çıkarmak isteyen hackerlar ve kırmızı takım üyeleri arasında ilgi uyandırdı. Bazı erken başarılar rapor edilse de, kesin bir sonuç ortaya çıkmadı.

Bu arada, OpenAI akıl yürütme yönüne daha derinlemesine inme girişimlerini yakından izliyor ve 'akıl yürütme izi' gibi terimleri kullanan kullanıcılara uyarılar gönderiyor. Uyarılar, güvenlik önlemlerini aşmaya yönelik politika ihlallerini vurguladı ve devam eden ihlallerin model erişiminin kaybedilmesine yol açabileceğini belirtti. Marco Figueroa gibi eleştirmenler, bu tür politikaların modelin güvenliğiyle ilgili faydalı araştırmaları engellediğini savunuyor. 'LLM'lerle Akıl Yürütmeyi Öğrenmek' başlıklı bir blog yazısında OpenAI, gizli düşünce zincirlerinin izlenmesinin modelin süreçlerine dair içgörüler sağlayabileceğini tartışıyor. Ancak, bu bilgilerin kullanıcılarla paylaşılmasının hem kullanıcı deneyimini hem de rekabet avantajını tehlikeye atabileceğini düşünüyorlar. Bağımsız AI araştırmacısı Simon Willison, şeffaflık eksikliği konusunda endişelerini dile getirerek, bu kararın topluluğun modelin işlevselliği hakkında değerli bilgiler edinmesini engellediğini savunuyor. Genel olarak durum, tescilli çıkarlar ile AI geliştirmede şeffaflık talebi arasındaki devam eden gerilimi yansıtıyor.