OpenAI sangat merahasiakan model AI terbarunya, keluarga 'Strawberry, ' terutama mengenai kemampuan penalarannya dalam versi o1-preview dan o1-mini. Sejak dirilis minggu lalu, perusahaan telah mengirim email peringatan kepada pengguna yang mencoba mengeksplorasi cara kerja model tersebut, sesuatu yang tidak terlihat pada model sebelumnya seperti GPT-4o. Model o1 dirancang khusus untuk mengikuti metode pemecahan masalah yang sistematis sebelum memberikan jawaban. Meskipun pengguna dapat memilih untuk melihat proses penalaran di ChatGPT, OpenAI sengaja menyembunyikan proses berpikir mentahnya, menawarkan hanya versi yang sudah disaring yang dibuat oleh AI lainnya. Kurangnya transparansi ini membangkitkan minat di kalangan peretas dan tim merah yang antusias untuk mengungkap penalaran dasar melalui teknik seperti jailbreaking dan injeksi prompt. Beberapa keberhasilan awal telah dilaporkan, tetapi tidak ada yang definitif.

Sementara itu, OpenAI secara ketat memantau upaya untuk menyelami lebih dalam aspek penalaran, memberikan peringatan kepada pengguna yang menyebut istilah seperti 'jejak penalaran. ' Peringatan menyoroti pelanggaran kebijakan terhadap menghindari langkah-langkah keamanan, mengingatkan bahwa pelanggaran berulang dapat menyebabkan kehilangan akses ke model tersebut. Kritikus, termasuk Marco Figueroa, berpendapat bahwa kebijakan semacam itu menghambat penelitian berharga mengenai keamanan model tersebut. Dalam posting blog berjudul “Belajar untuk Menalar Dengan LLMs, ” OpenAI membahas bagaimana memantau rantai pemikiran tersembunyi dapat memberikan wawasan ke dalam proses model. Namun, mereka percaya bahwa berbagi informasi ini dengan pengguna dapat membahayakan pengalaman pengguna dan keuntungan kompetitif. Peneliti AI independen Simon Willison telah menyuarakan keprihatinan tentang kurangnya transparansi, berpendapat bahwa keputusan tersebut mencegah komunitas dari mendapatkan wawasan berharga ke dalam fungsi model. Secara keseluruhan, situasi tersebut mencerminkan ketegangan yang terus berlangsung antara kepentingan properti dan permintaan untuk transparansi dalam pengembangan AI.