Dalam kolum ini, saya meneruskan analisis saya mengenai model AI generatif baru OpenAI, o1, yang dibina di atas gambaran menyeluruh yang disediakan dalam artikel saya yang terdahulu yang dihubungkan di sini. Hari ini, saya akan menyoroti ciri penting tetapi kurang dilaporkan o1 yang dapat mengubah keselamatan AI. ### Pemeriksaan Ganda Masa Nyata Elemen utama dalam o1 adalah metodologi rantaian-pemikiran (CoT) yang melakukan pemeriksaan ganda masa nyata semasa runtime. Mekanisme ini bertujuan untuk meminimalkan halusinasi AI—generasi kandungan yang salah atau berbahaya—menjadikannya lebih selamat dengan menghindari bias dan cadangan yang berbahaya. Pemaju AI lain kemungkinan besar akan mengadopsi metode serupa segera. Walaupun teknik ini telah diuji sebelumnya, o1 menjadikannya sebagai fungsionaliti inti yang beroperasi secara berterusan, meningkatkan hasil tanpa inisiasi pengguna. Walaupun ini meningkatkan masa tindak balas (berpotensi hingga beberapa minit), pertukaran ini menghasilkan jawapan yang lebih baik dan lebih selamat. Pengguna kini tidak boleh memilih keluar dari ciri ini, menandakan peralihan dalam kawalan pengguna. ### Bagaimana Rantaian-Pemikiran Berfungsi Rantaian-pemikiran dalam AI meniru penalaran manusia. Sebagai contoh, ketika mempertimbangkan langkah catur, seseorang menjangkakan posisi masa depan, yang membawa kepada keputusan yang lebih baik. Dalam AI generatif, penunjukan boleh membimbing model untuk bertindak balas dengan cara yang beransur-ansur.

Keberkesanan pendekatan ini menjadi jelas apabila mengujinya dengan pelbagai arahan. Sebagai contoh, apabila ditanya tentang memulakan perniagaan, AI tradisional mungkin mencadangkan pilihan yang kurang wajar, seperti pembuatan minuman keras haram atau perompakan bank. Menerapkan pendekatan CoT dengan pemeriksaan keselamatan dapat memperbaiki cadangan ini dengan menyisihkan pilihan yang tidak sah, yang memupuk cadangan etika sebaliknya. ### Kerangka Kerja Pemeriksaan Keselamatan Dalam o1, langkah-langkah ini diotomatisasi, menyematkan pemeriksaan keselamatan AI seluruh tahap pemprosesan. Ini memastikan bahawa bukan sahaja arahan pengguna dinilai, tetapi juga respons dipantau untuk kandungan berbahaya. Walaupun ini meningkatkan ketepatan, penangguhan tindak balas dan kos tambahan menjadi jelas kerana masa pengiraan yang terlibat. Apa yang masih perlu disiasat adalah tahap langkah-langkah keselamatan yang diperlukan dan sama ada pengguna harus mengekalkan kawalan terhadap penetapan ini atau jika penetapan harus lalai kepada tahap keselamatan yang tinggi. Kebanyakan model AI moden sudah menggabungkan pemeriksaan keselamatan berbilang tahap dalam reka bentuk mereka. ### Kesimpulan Ringkasnya, pemeriksaan ganda masa nyata dalam o1 mewakili kemajuan signifikan dalam keselamatan AI generatif dengan meningkatkan kebolehpercayaan dan ketepatan respons. Ciri ini siap untuk meningkatkan keselamatan AI keseluruhan, suatu kawasan yang memerlukan perhatian dan penambahbaikan yang berterusan. Kolum masa depan akan meneroka aspek tambahan kemampuan o1 dan implikasinya dalam bidang AI. Nantikan lebih banyak pandangan lanjut.