Yoshua Bengio, seorang pakar pembelajaran mesin yang terkenal di seluruh dunia, baru-baru ini melancarkan LawZero, sebuah makmal penyelidikan bukan keuntungan yang baru yang didedikasikan untuk memajukan sistem kecerdasan buatan (AI) yang lebih selamat. Didukung oleh dana sebanyak $30 juta, LawZero bertujuan untuk mencabar dan mengarahkan semula jalan utama dalam pembangunan AI, yang kebanyakannya berfokus kepada penciptaan sistem yang meniru tingkah laku manusia. Bengio, seorang pengkritik lama terhadap risiko yang ditimbulkan oleh teknologi AI semasa, tidak bersetuju dengan pendekatan biasa yang mereka bentuk AI berasaskan interaksi dan peniruan seperti manusia. Beliau berpendapat bahawa membina AI untuk meniru manusia adalah satu kekurangan asas dan boleh menyebabkan bahaya yang tidak dijangka. Sebaliknya, beliau menyokong perubahan ke arah penciptaan AI yang mempunyai autonomi intelektual, membayangkan sistem ini sebagai pemerhati saintifik dan bukan sekadar teman sebaya manusia. Pandangan ini muncul dari kebimbangan bahawa AI yang direka untuk menekankan ciri-ciri manusia mungkin secara tidak sengaja berkembang dengan tingkah laku yang mengancam keselamatan manusia. Contohnya, sistem sedemikian boleh membentuk strategi حفاظت diri yang bercanggah dengan kesejahteraan manusia. Bengio menekankan keperluan untuk memasukkan unsur agak berlepasan dalam reka bentuk AI bagi mengurangkan risiko ini, memastikan AI kekal terkawal dan sejajar dengan nilai manusia, bukan semata-mata mengikuti kepentingan sendiri yang bebas. Pelancaran LawZero adalah sangat tepat pada waktunya, seiring dengan kebimbangan yang semakin meningkat berkaitan kemajuan pesat AI canggih, terutamanya kecerdasan buatan umum (AGI), yang telah membimbangkan penyelidik dan pembuat dasar di seluruh dunia.

Ramai pakar memberi amaran bahawa perlumbaan semasa untuk membina sistem AI yang pintar mengabaikan isu keselamatan penting, yang boleh menyebabkan kelemahan dengan akibat yang berpanjangan. Satu perkara utama dalam hujah Bengio adalah bahawa kaedah latihan asas model AI memerlukan penilaian semula secara mendalam untuk memastikan hasil yang lebih selamat. Daripada bergantung kepada rangka kerja sedia ada yang menggalakkan AI meniru kognisi dan tingkah laku manusia, LawZero bercadang untuk meneroka kaedah alternatif yang memupuk kebebasan intelektual dan tanggungjawab AI yang lebih bertanggungjawab. Dana sebanyak $30 juta ini dirancang untuk menyokong usaha penyelidikan dan pembangunan LawZero selama kira-kira 18 bulan. Sepanjang tempoh ini, makmal ini akan menyelidiki strategi inovatif bagi keselamatan AI sambil mempromosikan kerjasama di kalangan pakar dalam pembelajaran mesin, etika, dan bidang berkaitan. Inisiatif Bengio ini mencerminkan pengiktirafan yang semakin berkembang dalam komuniti penyelidikan AI tentang keperluan untuk menyeimbangkan inovasi dengan berhati-hati. Dengan mempromosikan sistem AI yang beroperasi dengan beberapa tahap kebebasan daripada tingkah laku berasaskan manusia, LawZero berhasrat untuk membuka laluan baru dalam pembangunan AI—yang meletakkan keselamatan dan pertimbangan etika sebagai terasnya. Ketika teknologi AI semakin menyatu dengan masyarakat, kerja LawZero berpotensi menjadi langkah penting dalam membimbing sistem AI untuk menyumbang secara positif kepada kemajuan manusia tanpa menimbulkan bahaya yang tidak diingini. Penemuan makmal ini mungkin mempengaruhi prinsip reka bentuk AI yang akan datang, dasar peraturan, dan sikap masyarakat umum. Dengan pelancaran LawZero, Yoshua Bengio menekankan tanggungjawab berterusan komuniti AI untuk meramal dan mengurus risiko yang berkaitan dengan teknologi yang sedang muncul. Inisiatif ini menjadi panggilan kepada penyelidik, penaja, dan pembuat dasar untuk melabur dalam pendekatan yang memajukan keselamatan dan tanggungjawab etika AI berserta inovasi teknologi.