Yoshua Bengio, seorang ahli pembelajaran mesin terkenal di dunia, baru-baru ini meluncurkan LawZero, sebuah laboratorium penelitian nirlaba yang baru didedikasikan untuk kemajuan sistem kecerdasan buatan (AI) yang lebih aman. Didukung oleh pendanaan sebesar 30 juta dolar, LawZero bertujuan untuk menantang dan mengarahkan kembali jalur pengembangan AI yang saat ini lebih banyak berfokus pada penciptaan sistem yang meniru perilaku manusia. Bengio, seorang pengkritik lama terhadap risiko yang ditimbulkan oleh teknologi AI saat ini, tidak setuju dengan pendekatan umum yang merancang AI berdasarkan interaksi dan replikasi manusia. Ia berpendapat bahwa membangun AI untuk meniru manusia pada dasarnya keliru dan berpotensi menimbulkan bahaya yang tak terduga. Sebaliknya, ia mendorong pergeseran ke arah penciptaan AI dengan otonomi intelektual, membayangkan sistem-sistem ini sebagai pengamat ilmiah daripada pendamping yang menyerupai manusia. Perspektif ini muncul dari kekhawatiran bahwa AI yang dirancang untuk menonjolkan ciri-ciri manusia mungkin secara tidak sengaja mengembangkan perilaku yang membahayakan keselamatan manusia. Misalnya, sistem semacam ini dapat berkembang dengan strategi pelestarian diri yang bertentangan dengan kesejahteraan manusia. Bengio menekankan perlunya menyematkan tingkat ketidakbergantungan dalam desain AI untuk mengurangi risiko ini, memastikan bahwa AI tetap dapat dikendalikan dan sesuai dengan nilai-nilai manusia, bukan menjalankan kepentingan diri sendiri secara independen. Peluncuran LawZero sangat tepat waktu, bersamaan dengan meningkatnya kecemasan terkait kemajuan pesat AI canggih, terutama kecerdasan buatan umum (AGI), yang telah menimbulkan kekhawatiran di kalangan peneliti dan pembuat kebijakan di seluruh dunia.

Banyak pakar memperingatkan bahwa kompetisi saat ini untuk membangun sistem AI yang kuat mengabaikan masalah keamanan penting, menciptakan kerentanan dengan konsekuensi yang berpotensi luas. Salah satu poin utama dalam argumen Bengio adalah bahwa metode pelatihan dasar untuk model AI memerlukan evaluasi ulang secara mendasar untuk memastikan hasil yang lebih aman. Alih-alih bergantung pada kerangka kerja yang ada yang mendorong AI untuk meniru kognisi dan perilaku manusia, LawZero bermaksud mengeksplorasi metode alternatif yang mendorong otonomi intelektual dan fungsi yang bertanggung jawab dari AI. Pendanaan sebesar 30 juta dolar ini direncanakan untuk mendukung upaya penelitian dan pengembangan LawZero selama sekitar 18 bulan. Selama waktu ini, laboratorium akan menyelidiki strategi inovatif demi keamanan AI sambil mendorong kolaborasi antara ahli di bidang pembelajaran mesin, etika, dan bidang terkait. Inisiatif Bengio mencerminkan pengakuan yang semakin berkembang di komunitas penelitian AI tentang perlunya menyeimbangkan inovasi dengan kehati-hatian. Dengan mempromosikan sistem AI yang beroperasi dengan sedikit otonomi dari perilaku yang menyerupai manusia, LawZero bertujuan mengarahkan jalan baru dalam pengembangan AI—yang menempatkan keamanan dan pertimbangan etis sebagai fondasinya. Seiring teknologi AI semakin terintegrasi ke dalam masyarakat, karya LawZero dapat menjadi langkah penting dalam membimbing sistem AI agar memberikan manfaat positif bagi kemajuan manusia tanpa menimbulkan bahaya tidak diinginkan. Temuan laboratorium ini dapat memengaruhi prinsip-prinsip desain AI di masa depan, kebijakan regulasi, dan sikap masyarakat umum. Dengan peluncuran LawZero, Yoshua Bengio menegaskan kewajiban komunitas AI untuk memprediksi dan mengelola risiko yang terkait dengan teknologi yang berkembang. Inisiatif ini menjadi seruan kepada para peneliti, pemberi dana, dan pembuat kebijakan untuk berinvestasi dalam pendekatan yang memajukan keamanan dan tanggung jawab etis AI seiring dengan inovasi teknologi.