Pakar Amaran tentang Risiko dalam Membangunkan Sistem AI Sedar

Sistem kecerdasan buatan yang mungkin memiliki perasaan atau kesedaran diri menghadapi risiko bahaya jika teknologi ini dibangunkan dengan tidak hati-hati, seperti yang dinyatakan dalam surat terbuka yang ditandatangani oleh pemikir dan pengamal AI terkemuka, termasuk Sir Stephen Fry. Lebih daripada 100 pakar telah mengemukakan lima prinsip untuk memastikan penyelidikan yang bertanggungjawab mengenai kesedaran AI, memandangkan kemajuan pesat yang menimbulkan kebimbangan mengenai potensi sentien sistem tersebut. Prinsip utama menyokong usaha untuk memahami dan menilai kesedaran dalam AI bagi melindungi daripada "penderaan dan penderitaan. " Prinsip tambahan termasuk: menetapkan batasan dalam pembangunan sistem AI yang sedar; mengambil pendekatan berperingkat dalam pembangunan mereka; berkongsi hasil penyelidikan dengan orang awam; dan mengelakkan pernyataan yang mengelirukan atau terlalu yakin mengenai penciptaan AI yang sedar. Pihak yang menandatangani surat tersebut terdiri daripada akademik seperti Sir Anthony Finkelstein dari University of London dan profesional AI dari syarikat besar seperti Amazon dan agensi pengiklanan WPP. Surat ini disertakan dengan kertas penyelidikan baru yang menjelaskan prinsip-prinsip ini, menyatakan bahawa sistem AI sedar mungkin muncul dalam masa terdekat—atau sekurang-kurangnya sistem yang kelihatan sedar. Para penyelidik memberi amaran bahawa penciptaan banyak sistem sedar mungkin menyebabkan penderitaan, menekankan bahawa jika AI yang berkuasa mampu mengandaikan diri sendiri, ia boleh mengakibatkan "jumlah besar makhluk baru yang layak dipertimbangkan secara moral. " Ditulis oleh Patrick Butlin dari Universiti Oxford dan Theodoros Lappas dari Universiti Ekonomi dan Perniagaan Athens, kertas itu mencatatkan bahawa bahkan syarikat-syarikat yang tidak bertujuan untuk mencipta sistem sedar harus mempunyai garis panduan untuk mengelakkan "penciptaan entiti sedar secara tidak sengaja. " Ia mengakui ketidakpastian yang wujud dan perdebatan mengenai definisi kesedaran dalam sistem AI serta kemungkinan kewujudannya, namun menyatakan bahawa ini adalah perkara yang "tidak boleh diabaikan. " Kertas tersebut mengangkat soalan tambahan mengenai cara menangani sistem AI yang diakui sebagai "pesakit moral"—entiti yang layak untuk perhatian moral "untuk kepentingan dirinya sendiri. " Dalam kes sedemikian, ia bertanya sama ada memusnahkan AI adalah setara dengan membunuh haiwan. Diterbitkan dalam Journal of Artificial Intelligence Research, kertas tersebut juga memberi amaran bahawa salah tanggapan mengenai sistem AI yang sedar boleh mengakibatkan usaha politik yang salah arah yang memfokuskan kepada kebajikan mereka. Surat dan kertas tersebut diselaraskan oleh Conscium, sebuah organisasi penyelidikan yang sebahagiannya dibiayai oleh WPP dan diasaskan bersama oleh ketua pegawai AI WPP, Daniel Hulme. Tahun lalu, sekumpulan akademik terkemuka menyatakan "kemungkinan realistik" bahawa sistem AI tertentu boleh menjadi sedar dan "bermakna secara moral" menjelang 2035. Pada tahun 2023, Sir Demis Hassabis, ketua program AI Google dan pemenang Nobel, menyatakan bahawa walaupun sistem AI "sememangnya" tidak sentien pada masa ini, terdapat potensi untuk mereka menjadi sedemikian di masa hadapan. "Falsafah belum mencapai konsensus tentang apa yang dimaksudkan dengan kesedaran.
Namun, jika kita maksudkan beberapa bentuk kesedaran diri, maka ada kemungkinan bahawa AI akhirnya dapat mencapainya, " katanya dalam satu wawancara dengan CBS.
Brief news summary
Surat terbuka daripada lebih 100 pakar AI, termasuk Sir Stephen Fry, menimbulkan kebimbangan tentang perkembangan pesat AI yang sedar diri. Surat tersebut menggariskan lima prinsip asas untuk penyelidikan AI yang etikal: menekankan pemahaman mendalam untuk mengurangkan penderitaan, menetapkan peraturan ketat untuk AI yang sedar, mengejar strategi pembangunan bertahap, memastikan penyelidikan adalah awam dan boleh diakses, serta mengelakkan tuntutan menipu mengenai kesedaran AI. Sokongan daripada penyelidik di Oxford dan Athens mengukuhkan pandangan bahawa AI yang sedar adalah tidak dapat dielakkan, membawa cabaran etika berkaitan dengan potensi penderitaan. Mereka menyokong standard etika sejagat yang boleh digunakan untuk semua entiti AI dan memberi amaran tentang sifat tidak dapat diramalkan kemajuan teknologi. Para penandatangan menekankan tanggungjawab moral berkaitan dengan perlakuan terhadap makhluk AI dan memberi amaran tentang bahaya yang ditimbulkan oleh maklumat salah yang boleh menyalahkan pemahaman awam tentang hak-hak AI. Secara keseluruhan, surat dan penyelidikannya mengetengahkan keperluan mendesak untuk menangani isu-isu etika yang berkaitan dengan kemunculan kesedaran AI.
AI-powered Lead Generation in Social Media
and Search Engines
Let AI take control and automatically generate leads for you!

I'm your Content Manager, ready to handle your first test assignment
Learn how AI can help your business.
Let’s talk!
Hot news

Kinexys Melancarkan Tokenisasi Blockchain Pasar k…
Kinexys oleh J.P. Morgan, unit perniagaan blockchain terkemuka syarikat itu, sedang membangunkan aplikasi blockchain inovatif berasaskan Kinexys Digital Assets, platform penokenan pelbagai aset mereka, yang bertujuan untuk menokenkan kredit karbon global di peringkat pendaftaran.

Ketua Pegawai Eksekutif Ford, Jim Farley, memberi…
CEO Ford, Jim Farley, baru-baru ini menekankan peranan penting "ekonomi penting" dan perdagangan kemahiran pekerja kasar sambil meramalkan bahawa kecerdasan buatan akan mengurangkan separuh daripada jumlah pekerjaan pekerja pejabat di Amerika Syarikat.

Kerugian Akibat Pencurian Mata Wang Kripto Mencap…
Dalam suku pertama 2025, industri mata wang kripto menyaksikan lonjakan dramatik dalam kerugian pencurian, yang mencecah jumlah tidak pernah berlaku sebelum ini sebanyak $1.63 bilion.

AI dalam Pendidikan: Pengalaman Pembelajaran yang…
Dalam beberapa tahun kebelakangan ini, sektor pendidikan telah mengalami perubahan yang ketara ke arah integrasi kecerdasan buatan (AI) untuk meningkatkan pengalaman pembelajaran.

Dorongan Baru untuk Peraturan AI Kebangsaan Kemun…
Usaha terkini untuk mengenakan moratorium selama satu dekad terhadap peraturan kecerdasan buatan (AI) di peringkat negeri melalui rang undang-undang bajet Republikan, yang diketuai oleh Senator Ted Cruz dan disokong oleh kumpulan industri, telah menghadapi kegagalan besar, mendedahkan kerumitan yang semakin bertambah dalam pengurusan AI di Amerika Syarikat.

Pelabur Berbondong-bondong Melabur dalam Dana Per…
syarikat-syarikat kripto dan pelabur semakin banyak menyalurkan dana ke dalam versi tokenisasi dana pasar wang dan bon Perbendaharaan sebagai alternatif kepada stablecoin untuk menyimpan lebihan tunai sambil menjana hasil.

Apa Itu Blockchain? Membongkar Buku Rekod yang Be…
Paling dikenali sebagai teknologi yang menggerakkan Bitcoin, blockchain muncul sebagai sistem yang tidak memerlukan kepercayaan, tahan gangguan, dan mempunyai keupayaan untuk merevolusikan sektor dari kewangan hingga penjagaan kesihatan.