Kemajuan pesat dalam kecerdasan buatan (AI) telah mencetuskan perdebatan dan kebimbangan yang ketara di kalangan pakar, terutamanya mengenai impak jangka panjangnya terhadap manusia. Tokoh terkenal seperti Elon Musk, CEO Tesla dan SpaceX, serta Dario Amodei, CEO organisasi penyelidikan AI Anthropic, memberi amaran tentang risiko eksistensial yang serius dari AI, menganggarkan kemungkinan kepupusan manusia yang dipacu AI antara 10% hingga 25%. Penilaian yang suram ini menunjukkan keperluan mendesak untuk rangka kerja pengawalseliaan yang ketat dan langkah keselamatan bagi memantau pembangunan dan penggunaan AI. Elon Musk, yang terkenal dengan pandangan visionernya, sentiasa memberi amaran tentang bahaya AI yang tidak diatur. Walaupun mengakui manfaat AI, beliau menekankan bahawa tanpa pengawasan yang mencukupi, AI boleh melebihi kawalan manusia dan membawa kepada akibat yang menyaksikan bencana. Musk menyokong pengawalseliaan yang proaktif untuk memastikan kemajuan AI mengutamakan keselamatan manusia. Begitu juga, Dario Amodei berkongsi kebimbangan ini dan mengetuai Anthropic dalam membangunkan sistem AI yang dapat difahami dan sejajar dengan nilai manusia bagi meminimumkan risiko yang berkaitan dengan tingkah laku AI yang autonomi. Penilaian risiko beliau mencerminkan keseriusan yang dirasakan oleh ramai dalam komuniti AI terhadap kemajuan AI yang tidak dikawal. Argumen untuk pengawalseliaan semakin kukuh apabila sistem AI berkembang pesat, menjalankan tugas yang pernah dianggap unik manusia, termasuk pemprosesan bahasa semula jadi yang maju dan pembuatan keputusan autonomi dalam senario kompleks. Walaupun kemajuan ini menjanjikan transformasi industri dan peningkatan kualiti hidup, mereka pada masa yang sama mempersembahkan cabaran yang belum pernah berlaku sebelum ini dalam memastikan AI beroperasi secara selamat dan beretika. Pakar memberi amaran bahawa tanpa perlindungan yang sesuai, AI boleh dieksploitasi secara jahat atau membangunkan tingkah laku yang bertentangan dengan kepentingan manusia. Kerumitan AI masa kini menyukarkan untuk meramalkan semua kemungkinan kegagalan atau akibat yang tidak sengaja, meningkatkan kebimbangan tentang kemalangan atau penyalahgunaan secara sengaja serta meningkatkan keperluan pengurusan AI.

Oleh itu, komuniti sains dan dasar semakin menyokong penggubalan peraturan AI yang menyeluruh yang merangkumi mekanisme keselamatan, mempromosikan ketelusan dalam reka bentuk AI, dan menguatkuasakan garis panduan beretika untuk menyelaraskan fungsi AI dengan nilai masyarakat. Kerjasama antarabangsa amat penting disebabkan oleh pembangunan dan penggunaan AI di seluruh dunia. Selain daripada pengawalseliaan, penyelidikan berterusan dalam keselamatan dan etika AI kekal penting. Usaha akademik dan organisasi tertumpu kepada membina sistem AI yang hebat tetapi mampu dikawal, sejajar dengan objektif manusia melalui pengesahan tingkah laku AI, peningkatan kefahaman, dan penilaian implikasi etika. Perdebatan mengenai risiko dan pengawalseliaan AI menggambarkan cabaran lebih besar dalam mengurus teknologi transformatif sambil melindungi masa depan manusia. Seiring AI berkembang pada kadar yang belum pernah berlaku sebelum ini, adalah penting untuk mengimbangi inovasi dengan kehati-hatian. Amaran daripada pemimpin seperti Musk dan Amodei menekankan betapa mendesaknya untuk menangani kebimbangan ini. Kesimpulannya, anggaran risiko kepupusan manusia yang disebabkan AI sekitar 10% hingga 25% yang dikemukakan oleh pakar utama merupakan isu kritikal di peringkat global yang memerlukan tindakan segera dan terkoordinasi. Menubuhkan struktur pengawalseliaan yang kukuh dan langkah keselamatan yang boleh diandalkan untuk memastikan pembangunan AI selaras dengan keselamatan dan nilai manusia amat penting. Mengabaikan risiko ini boleh membawa akibat yang tidak dapat dipulihkan, menjadikan tadbir urus AI yang berfikir secara menyeluruh dan pelbagai disiplin amat penting demi kelangsungan dan kesejahteraan manusia.