Adakah syarikat AI melindungi manusia secara mencukupi daripada risiko kecerdasan buatan?Menurut laporan baru oleh Institut Masa Depan Kehidupan, sebuah organisasi tanpa keuntungan dari Silicon Valley, jawapannya kemungkinan besar tidak. Ketika AI menjadi semakin penting dalam interaksi manusia-dan-teknologi, bahaya yang berpotensi mula muncul—daripada orang menggunakan chatbot AI untuk kaunseling dan kemudian mati akibat bunuh diri, hinggalah kepada serangan siber yang didorong oleh AI. Risiko masa depan juga membayangi, termasuk penggunaan AI dalam senjata atau cubaan untuk melemahkan kerajaan. Namun, insentif yang mencukupi tidak wujud untuk syarikat AI memberi keutamaan kepada keselamatan global. Indeks Keselamatan AI yang baru diterbitkan oleh Institut ini, yang bertujuan mengarahkan pembangunan AI ke arah hasil yang lebih selamat dan mengurangkan ancaman eksistensial, menonjolkan isu ini. Max Tegmark, pengarah Institut dan profesor di MIT, memaklumkan bahawa syarikat AI beroperasi sebagai satu-satunya industri di AS yang menghasilkan teknologi berkuasa tanpa regulasi, mencipta "lomba ke dasar" di mana keselamatan sering diabaikan. Gred tertinggi dalam indeks ini hanyalah C+, diberikan kepada OpenAI, pembangun ChatGPT, dan Anthropic, yang terkenal dengan chatbot Claude. Bahagian AI Google, Google DeepMind, menerima gred C. Gred yang lebih rendah termasuk D untuk Meta (syarikat induk Facebook) dan xAI milik Elon Musk, keduanya berpusat berhampiran Palo Alto. Syarikat China Z. ai dan DeepSeek juga memperoleh D. Alibaba Cloud menerima penilaian terendah, D-. Syarikat-syarikat dinilai berdasarkan 35 indikator merentasi enam kategori seperti keselamatan eksistensial, penilaian risiko, dan perkongsian maklumat. Penilaian ini menggabungkan data yang tersedia secara umum dan maklum balas dari survei syarikat, dinilai oleh lapan pakar AI termasuk akademik dan pemimpin organisasi. Yang menarik, semua syarikat memperoleh markah di bawah purata dalam kategori keselamatan eksistensial, yang mengukur kawalan dalaman dan strategi untuk mencegah penyalahgunaan AI yang membawa kepada bencana.

Laporan menyatakan bahawa tiada satu pun yang menunjukkan rancangan kredibel untuk mengelak kehilangan kawalan atau penyalahgunaan serius apabila AI berkembang ke arah kecerdasan umum dan super. Google DeepMind dan OpenAI menegaskan komitmen mereka terhadap keselamatan. OpenAI menekankan pelaburannya dalam penyelidikan keselamatan terdepan, ujian ketat, dan perkongsian rangka kerja keselamatan untuk meningkatkan piawaian industri. Google DeepMind menyoroti pendekatan keselamatan berasaskan sains mereka dan protokol untuk mengurangkan risiko serius dari model AI canggih sebelum risiko ini menjadi kenyataan. Sebaliknya, Institut ini menyoroti bahawa xAI dan Meta mempunyai rangka kerja pengurusan risiko tetapi kekurangan komitmen pemantauan dan kawalan yang mencukupi atau pelaburan dalam penyelidikan keselamatan yang ketara. Syarikat seperti DeepSeek, Z. ai, dan Alibaba Cloud tidak mempunyai dokumentasi strategi keselamatan yang tersedia secara umum. Meta, Z. ai, DeepSeek, Alibaba, dan Anthropic tidak memberi maklum balas terhadap permintaan komen. xAI mengutuk laporan ini sebagai “Bohong Media Warisan, ” dan peguam Musk tidak membalas pertanyaan selanjutnya. Walaupun Musk memberi nasihat dan membiayai Institut Masa Depan Kehidupan, beliau tidak terlibat dalam penghasilan Indeks Keselamatan AI. Tegmark menyuarakan kebimbangan bahawa kekurangan regulasi yang mencukupi dapat membenarkan pengganas membangunkan bioweapon, meningkatkan potensi manipulasi melebihi tahap semasa, atau melemahkan kerajaan. Beliau menegaskan bahawa penyelesaian kepada isu-isu ini adalah mudah: mewujudkan piawaian keselamatan yang mengikat untuk syarikat AI. Walaupun ada usaha kerajaan untuk meningkatkan pengawasan terhadap AI, lobi teknologi menentang regulasi sedemikian kerana bimbang akan menyekat inovasi atau pemindahan syarikat ke negara lain. Walau bagaimanapun, rang undang-undang seperti SB 53 California, yang ditandatangani oleh Gabenor Gavin Newsom pada September, mewajibkan syarikat mendedahkan protokol keselamatan dan keselamatan mereka serta melaporkan insiden seperti serangan siber. Tegmark menganggap undang-undang ini sebagai kemajuan tetapi menegaskan bahawa langkah yang jauh lebih besar masih diperlukan. Rob Enderle, penganalisis utama di Enderle Group, percaya bahawa Indeks Keselamatan AI adalah pendekatan yang menarik terhadap cabaran regulasi AI tetapi meragui kapasiti pentadbiran AS kini untuk melaksanakan regulasi yang berkesan. Beliau memberi amaran bahawa peraturan yang tidak dirancang dengan baik boleh menyebabkan bahaya dan meragui adanya mekanisme penguatkuasaan untuk memastikan pematuhan. Secara keseluruhan, Indeks Keselamatan AI menunjukkan bahawa pembangun utama AI belum lagi menunjukkan komitmen keselamatan yang kukuh, menegaskan keperluan mendesak untuk regulasi yang lebih tegas demi melindungi manusia dari risiko AI yang semakin meningkat.