lang icon English
Aug. 25, 2024, 3:59 p.m.
1690

MIT Membangunkan Pangkalan Data untuk Mengesan Risiko AI

Brief news summary

Penyelidik dari MIT CSAIL dan MIT FutureTech telah menyusun pangkalan data yang menekankan potensi bahaya yang berkaitan dengan kecerdasan buatan (AI). Pangkalan data ini mengandungi lebih daripada 700 risiko, dengan majoritinya (51%) dikaitkan dengan sistem AI berbanding faktor manusia (34%). Menariknya, kebanyakan risiko (65%) hanya muncul selepas pelaksanaan AI, dan bukan semasa proses pembangunan. Walaupun rangka kerja AI yang komprehensif tersedia, sekitar 30% risiko tidak disedari. Pangkalan data ini meliputi pelbagai domain risiko, termasuk keselamatan, kegagalan, keterbatasan, bahaya sosioekonomi dan alam sekitar, diskriminasi, ketoksikan, privasi, keselamatan dan penyalahgunaan. Cabaran terletak pada mengimbangi manfaat AI dengan risiko ini, memandangkan penggunaannya yang meluas. Pakar menekankan keperluan untuk model pengukuran, memahami impak aplikasi AI, dan menetapkan penanda aras untuk menilai manfaat. Mereka juga menekankan kepentingan tadbir urus AI dan penilaian risiko untuk memastikan pelaksanaan yang selamat dan berkesan.

Hampir satu pertiga daripada risiko yang berkaitan dengan kecerdasan buatan (AI) tidak diketahui. Untuk menjelaskan risiko ini, penyelidik di MIT telah membangunkan pangkalan data yang boleh diakses oleh orang awam dan mengandungi lebih daripada 700 risiko AI. Pangkalan data ini menekankan bahawa lebih banyak risiko yang dikaitkan dengan sistem AI (51%) berbanding dengan manusia (34%). Selain itu, risiko lebih cenderung diperhatikan selepas pelaksanaan AI (65%) berbanding semasa pembangunannya (10%). Walau bagaimanapun, pangkalan data ini hanya menangkap sekitar 70% daripada risiko yang dikenal pasti. Domain risiko yang paling kerap diselesaikan termasuk keselamatan sistem AI, bahaya sosioekonomi dan alam sekitar, diskriminasi dan ketoksikan, privasi dan keselamatan, dan pelaku jahat dan penyalahgunaan.

Walaupun penanda aras ini membantu memahami risiko dan ganjaran AI, cabaran terletak pada menentukan bila ganjaran melebihi risiko. Pakar mencadangkan bahawa terlalu awal untuk membuat penilaian sedemikian. Penggunaan AI berlaku pada kadar yang pesat, dan kebimbangan mengenai isu berkaitan teknologi, privasi, keselamatan, kepercayaan, penerimaan pengguna, dan kos memberi justifikasi untuk berwaspada. Ia akan mengambil masa untuk menilai impak dan manfaat aplikasi AI yang kompleks berbanding dengan automasi berdasarkan tugasan yang lebih mudah. Ketika gembar-gembur mengenai AI semakin berkurangan, syarikat perlu menilai dengan teliti risiko dan ganjaran yang berkaitan dengan penggunaannya, dan tadbir urus AI yang lebih kukuh akan menjadi penting.


Watch video about

MIT Membangunkan Pangkalan Data untuk Mengesan Risiko AI

Try our premium solution and start getting clients — at no cost to you

I'm your Content Creator.
Let’s make a post or video and publish it on any social media — ready?

Language

Hot news

Nov. 9, 2025, 5:19 a.m.

Snap Inc. Melaburkan $400J dalam Integrasi Carian…

Snap Inc.

Nov. 9, 2025, 5:15 a.m.

Pusat AI di SMM: Panggung untuk Permulaan

Pusat AI di SMM 2024 akan menjadi pusat utama untuk inovasi dan transformasi, menyoroti peranan penting kecerdasan buatan (AI) dalam evolusi digital industri maritim secara berterusan.

Nov. 9, 2025, 5:14 a.m.

Sistem Pengiktirafan Video Berasaskan AI Membantu…

Dalam beberapa tahun terakhir, bidang perubatan telah mengalami transformasi yang signifikan didorong oleh kemajuan kecerdasan buatan (AI), terutamanya sistem pengenalan video AI.

Nov. 9, 2025, 5:11 a.m.

Profound Mengumpulkan $20 Juta dalam Putaran Seri…

Profound, sebuah syarikat teknologi yang mengkhusus dalam pengoptimuman carian berasaskan AI, telah memperoleh dana sebanyak $20 juta dalam pusingan pembiayaan Siri A yang diketuai oleh Kleiner Perkins, dengan penyertaan daripada cabang ventura NVIDIA dan Khosla Ventures.

Nov. 8, 2025, 1:29 p.m.

Kemaskini pasaran saham: Syarikat teknologi dan A…

Saham mengalami kerugian mingguan pertama dalam tiga minggu pada hari Jumaat, apabila pelabur menarik balik wang berikutan kebimbangan terhadap penilaian yang melonjak bagi syarikat-syarikat kecerdasan buatan.

Nov. 8, 2025, 1:25 p.m.

Vista Social Perkenalkan Teknologi ChatGPT, Menja…

Vista Social telah mencapai kemajuan besar dalam pengurusan media sosial dengan mengintegrasikan teknologi ChatGPT ke dalam platformnya, menjadikannya alat pertama yang menggabungkan AI perbualan canggih dari OpenAI.

Nov. 8, 2025, 1:21 p.m.

Menggunakan Ejen AI dalam Jualan: Membina Pasukan…

Dalam landskap jualan yang berubah dengan cepat, kemajuan dalam kecerdasan buatan (AI), terutamanya ejen AI yang didukung oleh model bahasa besar (LLMs), berpotensi untuk mengubah secara mendasar cara organisasi jualan beroperasi.

All news

AI Company

Launch your AI-powered team to automate Marketing, Sales & Growth

and get clients on autopilot — from social media and search engines. No ads needed

Begin getting your first leads today