Anthropic AI Dihadapkan dengan Kritikan terhadap Piawaian Keselamatan yang Melemah dan Amalan Data yang Kontroversial
Brief news summary
Anthropic, sebuah syarikat AI bertanggungjawab, sedang bergelut dengan halangan yang mempersoalkan kebolehlaksanaan mengutamakan etika dan keselamatan. Pada awalnya ditubuhkan sebagai respons kepada kebimbangan mengenai budaya keselamatan di OpenAI, Anthropic kini berusaha melemahkan rang undang-undang yang mewajibkan ujian keselamatan dan keupayaan untuk menghentikan model AI semasa insiden keselamatan. Ini telah mengecewakan kumpulan yang fokus kepada keselamatan yang mengharapkan penyeliaan lebih besar dari Anthropic. Selain itu, syarikat ini telah menghadapi reaksi balas atas kaedah pengumpulan datanya, termasuk pengikisan data yang tersedia secara awam tanpa kebenaran, yang telah membawa kepada pertikaian undang-undang dan cabaran pelanggaran hak cipta. Kebimbangan juga timbul daripada kerjasama Anthropic dengan gergasi teknologi seperti Amazon dan Google, yang membakar kebimbangan mengenai pemaksimuman keuntungan dan pengumpalan kuasa. Isu-isu ini menegaskan keperluan untuk campur tangan kerajaan untuk mengubah rangka insentif dalam industri AI dan menjamin penerapan amalan pembangunan yang beretika dan selamat.Sigal Samuel, seorang wartawan kanan untuk Future Perfect Vox dan pengacara bersama podcast Future Perfect, membincangkan cabaran yang dihadapi oleh Anthropic, sebuah syarikat AI yang pernah dianggap etikal dan selamat. Walaupun dengan dakwaan awalnya, Anthropic kini melobi untuk melemahkan undang-undang yang akan menguatkuasakan piawaian keselamatan untuk model AI. Perubahan ini telah mengecewakan kumpulan yang fokus kepada keselamatan yang percaya bahawa Anthropic akan menyokong penyeliaan dan akauntabiliti.
Selain itu, Anthropic telah menghadapi kritikan berkaitan dengan kaedah pengumpulan datanya, termasuk pengikisan data yang tersedia secara awam tanpa persetujuan, dan perkongsian dengan gergasi teknologi seperti Amazon dan Google, yang menimbulkan kebimbangan mengenai penggumpalan kuasa dan potensi pelanggaran antimonopoli. Samuel berhujah bahawa kerajaan mesti campur tangan untuk menukar struktur insentif industri AI jika syarikat tidak mungkin mengutamakan etika dan keselamatan sendiri. Sekiranya tiada peraturan persekutuan, undang-undang negeri dan usaha masyarakat sivil mungkin memainkan peranan penting dalam memegang syarikat AI bertanggungjawab.
Watch video about
Anthropic AI Dihadapkan dengan Kritikan terhadap Piawaian Keselamatan yang Melemah dan Amalan Data yang Kontroversial
Try our premium solution and start getting clients — at no cost to you
