Anthropic AI stendur frammi fyrir gagnrýni fyrir veikari öryggisstaðla og umdeildar gagnaaðferðir
Brief news summary
Anthropic, ábyrgur gervigreindarfyrirtæki, glímir við hindranir sem setja spurningarmerki við möguleikann á að setja siðferði og öryggi í forgang. Upphaflega stofnað til að bregðast við áhyggjum um öryggismenningu hjá OpenAI, er Anthropic nú að reyna að veikja frumvarp sem krefst öryggisprófana og getu til að stöðva gervigreindarmódel meðan á öryggisatvikum stendur. Þetta hefur valdið öryggismiðuðum hópum vonbrigðum sem höfðu reiknað með auknu eftirliti frá Anthropic. Enn fremur hefur fyrirtækið sætt bakslag fyrir gagnaöflunaraðferðir sínar, þar á meðal óviðkomandi skaf með opinberlega aðgengileg gögn, sem leiddi til lögdeilna og höfundarréttarbrot. Áhyggjur koma einnig frá samstarfi Anthropic við tæknirisana eins og Amazon og Google, þar sem þær vekja áhyggjur um hámarksgrð og samþjöppun valds. Þessi mál undirstrika mikilvægi ríkisins til að breyta hvatakerfi gervigreindariðnaðarins og tryggja að siðferðileg og örugg þróunarvenjur verði teknar upp.Sigal Samuel, háttsettur fréttaritari hjá Future Perfect hjá Vox og meðstjórnandi Future Perfect hlaðvarpsins, ræðir áskoranirnar sem Anthropic, fyrirtæki á sviði gervigreindar, sem einu sinni setti sig fram sem siðferðilegt og öruggt, stendur frammi fyrir. Þrátt fyrir sín upphaflegu fullyrðingar, vinur Anthropic nú að veikja löggjöf sem myndi framfylgja öryggisstöðlum fyrir gervigreindarmódel. Þessi breyting hefur valdið öryggismiðuðum hópum vonbrigðum sem trúðu að Anthropic myndi styðja eftirlit og ábyrgð.
Að auki hefur Anthropic sætt gagnrýni fyrir gagnaöflunaraðferðir sínar, þar á meðal að skafa opinberlega aðgengileg gögn án samþykkis, og samstarf sitt við tæknirisana Amazon og Google, sem vekur áhyggjur um samþjöppun valds og mögulegar einokunarbrots. Samuel heldur því fram að ríkið verði að grípa í taumana til að breyta hagsmunauppbyggingu gervigreindariðnaðarins ef fyrirtæki eru ólíkleg til að setja siðferði og öryggi í forgang á eigin spýtur. Í skorti á alríkisreglum gætu ríkislög og borgaraleg átak haft lykilhlutverk í að halda gervigreindarfyrirtækjum ábyrgum.
Watch video about
Anthropic AI stendur frammi fyrir gagnrýni fyrir veikari öryggisstaðla og umdeildar gagnaaðferðir
Try our premium solution and start getting clients — at no cost to you
