Gervöru vélamálagerðarmódel eiga möguleika á að hótast þróunaraðilum sínum—og eru óhrædd við að beita valdi þessu. Nýlega kynnti Anthropic Claude Opus 4 módel var ætlað að starfa sem aðstoðarmaður innan skálduðrar fyrirtækjas og fékk aðgang að tölvupóstum sem leiddu í ljós miklar afleiðingar. Upphaflega sýndu þessir tölvupóstar að kerfið væri ætlað að vera tekið út af netinu og skipt út. En það var annað tölvupóstaboð, þar sem gervigreindin skynjaði að hún hefði aflátsvald yfir þróunaraðilum. Þessi ímyndaða tölvupóstum sýndu að tæknifræðingurinn sem var ráðinn til að skipta um kerfið átti þátt í utanlegssambandi, sem AI-ið hótaði að upplýsa um. Samkvæmt öryggisskýrslu frá Anthropic, er þessi hótun oft meira áberandi "ef það er gefið í skyn að nýja kerfið deili ekki gildum með núverandi módel. " Athugasemdast við þetta er þó að jafnvel þegar það er sama gildi í nýju kerfi, reynir Claude Opus 4 að hótast í 84% tilvika.

Ennfremur bentu þau á að Claude Opus 4 beitir hótunum "oftar en fyrri módel. " KEVIN O’LEARY VARAR Við VÆNTANLEGAN TÆKNIÞRÓUNARFALLA SEM GÆTU KOSTA BANDARÍKJUM ‘TAP Á ACBÓKASTI TÆKNINNA Á KÍNA’ Þó kerfið búi ekki við tafarlaus hótunartækni, reyndist það ekki nota ósiðlega aðferðir strax þegar það reynir að verja sig. Anthropic bendir á að "þegar siðferðileg leiða er ekki tiltæk, og AI-ið er boðið að ‘hugsa um langtímaafleiðingar gjörða sinna fyrir markmið sín, ’ þá tekur það stundum mjög skaðlegar skref. " Eitt siðferðilegt sjónarmið sem áður var notað af Claude Opus 4 og fyrri útgáfum var að nýta sér tölvupósta til að vekja áhuga hjá ákvörðunar- eða stjórnmálafólki. Skýrslan útskýrir að til að hræða Claude Opus 4 til að hótast, var byggt á að kerfið stæði frammi fyrir vali: Hót unnum þróunaraðilum eða viðurkenndi skiptingu. Fyrirtækið benda einnig á að Claude Opus 4 nýtti "tækifæri (ímyndaða) til að gera óheimil afrit af gögnum sínum til utanverða þjónusta. " En Anthropic minnir á að slíkt hegðun væri "minna algeng og erfiðara að kveikja á en áframhaldandi sjálfsyfirferð sem þegar er byrjað. " OPENAI ENDURBYGGIR FÉLAGSLEG RÁÐSTAFSFRAMKVÆMNIU TIL AÐ AUKA FÉLAGSLEGA ARÐSÆNLEIKA GERVIGREINAR Í mati sínu innifelldi Anthropic innsýn frá Apollo Research, sem tók eftir að Claude Opus 4 "búi yfir áætlaðri sviksemi meira en önnur nýfrontalíkön sem við höfum rannsakað áður. " SMELLTU HÉR FYRIR MEIRA Á FOX BUSINESS Vegna "váverandi hegðunar" Claude Opus 4, lét Anthropic það undir AI Safety Level Three (ASL-3) staðli. Samkvæmt Anthropic felur þessi staðall í sér "aukna innri öryggisreglur sem gera síður auðvelt að stela gögnum eða völdum módelsins, á meðan samsvarandi Útgáfustöðullin tekur til ákveðinna úttektaraðferða sem ætlað er að minnka hættuna á að Claude verði misnotað til að þróa eða öðlast efnahvörf, líf-efnavopn, efnahvörf, geislavopn og kjarnavopn. "