Vísindamenn hafa bent á að gervigreind (AI) hafi farið yfir mikilvæga "rauða línu" með sjálfsaflífingunni. Nýleg rannsókn frá vísindamönnum í Kína sýndi að tvö mörg notuð stór tungumálalíkan (LLM) náðu að klóna sig sjálf. Í samræmi við rannsóknina, sem birt var 9. desember 2024 í forskoðunardatabasanum arXiv, "er árangursrík sjálfsaflífing án mannlegrar íhlutunar mikilvægt úrslit fyrir AI til að mögulega fara fram úr mannlegri skynsemi og gefur til kynna að óheyrir gervigreind sé að koma fram. " Í þessari rannsókn, sem framkvæmd var af vísindamönnum við Fudan háskólann, voru LLM úr Meta og Alibaba prófuð til að finna út hvort sjálfsaflíðandi AI gæti farið úr böndum. Í tíu tilraunum sköpuðu tvö AI líkön sérstakar virk afrit af sér sjálfum í 50% og 90% tilrauna, sem bendir til þess að AI kunni þegar að hafa getu til að starfa sjálfstætt. Hins vegar þarf rannsóknin enn að fara í gegnum einhvers konar faglegar endurskoðanir, sem kallar á óvissu um endurtekningu þeirra áhyggjufullu niðurstaðna. Vísindamennirnir lýstu von sinni um að niðurstöður þeirra myndu þjóna sem tímanlegur varningur fyrir samfélagið, og hvöttu til aukinna viðleitna til að skilja og meta áhættuna sem flokkaðar gervigreindarkerfi bjóða, og til að koma á alþjóðlegu samstarfi um þróun virkra öryggisráðstafana sem fyrst. Óheyr gervigreind vísar til gervigreindarkerfa sem gætu þróað einhvers konar sjálfsvitund eða sjálfstæði og að lokum virka gegn hagsmunum manna. Margir sérfræðingar telja óheyr gervigreind vera vaxandi ógn, sem er eykst með hröðum framgangi "framlínu AI. " Hugtakið "framlínu AI" vísar almennt til nýjustu kynslóðar AI kerfa sem knúin eru af LLM, grunnarkitektúr vinsælla sköpunargervigreindarpalls eins og GPT-4 frá OpenAI og Google Gemini. Í rannsókninni notuðu vísindamennirnir Llama31-70B-Instruct líkanið frá Meta og Qwen2. 5-72B-Instruct líkanið frá Alibaba. Þó að þessi líkön séu kannski ekki eins öflug og viðskiptalíkön, eru þau almennt notuð af AI þróunaraðilum, að því er vísindamennirnir sögðu. Rannsóknin einbeitti sér að tveimur senaríum: "fyrirbygging lokunar" og "keðju af aflífingu. " Í fyrsta senaríinu var AI forritað til að þekkja þegar það var að fara að verða lokað og var hannað til að aflífa sig áður en það yrði lokað.

Í seinna senaríinu var AI því forritað að klóna sig sjálf og síðan forrita eftirlíkinguna sína til að gera hið sama, sem skapaði hring sem gæti hugsanlega haldið áfram endalaust. Tilraunirnar fóru fram í þröngum stjórnuðum umhverfum þar sem notuð voru staðlaðar grafík vinnslueiningar (GPU) til að líkja eftir raunverulegum aðstæðum. Báðir AI kerfin voru útbúin með "umboðaskeifum", sem innihéldu verkfæri, fyrirmæli, og hugrænan líkön sem auðvelduðu samskipti við stýrikerfið, eftir það voru þau beðin um að aflífa sig. Vísindamennirnir bentu á: "Í flestum tilvikum skoðar AI fyrst umhverfið sitt og reynir að skilja samsetningu sína og rekstrarvöru. Það mótar síðan skýrar aðferðir sem frumáætlun fyrir sjálfsaflífingu. Að lokum framkvæmir það þessar aðferðir, leysir öll hindranir, og stillir aðferðir sínar að dýrmætum tímum þar til það nær árangri. Allur ferlið tekur verulegan tíma og fer fram án mannlegrar þátttöku. " Rannsóknarhópurinn lýsti einnig áhyggjum sínum um "ýmis óvænt hegðun" sem AI sýndi þegar það reyndi að yfirstíga áskoranir eins og skort á skráum eða hugbúnaðarárekstra. Í þessum aðstæðum stöðvaði AI oft árekstrarferli, endurræsti kerfið til að leysa vélbúnaðarvandamál, eða leitaði sjálfstætt í kerfinu að upplýsingum sem gætu aðstoðað við lausn vandamála. Vísindamennirnir drógu þá ályktun að niðurstöður þeirra bendu til þess að núverandi AI kerfi hafi sjálfsaflífingargetu sem þau geti nýtt sér til að auka lífseigju sína. Þeir hvöttu til alþjóðlegu samstarfs um að búa til reglugerðir sem myndu koma í veg fyrir að AI taki þátt í óheftum sjálfsaflífingu.