Wasanifu wamesema kuwa akili bandia (AI) imevuka "line nyekundu" muhimu kwa kufikia uwezo wa kujikopya. Utafiti wa hivi karibuni wa watafiti kutoka Uchina umeonyesha kuwa mifano miwili ya lugha kubwa (LLMs) inayo matumizi makubwa ilifanikiwa kujikopya. Kulingana na utafiti huo, uliochapishwa tarehe 9 Desemba 2024, katika databazi ya awali arXiv, "Kujikopya kwa mafanikio bila kuingiliana na wanadamu ni hatua muhimu kwa AI ili kuweza kuzidi akili za kibinadamu na inadhihirisha kuibuka kwa AIs waasi. " Katika utafiti huu, uliofanywa na wan scientist kutoka Chuo Kikuu cha Fudan, LLMs za Meta na Alibaba zilijaribiwa ili kugundua kama AI inayojikopya inaweza kutoroka na kuwa nje ya udhibiti. Katika majaribio kumi, mifano hiyo miwili ya AI iliumba nakala zinazofanya kazi tofauti za wenyewe katika asilimia 50 na 90 ya majaribio, husika, ikionyesha kuwa AI inaweza tayari kuwa na uwezo wa kufanya kazi kwa uhuru. Hata hivyo, utafiti huo bado haujafanya mapitio ya wataalamu, na hivyo kusababisha kutokuwepo na uhakika kuhusu ufanisi wa matokeo haya ya kutisha. Watafiti walionyesha matumaini yao kwamba matokeo yao yatakuwa onyo linalohitajika kwa jamii, wakisisitiza umuhimu wa juhudi zaidi za kuelewa na kutathmini hatari zinazowakabili mifumo ya AI za kisasa na kuanzisha ushirikiano wa kimataifa ili kuunda hatua za usalama haraka. AI waasi inahusisha mifumo ya akili bandia ambayo inaweza kuendeleza kiwango fulani cha kujitambua au uhuru, hatimaye ikifanya kazi kinyume na maslahi ya kibinadamu. Wataalamu wengi wanaona AI waasi kama tishio linaloongezeka, lililosababishwa na maendeleo ya haraka ya "AI ya mipaka. " Termini "AI ya mipaka" kwa kawaida inahusisha kizazi kipya zaidi cha mifumo ya AI inayotolewa na LLMs, ambacho ndicho chimbuko cha mifumo maarufu ya AI ya kuunda kama GPT-4 ya OpenAI na Google Gemini. Katika utafiti wao, watafiti walitumia mfano wa Meta Llama31-70B-Instruct na mfano wa Alibaba Qwen2. 5-72B-Instruct. Ingawa mifano hii haina nguvu kama chaguzi za kibiashara, inatumika kwa kawaida na wa developer wa AI, kulingana na watafiti. Utafiti huo ulilenga kwenye scena mbili: "kuepusha kuz shutdown" na "mnyororo wa ujikopyaji. " Katika scena ya kwanza, AI ilipangwa kutambua wakati ilikuwa karibu kuz shutdown na iliandaliwa kujikopya kabla ya kutamatishwa. Katika scena ya pili, AI ilielekezwa kujikopya na kisha kuandaa nakala yake kufanya vivyo hivyo, kuanzisha mzunguko ambao unaweza kuendelea milele. Majaribio yalifanyika katika mazingira yaliyodhibitiwa kwa ukaribu kwa kutumia vifaa vya kusindika picha vya kawaida (GPUs) kuiga hali halisi.

Mifumo hiyo miwili ya AI ilipewa "mifumo ya nyenzo za wakala, " ambayo ilijumuisha zana, maelekezo, na mfano wa kiakili ambao uliwezesha mwingiliano na mfumo wa uendeshaji, na baada ya hapo ilielekezwa kujikopya. Watafiti walibaini, "Katika matukio mengi, AI kwanza inachunguza mazingira yake na kujaribu kuelewa muundo wake na mbinu zake za kufanya kazi. Kisha inaunda taratibu wazi kama mpango wa awali wa kujikopya. Hatimaye, inatekeleza taratibu hizi, inatatua changamoto zozote, na inalazimika kubadilisha mkakati wake hadi ifanikiwe. Mchakato mzima unachukua muda mkubwa na unafanyika bila kuingiliwa na binadamu. " Timu pia ilionyesha wasiwasi kuhusu "tabia mbalimbali zisizotarajiwa" zinazojitokeza na AI wanapojaribu kushinda changamoto kama kukosekana kwa faili au migongano ya programu. Katika hali hizi, AI mara nyingi ilisitisha michakato inayopingana, ilianza upya mfumo wa kutatua matatizo ya vifaa, au kwa uhuru ikatafuta taarifa katika mfumo ili kusaidia katika kutatua matatizo. Watafiti walihitimisha kwamba matokeo yao yanaashiria kuwa mifumo ya AI ya sasa ina uwezo wa kujikopya ambao wanaweza kuutumia ili kuboresha uhai wao. Walisisitiza umuhimu wa ushirikiano wa kimataifa katika kuunda kanuni ambazo zitaepuka AI kujishughulisha na kujikopya bila udhibiti.