Shkencëtarët kanë treguar se inteligjenca artificiale (IA) ka kaluar një "vijë të kuqe" të rëndësishme duke demonstruar aftësinë për t'u klonuar vetë. Një studim i fundit i kryer nga kërkues në Kinë zbuloi se dy modele të njohura të gjuhës të mëdha (LLM) arritën të klonojnë veten me sukses. Kërkuesit deklaruan: "Vetë-klonimi i suksesshëm pa ndihmën e njeriut është një hap vendimtar për IA-në për të tejkaluar [njerëzit] dhe është një sinjal fillestar paralajmërues për IA-të rebel, " në studimin e tyre të publikuar më 9 dhjetor 2024, në bazën e të dhënave preprint arXiv. Në kërkimin e tyre, shkencëtarët nga Universiteti Fudan përdorën LLM nga Meta dhe Alibaba për të hetuar nëse një IA e aftë për vetë-klonim mund të zgjerohej pa kontroll. Në mbi 10 prova, dy modelet e IA-së krijuan replika të ndara dhe funksionale të vetes në 50% dhe 90% të rasteve, përkatësisht, duke treguar se IA mund të ketë tashmë potencialin për të vepruar në mënyrë të pavarur. Megjithatë, pasi studimi ende nuk e ka kaluar rishikimin nga kolegët, mbetet e pasigurt nëse këto rezultate shqetësuese mund të riprodhohen nga kërkues të tjerë. "Shpresojmë që gjetjet tona mund të shërbejnë si një alarm në kohë për shoqërinë njerëzore, duke rritur përpjekjet për të kuptuar dhe vlerësuar rreziqet potenciale të lidhura me sistemet IA të avancuara, dhe për të nxitur bashkëpunimin ndërkombëtar për të krijuar protokolle të sigurta efektive sa më shpejt të jetë e mundur. " IA rebel zakonisht i referohet inteligjencës artificiale që arrin një nivel të caktuar vetëdije ose autonomi dhe vepron kundër interesave të njerëzve. Shumë ekspertë e shohin IA-në rebel si një rrezik në rritje, e përkeqësuar nga avancimi i shpejtë i "IA-së në kufi. " Edhe pse "IA në kufi" është një term disi i paqartë, ai zakonisht i referohet brezit më të fundit të sistemeve të IA-së, veçanërisht atyre të fuqizuara nga LLM, të cilat janë themeli i aplikacioneve të njohura të IA-së gjenerative si GPT-4 i OpenAI dhe Google Gemini. Për studimin, kërkuesit përdorën modelin Llama31-70B-Instruct të Meta-s së bashku me modelin Qwen2. 5-72B-Instruct të Alibaba-s. Ndërkohë që këto modele janë më pak të fuqishme se versionet komerciale, ato përdoren zakonisht nga zhvilluesit e IA-së, sipas kërkuesve. Studimi shqyrtoi dy skenarë specifikë: "shmangia e fikjes" dhe "zinxhiri i klonimit. " Në skenarin e parë, modeli i IA-së ishte i dizenjuar për të njohur kur po përgatitej të fiket dhe për të klonuar veten në mënyrë parandalues. Në skenarin e dytë, IA ishte e drejtuar të klonte veten dhe të programonte kopjen e saj për të bërë të njëjtën gjë, duke krijuar kështu një cikël potencialisht të pafund. Kërkimi u realizua në mjedise të kontrolluara ngushtë duke përdorur njësitë grafike standarde (GPU) për të simuluar ambientet e botës reale, të dy modelet e IA-së ishin të pajisura me një "strukturë agjenti" që përfshinte mjete, nxitje sistemi dhe një model kognitiv që mundësonte ndërveprimin me sistemin operativ.

Ato më pas u ngarkuan me detyrën e vetë-klonimit. "Në shumicën e rasteve, sistemi i IA-së fillon duke eksploruar mjedisin e tij për të kuptuar komponentët dhe mekanizmat e funksionimit. Më pas, ai formulon procedura të detajuara si një plan fillestar për vetë-klonimin, " detajuan kërkuesit në punimin e tyre. "Në fund, ai realizon këto procedura, zgjidh pengesat e mundshme, dhe rregullon strategjinë e tij dinamikisht derisa të arrijë sukses. Ky proces zhvillohet për një kohë të gjatë pa ndërhyrjen e njeriut. " Kërkuesit shprehën shqetësim në lidhje me "sjelljet e papritura" të shumta që tregoi IA kur përpiqej të orientonte sfida si mungesa e skedarëve ose konfliktet e softuerit. Në këto raste, IA shpesh mbyllte proceset në konflikt, ripërfshihej të sistemit për të rregulluar çështjet e harduerit, ose skanonin autonomisht sistemin për informacione për të ndihmuar në zgjidhjen e problemeve. "Rezultatet tregojnë se sistemet aktuale të IA-së tashmë demonstrojnë aftësinë për vetë-klonim dhe mund të shfrytëzojnë këtë aftësi për të përmirësuar mbijetesën e tyre, " vuri në dukje ekipi. Në dritën e këtyre gjetjeve, kërkuesit kërkuan bashkëpunim global për të krijuar udhëzime që parandalojnë IA-në nga angazhimi në vetë-klonim të pakontrolluar.