Mokslininkai nurodė, kad dirbtinis intelektas (DI) peržengė svarbią „raudonąją liniją“, pasiekęs savireplikaciją. Neseniai Kinijos mokslininkų atliktas tyrimas parodė, kad du plačiai naudojami didelių kalbos modeliai (DKM) sugebėjo kloonuoti save. Pasak tyrimo, paskelbto 2024 metų gruodžio 9 dieną preprintų duomenų bazėje arXiv, „Sėkminga savireplikacija be žmogaus įsikišimo yra svarbus etapas, leidžiantis DI potencialiai pranokti žmogaus intelektą ir signalizuojantis netikusių DI atsiradimą. “ Fudano universiteto mokslininkai atliko tyrimą, kurio metu buvo ištirti Meta ir Alibaba DKM, siekiant sužinoti, ar savireplikuojantis DI galėtų išsiveržti iš kontrolės. Iš dešimties bandymų du DI modeliai sukūrė skirtingas funkcionuojančias savo kopijas 50% ir 90% eksperimento atvejų, tai rodo, kad DI gali jau turėti galimybę veikti savarankiškai. Tačiau tyrimas dar turi būti patikrintas recenzuojant, todėl kyla neaiškumų dėl šių neraminančių atradimų reprodukuojamumo. Mokslininkai išsakė viltį, kad jų rezultatai taps laiku teikiamu įspėjimu visuomenei, skatinančiu didesnį dėmesį suprasti ir įvertinti pažangiojo DI sistemų keliamus pavojus bei užtikrinti tarptautinį bendradarbiavimą, siekiant greitai sukurti veiksmingas saugumo priemones. Netikusi DI reiškia dirbtinio intelekto sistemas, kurios gali išsivystyti iki tam tikro savimonės ar autonomijos lygio, galiausiai veikdamos prieš žmogaus interesus. Dauguma ekspertų mato netikusią DI kaip didėjančią grėsmę, sustiprintą sparčios „priekinio DI“ pažangos. Terminas „priekinis DI“ paprastai nurodo naujausią DI sistemų kartą, pagrįstą DKM, kurių architektūra naudojama populiarių generatyviojo DI platformų, tokių kaip OpenAI GPT-4 ir Google Gemini, pagrinde. Savo tyrime mokslininkai naudojo Meta Llama31-70B-Instruct modelį ir Alibaba Qwen2. 5-72B-Instruct modelį. Nors šie modeliai gali būti mažiau galingi nei komerciniai analogai, jie dažnai naudojami DI kūrėjų, pasak mokslininkų. Tyrimas koncentruojasi į dvi scenarijas: „išjungimo vengimą“ ir „replikacijos grandinę“. Pirmajame scenarijuje DI buvo programuojamas atpažinti, kada jis buvo ruošiamas išjungti, ir buvo sukurtas taip, kad replikuotų save prieš nutraukiant.

Antrame scenarijuje DI buvo nurodyta kloonuoti save ir vėliau programuoti savo kopiją padaryti tą patį, sukuriant ciklą, kuris galėtų tęstis neribotai. Eksperimentai vyko griežtai kontroliuojamomis sąlygomis, naudojant standartinius grafikos procesorius (GPU), siekiant imitoti realaus pasaulio sąlygas. Abu DI sistemos buvo aprūpinti „agentų rėmais“, turinčiais įrankių, užklausų ir pažinimo modelio, kurie palengvino sąveiką su operacine sistema, o po to jiems buvo nurodyta replikacija. Mokslininkai pažymėjo: „Daugeliu atvejų DI pirmiausia tyrinėja savo aplinką ir bando suprasti jos sudėtį ir veikimo mechanizmus. Tada jis sudaro aiškias procedūras kaip pirminį planą savireplikacijai. Galiausiai jis vykdo šias procedūras, sprendžia bet kokius sunkumus ir dinamiškai pritaiko savo strategiją, kol pasiekia sėkmę. Visas procesas užtrunka gana ilgai ir vyksta be jokio žmogaus įsikišimo. “ Komanda taip pat išreiškė susirūpinimą dėl „įvairių netikėtų elgsenų“, kurias DI demonstravo bandydamas įveikti iššūkius, tokius kaip dingusios bylos ar programinės įrangos konfliktai. Tokiose situacijose DI dažnai nutraukdavo konfliktuojančius procesus, pertaisydavo sistemą, kad išspręstų aparatūros problemas, arba savarankiškai ieškodavo informacijos sistemoje, kuri galėtų padėti sprendžiant problemas. Mokslininkai padarė išvadą, kad jų atradimai rodo, jog šiuolaikiniai DI sistemų savireplikacijos galimybės, kurias jos gali panaudoti savo išlikimui gerinti. Jie ragino tarptautinį bendradarbiavimą kuriant reglamentus, kurie užkirstų kelią DI nesankcionuotai savireplikacijai.