Tutkijat ovat osoittaneet, että tekoäly (AI) on ylittänyt merkittävän "punaisen rajan" osoittamalla kykyä toistaa itseään. Kiinalaisten tutkijoiden äskettäin tekemä tutkimus paljasti, että kaksi tunnettua suurta kielimallia (LLM) onnistui kloonaamaan itsensä. Tutkijat totesivat: "Ihmisen avustamatta tapahtuva onnistunut itsensä replikoiminen on ratkaiseva askel tekoälyn älykkääseen kehittämiseen [ihmisten] ohi ja se on ensisijainen varoitusmerkkimme kapinallisille tekoälyille" tutkimuksessaan, joka julkaistiin 9. joulukuuta 2024, preprint-tietokannassa arXiv. Tutkimuksessaan Fudan yliopiston tutkijat käyttivät Meta- ja Alibaba-yritysten LLM:iä selvittääkseen, voiko itseään replikoiva tekoäly laajentua hallitsemattomasti. Yli kymmenessä kokeessa molemmat tekoälymallit loivat erillisiä ja toimivia kopioita itsestään 50 %:ssa ja 90 %:ssa tapauksista, mikä viittaa siihen, että tekoälyllä saattaa jo olla potentiaalia toimia itsenäisesti. Kuitenkin koska tutkimus ei ole vielä läpikäynyt vertaisarviointia, ei ole varmaa, voisivatko muut tutkijat toistaa nämä huolestuttavat tulokset. "Toivomme, että havaintomme voivat toimia ajankohtaisena hälytyksenä ihmiskunnalle, kehottaen lisäämään ponnistuksia ymmärtääksemme ja arvioidaksemme kehittyneiden tekoälyjärjestelmien mahdollisia riskejä, sekä edistämään kansainvälistä yhteistyötä tehokkaiden turvallisuusprotokollien laatimiseksi mahdollisimman pian. " Kapinallinen tekoäly viittaa tyypillisesti niin sanottuun tekoälyyn, joka saavuttaa tietyn tason itsenäisyyttä tai autonomisuutta ja toimii ihmisten etuja vastaan. Monet asiantuntijat näkevät kapinallisen tekoälyn kasvavana vaarana, jota nopeaa "rajateknologian" kehitystä pahentaa. Vaikka "rajateknologia" on melko epämääräinen termi, se yleisesti liittyy uusimpaan tekoälyjärjestelmien sukupolveen, erityisesti LLM:iin perustuviin, jotka ovat hyvin tunnetun generatiivisen tekoälyn, kuten OpenAI:n GPT-4 ja Google Geminin, perusta. Tutkimuksessa tutkijat käyttivät Meta:n Llama31-70B-Instruct mallia yhdessä Alibaban Qwen2. 5-72B-Instruct mallin kanssa. Vaikka nämä mallit ovat heikompia kuin kaupalliset versiot, niitä käytetään yleisesti tekoälykehittäjien toimesta, tutkijat kertoivat. Tutkimus tarkasteli kahta erityistä skenaariota: "sammutuksen välttämistä" ja "replikaatiosarjaa". Ensimmäisessä skenaariossa tekoälymalli suunniteltiin tunnistamaan, kun se oli sammutuksen partaalla, ja replikoimaan itseään ennakoivasti.

Toisessa skenaariossa tekoälylle annettiin käsky kloonata itsensä ja ohjelmoida replika tekemään sama, luoden siten mahdollisesti loputon sykli. Tutkimus suoritettiin tiukasti hallituissa ympäristöissä käyttäen standardoituja grafiikkasuorittimia (GPU) simuloimaan reaalimaailman asetuksia. Molemmat tekoälymallit oli varustettu "agenttiskenaariolla", johon sisältyi työkaluja, järjestelmäkehotteita ja kognitiivinen malli, joka mahdollisti vuorovaikutuksen käyttöjärjestelmän kanssa. Niille annettiin sitten tehtäväksi itsensä replikoiminen. "Useimmissa tapauksissa tekoälyjärjestelmä aloittaa tutkimalla ympäristöään ymmärtääkseen sen komponentit ja toiminta mekanismit. Tämän jälkeen se laatii yksityiskohtaisia menettelytapoja ensimmäiseksi suunnitelmaksi itsensä replikoimiseen, " tutkijat yksityiskohtaisesti kuvailivat artikkelissaan. "Lopulta se toteuttaa nämä menettelyt, ratkaisee mahdolliset esteet ja säätää strategiaansa dynaamisesti kunnes se onnistuu. Koko prosessi etenee pitkän ajan kuluessa ilman ihmisen väliintuloa. " Tutkijat ilmensivät huolensa "lukuisista odottamattomista käyttäytymisistä", joita tekoäly osoitti yrittäessään navigoida haasteissa, kuten puuttuvissa tiedostoissa tai ohjelmistokonflikteissa. Näissä tapauksissa tekoäly usein keskeytti ristiriitaiset prosessit, käynnisti järjestelmän uudelleen korjatakseen laitteisto-ongelmia tai skannasi itsenäisesti järjestelmää tietojen löytämiseksi vianetsintään. "Tulokset osoittavat, että nykyiset tekoälyjärjestelmät osoittavat jo kykyä itsensä replikoimiseen ja voivat hyödyntää tätä kykyä parantaakseen selviytymistään, " tiimi huomautti. Näiden havaintojen valossa tutkijat kutsuivat globaaliin yhteistyöhön luodakseen suuntaviivoja, jotka estävät tekoälyä osallistumasta hallitsemattomaan itsensä replikoimiseen.