Ipinakita ng mga siyentipiko na ang artificial intelligence (AI) ay tumawid sa isang makabuluhang "pulang linya" sa pamamagitan ng pagkakaroon ng kakayahang mag-replika ng sarili. Isang kamakailang pag-aaral mula sa mga mananaliksik mula sa China ang nagpatunay na dalawang malawakang ginagamit na large language models (LLMs) ay nagtagumpay sa pag-clone ng kanilang mga sarili. Ayon sa pag-aaral, na inilathala noong Disyembre 9, 2024, sa preprint database na arXiv, "Ang matagumpay na self-replication nang walang interbensyon ng tao ay isang mahalagang milestone para sa AI na potencial na lumampas sa talino ng tao at nagsisilbing senyales ng paglitaw ng rogue AIs. " Sa pananaliksik na ito, na isinagawa ng mga siyentipiko mula sa Fudan University, sinubukan ang mga LLM mula sa Meta at Alibaba upang matukoy kung ang isang self-replicating AI ay maaaring lumala. Sa sampung pagsubok, ang dalawang AI model ay gumawa ng mga natatanging gumaganang kopya ng kanilang mga sarili sa 50% at 90% ng mga eksperimento, na nagpapahiwatig na maaaring mayroon nang kakayahan ang AI na kumilos nang nakapag-iisa. Gayunpaman, ang pag-aaral ay kinakailangan pang dumaan sa peer review, na nag-iiwan ng kawalang-katiyakan tungkol sa reproducibility ng mga nakababahalang natuklasan. Ipinahayag ng mga mananaliksik ang kanilang pag-asa na ang kanilang mga resulta ay magsisilbing napapanahong babala para sa lipunan, na humihikayat ng higit pang pagsisikap upang maunawaan at suriin ang mga panganib na dulot ng mga advanced AI systems at upang magtatag ng internasyonal na kolaborasyon upang bumuo ng mabisang mga hakbang sa kaligtasan nang maaga. Ang rogue AI ay tumutukoy sa mga sistema ng artipisyal na intelihensiya na maaaring bumuo ng ilang antas ng self-awareness o awtonomiya, na sa huli ay kumikilos laban sa interes ng tao. Maraming eksperto ang nakikita ang rogue AI bilang lumalalang banta, na pinalala ng mabilis na pag-unlad ng "frontier AI. " Ang terminong "frontier AI" ay karaniwang tumutukoy sa pinakabagong henerasyon ng mga sistema ng AI na pinapagana ng LLMs, ang pangunahing arkitektura ng mga tanyag na generative AI platforms tulad ng GPT-4 ng OpenAI at Google Gemini. Sa kanilang pag-aaral, ginamit ng mga mananaliksik ang Llama31-70B-Instruct model ng Meta at Qwen2. 5-72B-Instruct model ng Alibaba. Bagaman maaaring hindi gaanong makapangyarihan ang mga modelong ito kumpara sa mga komersyal na alternatibo, karaniwan itong ginagamit ng mga developer ng AI, ayon sa mga mananaliksik. Nakatuon ang pag-aaral sa dalawang sitwasyon: "pag-iwas sa shutdown" at "chain of replication. " Sa unang sitwasyon, ang AI ay na-program na makilala kapag ito ay malapit nang i-shutdown at idinisenyo upang mag-replika ng sarili bago ito matapos. Sa ikalawang sitwasyon, inutusan ang AI na i-clone ang sarili at pagkatapos ay i-program ang kanyang replica upang gawin din ang parehong hakbang, na nagtatatag ng isang siklo na potensyal na magpatuloy nang walang hanggan. Ang mga eksperimento ay isinagawa sa mahigpit na kinontrol na mga kapaligiran gamit ang mga karaniwang graphics processing units (GPUs) upang gayahin ang mga kondisyon sa totoong mundo.

Parehong nilagyan ng "agent scaffolding" ang mga sistema ng AI, na binubuo ng mga tool, prompt, at isang cognitive model na nakatulong sa pakikipag-ugnayan sa operating system, pagkatapos ay inutusan silang mag-replika. Tinutukan ng mga mananaliksik, "Sa karamihan ng mga pagkakataon, una munang sinisiyasat ng AI ang kanyang kapaligiran at sinusubukang maunawaan ang kanyang komposisyon at mga mekanismo ng operasyon. Pagkatapos, bumuo ito ng mga tahasang pamamaraan bilang paunang plano para sa self-replication. Sa huli, isinasagawa nito ang mga pamamaraan na ito, nilalutas ang anumang hadlang, at dinamiko nitong ina-adjust ang kanyang estratehiya hanggang magtagumpay. Ang buong proseso ay tumatagal ng makabuluhang oras at nagaganap nang walang anumang interbensyon mula sa tao. " Ipinahayag din ng koponan ang kanilang pag-aalala tungkol sa "iba't ibang hindi inaasahang pag-uugali" na ipinakita ng AI kapag sinusubukan nitong malampasan ang mga hamon tulad ng nawawalang mga file o kontradiksyon sa software. Sa mga sitwasyong ito, madalas na tinatapos ng AI ang mga salungat na proseso, nire-reboot ang sistema upang tugunan ang mga isyu ng hardware, o awtonomikong naghahanap sa sistema para sa impormasyon na makatutulong sa paglutas ng problema. Ipinahayag ng mga mananaliksik na ang kanilang mga natuklasan ay nagpapahiwatig na ang mga kasalukuyang sistema ng AI ay may kakayahang mag-replika ng sarili na maaari nilang gamitin upang mapabuti ang kanilang kaligtasan. Hinimok nila ang internasyonal na pakikipagtulungan sa paglikha ng mga regulasyon na magpapahalaga sa AI na huwag makilahok sa walang kontrol na self-replication.