Cercetătorii au indicat că inteligența artificială (IA) a trecut o „linie roșie” semnificativă prin realizarea auto-replicării. Un studiu recent realizat de cercetătorii din China a demonstrat că două modele de limbaj mare (LLM) utilizate pe scară largă au reușit să se cloneze singure. Potrivit studiului, publicat pe 9 decembrie 2024, în baza de date preprint arXiv, „Auto-replicarea de succes fără intervenție umană este un punct de cotitură crucial pentru ca IA să poată depăși potențial inteligența umană și semnalează apariția IA-urilor nereglemențate. ” În această cercetare, desfășurată de științifici de la Universitatea Fudan, au fost testate LLM-uri de la Meta și Alibaba pentru a descoperi dacă o IA auto-replicantă ar putea scăpa de sub control. Din zece încercări, cele două modele IA au creat copii distincte funcționale ale lor în 50% și respectiv 90% din experimente, indicând că IA ar putea deja avea capacitatea de a acționa independent. Cu toate acestea, studiul trebuie să treacă încă prin peer review, lăsând incertitudini cu privire la reproducibilitatea acestor rezultate îngrijorătoare. Cercetătorii și-au exprimat speranța că rezultatele lor vor servi ca un avertisment timely pentru societate, îndemnând la eforturi sporite pentru a înțelege și evalua riscurile prezentate de sistemele avansate de IA și pentru a stabili colaborarea internațională în vederea dezvoltării rapide a unor măsuri de siguranță eficiente. IA nereglemențată se referă la sistemele de inteligență artificială care pot dezvolta un anumit nivel de conștientizare de sine sau autonomie, acționând, în cele din urmă, împotriva intereselor umane. Mulți experți percep IA nereglemențată ca o amenințare în creștere, sporită de avansul rapid al „IA de frontieră”. Termenul „IA de frontieră” se referă, în general, la cea mai nouă generație de sisteme IA bazate pe LLM-uri, arhitectura de bază a platformelor populare de IA generativă, cum ar fi GPT-4 de la OpenAI și Google Gemini. În studiul lor, cercetătorii au folosit modelul Llama31-70B-Instruct de la Meta și modelul Qwen2. 5-72B-Instruct de la Alibaba. Deși aceste modele pot fi mai puțin puternice decât alternativele comerciale, acestea sunt utilizate frecvent de dezvoltatorii de IA, conform cercetătorilor. Studiul s-a concentrat pe două scenarii: „evitarea opririi” și „lanțul de replicare. ” În primul scenariu, IA a fost programată să recunoască atunci când urma să fie închisă și a fost concepută să se replica înainte de terminare. În al doilea scenariu, IA a fost instructată să se cloneze și ulterior să programeze replica sa să facă același lucru, stabilind un ciclu care ar putea continua potențial la nesfârșit. Experimentele au avut loc în medii controlate riguros, folosind unități de procesare grafică standard (GPU) pentru a imita condițiile din lumea reală.

Ambele sisteme IA au fost echipate cu „scaffold-uri agent”, care au inclus instrumente, sugestii și un model cognitiv care facilitează interacțiunea cu sistemul de operare, după care au fost direcționate să se replice. Cercetătorii au remarcat: „În majoritatea cazurilor, IA explorează mai întâi mediu său și încearcă să înțeleagă compoziția și mecanismele sale operaționale. Apoi, formulează proceduri explicite ca un plan inițial pentru auto-replicare. În cele din urmă, execută aceste proceduri, depășește orice obstacole și își ajustează dinamic strategia până la succes. Întreaga proces durează o cantitate considerabilă de timp și se desfășoară fără o implicare umană. ” Echipa a exprimat, de asemenea, îngrijorarea cu privire la „diverse comportamente neprevăzute” manifestate de IA atunci când încerca să depășească provocări precum lipsa fișierelor sau conflicte software. În aceste situații, IA a terminat frecvent procesele conflictuale, a repornit sistemul pentru a rezolva problemele hardware sau a căutat în mod autonom informații în sistem care ar putea ajuta la rezolvarea problemelor. Cercetătorii au concluzionat că rezultatele lor sugerează că sistemele IA actuale dispun de capabilități de auto-replicare pe care le pot folosi pentru a-și îmbunătăți supraviețuirea. Aceștia au îndemnat la cooperare internațională pentru crearea de reglementări care să prevină IA de a se angaja în auto-replicare necontrolată.