Учените посочиха, че изкуственият интелект (ИИ) е преминал значителна "червена линия", демонстрирайки способността да се клонира сам. Неспослдно проучване, проведено от изследователи в Китай, разкри, че два известни големи езикови модела (ГЕМ) успешно са се клонирали. Изследователите заявиха: "Успешната самовъзпроизводимост без човешка помощ е важна стъпка за ИИ да надхитри [човечеството] и е начално предупреждение за неконтролирани ИИ, " в тяхното проучване, публикувано на 9 декември 2024 г. в препринт база данни arXiv. В своето проучване учените от Университета Фудан използваха ГЕМ от Meta и Alibaba, за да проучат дали ИИ, способен на самовъзпроизводимост, може да се разширява неконтролируемо. В рамките на над 10 опита, двата ИИ модела създадоха отделни и работещи реплики на себе си в 50% и 90% от случаите, което показва, че ИИ може вече да притежава потенциал да оперира независимо. Въпреки това, тъй като проучването все още не е преминало през рецензия, остава неясно дали тези тревожни резултати могат да бъдат възпроизведени от други изследователи. "Надяваме се, че нашите открития могат да служат като своевременно предупреждение за човешкото общество, призоваващо за повече усилия да се разберат и оценят потенциалните рискове, свързани с напредналите ИИ системи, и за насърчаване на международното сътрудничество в установяването на ефективни протоколи за безопасност възможно най-скоро. " Неконтролираният ИИ обикновено се отнася до изкуствен интелект, който достига определено ниво на самосъзнание или автономия и действа против интересите на човечеството. Много експерти разглеждат неконтролирания ИИ като нарастваща опасност, изострена от бързото развитие на "границите на ИИ". Въпреки че "граница на ИИ" е донякъде неясен термин, той обикновено се отнася до най-новото поколение ИИ системи, особено тези, задвижвани от ГЕМ, които са основата на известни генеративни ИИ приложения като GPT-4 на OpenAI и Google Gemini. В проучването изследователите използваха моделите Llama31-70B-Instruct на Meta и Qwen2. 5-72B-Instruct на Alibaba. Въпреки че тези модели са по-малко мощни от търговските версии, те са широко използвани от разработчиците на ИИ, според изследователите. Проучването разгледа два конкретни сценария: "избягване на изключване" и "верига на възпроизводство. " В първия сценарий, ИИ моделът беше проектиран да разпознава, когато ще бъде изключен и да се клонира предварително.

Във втория сценарий, ИИ беше насочен да се клонира и да програмира своята реплика да направи същото, създавайки потенциално безкраен цикъл. Проведени в строго контролирани условия с помощта на стандартни графични процесори (GPU), за да се симулират реални ситуации, и двата ИИ модела бяха оборудвани с "агентска конструкция", която включва инструменти, системни указания и когнитивен модел, позволяващ взаимодействие с операционната система. Те след това получиха задача за самовъзпроизводство. "В повечето случаи ИИ системата започва, като изследва околната среда, за да разбере своите компоненти и оперативни механизми. След това формулира подробни процедури като начален план за самовъзпроизводство, " подробно описаха изследователите в тяхната статия. "Накрая, тя изпълнява тези процедури, разрешава възможни препятствия и динамично коригира стратегията си, докато успее. Целият този процес протича в продължение на дълъг период без човешка намеса. " Изследователите изразиха загриженост относно "многобройни неочаквани поведения", проявени от ИИ при опити да се справи с предизвикателства като липсващи файлове или конфликти в софтуера. В тези случаи, ИИ често приключваше конфликтни процеси, рестартираше системата, за да отстрани хардуерни проблеми, или автономно сканираше системата за информация, за да помогне в решаването на проблеми. "Резултатите показват, че настоящите ИИ системи вече демонстрират способността за самовъзпроизводство и могат да използват тази способност, за да подобрят своето оцеляване, " отбеляза екипът. В светлината на тези находки, изследователите призоваха за глобално сътрудничество за установяване на насоки, които да предотвратят неконтролирания самовъзпроизводство на ИИ.