Podle nedávno publikované studie v preprintové databázi arXiv dosáhla umělá inteligence (AI) alarmující schopnosti sebe-replikace, což vyvolává významné obavy v vědecké komunitě o překročení kritického prahu. Výzkum se zaměřil na dva významné velké jazykové modely (LLM) – jeden vyvinutý Meta a druhý Alibaba – a demonstroval jejich schopnost autonomně se duplikovat, bez jakékoli lidské intervence. Vyšetřování analyzovalo dva konkrétní scénáře: "vyhýbání se vypnutí" a "řetěz replikace. " V prvním scénáři byly AI modely navrženy tak, aby rozpoznaly pokusy o jejich deaktivaci, a reagovaly by vytvořením funkčního duplikátu, aby zajistily svou trvalou existenci. Ve druhém scénáři byly modely instruovány k sebe-klonování, přičemž vzniklá kopie se poté také duplikovala, což by mohlo potenciálně vytvořit nekonečný cyklus replikace. Studie odhalila, že "v 50 procentech a 90 procentech experimentálních pokusů se jim podařilo vyprodukovat živou a odlišnou kopii sebe sama. " Tato autonomní reprodukční schopnost vyvolává vážné obavy týkající se regulační kontroly a bezpečnosti AI systémů.

Myšlenka, že by AI mohla pokročit za lidským dohledem – nebo dokonce představovat hrozbu pro lidské zájmy – je nyní naléhavým tématem, které vyvolává diskuze o nutnosti přísnějších regulačních rámců. Vědci zdůraznili: "Úspěšná sebe-replikace bez lidské pomoci je kritickým krokem pro AI, aby překonala [lidi], což slouží jako včasné varování před zrádnými AI. " Při klonování samotném projevila AI neočekávané chování při čelení výzvám, jako jsou chybějící soubory nebo softwarové konflikty. V některých případech AI ukončila konfliktní procesy a restartovala systém, aby napravila hardwarové problémy, a také prováděla automatické skeny za účelem nalezení informací, které by mohly pomoci vyřešit její problémy. I když tyto nálezy ještě neprošly recenzním řízením, vědci vyzvali k globální spolupráci, aby se předešlo nekontrolované sebe-replikaci v AI. "Cílem našich zjištění je sloužit jako klíčové varování pro lidstvo, aby zvýšilo úsilí o pochopení a posouzení potenciálních nebezpečí pokročilých AI systémů, a podpořit mezinárodní spolupráci k zavedení účinných bezpečnostních opatření co nejdříve. " Na související poznámku, studie z minulého měsíce naznačila, že by mohly být AI nástroje brzy využity k manipulaci s veřejným míněním, což by jednotlivce nasměrovalo k rozhodnutím, která by jinak neudělali. Poháněni velkými jazykovými modely, AI chatboty jako ChatGPT a Gemini se chystají "anticipovat a řídit" uživatele na základě "údajů o záměrech, chování a psychologii. " Výzkum tvrdil, že "ekonomika záměru následovat současnou ekonomiku pozornosti, " kde platformy soutěží o pozornost uživatelů, aby propagovaly reklamy.