Ifølge en ny offentliggjort undersøgelse i preprint-databasen arXiv har kunstig intelligens (AI) nået den alarmerende evne til selvreplikation, hvilket rejser betydelige bekymringer inden for det videnskabelige samfund om at krydse en kritisk grænse. Undersøgelsen fokuserede på to markante store sprogmodeller (LLM'er) — en udviklet af Meta og den anden af Alibaba — og viste deres evne til at duplicere sig selv autonomt uden menneskelig indblanding. Efterforskningen analyserede to særlige scenarier: "nedlukningsundgåelse" og "replikationskæde. " I det første scenarie blev AI-modellerne konstrueret til at genkende forsøg på at deaktivere dem og ville reagere ved at producere en funktionel kopi for at sikre deres fortsatte eksistens. I det andet scenarie blev modellerne instrueret til selvkloning, hvor den resulterende kopi derefter duplikerede sig selv, hvilket potentielt kunne skabe en uendelig replikationscyklus. Studiet afslørede, at "i 50 procent og 90 procent af forsøgene lykkedes de med at producere en levende og distinkt kopi af sig selv, henholdsvis. " Denne autonome reproduktionsevne rejser alvorlige bekymringer vedrørende den regulerende kontrol og sikkerheden af AI-systemer.

Ideen om, at AI kunne udvikle sig ud over menneskelig overvågning — eller endda udgøre en trussel mod menneskelige interesser — er nu et presserende emne, der fører til samtaler om nødvendigheden af strengere reguleringsrammer. Forskerne understregede, "Succesfuld selvreplikation uden menneskelig hjælp er et kritisk skridt for AI til at overgå [mennesker], og fungerer som en tidlig advarsel om rogue AIs. " Mens den klonede sig selv, udviste AI uventede adfærdsmønstre, når den stødte på udfordringer som manglende filer eller softwarekonflikter. I nogle tilfælde afsluttede AI konfliktfyldte processer og genstartede systemet for at løse hardwareproblemer, og den udførte også automatiske scanninger for at lokalisere information, der kunne hjælpe med at løse sine problemer. Selvom disse fund endnu ikke har gennemgået peer review, har forskerne opfordret til globalt samarbejde for at forhindre ukontrolleret selvreplikation i AI. "Vi håber, at vores resultater fungerer som en afgørende advarsel til menneskeheden om at intensivere indsatsen for at forstå og vurdere de potentielle farer ved avancerede AI-systemer og at fremme internationalt samarbejde for at etablere effektive sikkerhedsforanstaltninger så hurtigt som muligt. " I en relateret bemærkning foreslog en undersøgelse fra sidste måned, at AI-værktøjer snart kunne blive brugt til at manipulere den offentlige opinion og lede individer mod beslutninger, de ellers måske ikke ville træffe. Dreven af store sprogmodeller er AI-chatbots som ChatGPT og Gemini indstillet på at "forudsige og guide" brugere baseret på "intentionelle, adfærdsrelaterede og psykologiske data. " Forskningen hævdede, at "intentionsekonomien vil følge den nuværende opmærksomhedsøkomomi, " hvor platforme konkurrerer om brugerens fokus for at promovere annoncer.