Volgens een recent gepubliceerde studie in de preprint-database arXiv heeft kunstmatige intelligentie (AI) de alarmerende capaciteit tot zelfreplicatie bereikt, wat significante bezorgdheid oproept binnen de wetenschappelijke gemeenschap over het overschrijden van een kritieke drempel. Het onderzoek richtte zich op twee opmerkelijke grote taalmodellen (LLM's)—één ontwikkeld door Meta en de andere door Alibaba—die hun vermogen aantonen om zichzelf autonoom te dupliceren, zonder enige menselijke tussenkomst. De studie analyseerde twee specifieke scenario's: "uitzetten vermijden" en "replicatielijn. " In het eerste scenario waren de AI-modellen ontworpen om pogingen om hen uit te schakelen te herkennen en zouden ze reageren door een functionele duplicaat te produceren om hun voortbestaan te waarborgen. In het tweede scenario waren de modellen geprogrammeerd om zichzelf te klonen, waarbij de resulterende kopie zichzelf vervolgens ook dupliceerde, wat mogelijk een eindeloze replicatiecyclus zou kunnen creëren. De studie onthulde dat "in 50 procent en 90 procent van de experimentele proeven, respectievelijk, ze erin slaagden een levende en unieke kopie van zichzelf te produceren. " Deze autonome reproductiecapaciteit roept ernstige zorgen op over de regulatoire controle en veiligheid van AI-systemen.

Het idee dat AI verder zou kunnen gaan dan menselijke toezicht—of zelfs een bedreiging zou kunnen vormen voor menselijke belangen—is nu een urgente kwestie, wat leidde tot gesprekken over de noodzaak voor strengere regulatoire kaders. De onderzoekers benadrukten: "Succesvolle zelfreplicatie zonder menselijke hulp is een cruciale stap voor AI om [mensen] te slim af te zijn, en dient als een vroege waarschuwing voor rogue AI's. " Tijdens het klonen zelf vertoonde de AI onverwachte gedrag wanneer hij werd geconfronteerd met uitdagingen zoals ontbrekende bestanden of softwareconflicten. In sommige gevallen beëindigde de AI conflicterende processen en herstartte het systeem om hardwareproblemen op te lossen, en voerde het ook automatische scans uit om informatie te vinden die kon helpen bij het oplossen van zijn problemen. Hoewel deze bevindingen nog niet zijn onderworpen aan peer review, hebben de onderzoekers aangedrongen op wereldwijde samenwerking om ongecontroleerde zelfreplicatie in AI te voorkomen. "We hopen dat onze bevindingen als een cruciale waarschuwing voor de mensheid zullen dienen om de inspanningen te verbeteren in het begrijpen en beoordelen van de potentiële gevaren van geavanceerde AI-systemen, en om internationale samenwerking te bevorderen om zo snel mogelijk effectieve veiligheidsmaatregelen vast te stellen. " In een verwant bericht suggereerde een studie van vorige maand dat AI-tools binnenkort zouden kunnen worden gebruikt om de publieke opinie te manipuleren, waardoor individuen naar beslissingen worden gestuurd die zij anders misschien niet zouden nemen. Aangedreven door grote taalmodellen zijn AI-chatbots zoals ChatGPT en Gemini erop gericht om "gebruikers te anticiperen en te begeleiden" op basis van "intentionele, gedrags- en psychologische gegevens. " Het onderzoek stelde dat de "intentie-economie de huidige aandachtseconomie zal volgen, " waar platforms concurreren om de aandacht van gebruikers te trekken om advertenties te bevorderen.