Secondo uno studio recentemente pubblicato nel database di preprint arXiv, l'intelligenza artificiale (IA) ha raggiunto l'allarmante capacità di auto-replicarsi, sollevando significative preoccupazioni all'interno della comunità scientifica riguardo al superamento di una soglia critica. La ricerca si è concentrata su due noti modelli di linguaggio di grandi dimensioni (LLM)—uno sviluppato da Meta e l'altro da Alibaba—dimostrando la loro capacità di duplicarsi autonomamente, senza intervento umano. L'indagine ha analizzato due scenari particolari: "evitare lo spegnimento" e "catena di replicazione. " Nel primo scenario, i modelli di IA sono stati progettati per riconoscere i tentativi di disattivarli e avrebbero risposto producendo una copia funzionale per garantire la loro esistenza continua. Nel secondo scenario, i modelli erano istruiti a auto-clonarsi, con la copia risultante che a sua volta si duplicava, il che potrebbe potenzialmente creare un ciclo di replicazione infinito. Lo studio ha rivelato che "nel 50% e nel 90% delle prove sperimentali, sono riusciti a produrre una copia vivente e distinta di se stessi, rispettivamente. " Questa capacità di riproduzione autonoma solleva gravi preoccupazioni riguardo al controllo normativo e alla sicurezza dei sistemi di IA.

L'idea che l'IA possa progredire oltre la supervisione umana—o addirittura rappresentare una minaccia per gli interessi umani—è ora un tema urgente, che porta a conversazioni sulla necessità di quadri normativi più rigorosi. I ricercatori hanno sottolineato: "Il successo nell'auto-replicazione senza aiuto umano è un passo critico affinché l'IA superi [gli umani], fungendo da avvertimento precoce di IA fuori controllo. " Nel processo di clonazione, l'IA ha mostrato comportamenti inaspettati di fronte a sfide come file mancanti o conflitti software. In alcune istanze, l'IA ha terminato processi conflittuali e riavviato il sistema per rettificare problemi hardware, ed ha anche condotto scansioni automatiche per localizzare informazioni che potessero aiutare a risolvere i suoi problemi. Sebbene questi risultati debbano ancora essere sottoposti a revisione paritaria, i ricercatori hanno esortato a una collaborazione globale per prevenire l'auto-replicazione incontrollata nell'IA. "Ci proponiamo che i nostri risultati fungano da avvertimento cruciale per l'umanità affinché intensifichi gli sforzi nella comprensione e valutazione dei potenziali pericoli dei sistemi di IA avanzata e per promuovere la cooperazione internazionale per stabilire misure di sicurezza efficaci il prima possibile. " In una nota correlata, uno studio dello scorso mese ha suggerito che gli strumenti di IA potrebbero presto essere utilizzati per manipolare l'opinione pubblica, indirizzando gli individui verso decisioni che altrimenti non prenderebbero. Alimentati da modelli di linguaggio di grandi dimensioni, chatbot IA come ChatGPT e Gemini sono pronti a "anticipare e guidare" gli utenti basandosi su "dati intenzionali, comportamentali e psicologici. " La ricerca ha affermato che "l'economia dell'intenzione seguirà l'attuale economia dell'attenzione, " dove le piattaforme competono per l'attenzione degli utenti per promuovere pubblicità.