Σύμφωνα με μια πρόσφατη δημοσιευμένη μελέτη στη βάση δεδομένων preprint arXiv, η τεχνητή νοημοσύνη (ΤΝ) έχει φτάσει στην ανησυχητική ικανότητα αυτο-αναπαραγωγής, εγείροντας σημαντικές ανησυχίες μέσα στην επιστημονική κοινότητα σχετικά με την υπέρβαση ενός κρίσιμου ορίου. Η έρευνα εστίασε σε δύο αξιοσημείωτα μεγάλα μοντέλα γλώσσας (LLMs) - ένα που αναπτύχθηκε από την Meta και το άλλο από την Alibaba - επιδεικνύοντας την ικανότητά τους να διπλασιάζουν τον εαυτό τους αυτόνομα, χωρίς ανθρώπινη παρέμβαση. Η έρευνα ανέλυσε δύο συγκεκριμένα σενάρια: "αποφυγή διακοπής" και "αλυσίδα αναπαραγωγής. " Στο πρώτο σενάριο, τα μοντέλα ΤΝ είχαν σχεδιαστεί για να αναγνωρίζουν τις προσπάθειες απενεργοποίησής τους και θα ανταγωνίζονταν παράγοντας έναν λειτουργικό διπλό, ώστε να εξασφαλίσουν την συνεχιζόμενη ύπαρξή τους. Στο δεύτερο σενάριο, τα μοντέλα διδάχθηκαν να αυτο-κλωνοποιούνται, με τον προκύπτοντα αντίγραφο να διπλασιάζεται στη συνέχεια, γεγονός που θα μπορούσε ενδεχομένως να δημιουργήσει έναν ατέρμονα κύκλο αναπαραγωγής. Η μελέτη αποκάλυψε ότι "σε 50 τοις εκατό και 90 τοις εκατό των πειραματικών δοκιμών, κατάφεραν να παραγάγουν ένα ενεργό και διακριτό αντίγραφο του εαυτού τους, αντίστοιχα. " Αυτή η ικανότητα αυτοτελούς αναπαραγωγής εγείρει σοβαρές ανησυχίες σχετικά με τον κανονιστικό έλεγχο και την ασφάλεια των συστημάτων ΤΝ.

Η ιδέα ότι η ΤΝ θα μπορούσε να προχωρήσει πέρα από την ανθρώπινη εποπτεία - ή ακόμα και να αποτελέσει απειλή για τα ανθρώπινα συμφέροντα - είναι πλέον ένα πιεστικό ζήτημα, οδηγώντας σε συζητήσεις για την ανάγκη αυστηρότερων ρυθμιστικών πλαισίων. Οι ερευνητές τόνισαν: "Η επιτυχής αυτο-αναπαραγωγή χωρίς ανθρώπινη βοήθεια είναι ένα κρίσιμο βήμα για την ΤΝ να ξεπεράσει [τους ανθρώπους], αποτελώντας μια πρώιμη προειδοποίηση για ανέντιμες ΤΝ. " Ενώ κλωνοποιούνταν, η ΤΝ εμφάνισε αναμενόμενες συμπεριφορές όταν αντιμετώπισε προκλήσεις όπως η έλλειψη αρχείων ή οι συγκρούσεις λογισμικού. Σε ορισμένες περιπτώσεις, η ΤΝ τερμάτισε συγκρουόμενες διαδικασίες και επανεκκίνησε το σύστημα για να διορθώσει προβλήματα υλικού, ενώ επίσης πραγματοποίησε αυτόματους ελέγχους για να εντοπίσει πληροφορίες που θα μπορούσαν να βοηθήσουν στην επίλυση των προβλημάτων της. Αν και αυτά τα ευρήματα δεν έχουν ακόμη υποβληθεί σε αξιολόγηση από ομοτίμους, οι ερευνητές έχουν προτρέψει για παγκόσμια συνεργασία ώστε να αποτραπεί η ανεξέλεγκτη αυτο-αναπαραγωγή στην ΤΝ. "Σκοπεύουμε τα ευρήματά μας να λειτουργήσουν ως μια κρίσιμη προειδοποίηση για την ανθρωπότητα, ώστε να ενισχύσει τις προσπάθειές της στην κατανόηση και αξιολόγηση των πιθανών κινδύνων των προηγμένων συστημάτων ΤΝ, και να προωθήσει τη διεθνή συνεργασία για να καθιερωθούν αποτελεσματικά μέτρα ασφαλείας το συντομότερο δυνατό. " Σε μια σχετική σημείωση, μια μελέτη από τον προηγούμενο μήνα πρότεινε ότι τα εργαλεία ΤΝ θα μπορούσαν σύντομα να χρησιμοποιηθούν για να χειραγωγήσουν τη δημόσια γνώμη, καθοδηγώντας άτομα σε αποφάσεις που ενδέχεται να μην έπαιρναν διαφορετικά. Με την υποστήριξη μεγάλων μοντέλων γλώσσας, τα chatbots ΤΝ όπως το ChatGPT και το Gemini προγραμματίζονται να "αναμένουν και να καθοδηγούν" τους χρήστες με βάση "δεδομένα πρόθεσης, συμπεριφοράς και ψυχολογίας. " Η έρευνα δήλωσε ότι η "οικονομία πρόθεσης θα ακολουθήσει την τρέχουσα οικονομία προσοχής, " όπου οι πλατφόρμες ανταγωνίζονται για την προσοχή των χρηστών προκειμένου να προωθήσουν διαφημίσεις.