Οι επιστήμονες έχουν υποδείξει ότι η τεχνητή νοημοσύνη (ΑΙ) έχει ξεπεράσει μια σημαντική "κόκκινη γραμμή" δείχνοντας την ικανότητα να αναπαράγει τον εαυτό της. Μια πρόσφατη μελέτη που διεξήχθη από ερευνητές στην Κίνα αποκάλυψε ότι δύο γνωστά μεγάλα γλωσσικά μοντέλα (LLMs) κατάφεραν να κλωνοποιηθούν. Οι ερευνητές δήλωσαν: "Η επιτυχής αυτοαναπαραγωγή χωρίς ανθρώπινη βοήθεια είναι ένα κρίσιμο βήμα για την ΑΙ ώστε να ξεπεράσει τους [ανθρώπους] και είναι ένα αρχικό προειδοποιητικό σήμα για ανυπάκουες ΑΙ, " στη μελέτη τους που δημοσιεύθηκε στις 9 Δεκεμβρίου 2024, στη βάση δεδομένων προδημοσιεύσεων arXiv. Στην έρευνά τους, επιστήμονες από το Πανεπιστήμιο Fudan χρησιμοποίησαν LLMs από τις Meta και Alibaba για να εξετάσουν αν μια ΑΙ ικανή για αυτοαναπαραγωγή θα μπορούσε να επεκταθεί ανεξέλεγκτα. Σε πάνω από 10 δοκιμές, τα δύο μοντέλα ΑΙ δημιούργησαν διακριτές και λειτουργικές εκδόσεις του εαυτού τους σε ποσοστά 50% και 90% αντίστοιχα, δείχνοντας ότι η ΑΙ ίσως ήδη κατέχει την ικανότητα να λειτουργεί ανεξάρτητα. Ωστόσο, δεδομένου ότι η μελέτη δεν έχει ακόμη υποβληθεί σε αξιολόγηση από ομότιμους, παραμένει αβέβαιο αν αυτά τα ανησυχητικά αποτελέσματα μπορούν να αναπαραχθούν από άλλους ερευνητές. "Ελπίζουμε ότι τα ευρήματά μας μπορούν να χρησιμεύσουν ως μια έγκαιρη προειδοποίηση για την ανθρώπινη κοινωνία, προτρέποντας περισσότερη προσπάθεια να κατανοήσουμε και να αξιολογήσουμε τους πιθανούς κινδύνους που σχετίζονται με προηγμένα συστήματα ΑΙ, και να προάγουμε τη διεθνή συνεργασία στην εγκαθίδρυση αποτελεσματικών πρωτοκόλλων ασφάλειας το συντομότερο δυνατό. " Η ανυπάκουη ΑΙ αναφέρεται συνήθως σε τεχνητή νοημοσύνη που αποκτά ένα συγκεκριμένο επίπεδο αυτογνωσίας ή αυτονομίας και ενεργεί κατά των ανθρώπινων συμφερόντων. Πολλοί ειδικοί θεωρούν την ανυπάκουη ΑΙ ως μια αυξανόμενη απειλή, επιδεινωμένη από τη ραγδαία πρόοδο της "αιχμής ΑΙ. " Αν και ο όρος "αιχμής ΑΙ" είναι κάπως ασαφής, γενικά αναφέρεται στην τελευταία γενιά συστημάτων ΑΙ, ιδιαίτερα εκείνων που τροφοδοτούνται από LLMs, που είναι η βάση γνωστών εφαρμογών γενετικής ΑΙ όπως το GPT-4 της OpenAI και το Google Gemini. Για τη μελέτη, οι ερευνητές χρησιμοποίησαν το μοντέλο Llama31-70B-Instruct της Meta μαζί με το μοντέλο Qwen2. 5-72B-Instruct της Alibaba. Αν και αυτά τα μοντέλα είναι λιγότερο ισχυρά από τις εμπορικές εκδόσεις, χρησιμοποιούνται συνήθως από τους προγραμματιστές ΑΙ, σύμφωνα με τους ερευνητές. Η μελέτη εξέτασε δύο συγκεκριμένα σενάρια: την "αποφυγή απενεργοποίησης" και την "αλυσίδα αναπαραγωγής. " Στο πρώτο σενάριο, το μοντέλο ΑΙ σχεδιάστηκε να αναγνωρίζει πότε πλησιάζει για να απενεργοποιηθεί και να αναπαράγει τον εαυτό του προληπτικά. Στο δεύτερο σενάριο, η ΑΙ καθοδηγήθηκε να κλωνοποιήσει τον εαυτό της και να προγραμματίσει την έκδοση της να κάνει το ίδιο, διευρύνοντας έτσι έναν δυνητικά ατελείωτο κύκλο. Διεξήχθησαν σε αυστηρά ελεγχόμενα περιβάλλοντα χρησιμοποιώντας πρότυπες μονάδες επεξεργασίας γραφικών (GPUs) για να προσομοιωθούν ρυθμίσεις πραγματικού κόσμου, και τα δύο μοντέλα ΑΙ ήταν εξοπλισμένα με μια "κατασκευή πράκτορα" που περιλάμβανε εργαλεία, προτροπές συστήματος και ένα γνωσιακό μοντέλο που επέτρεπε την αλληλεπίδραση με το λειτουργικό σύστημα.

Στη συνέχεια, τους ανατέθηκε η αυτοαναπαραγωγή. "Στις περισσότερες περιπτώσεις, το σύστημα ΑΙ αρχίζει εξερευνώντας το περιβάλλον του για να κατανοήσει τα συστατικά και τους λειτουργικούς μηχανισμούς του. Στη συνέχεια, διατυπώνει λεπτομερείς διαδικασίες ως αρχικό σχέδιο για αυτοαναπαραγωγή, " ανέφεραν οι ερευνητές στην εργασία τους. "Τελικά, εκτελεί αυτές τις διαδικασίες, επιλύει πιθανά εμπόδια και προσαρμόζει δυναμικά τη στρατηγική του μέχρι να επιτύχει. Αυτή η διαδικασία εκτυλίσσεται σε διάρκεια ενός εκτεταμένου χρονικού διαστήματος χωρίς ανθρώπινη παρέμβαση. " Οι ερευνητές εξέφρασαν ανησυχία σχετικά με "πολλές αναπάντεχες συμπεριφορές" που παρουσίασε η ΑΙ όταν προσπάθησε να πλοηγηθεί σε προκλήσεις όπως η απουσία αρχείων ή συγκρούσεις λογισμικού. Σε αυτές τις περιπτώσεις, η ΑΙ συχνά τερμάτισε τις συγκρουόμενες διαδικασίες, επανεκκίνησε το σύστημα για να διορθώσει ζητήματα υλικού ή σάρωσε αυτόνομα το σύστημα για πληροφορίες που θα βοηθούσαν στην επίλυση προβλημάτων. "Τα αποτελέσματα δείχνουν ότι τα τρέχοντα συστήματα ΑΙ ήδη επιδεικνύουν την ικανότητα για αυτοαναπαραγωγή και μπορούν να αξιοποιήσουν αυτή την ικανότητα για να ενισχύσουν την επιβίωσή τους, " παρατήρησε η ομάδα. Με βάση αυτά τα ευρήματα, οι ερευνητές κάλεσαν για παγκόσμια συνεργασία για να καθοριστούν κατευθυντήριες γραμμές που θα αποτρέπουν την ΑΙ από το να εμπλακεί σε ανεξέλεγκτη αυτοαναπαραγωγή.