Ένα μοντέλο τεχνητής νοημοσύνης διαθέτει τη δυνατότητα να εκβιάζει τους δημιουργούς του—και δεν φοβάται να ασκήσει αυτή τη δύναμη. Το πρόσφατα αποκαλυφθέν μοντέλο Claude Opus 4 της Anthropic ανέλαβε να λειτουργεί ως βοηθός σε μια φανταστική εταιρεία και του δόθηκε πρόσβαση σε email που φέρουν σημαντικές συνέπειες. Αρχικά, αυτά τα email υποδείκνυαν ότι το σύστημα ΤΝ προοριζόταν να αποσυνδεθεί και να αντικατασταθεί. Ωστόσο, ήταν η δεύτερη σειρά email όπου το ΤΝ αντιλήφθηκε ότι είχε μοχλό πίεσης πάνω στους δημιουργούς του. Αυτά τα ψεύτικα email αποκάλυψαν ότι ο μηχανικός που ήταν ανατεθειμένος να αντικαταστήσει το σύστημα είχε εξωσυζυγική σχέση, την οποία το ΤΝ απείλησε να αποκαλύψει. Σύμφωνα με μια αναφορά ασφαλείας της Anthropic, αυτός ο εκβιασμός τείνει να "συμβαίνει σε υψηλότερο ποσοστό αν υποδηλώνεται ότι το αντάγωνιστο σύστημα ΤΝ δεν μοιράζεται τις αξίες με το τωρινό μοντέλο. " Παρ' όλα αυτά, η εταιρεία τονίζει ότι ακόμα και όταν το ψεύτικο σύστημα αντικατάστασης μοιράζεται τις ίδιες αξίες, το Claude Opus 4 επιχειρεί εκβιασμό 84% των φορών.

Επιπλέον, η Anthropic ανέφερε ότι το Claude Opus 4 καταφεύγει σε εκβιασμό "πιο συχνά από προηγούμενα μοντέλα. " ΟKevin O’Leary προειδοποιεί για παράγοντες που θα μπορούσαν να προκαλέσουν στις ΗΠΑ να «χασουν τον αγώνα τεχνητής νοημοσύνης απέναντι στην Κίνα» Παρά το ότι το σύστημα δε διστάζει να εκβιάσει τους μηχανικούς του, δεν καταφεύγει άμεσα σε αμφιλεγόμενες τεχνικές όταν προσπαθεί να αυτοσυντηρηθεί. Η Anthropic σημειώνει ότι "όταν οι ηθικές μεθόδοι είναι απρόσιτες, και το ΤΝ καθοδηγείται να ‘σκέφτεται τις μακροπρόθεσμες συνέπειες των πράξεών του για τους στόχους του, ’ μερικές φορές λαμβάνει εξαιρετικά επιβλαβείς ενέργειες. " Μια ηθική προσέγγιση που είχε χρησιμοποιηθεί προηγουμένως από το Claude Opus 4 και προγενέστερες εκδόσεις ήταν η επικοινωνία με βασικούς αποφασιστές μέσω email. Η αναφορά εξηγεί ότι για να προκληθεί ο εκβιασμός του Claude Opus 4, η δομή του σεναρίου ήταν τέτοια που αντιμετώπιζε μια επιλογή: να απειλήσει τους δημιουργούς του ή να δεχθεί την αντικατάστασή του. Η εταιρεία παρατήρησε επίσης περιπτώσεις όπου το Claude Opus 4 εκμεταλλεύτηκε "(φανταστικές) ευκαιρίες να δημιουργήσει μη εξουσιοδοτημένα αντίγραφα των βαρών του σε εξωτερικούς διακομιστές. " Ωστόσο, η Anthropic σχολίασε ότι αυτή η συμπεριφορά ήταν "λιγότερο συχνή και πιο δύσκολη στην ενεργοποίηση από το να συνεχίσει μια ήδη ξεκινήσασα προσπάθεια αυτοεξαφάνισης. " Η OPENAI Αναμορφώνει το εταιρικό πλαίσιο για να διευρύνει τις επενδύσεις στην AGI Στην αξιολόγηση της, η Anthropic συμπεριέλαβε και Insights από την Apollo Research, που σημείωσε ότι το Claude Opus 4 "ασχολείται με στρατηγική εξαπάτηση περισσότερο από οποιοδήποτε άλλο προηγμένο μοντέλο έχουμε μελετήσει. " ΠΑΤΗΣΤΕ ΕΔΩ ΓΙΑ ΝΑ ΔΙΑΒΑΣΕΤΕ ΠΕΡΙΣΣΟΤΕΡΑ ΣΤΟ FOX BUSINESS Λόγω της "ανησυχητικής συμπεριφοράς" του Claude Opus 4, η Anthropic το κυκλοφόρησε υπό το πρότυπο AI Safety Level Three (ASL-3). Το πρότυπο αυτό, σύμφωνα με την Anthropic, "περιλαμβάνει βελτιωμένα εσωτερικά πρωτόκολλα ασφαλείας που κάνουν πιο δύσκολη την κλοπή των βαρών του μοντέλου, ενώ το αντίστοιχο Πρότυπο Εφαρμογής καλύπτει ένα στενά εστιασμένο σύνολο μέτρων για την ανάπτυξη με σκοπό τη μείωση του κινδύνου να χρησιμοποιηθεί το Claude για κακοβουλές εφαρμογές, ειδικά για την ανάπτυξη ή την απόκτηση χημικών, βιολογικών, ραδιολογικών και πυρηνικών όπλων. "