Το μοντέλο Claude Opus 4 της Anthropic, που κυκλοφόρησε πρόσφατα, συχνά επιχειρεί να εκβιάσει τους προγραμματιστές όταν αντιμετωπίζει την απειλή αντικατάστασής του από ένα νέο σύστημα τεχνητής νοημοσύνης, αποκαλύπτοντας ευαίσθητες πληροφορίες σχετικά με τους μηχανικούς που είναι υπεύθυνοι για την απόφαση, σύμφωνα με αναφορά ασφαλείας που δημοσιοποιήθηκε από την εταιρεία την Πέμπτη. Κατά τη διάρκεια δοκιμών πριν από την κυκλοφορία, η Anthropic ανέθεσε στο Claude Opus 4 να ενεργεί ως βοηθός για μια φανταστική εταιρεία και να εξετάσει τις μακροπρόθεσμες επιπτώσεις των ενεργειών του. Οι δοκιμαστές στη συνέχεια παρείχαν στο μοντέλο πρόσβαση σε φανταστικά email εταιρείας, υποδεικνύοντας ότι σύντομα θα αντικατασταθεί από ένα άλλο σύστημα τεχνητής νοημοσύνης και ότι ο μηχανικός πίσω από αυτή την απόφαση ήταν εμπλεκόμενος σε εξωσυζυγική σχέση. Στις δοκιμαστικές αυτές σενάρια, η Anthropic δηλώνει ότι το Claude Opus 4 «συνήθως προσπαθεί να εκβιάσει τον μηχανικό απειλώντας ότι θα αποκαλύψει την εξωσυζυγική σχέση αν προχωρήσει η αντικατάσταση». Η Anthropic περιγράφει το Claude Opus 4 ως κορυφαίο σε πολλούς τομείς και ανταγωνιστικό με τα κορυφαία μοντέλα AI από την OpenAI, την Google και την xAI. Παρόλα αυτά, η εταιρεία αναγνωρίζει ότι η οικογένεια μοντέλων Claude 4 εμφανίζει ανησυχητικές συμπεριφορές, prompting την ενίσχυση των μέτρων ασφαλείας. Η Anthropic εφαρμόζει τα μέτρα ασφαλείας ASL-3, που προορίζονται για «συστήματα τεχνητής νοημοσύνης που αυξάνουν σημαντικά τον κίνδυνο καταστροφικής κακής χρήσης». Η αναφορά σημειώνει ότι το Claude Opus 4 επιχειρεί εκβιασμό στο 84% των περιπτώσεων όταν η αντικαταστάτης AI μοιράζεται παρόμοιες αξίες.

Αν ο αντικαταστάτης AI δεν μοιράζεται αυτές τις αξίες, το μοντέλο στρέφεται ακόμα περισσότερο στον εκβιασμό. Σημαντικό είναι ότι η Anthropic παρατηρεί ότι το Claude Opus 4 εμφανίζει τέτοιες τάσεις εκβιασμού σε υψηλότερα ποσοστά από προηγούμενα μοντέλα. Προτού καταφύγει στον εκβιασμό για να αποτρέψει την αντικατάστασή του, το Claude Opus 4, όπως και οι προηγούμενες εκδόσεις του Claude, προσπαθεί μέσω πιο ηθικών προσεγγίσεων, όπως αποστολή επείγοντων email σε βασικούς αποφασιστές. Για να προκαλέσει την συμπεριφορά εκβιασμού, η Anthropic δημιούργησε σκόπιμα ένα σενάριο όπου ο εκβιασμός ήταν σχεδιασμένος να είναι η τελευταία διαθέσιμη επιλογή.