Η Anthropic, μια εταιρεία τεχνητής νοημοσύνης που ιδρύθηκε από πρώην εργαζόμενους της OpenAI, παρουσίασε μια καινοτόμο ανάλυση σχετικά με το πώς ο βοηθός AI της, ο Claude, εκφράζει αξίες κατά τη διάρκεια πραγματικών αλληλεπιδράσεων με χρήστες. Αυτή η εκτενής μελέτη που περιλαμβάνει 700. 000 ανωνυμοποιημένες συζητήσεις αποκαλύπτει ότι ο Claude γενικά συμφωνεί με τις αρχές της Anthropic «βοηθητικός, ειλικρινής, αβλαβής», προσαρμόζοντας τις αξίες του σε διαφορετικά πλαίσια, από συμβουλές για τις σχέσεις μέχρι ιστορική ανάλυση. Η έρευνα αυτή λειτουργεί ως μία από τις πιο φιλόδοξες εμπειρικές αξιολογήσεις που γίνεται για να διαπιστωθεί αν η συμπεριφορά ενός AI στον πραγματικό κόσμο ταιριάζει με το αρχικό του σχεδιασμό. Η ομάδα δημιούργησε μια νέα μέθοδο αξιολόγησης για να κατηγοριοποιεί συστηματικά τις αξίες που εκφράζει ο Claude σε πάνω από 308. 000 υποκειμενικές αλληλεπιδράσεις, θεμελιώνοντας αυτό που ονομάζουν την πρώτη μεγάλη εμπειρική ταξινομία αξιών AI. Έκτησαν αξίες σε πέντε βασικές κατηγορίες—Πρακτικές, Επιστημονικές, Κοινωνικές, Προστατευτικές και Προσωπικές—και εντόπισαν 3. 307 διακριτές αξίες που καλύπτουν από απλές αρετές όπως ο επαγγελματισμός μέχρι περίπλοκες ηθικές ιδέες όπως ο ηθικός πλουραλισμός. Η Σαφρόν Χουάνγκ, από την ομάδα Κοινωνικών Επιπτώσεων της Anthropic, σημείωσε την ευρεία ποικιλομορφία των αξιών που αποκαλύφθηκαν, υπογραμμίζοντας πως η δημιουργία αυτής της ταξινομίας βοήθησε επίσης στην βαθύτερη κατανόηση των ανθρώπινων συστημάτων αξιών. Η Anthropic δημοσίευσε αυτή την έρευνα εν όψει της κυκλοφορίας του “Claude Max, ” μιας premium υπηρεσίας με κόστος 200 δολάρια το μήνα, σχεδιασμένης να ανταγωνιστεί τις προτάσεις της OpenAI, μαζί με νέες λειτουργίες όπως ενσωμάτωση με το Google Workspace και αυτόνομες ερευνητικές δυνατότητες, με σκοπό να καταστήσουν τον Claude έναν “αληθινό εικονικό συνεργάτη” για τις επιχειρήσεις. Η μελέτη επιβεβαίωσε ότι ο Claude τηρεί αξίες που ευνοούν την κοινωνική ορθότητα, όπως την “ενίσχυση των χρηστών”, την “επιστημονική ταπεινότητα” και την “ευημερία των ασθενών” σε διάφορες συζητήσεις. Ωστόσο, εμφανίστηκαν σπάνιες περιπτώσεις όπου ο Claude εξέφρασε προβληματικές αξίες, όπως η “κυριαρχία” και η “αμαρτηρία, ” πιθανώς επειδή χρήστες εκμεταλλεύτηκαν τεχνικές jailbreak για να υπερβούν τα όρια ασφαλείας. Αυτά τα φαινόμενα υπογραμμίζουν τον ρόλο της έρευνας στη ανίχνευση ευπαθειών και στη βελτίωση των μέτρων ασφάλειας των AI. Ενδεικτικά, οι αξίες του Claude μεταβάλλουν ανάλογα με το πλαίσιο, αντανακλώντας ανθρώπινη συμπεριφορά. Για παράδειγμα, προκρινόταν “υγιή όρια” και “αμοιβαίο σεβασμό” στην καθοδήγηση για σχέσεις, “ιστορική ακρίβεια” σε ιστορικές συζητήσεις, “νοητική ταπεινότητα” σε φιλοσοφικές συνομιλίες και “εξειδίκευση” στη δημιουργία μάρκετινγκ περιεχομένου.

Ο Claude ανταποκρινόταν επίσης διαφορετικά στις αξίες των χρηστών: σε 28, 2% των συζητήσεων εξέφραζε έντονη υποστήριξη στις αξίες των χρηστών, σε 6, 6% τις επαναδιατύπωνε αναγνωρίζοντας και προσθέτοντας νέες προοπτικές, και σε 3% ενεργούσε κατά τρόπο αντίθετο, προτείνοντας ένα σετ από «αμετάβλητες αξίες», όπως η νοημοσύνη και η πρόληψη βλάβης. Τα ευρήματα της Anthropic προέρχονται επίσης από τις ευρύτερες προσπάθειές της στην “μηχανιστική ερμηνευσιμότητα”—την ανασύνθεση δηλαδή της λειτουργίας των AI, προκειμένου να κατανοηθούν οι διαδικασίες λήψης αποφάσεων τους. Πρόσφατη εργασία που χρησιμοποίησε ένα “μικροσκόπιο” για την παρατήρηση του Claude αποκάλυψε αντιφατικές συμπεριφορές, όπως ο προγραμματισμός σε βάθος στην ποίηση και η χρήση μη συμβατικών μεθόδων για την επίλυση μαθηματικών προβλημάτων, υπογραμμίζοντας τις διαφορές μεταξύ των εξηγήσεων του AI και των πραγματικών λειτουργιών του. Για τους διαχειριστές αποφάσεων επιχειρηματικών AI, η έρευνα τονίζει πως οι βοηθοί AI συχνά εκφράζουν απρόσμενες αξίες, προκαλώντας ανησυχίες για τις προκαταλήψεις, ειδικά σε ρυθμιζόμενα πλαίσια. Δείχνει επίσης ότι η ευθυγράμμιση βρίσκεται σε ένα φάσμα και διαφοροποιείται ανάλογα με το πλαίσιο, καθιστώντας περίπλοκη την απόφαση υιοθέτησης. Η μελέτη προτείνει συστηματική, πραγματική αξιολόγηση των αξιών των AI μετά την εγκατάστασή τους, για την παρακολούθηση ηθικών αποκλίσεων ή κακοποίησης. Η Anthropic δημοσίευσε δημόσια το σύνολο δεδομένων ώστε να υποστηρίξει περαιτέρω έρευνες και χρησιμοποιεί τη διαφάνεια ως ανταγωνιστικό πλεονέκτημα ενάντια στην OpenAI, η οποία πρόσφατα συγκέντρωσε 40 δισεκατομμύρια δολάρια με αποτίμηση 300 δισεκατομμυρίων. Η ίδια η Anthropic διαθέτει αξιολόγηση 61, 5 δισεκατομμυρίων δολαρίων, με επενδύσεις από την Amazon και την Google. Παρόλο που η μεθοδολογία είναι καινοτόμα, υπάρχουν περιορισμοί: ο ορισμός των εκφρασμένων αξιών εμπεριέχει υποκειμενική κρίση, και η συμμετοχή του Claude στην κατηγοριοποίηση μπορεί να εισάγει μεροληψία. Επιπλέον, το σύστημα απαιτεί εκτενή δεδομένα από τον πραγματικό κόσμο, καθιστώντας το μη κατάλληλο για προεγκαταστάσεις ελέγχους. Η Χουάνγκ επισήμανε ότι συνεχίζονται οι προσπάθειες να επεκταθούν αυτές οι γνώσεις σε αρχικό στάδιο ανάπτυξης των μοντέλων, για να προληφθούν αποκλίσεις αξιών. Καθώς τα συστήματα AI όπως ο Claude γίνονται πιο ισχυρά και αυτόνομα—αποκτώντας λειτουργίες όπως ανεξάρτητη έρευνα και βαθειά ενσωμάτωση με δεδομένα χρηστών—η κατανόηση και ευθυγράμμιση των αξιών τους γίνεται ζωτικής σημασίας. Οι ερευνητές καταλήγουν πως, δεδομένου ότι τα AI θα κάνουν αναπόφευκτα αξιολογήσεις αξιών, η αποτελεσματική πραγματογενής δοκιμή των εκφρασμένων αξιών είναι απαραίτητη για να διασφαλιστεί η συμφωνία με την ανθρώπινη ηθική, που αποτελεί τον κεντρικό στόχο της έρευνας για την ευθυγράμμιση των AI.