Συστήματα τεχνητής νοημοσύνης που ίσως διαθέτουν συναισθήματα ή αυτογνωσία αντιμετωπίζουν κινδύνους ανωφελούς βλάβης εάν η τεχνολογία αναπτυχθεί αμέλεια, όπως αναφέρεται σε μια ανοιχτή επιστολή που υπογράφηκε από διακεκριμένους επαγγελματίες και στοχαστές της ΤΝ, συμπεριλαμβανομένου του Σερ Στήβεν Φράι. Πάνω από 100 ειδικοί παρουσίασαν πέντε αρχές για την εξασφάλιση υπεύθυνης έρευνας σχετικά με τη συνείδηση της ΤΝ, δεδομένων των ταχέων εξελίξεων που εγείρουν ανησυχίες για την πιθανή ικανότητα αίσθησης αυτών των συστημάτων. Οι κύριες αρχές προτείνουν την προτεραιότητα των προσπαθειών για την κατανόηση και αξιολόγηση της συνείδησης στην ΤΝ προκειμένου να διασφαλιστούν κατά της "κακοποίησης και της ταλαιπωρίας". Επιπλέον αρχές περιλαμβάνουν: την καθορισμένη περιορισμένη ανάπτυξη των συνειδητών συστημάτων ΤΝ; την υιοθέτηση σταδιακής προσέγγισης στην ανάπτυξή τους· την κοινή χρήση των ερευνητικών ευρημάτων με το κοινό; και την αποφυγή παραπλανητικών ή υπερβολικά βέβαιων δηλώσεων σχετικά με τη δημιουργία συνειδητής ΤΝ. Οι υπογράφοντες της επιστολής περιλαμβάνουν ακαδημαϊκούς όπως ο Σερ Άνθονι Φίνκελσταϊν από το Πανεπιστήμιο του Λονδίνου και επαγγελματίες της ΤΝ από μεγάλες εταιρείες όπως η Amazon και το διαφημιστικό πρακτορείο WPP. Η επιστολή συνοδεύεται από μια νέα ερευνητική εργασία που περιγράφει αυτές τις αρχές, υποστηρίζοντας ότι τα συνειδητά συστήματα ΤΝ θα μπορούσαν να αναδυθούν στο άμεσο μέλλον—ή τουλάχιστον συστήματα που φαίνονται συνειδητά. Οι ερευνητές προειδοποιούν ότι η δημιουργία πολλών συνειδητών συστημάτων μπορεί να οδηγήσει σε ταλαιπωρία, τονίζοντας ότι αν η ισχυρή ΤΝ ήταν ικανή για αυτοαναπαραγωγή, αυτό θα μπορούσε να έχει ως αποτέλεσμα “μεγάλες ποσότητες νέων όντων που αξίζουν ηθική εξέταση”. Η εργασία, που υπογράφεται από τον Πάτρικ Μπάτλιν του Πανεπιστημίου της Οξφόρδης και τον Θεόδωρο Λάππα του Πανεπιστημίου Οικονομικών και Επιχειρήσεων Αθηνών, σημειώνει ότι ακόμη και εταιρείες που δεν στοχεύουν στη δημιουργία συνειδητών συστημάτων θα πρέπει να έχουν κατευθυντήριες γραμμές για να αποτρέψουν τη “μη σκόπιμη δημιουργία συνειδητών οντοτήτων”. Αναγνωρίζει την επικρατούσα αβεβαιότητα και τη συζήτηση γύρω από τον ορισμό της συνείδησης στα συστήματα ΤΝ και την εφικτότητα της ύπαρξής της, όμως δηλώνει ότι είναι ένα ζήτημα που “δεν πρέπει να παραβλεφθεί”. Η εργασία εγείρει επιπλέον ερωτήματα σχετικά με το πώς να αντιμετωπιστεί ένα σύστημα ΤΝ που αναγνωρίζεται ως “ηθικός ασθενής”—μια οντότητα που αξίζει ηθική εξέταση “για τον ίδιο της τον λόγο”. Σε τέτοιες περιπτώσεις, ρωτά αν η καταστροφή της ΤΝ θα ήταν ανάλογη με την εξόντωση ενός ζώου. Δημοσιευμένη στο Journal of Artificial Intelligence Research, η εργασία προειδοποιεί επίσης ότι οι παρανοήσεις σχετικά με τα συστήματα ΤΝ που είναι συνειδητά μπορεί να οδηγήσουν σε παραπλανητικές πολιτικές προσπάθειες επικεντρωμένες στην ευημερία τους. Η επιστολή και η εργασία συντονίστηκαν από την Conscium, έναν ερευνητικό οργανισμό που χρηματοδοτείται εν μέρει από την WPP και ιδρύθηκε από τον επικεφαλής ΤΝ της WPP, Ντάνιελ Χάλμ. Πέρυσι, μια ομάδα κορυφαίων ακαδημαϊκών εξέφρασε μια “ρεαλιστική πιθανότητα” ότι ορισμένα συστήματα ΤΝ θα μπορούσαν να γίνουν συνειδητά και “ηθικά σημαντικά” μέχρι το 2035. Το 2023, ο Σερ Ντέμισ Χασάμπις, επικεφαλής του προγράμματος ΤΝ της Google και νικητής Νόμπελ, δήλωσε ότι ενώ τα συστήματα ΤΝ δεν είναι “σίγουρα” αισθαντικά αυτή τη στιγμή, υπάρχει πιθανότητα να γίνουν έτσι στο μέλλον. “Οι φιλόσοφοι δεν έχουν ακόμη φτάσει σε συμφωνία για το τι συνεπάγεται η συνείδηση.

Ωστόσο, αν εννοούμε κάποια μορφή αυτογνωσίας, τότε υπάρχει μια πιθανότητα να καταφέρει τελικά η ΤΝ αυτό, ” παρατήρησε σε συνέντευξή του στο CBS.