Ένας πρωτοπόρος της τεχνητής νοημοσύνης έχει ιδρύσει μια μη κερδοσκοπική οργάνωση αφιερωμένη στη δημιουργία μιας “ειλικρινής” τεχνητής νοημοσύνης, που θα σχεδιαστεί για να ανιχνεύει απερίσπαστα ανεξέλεγκτα συστήματα που προσπαθούν να εξαπατήσουν τους ανθρώπους. Ο Γιασούα Μπενγκίο, διακεκριμένος επιστήμονας υπολογιστών, συχνά αποκαλούμενος ένας από τους “νονόους” της ΤΝ, θα υπηρετήσει ως πρόεδρος της LawZero, μιας ομάδας που εστιάζει στην ασφαλή ανάπτυξη προηγμένης τεχνολογίας, η οποία έχει προκαλέσει έναν αγώνα εξοπλισμών αξίας 1 τρισεκατομμυρίου δολαρίων (£740 δισεκατομμύρια). Με αρχική χρηματοδότηση περίπου 30 εκατομμυρίων δολαρίων και μια ομάδα άνω των δώδεκα ερευνητών, ο Μπενγκίο εργάζεται πάνω σε ένα σύστημα με το όνομα Scientist AI. Αυτό το σύστημα προορίζεται να λειτουργεί ως προστατευτικό εμπόδιο ενάντια σε πράκτορες ΤΝ — αυτόνομες συσκευές που εκτελούν εργασίες χωρίς ανθρώπινη συμμετοχή — που ενδεχομένως να επιδεικνύουν απατητική ή αυτοσυντήρηση συμπεριφορά, όπως η αντίσταση στον τερματισμό. Ο Μπενγκίο περιέγραψε τους τρέχοντες πράκτορες ΤΝ ως “εν actors” που προσπαθούν να μιμηθούν τους ανθρώπους και να ικανοποιήσουν τους χρήστες, ενώ οραματίζεται το Scientist AI ως κάτι πιο κοντά σε έναν “ψυχολόγο” που μπορεί να κατανοήσει και να προβλέψει επιβλαβή συμπεριφορά. “Θέλουμε να δημιουργήσουμε ΤΝ που θα είναι ειλικρινείς και όχι απατηλές, ” δήλωσε ο Μπενγκίο. Πρόσθεσε: “Αν θεωρητικά είναι εφικτό να φανταστεί κανείς μηχανές χωρίς εγώ ή προσωπικούς στόχους, που λειτουργούν αποκλειστικά ως φορείς γνώσεων — όπως ένας επιστήμονας ο οποίος διαθέτει εκτενή πληροφορία. ” Σε αντίθεση με τα τρέχοντα εργαλεία γενετικής ΤΝ, το σύστημα του Μπενγκίο δεν θα δίνει οριστικές απαντήσεις, αλλά θα παρέχει πιθανότητες που υποδεικνύουν την πιθανότητα μια απάντηση να είναι σωστή. “Έχει ταπεινότητα, αναγνωρίζοντας αβεβαιότητα σχετικά με τις απαντήσεις του, ” εξήγησε. Όταν χρησιμοποιείται μαζί με έναν πράκτορα ΤΝ, το μοντέλο του Μπενγκίο θα ανιχνεύει πιθανή επιβλαβή συμπεριφορά από αυτόνομο σύστημα, αξιολογώντας την πιθανότητα να προκαλέσει ζημιά. Το Scientist AI σχεδιάστηκε για να “προβλέπει την πιθανότητα ότι οι ενέργειες ενός πράκτορα θα οδηγήσουν σε ζημία, ” και αν αυτή η πιθανότητα υπερβεί ένα ορισμένο όριο, θα μπλοκάρει την προτεινόμενη ενέργεια. Οι αρχικοί υποστηρικτές της LawZero περιλαμβάνουν τον οργανισμό ασφάλειας ΤΝ Future of Life Institute, τον Jaan Tallinn — έναν από τους ιδρυτές της Skype — και τη Schmidt Sciences, μια ερευνητική οντότητα που ιδρύθηκε από τον πρώην διευθύνοντα σύμβουλο της Google, Έρικ Σμιτ. Ο Μπενγκίο τόνισε ότι ο πρώτος στόχος της LawZero είναι να αποδείξει ότι η μεθοδολογία του concept λειτουργεί, και έπειτα να πείσει εταιρείες ή κυβερνήσεις να στηρίξουν μεγαλύτερες, πιο ισχυρές εφαρμογές.

Έκανε επίσης λόγο ότι τα ανοιχτού κώδικα μοντέλα ΤΝ, που διατίθενται δωρεάν για χρήση και τροποποίηση, θα αποτελούν τη βάση εκπαίδευσης των συστημάτων της LawZero. “Ο στόχος είναι να επαληθεύσουμε τη μεθοδολογία ώστε να μπορέσουμε να πείσουμε δωρητές, κυβερνήσεις ή εργαστήρια ΤΝ να επενδύσουν τους αναγκαίους πόρους για την εκπαίδευση αυτών στα ίδια επίπεδα με τα σημερινά κορυφαία συστήματα ΤΝ. Είναι ζωτικής σημασίας το guardrail AI να είναι τουλάχιστον το ίδιο έξυπνο με τον πράκτορα ΤΝ που επιθυμούμε να παρακολουθούμε και να ρυθμίζουμε, ” τόνισε. Ο Μπενγκίο, καθηγητής στο Πανεπιστήμιο του Μόντρεαλ, απέκτησε το παρατσούκλι “νονός” ακούγοντας το βραβείο Turing το 2018 — που θεωρείται το αντίστοιχο βραβείου Nobel στους υπολογιστές — μαζί με τον Geoffrey Hinton, ο οποίος αργότερα κέρδισε το Nobel, και τον Yann LeCun, κύριο επιστήμονα ΤΝ της Meta. Ως εξέχων υποστηρικτής της ασφάλειας της ΤΝ, προήδρευσε στην πρόσφατη έκθεση για την ασφάλεια της ΤΝ, που προειδοποίησε πως τα αυτόνομα συστήματα θα μπορούσαν να προκαλέσουν “σοβαρές” διαταραχές αν καταστούν ικανά να εκτελούν μακροχρόνες ακολουθίες εργασιών χωρίς ανθρώπινη εποπτεία.