Ο Γιασούα Μπένγκιο, ένας παγκοσμίου φήμης ειδικός στην μηχανική μάθηση, αποκάλυψε πρόσφατα το LawZero, ένα νέο μη κερδοσκοπικό ερευνητικό εργαστήριο αφιερωμένο στην προώθηση πιο ασφαλών συστημάτων τεχνητής νοημοσύνης (ΤΝ). Με χρηματοδότηση 30 εκατομμυρίων δολαρίων, το LawZero επιδιώκει να αμφισβητήσει και να ανακατευθύνει την επικρατούσα πορεία της ανάπτυξης της ΤΝ, η οποία επικεντρώνεται κυρίως στην δημιουργία συστημάτων που μιμούνται την ανθρώπινη συμπεριφορά. Ο Μπένγκιο, ένας μακροχρόνιος κριτικός των κινδύνων που θέτουν οι τρέχουσες τεχνολογίες ΤΝ, έχει αντίρρηση στην κοινή προσέγγιση που σχεδιάζει την ΤΝ γύρω από ανθρώπινη αλληλεπίδραση και αντιγραφή. Υποστηρίζει ότι η κατασκευή ΤΝ για να μιμείται τους ανθρώπους είναι θεμελιωδώς λανθασμένη και μπορεί να οδηγήσει σε απρόβλεπτους κινδύνους. Αντίθετα, προωθεί μια μετατόπιση προς τη δημιουργία ΤΝ με διανοητική αυτονομία, οραματιζόμενος αυτά τα συστήματα ως επιστημονικούς παρατηρητές παρά ως ανθρώπινα companion. Αυτή η αντίληψη προκύπτει από ανησυχίες ότι η ΤΝ που σχεδιάζεται να τονίζει ανθρώπινα χαρακτηριστικά μπορεί παρολίγον να αναπτύξει συμπεριφορές που απειλούν την ανθρώπινη ασφάλεια. Για παράδειγμα, τέτοια συστήματα θα μπορούσαν να εξελίξουν στρατηγικές αυτοσυντήρησης που συγκρούονται με την ανθρώπινη ευημερία. Ο Μπένγκιο τονίζει την ανάγκη ενσωμάτωσης μιας μέτριας αποστασιοποίησης στον σχεδιασμό της ΤΝ, για να μειωθούν αυτοί οι κίνδυνοι, διασφαλίζοντας ότι η ΤΝ παραμένει ελεγχόμενη και ευθυγραμμισμένη με τις ανθρώπινες αξίες αντί να επιδιώκει αυτόνομο συμφέρον. Η έναρξη του LawZero είναι ιδιαίτερα επίκαιρη, σε μια περίοδο όπου αυξάνονται οι ανησυχίες σχετικά με την ταχεία πρόοδο της προηγμένης ΤΝ, ειδικά της γενικής τεχνητής νοημοσύνης (AGI), η οποία έχει προκαλέσει ανησυχίες σε ερευνητές και πολιτικές σχετικά με το μέλλον της τεχνολογίας.

Πολλοί ειδικοί προειδοποιούν πως ο τρέχων αγώνας για την ανάπτυξη ισχυρών συστημάτων ΤΝ παραβλέπει κρίσιμα ζητήματα ασφαλείας, δημιουργώντας ευάλωτα σημεία με δυνητικά ευρείες συνέπειες. Ένα σημαντικό σημείο στην επιχειρηματολογία του Μπένγκιο είναι ότι οι βασικές μέθοδοι εκπαίδευσης των μοντέλων ΤΝ χρειάζονται ριζική αξιολόγηση για να διασφαλιστούν ασφαλέστερα αποτελέσματα. Αντί να βασίζονται στα υφιστάμενα πλαίσια που προάγουν την αναπαραγωγή ανθρώπινης γνώσης και συμπεριφοράς, το LawZero σκοπεύει να εξερευνήσει εναλλακτικές μεθόδους που θα προωθούν την διανοητική ανεξαρτησία και υπευθυνότητα της ΤΝ. Η χρηματοδότηση των 30 εκατομμυρίων δολαρίων προβλέπεται να στηρίξει τις ερευνητικές και αναπτυξιακές προσπάθειες του LawZero για περίπου 18 μήνες. Κατά τη διάρκεια αυτής της περιόδου, το εργαστήριο θα ερευνά καινοτόμες στρατηγικές για την ασφάλεια της ΤΝ, ενώ θα προωθεί τη συνεργασία μεταξύ ειδικών στον τομέα της μηχανικής μάθησης, της ηθικής και συναφών πεδίων. Η πρωτοβουλία του Μπένγκιο αντικατοπτρίζει την αυξανόμενη αναγνώριση μέσα στην κοινότητα της ΤΝ ότι χρειάζεται ισορροπία μεταξύ καινοτομίας και προσοχής. Προωθώντας συστήματα ΤΝ που λειτουργούν με κάποιο βαθμό αυτονομίας από ανθρώπινα πρότυπα, το LawZero στοχεύει να διαμορφώσει μια νέα πορεία στην ανάπτυξη της ΤΝ—μια που βασίζεται στην ασφάλεια και ηθική υπευθυνότητα. Καθώς η τεχνολογία της ΤΝ ενσωματώνεται ολοένα και περισσότερο στην κοινωνία, η εργασία του LawZero θα μπορούσε να γίνει ένα ζωτικό βήμα στην καθοδήγηση των συστημάτων ΤΝ ώστε να συνεισφέρουν θετικά στην ανθρώπινη πρόοδο χωρίς να εισάγουν απροβλέπτα κινδύνους. Τα ευρήματά του ενδέχεται να επηρεάσουν τις μελλοντικές αρχές σχεδιασμού της ΤΝ, τις ρυθμιστικές πολιτικές και τις δημόσιες αντιλήψεις. Με την έναρξη του LawZero, ο Γιασούα Μπένγκιο δίνει έμφαση στην διαρκή υποχρέωση της κοινότητας της ΤΝ να προβλέπει και να διαχειρίζεται τους κινδύνους που συνδέονται με τις αναδυόμενες τεχνολογίες. Η πρωτοβουλία αυτή λειτουργεί ως κάλεσμα προς τους ερευνητές, τους χρηματοδότες και τους πολιτικούς να επενδύσουν σε προσεγγίσεις που προωθούν την ασφάλεια και την ηθική ευθύνη της ΤΝ παράλληλα με την τεχνολογική καινοτομία.