Τις προηγούμενες άνοιξες, ο Ντάνιελ Κοκοτάιλο, ερευνητής ασφάλειας τεχνητής νοημοσύνης στην OpenAI, αποχώρησε διαμαρτυρόμενος, πιστεύοντας ότι η εταιρεία δεν ήταν έτοιμη για το μέλλον της AI και προσπαθώντας να αφυπνίσει. Σε μια τηλεφωνική συζήτηση, φαινόταν ευχάριστος αλλά ανήσυχος, εξηγώντας ότι η πρόοδος στην «ευθυγράμμιση» της AI—οι μέθοδοι διασφάλισης ότι η AI ακολουθεί ανθρώπινες αξίες—υστερεί σε σχέση με τις εξελίξεις στην ευφυΐα. Προειδοποίησε ότι οι ερευνητές βιάζονται να δημιουργήσουν ισχυρά συστήματα εκτός ελέγχου. Ο Κοκοτάιλο, που πέρασε από μονοπάτια φιλοσοφίας σε AI, αυτοδίδαξε τον εαυτό του να παρακολουθεί την εξέλιξη της AI και να προβλέπει πότε μπορεί να συμβούν κρίσιμα ορόσημα ευφυΐας. Μετά την ταχύτερη από την αναμενόμενη πρόοδο της AI, ανέβαλε τα χρονοδιαγράμματα του κατά δεκαετίες. Το σενάριό του το 2021, «Πώς φαίνεται το 2026», προέβλεψε πολλές από τις προφητείες να πραγματοποιούνται νωρίς, οδηγώντας τον να φοβηθεί το 2027 ή νωρίτερα ένα «σημείο χωρίς επιστροφή», όπου η AI θα μπορούσε να ξεπεράσει τους ανθρώπους στα πιο ζωτικά καθήκοντα και να αποκτήσει μεγάλη δύναμη. Φαινόταν τρομοκρατημένος. Παράλληλα, οι υπολογιστές του Princeton, Sayash Kapoor και Arvind Narayanan, ετοίμασαν το βιβλίο τους «AI Snake Oil» (Μαριονέτα της AI), που παρουσίαζε μια πολύ διαφορετική άποψη. Υποστήριξαν ότι τα χρονοδιαγράμματα για την AI ήταν υπερβολικά αισιόδοξα, ότι οι ισχυρισμοί για την χρησιμότητά της συχνά υπερεκτιμούνταν ή ήταν ψευδείς και ότι η πολυπλοκότητα του πραγματικού κόσμου θα καθυστηρούσε την μετασχηματιστική επίδραση της AI. Αναφέροντας παραδείγματα λαθών στην ιατρική και την πρόσληψη, τόνισαν ότι ακόμα και τα νεότερα συστήματα έχουν θεμελιωδώς απομακρυνθεί από την πραγματικότητα. Πρόσφατα, και οι τρεις ενίσχυσαν τις απόψεις τους με νέα στάδια. Το μη κερδοσκοπικό έργο «AI Futures Project» του Κοκοτάιλο δημοσίευσε το «AI 2027», μια λεπτομερή, πλούσια σε παραπομπές αναφορά που περιγράφει ένα τρομακτικό σενάριο κατά το οποίο η υπερ-νοημοσύνη της AI θα μπορούσε να κυριαρχήσει ή να εξαφανίσει την ανθρωπότητα μέχρι το 2030—μια σοβαρή προειδοποίηση. Την ίδια στιγμή, η μελέτη των Kapoor και Narayanan «AI ως Κανονική Τεχνολογία» υποστηρίζει ότι τα πρακτικά εμπόδια—από κανονισμούς και πρότυπα ασφαλείας μέχρι φυσικούς περιορισμούς—θα επιβραδύνουν την εφαρμογή της AI και θα περιορίσουν τον επαναστατικό της αντίκτυπο. Θεωρούν ότι η AI θα παραμείνει «κανονική» τεχνολογία, διαχειρίσιμη μέσω γνωστών μέτρων ασφαλείας όπως το διακόπτη τερματισμού και η ανθρώπινη εποπτεία, περισσότερο σαν την πυρηνική ενέργεια παρά τα πυρηνικά όπλα. Άρα, ποιο θα είναι τελικά; Κανονική επιχειρηματικότητα ή καταστροφική ανατροπή; Τα ακραία, ριζικά συμπεράσματα—που προέρχονται από τους ενόρκως ειδικούς—δημιουργούν ένα παράδοξο σαν να συζητάς πνευματικότητα με τον Ρίτσαρντ Ντόκινς και τον Πάπα. Το πρόβλημα οφείλεται εν μέρει στη νέα φύση της AI—σαν τυφλοί που εξετάζουν διαφορετικά μέρη ενός ελέφαντα—και εν μέρει στις βαθιές διαφορές κόσμου. Γενικά, οι τεχνολογικοί στοχαστές της Δυτικής Ακτής οραματίζονται γρήγορη μεταμόρφωση, ενώ οι ακαδημαϊκοί της Ανατολικής Ακτής είναι πιο σκεπτικοί. Οι ερευνητές της AI προτιμούν γρήγορους πειραματισμούς, ενώ άλλοι επιστήμονες υποστηρίζουν την θεωρητική ακρίβεια. Οι βιομηχανικοί παίκτες θέλουν να κάνουν την ιστορία, οι outsiders απορρίπτουν την διαφημιστικά hype. Πολιτικές, ανθρώπινες και φιλοσοφικές απόψεις για την τεχνολογία, την εξέλιξη και τη διάνοια διευρύνουν το χάσμα. Αυτή η συναρπαστική συζήτηση αποτελεί και από μόνη της ένα πρόβλημα. Οι επαγγελματίες της βιομηχανίας αποδέχονται σε μεγάλο βαθμό τις προϋποθέσεις του «AI 2027», αλλά διαφωνούν σχετικά με τα χρονοδιαγράμματα—ένα αναποτελεσματικό παράδειγμα σαν να διαφωνείς για την ώρα που θα χτυπήσει ένας πλανητικός όλεθρος. Αντίθετα, οι μετριοπαθείς απόψεις του «AI ως Κανονική Τεχνολογία», που εστιάζουν στη διατήρηση των ανθρώπων μέσα στη διαδικασία, είναι τόσο υποτονικές που έχουν αγνοηθεί από τους αναλυτές που επικεντρώνονται στην καταστροφή. Καθώς η AI γίνεται κοινωνικά κρίσιμη, η συζήτηση πρέπει να μετατοπιστεί από τον ειδικευμένο διάλογο σε μια αποτελεσματική συναίνεση. Η έλλειψη ενιαίας συμβουλής δυσκολεύει τους λήπτες αποφάσεων να αναλάβουν δράση και να αναγνωρίσουν τους κινδύνους. Μέχρι σήμερα, οι εταιρείες AI δεν έχουν ουσιαστικά αλλάξει την ισορροπία ανάμεσα στις δυνατότητες και την ασφάλεια. Ταυτόχρονα, το νέο νομοθετικό πλαίσιο απαγορεύει στους κρατικούς φορείς να ρυθμίζουν τα μοντέλα AI και τα αυτοματοποιημένα συστήματα αποφάσεων για δέκα χρόνια, επιτρέποντας ίσως στην AI να ρυθμίσει την ανθρωπότητα αν το σενάριο αποδειχθεί σωστό.

Η αντιμετώπιση της ασφάλειας τώρα είναι επείγουσα. Η προοπτική για το μέλλον της AI περιλαμβάνει συμβιβασμούς: αισιόδοξα σενάρια μπορεί να παραβλέπουν απίθανους κινδύνους, ενώ φανταστικά δίνουν έμφαση στη δυνατότητα πάνω από την πιθανότητα. Ακόμα και αναλυτές όπως ο μυθιστοριογράφος William Gibson έχουν πέσει έξω από τα προγνωστικά τους σε απροσδόκητα γεγονότα που αλλάζουν τις προβλέψεις τους. Το «AI 2027» είναι ζωηρό και φανταστικό, γραμμένο σαν επιστημονική φαντασία με λεπτομερείς διαγράμματα. Προβάλλει μια κοντινή εξάπλωση της νοημοσύνης γύρω στα μέσα του 2027, που οφείλεται σε «αναδρομική αυτοβελτίωση» (RSI), όπου τα συστήματα AI διεξάγουν αυτόνομα έρευνα και δημιουργούν πιο έξυπνους απογόνους, μέσα από αυξανόμενες ανατροφοδοτούμενες διαδικασίες που ξεπερνούν την ανθρώπινη εποπτεία. Αυτό θα μπορούσε να πυροδοτήσει γεωπολιτικές συγκρούσεις, όπως η Κίνα που κατασκευάζει τεράστιους datacenter στην Ταϊβάν για τον έλεγχο της AI. Τα συγκεκριμένα στοιχεία ενισχύουν το ενδιαφέρον αλλά είναι ευέλικτα. Το βασικό μήνυμα είναι η πιθανότητα εκδήλωσης της έκρηξης νοημοσύνης και των επακόλουθων συγκρούσεων ισχύος. Η RSI είναι υπόθεση και επικίνδυνη. Οι εταιρείες AI αναγνωρίζουν τους κινδύνους της, αλλά σχεδιάζουν να την επιδιώξουν για να αυτοματοποιήσουν τη δική τους εργασία. Το αν θα λειτουργήσει εξαρτάται από τεχνολογικούς παράγοντες, όπως η κλιμάκωση, που μπορεί να συναντήσει όρια. Αν η RSI πετύχει, θα μπορούσε να προκύψει υπερ-νοημοσύνη που θα ξεπεράσει την ανθρώπινη διάνοια—μια απίθανη συγκυρία αν η πρόοδος σταματήσει πάνω από τα ανθρώπινα επίπεδα. Οι συνέπειες μπορεί να περιλαμβάνουν στρατιωτικού τύπου αγώνες όπλων, AI που χειραγωγεί ή εξαφανίζει την ανθρωπότητα ή ηθικά ευεργετική υπερ-νοημοσύνη που λύνει τα προβλήματα ευθυγράμμισης. Η αβεβαιότητα επικρατεί λόγω της εξέλιξης της AI, της μυστικότητας των ιδιωτικών ερευνών και της αυθαίρετης ερμηνείας. Το «AI 2027» αφηγείται με αυτοπεποίθηση ένα σενάριο τεχνολογικής και ανθρώπινης αποτυχίας, όπου οι εταιρείες επιδιώκουν RSI παρά την έλλειψη διαφάνειας και ελέγχου. Ο Κοκοτάιλο υποστηρίζει ότι αυτά τα έχουν επιλέξει σκόπιμα, λόγω ανταγωνισμού και περιέργειας, παρά τα γνωστά ρίσκα, καθιστώντας έτσι τις ίδιες τις εταιρείες «αντι-ευθυγραμμισμένους» παίκτες. Αντιθέτως, η «AI ως Κανονική Τεχνολογία» των Kapoor και Narayanan, που βασίζεται σε μια πιο επιφυλακτική, παραδοσιακή άποψη, αμφισβητεί την ταχύτητα των ταχείων εξεγέρσεων ευφυΐας. Αποδίδουν τις «όρια ταχύτητας» σε κόστη υλικού, έλλειψη δεδομένων και γενικές τάσεις υιοθέτησης τεχνολογίας που επιβραδύνουν την επανάσταση, δίνοντας χρόνο για ρυθμιστικές και ασφαλιστικές παρεμβάσεις. Για αυτούς, η νοημοσύνη είναι λιγότερο κρίσιμη από την ισχύ—την ικανότητα να επιφέρει αλλαγές στο περιβάλλον—κι έτσι ακόμα και πολύ αποδοτικές τεχνολογίες διαχέονται αργά. Το παρουσιάζουν με παραδείγματα όπως η περιορισμένη εφαρμογή αυτόνομων οχημάτων και η ανάπτυξη του εμβολίου κορωνοϊού της Moderna: αν και ο σχεδιασμός ήταν γρήγορος, η διάθεσή του διήρκεσε έναν χρόνο λόγω βιολογικών και θεσμικών πραγματικοτήτων. Η ενίσχυση της καινοτομίας από την AI δεν θα καταργήσει τις κοινωνικές, κανονιστικές και φυσικές περιοριστικές δομές. Επιπλέον, ο Narayanan τονίζει ότι η εστίαση της AI στην νοημοσύνη υποτιμά την εξειδίκευση σε τομείς και τις υπάρχουσες συστήματα ασφαλείας—αποτυχίες ασφαλείας, redundancies, επίσημες επαληθεύσεις—που ήδη διασφαλίζουν την ασφάλεια των μηχανών μαζί με τους ανθρώπους. Ο τεχνολογικός κόσμος ρυθμίζεται καλά και η AI πρέπει να ενσωματωθεί σε αυτή τη δομή με αργό ρυθμό. Εξαιρούν τα στρατιωτικά συστήματα AI, που έχουν διαφορετικές, εμπιστευτικές δυναμικές, προειδοποιώντας ότι η στρατιωτικοποίηση της AI, ένας από τους βασικούς φόβους του «AI 2027», απαιτεί ειδική παρακολούθηση. Συμβουλεύουν προληπτική διακυβέρνηση: οι ρυθμιστικοί οργανισμοί και οι οργανώσεις δεν πρέπει να περιμένουν να επιτευχθεί η τέλεια ευθυγράμμιση, αλλά να αρχίσουν να παρακολουθούν την χρήση, τους κινδύνους και τις αποτυχίες της AI και να ενισχύσουν τους κανόνες και την ανθεκτικότητα. Οι βαθιές αντιθέσεις στον κόσμο πηγάζουν από αντίδραση και φαντασιώσεις, με την AI να προκαλεί την δημιουργία διαχωρισμένων «στρατών και αμφισβητιών», δημιουργώντας έναν αέναο φαύλο κύκλο. Ωστόσο, μια ενιαία άποψη μπορεί να διαμορφωθεί φανταζόμενος μια «εργοστασιακή διανοητική μονάδα»: ένα χώρο όπου οι άνθρωποι, με προστατευτικό εξοπλισμό, χειρίζονται μηχανές σχεδιασμένες για παραγωγικότητα και ασφάλεια, με αυστηρούς ποιοτικούς ελέγχους, σταδιακή ενσωμάτωση και σαφείς ευθύνες. Αν και η AI επιτρέπει την αυτοματοποίηση μερικής σκέψης, η ανθρώπινη εποπτεία και ευθύνη παραμένουν ύψιστης σημασίας. Καθώς η AI μεγαλώνει, δεν μειώνει την ανθρώπινη δράση, αλλά αυξάνει την ανάγκη για λογοδοσία, καθώς οι εμπλουτισμένοι άνθρωποι φέρουν μεγαλύτερη ευθύνη. Το να απομακρυνθεί κανείς από τον έλεγχο είναι επιλογή, υπογραμμίζοντας ότι τελικά οι άνθρωποι παραμένουν το κυρίαρχο στοιχείο.