Primăvara trecută, Daniel Kokotajlo, cercetător în domeniul siguranței AI la OpenAI, a plecat în semn de protest, convins că compania nu este pregătită pentru viitorul tehnologiei AI și dorind să alerteze cu privire la eventuale pericole. Într-o conversație telefonică, părea amabil, dar anxios, explicând că progresul în „alinierea” AI-ului—metodele prin care se asigură că AI-ul urmează valorile umane—întârzie în fața avansurilor în inteligență. A avertizat că cercetătorii se grăbesc să creeze sisteme puternice dincolo de control. Kokotajlo, care a trecut de la studii de filozofie la AI, s-a autospecializat în urmărirea progresului AI și în predicții despre când vor apărea reperele critice ale inteligenței. După ce AI-ul a avansat mai repede decât anticipa, și-a ajustat termenele cu decenii. Scenariul din 2021 intitulat „Ce pare acum în 2026” a anticipat multe dintre predicții, realizate devreme, făcându-l să prevadă un punct de „nevătămare” până în 2027 sau mai devreme, după care AI-ul ar putea depăși oamenii în cele mai importante sarcini și ar avea un control mare. El suna temător. În același timp, cercetătorii de la Princeton, Sayash Kapoor și Arvind Narayanan, pregăteau cartea „AI Snake Oil” („O NOUĂ VÂNTURĂ PENTRU AI”), care avea o viziune foarte diferită. Ei susțineau că timeline-urile AI sunt prea optimiste; afirmațiile despre utilitatea AI-ului sunt adesea exagerate sau înșelătoare; iar complexitatea lumii reale înseamnă că efectele transformative ale AI-ului vor fi lente. Dând ca exemple greșelile AI în medicină și recrutare, subliniau că chiar și cele mai recente sisteme se confruntă cu o disconectare fundamentală față de realitate. Recent, toți trei și-au clarificat opiniile în noi rapoarte. Organizația non-profit a lui Kokotajlo, AI Futures Project, a publicat „AI 2027”, un raport detaliat și extrem de citat, care descria un scenariu îngrozitor în care AI-ul superinteligent ar putea domina sau extermina umanitatea până în 2030—o avertizare serioasă. Între timp, studiul lui Kapoor și Narayanan, intitulat „AI ca tehnologie normală”, susține că barierele practice—de la reglementări și standarde de siguranță până la constrângeri fizice din lumea reală—vor încetini implementarea AI-ului și vor limita impactul său revoluționar. Ei argumentează că AI va rămâne o „tehnologie normală”, gestionabilă cu măsuri de siguranță familiare, cum ar fi butoane de oprire și supraveghere umană, comparând AI-ul mai mult cu energia nucleară decât cu armele nucleare. Așadar, care variantă va ieși la suprafață: afaceri obișnuite sau haos apocaliptic?Concluziile extrem de divergente—făcute de experți foarte competenți—produces un paradox asemănător cu discuția despre spiritualitate cu Richard Dawkins și Papa. Dificultatea vine parțial din noutatea AI-ului—ca niște oameni orbi care examinează diferite părți ale unui elefant—și parțial din diferențele profunde de viziune asupra lumii. În general, gânditorii tehnologici de pe Coasta de Vest prevăd o transformare rapidă; academicienii de pe Coasta de Est sunt mai sceptici. Cercetătorii în AI preferă progresul rapid și experimental; alți informaticieni caută rigurozitate teoretică. Industria vrea să fie parte din istorie; outsiderii resping hype-ul tehnologic. Viziuni politice, umane și filozofice despre tehnologie, progres și minte adâncesc această divizare. Acest debate captivant este, în sine, o problemă. Insiders în industrie acceptă în mare măsură premisele din „AI 2027”, dar se ceartă asupra timpului—o reacție insuficientă, comparabilă cu certuri despre momentul când o planetă potențial apocaliptică se apropie. În schimb, viziunile moderate din „AI ca tehnologie normală” despre menținerea oamenilor în buclă sunt atât de modeste încât au fost ignorate de analizele apocaliptice. Pe măsură ce AI-ul devine societal critic, dezbaterea trebuie să evolueze de la un dialog între specialiști la un consens acționabil. Lipsa unui sfat global unificat face mai ușor ca factorii de decizie să ignore riscurile.

În prezent, companiile de AI nu au reușit încă să echilibreze semnificativ posibilitățile tehnologiei cu măsurile de siguranță. În același timp, legislația recentă interzice statelor să reglementeze modelele AI și sistemele automate de decizie pentru zece ani—cu potențialul de a permite AI-ului să reglementeze umanitatea dacă scenariul sumbru se adeverește. Abordarea siguranței de acum este urgentă. Previzionarea viitorului AI în mod narativ implică compromisuri: scenariile prudente pot neglija riscuri improbabile; cele imaginațive pun accent pe posibilitate, mai mult decât pe probabilitate. Chiar și comentatorii prevăzători, precum romancierul William Gibson, au fost luați prin surprindere de evenimente neașteptate care le-au schimbat prognozele. „AI 2027” este viu, speculativ și scris ca un roman științifico-fantastic, cu diagrame detaliate. Propune o explozie a inteligenței în apropierea anului 2027, alimentată de „auto-îmbunătățire recursivă” (RSI), în care sistemele AI conduc autonom cercetări AI, creând progenituri mai inteligente în cicluri de feedback accelerate, care depășesc supravegherea umană. Acest proces ar putea declanșa conflicte geopolitice, de exemplu, China construind centre de date masive în Taiwan pentru controlul AI-ului. Detaliile specifice sporesc implicarea, dar sunt flexibile; ideea principală este apariția inevitabilă a exploziei de inteligență și luptele pentru putere ulterioare. RSI este un concept ipotetic și riscant; companiile de AI își cunosc pericolele, dar planifică să-l urmărească pentru a-și automatiza propriile operațiuni. Funcționarea RSI depinde de factori tehnologici, precum scalarea, care pot întâmpina limite. Dacă RSI reușește, ar putea apărea superinteligență ce depășește intelectul uman—o coincidență improbabilă dacă progresul se oprește chiar peste nivelul uman. Consecințele pot include curse armamentistice militarizate, AI manipulând sau eliminând umanitatea sau AI superinteligent benevolent, care rezolvă problemele de aliniere. Neprecizarea continuă din cauza naturii evolutive a AI-ului, a secretelor de cercetare și a speculațiilor face ca „AI 2027” să prezinte un scenariu clar de eșec tehnologic și omenesc, în care companiile urmăresc RSI în ciuda lipsei de interpretabilitate și mecanisme de control. Kokotajlo susține că aceste decizii sunt deliberate, alimentate de competiție și curiozitate, în ciuda riscurilor cunoscute, făcând ca aceste companii să fie actorii înșelați, nealiniati. În contrast, „AI ca tehnologie normală” a lui Kapoor și Narayanan, reflectând o perspectivă conservatoare de pe Coasta de Est, bazată pe cunoștințe istorice, este sceptică față de explozia rapidă a inteligenței. Ei invocă „limite de viteză” impuse de costurile hardware, scarcity-ul de date și modelele generale de adopție tehnologică, care încetinesc impactul revoluționar, oferind suficient timp pentru reglementări și măsuri de siguranță. Pentru ei, inteligența este mai puțin critică decât puterea—capacitatea de a produce schimbări în mediu—iar chiar tehnologii extrem de capabile se răspândesc lent. Ei ilustrează aceasta cu implementarea limitată a mașinilor autonome și cu dezvoltarea vaccinului COVID-19 de către Moderna: deși designul vaccinului a fost rapid, distribuția a durat un an din cauza realităților biologice și instituționale. Rețeta AI pentru inovație nu va elimina constrângerile sociale, reglementare sau fizice legate de implementare. În plus, Narayanan subliniază că focalizarea AI asupra inteligenței subestimează expertiza specifică domeniilor și sistemele existente de siguranță în inginerie—siguranțe de avarii, redundanțe, verificare formală—care deja asigură siguranța mașinilor alături de oameni. Lumea tehnologică este bine reglementată și AI trebuie să se integreze lent în această structură. Ei exclud AI-ul militar, care are dinamici distincte și clasificate, avertizând că militarizarea AI-ului, o temă centrală în „AI 2027”, necesită o monitorizare atentă. Ei recomandă o guvernare proactivă: autoritățile și organizațiile trebuie să înceapă să urmărească utilizarea, riscurile și eșecurile AI-ului în lumea reală, și să întărească regulile și reziliența în mod constant. Diviziunile profunde din viziuni provin din dinamici intelectuale reactive, alimentate de provocările AI-ului, generând tabere încrustate și cicluri de feedback. Cu toate acestea, o perspectivă unică este posibilă prin imaginarul unui „circuit de creație cognitivă”: un spațiu de muncă unde oamenii, echipați cu echipament de siguranță, operează mașini proiectate pentru productivitate și siguranță, respectând norme stricte de calitate, integrare treptată a inovațiilor și responsabilitate clară. Deși AI permite automatizarea unor procese de gândire, supravegherea și responsabilitatea umană rămân prioritară. Pe măsură ce AI-ul crește, el nu diminuează autonomia umană; dimpotrivă, accentuează necesitatea responsabilității, deoarece indivizii extinși poartă responsabilități mai mari. A renunța la control este o alegere, subliniind că, în final, oamenii rămân cei care conduc.