U današnjoj kolumni obrađujem pitanje jednog čitatelja o motivima koji stoje iza potrage za umjetnom općom inteligencijom (AGI) i umjetnom superinteligencijom (ASI), posebno da li ovaj poriv proističe iz vjerovanja u manifestnu sudbinu. Hvala na prosvijetljujućem pitanju. **Razumijevanje Manifestne Sudbine** Manifestna sudbina se historijski odnosi na uvjerenje iz 19. stoljeća da su američki doseljenici bili predodređeni da se prošire po kontinentu. Dok neki to vide kao moralnu obavezu, drugi to kritiziraju kao opravdanje za imperijalizam. Termin sugerira očiglednu, neizbježnu sudbinu koju treba slijediti bez pitanja. **Potraga za AGI i ASI** Trenutno, opsežno istraživanje u AI ima za cilj postizanje AGI, koja odgovara ljudskoj inteligenciji, i ASI, koja je superiornija ljudskom intelektu. Mišljenja o implikacijama dostizanja AGI ili ASI su oštro podijeljena. "Doom" kamp upozorava da bi ovi oblici AI mogli predstavljati egzistencijalne prijetnje za čovječanstvo, dok "akceleracionisti" vjeruju da će takva unapređenja riješiti velika globalna pitanja i poboljšati život. **Istraživanje Manifestne Sudbine u Razvoju AI** Četiri ključna pitanja istražuju da li je poriv za razvojem AGI i ASI pod utjecajem manifestne sudbine: 1. Da li je potraga za AGI motivisana osjećajem manifestne sudbine? 2. Da li je potraga za ASI informisana ovim uvjerenjem? 3. Da li se cjelokupni napredak AI gleda kao manifestacija ove sudbine? 4. Da li unapređujemo AI jednostavno radi njega samog, bez obzira na AGI ili ASI? Postoji uvjerljiv argument da naša žudnja za napredovanjem AI govori o širem ljudskom sudbinu da stvorimo i razvijamo inteligenciju, što se mnogima čini kao samorazumljivo. Zagovornici citiraju potencijalne breakthrough-e, dok neki to vide kao dio kosmičke svrhe. **Historijske Paralele i Rizici** Analogija između naših tehnoloških nastojanja danas i historijske zapadne ekspanzije sugerira da bi težnja prema AGI/ASI mogla biti viđena kao neizbježna i časna misija, uprkos inherentnim rizicima.

Ključne paralele uključuju: 1. Neizbježnost potrage za AGI/ASI. 2. Zajedničko ideološko opravdanje da je ovo unapređenje dužnost čovječanstva. 3. Tehnološke inovacije koje pokreću napredak. 4. Značajan utjecaj na društvo i ekosisteme. 5. Ključni akteri—uključujući vlade i korporacije—koji oblikuju pravac AI. 6. Privlačnost istraživanja nepoznatog u inteligenciji. **Razlikovanje AGI od ASI** AGI odgovara ljudskoj inteligenciji, umanjujući neke egzistencijalne rizike, dok ASI, budući da je superiorna, stvara značajnije zabrinutosti. Potraga za AGI mogla bi nas odvesti do ASI, što bi moglo povećati egzistencijalne prijetnje, komplicirajući pojam manifestne sudbine. **Refleksija o Relevantnosti Manifestne Sudbine** Na kraju, primjenjivost manifestne sudbine na naše ambicije u vezi s AI je neizvjesna. Kritičari upozoravaju na ideju da ona pruža neometanu stazu ka napretku AI, potencijalno ignorirajući ključna etička razmatranja. Citati Williama Jenningsa Bryana sugeriraju da našu sudbinu oblikuju izbori, a ne da je ona unaprijed određena. Kako AI nastavlja brzo evoluirati, moramo aktivno oblikovati njenu budućnost ili se nadati povoljnom ishodu. Koji put sudbine smatrate da se primjenjuje?