V dnešním sloupci se zabývám dotazem čtenáře ohledně motivací, které stojí za snahou o dosažení umělé obecné inteligence (AGI) a umělé superinteligence (ASI), přičemž se zejména ptám, zda tato touha vychází z víry v manifestní osud. Děkuji za podnětnou otázku. **Porozumění manifestnímu osudu** Historicky se manifestní osud vztahuje na víru 19. století, že američtí osídlenci byli určeni k expanzi napříč kontinentem. Zatímco někteří to vnímají jako morální povinnost, jiní to kritizují jako ospravedlnění imperialismu. Tento termín naznačuje zřejmý, nevyhnutelný osud, který musí být dodržován bez otázek. **Snahy o AGI a ASI** V současnosti probíhá rozsáhlý výzkum v oblasti AI, jehož cílem je dosáhnout AGI, která se vyrovná lidské inteligenci, a ASI, která je nadřazená lidskému intelektu. Názory na důsledky dosažení AGI nebo ASI jsou výrazně rozdělené. Skupina "katastrofistů" varuje, že tyto formy AI mohou představovat existenční hrozby pro lidstvo, zatímco "akceleracionisté" věří, že takové pokroky vyřeší hlavní globální problémy a zlepší život. **Zkoumání manifestního osudu ve vývoji AI** Čtyři klíčové otázky zkoumají, zda je snaha o rozvoj AGI a ASI ovlivněna manifestním osudem: 1. Je hledání AGI motivováno pocitem manifestního osudu? 2. Je snaha o ASI informována touto vírou? 3. Je celkový pokrok v AI vnímán jako projev tohoto osudu? 4. Posouváme AI prostě pro její vlastní účel, bez ohledu na AGI nebo ASI? Existuje přesvědčivý argument, že naše touha pokročit v AI svědčí o širším lidském osudu vytvářet a vyvíjet inteligenci, což se mnohým jeví jako samozřejmé. Příznivci uvádějí potenciální průlomy, zatímco někteří to vidí jako součást kosmického účelu. **Historické paralely a rizika** Analogie mezi našimi technologickými snahami dnes a historickou expanzí na západ naznačuje, že úsilí o AGI/ASI může být vnímáno jako nevyhnutelná a ctihodná mise, navzdory inherentním rizikům.

Klíčové paralely zahrnují: 1. Nevyhnutelnost usilování o AGI/ASI. 2. Společné ideologické ospravedlnění, že tento pokrok je povinností lidstva. 3. Technologické inovace pohánějící pokrok. 4. Významný dopad na společnost a ekosystémy. 5. Klíčoví hráči—včetně vlád a korporací—formující směr AI. 6. Přitažlivost objevování neznámých oblastí inteligence. **Rozlišení AGI od ASI** AGI se vyrovnává lidské inteligenci, čímž zmírňuje některá existenční rizika, zatímco ASI, jako nadřazená, vyvolává větší obavy. Snahy o AGI by nás mohly zavést k ASI, což by mohlo zvýšit existenční hrozby a zkomplikovat pojetí manifestního osudu. **Reflexe relevance manifestního osudu** Nakonec je otázka, jak dalece je manifestní osud aplikovatelný na naše ambice v oblasti AI, nejistá. Kritici varují před představou, že poskytuje neomezenou cestu k pokroku v AI, což by mohlo přehlížet zásadní etické úvahy. Citát Williama Jenningsa Bryana naznačuje, že náš osud formují naše volby, nikoli předurčení. Jak se AI nadále rychle vyvíjí, musíme aktivně formovat její budoucnost, nebo doufat v příznivý výsledek. Jakou cestu osudu věříte, že je třeba následovat?