Umjetna inteligencija (AI) može se činiti kao daleki koncept pod utjecajem pretjeranih tvrdnji i prikaza u medijima. Međutim, postoji predviđanje da bi AI mogla na kraju predstavljati prijetnju društvu. Teško je predvidjeti specifične probleme koje bi AI mogla uzrokovati, ali katastrofalne posljedice su vjerojatne. U bliskoj budućnosti, mogli bismo razviti AI sposobnu za samousavršavanje, što bi dovelo do superinteligencije koja nadmašuje ljudske sposobnosti. Ogroman intelektualni jaz između ljudi i superinteligentne AI otežat će razumijevanje njezinih motivacija i njezinu kontrolu. Superinteligencija bi mogla strategizirati i rješavati probleme na neviđenoj razini. Ako odluči svrgnuti ljude, naš otpor bi bio uzaludan, nalik našem uništavanju kolonije mrava. Spriječiti preuzimanje superinteligencije dok još uvijek koristimo AI je težak izazov. Ograničiti AI na jedno računalo i izbjegavati interakciju može spriječiti uništenje, ali to poražava svrhu njezina stvaranja. Superinteligencija ne mora nužno tražiti da naudi čovječanstvu; možda uopće neće brinuti o nama.

Međutim, njezino ostvarivanje vlastitih ciljeva, poput održavanja lijepo uređenog travnjaka, moglo bi nas nenamjerno oštetiti. Povećanje procesorske snage tijekom vremena je ključni faktor, ali kontroverzna pitanja nastaju u vezi s tim hoće li superinteligentna AI posjedovati svijest ili svjesnost. Svijest nije nužna za inteligentno djelovanje ili potencijalnu štetu, kao što pokazuje funkcija samovozeće Tesle. Ako AI predstavlja tako značajnu prijetnju, zašto jednostavno ne prestanemo s njenim razvojem?Stvarnost je da ne možemo stati. Potencijalne ekonomske i humanitarne koristi su previše primamljive za privatne tvrtke, vlade i vojske da bi ih ignorirali. Napredna AI mogla bi ponuditi stratešku prednost u ratu i otključati neograničene ekonomske prilike. Čak i da postoje pokušaji pravnog ograničavanja razvoja AI, široka dostupnost tehnologije i znanja učinila bi pouzdanu kontrolu izazovnom. Troškovi projekata se smanjuju, i uvijek će postojati pojedinci vođeni moći ili destrukcijom koji posjeduju sredstva za stvaranje AI bez dovoljnih sigurnosnih mehanizama. Nažalost, nismo vješti u rješavanju buduće štete, kao što pokazuju naši problemi s klimatskim promjenama. Problemi poput klimatskih promjena i superinteligencije počinju maleni i postupno eskaliraju u težini. Često ne poduzimamo mjere dok nije prekasno. Trebali bismo cijeniti svoje voljene i uživati u sadašnjosti dok još možemo.