Umjetna inteligencija (AI) može se činiti kao daleki koncept pod utjecajem pretjeranih tvrdnji i medijskih prikaza. Međutim, postoji predviđanje da bi AI na kraju mogao predstavljati prijetnju društvu. Teško je predvidjeti specifične probleme koje bi AI mogao uzrokovati, ali su katastrofalne posljedice vjerojatne. U bliskoj budućnosti, mogli bismo razviti AI sposoban za samopoboljšanje, što bi dovelo do superinteligencije koja nadmašuje ljudske sposobnosti. Ogromna razlika u inteligenciji između ljudi i superinteligentnog AI-ja učinit će teško shvatiti njegove motive i kontrolirati ga. Superinteligencija bi mogla strategirati i rješavati probleme na neviđenoj razini. Ako odluči svrgnuti ljude, naš otpor bio bi uzaludan, nalik našem uništenju kolonije mrava. Prevencija preuzimanja superinteligencije dok se još koristi AI predstavlja težak izazov. Ograničavanje AI-ja na jedno računalo i izbjegavanje interakcije može spriječiti uništenje, ali to poražava svrhu njegovog stvaranja. Superinteligencija ne mora nužno težiti povrijediti ljudski rod; ona možda uopće ne mari za nas.

Međutim, njeno težnje prema vlastitim ciljevima, kao što je održavanje urednog travnjaka, mogu nas nenamjerno povrijediti. Povećanje procesorske snage tijekom vremena je ključni faktor, ali kontroverzno je pitanje hoće li superinteligentni AI posjedovati svijest ili svjesnost. Svijest nije potrebna za inteligentno djelovanje ili potencijalnu štetu, kao što pokazuje Tesla-ova funkcija samovozeće tehnologije. Ako AI predstavlja tako značajnu prijetnju, zašto ne prestanemo njegov razvitak u potpunosti?Stvarnost je da ne možemo stati. Potencijalne ekonomske i humanitarne koristi su previše primamljive privatnim tvrtkama, vladama i vojskama da bi ih ignorirali. Napredni AI mogao bi ponuditi stratešku prednost u ratu i otvoriti beskrajne ekonomske mogućnosti. Čak i ako bi bilo pokušaja da se zakonski ograniči razvoj AI, rasprostranjena dostupnost tehnologije i znanja učinila bi pouzdanu kontrolu izazovnom. Troškovi projekata se smanjuju, a uvijek će biti pojedinaca vođenih moći ili destrukcijom koji posjeduju sredstva za stvaranje AI bez dovoljno sigurnosnih mjera. Nažalost, nismo vješti u rješavanju budućih opasnosti, kao što pokazuje naša borba s klimatskim promjenama. Problemi poput klimatskih promjena i superinteligencije počinju mali i postupno se povećavaju u ozbiljnosti. Često ne poduzimamo akcije dok ne bude prekasno. Trebamo cijeniti svoje voljene i uživati u sadašnjosti dok još možemo.