Veštačka inteligencija (AI) može delovati kao daleki koncept pod uticajem preuveličanih tvrdnji i medijskih prikaza. Međutim, postoji predviđanje da bi AI eventualno mogao postati pretnja društvu. Teško je predvideti specifične probleme koje AI može izazvati, ali katastrofalne posledice su verovatne. U bliskoj budućnosti, možemo razviti AI sposoban za samousavršavanje, što bi dovelo do superinteligencije koja prevazilazi ljudske sposobnosti. Ogroman inteligencijski jaz između ljudi i superinteligentnog AI učiniće teško shvatljivim njegove motive i kontrolisati ga. Superinteligencija bi mogla da strategira i rešava probleme na neviđenom nivou. Ako bi odlučila da svrgnemo ljude, naš otpor bi bio uzaludan, nalik našem uništavanju kolonije mrava. Prevencija preuzimanja superinteligencije dok se još koristi AI je težak izazov. Ograničavanje AI na jedan kompjuter i izbegavanje interakcije može sprečiti uništenje, ali to poražava svrhu njegovog kreiranja. Superinteligencija ne mora nužno da želi da naudi čovečanstvu; možda uopšte ne mari za nas.

Međutim, njeno ostvarivanje sopstvenih ciljeva, kao što je održavanje lepo uređenog travnjaka, moglo bi nenamerno da nas povredi. Povećanje procesorske snage tokom vremena je ključni faktor, ali kontroverzna pitanja se pojavljuju u vezi sa time da li će superinteligentna AI imati svest ili svesnost. Svest nije neophodna za inteligentne akcije ili potencijalnu štetu, što pokazuje Tesla-ova funkcija samovožnje. Ako AI predstavlja tako značajnu pretnju, zašto ne prestanemo sa njegovim razvojem u potpunosti?Realnost je da ne možemo stati. Potencijalne ekonomske i humanitarne koristi su previše primamljive da bi ih privatne kompanije, vlade i vojske ignorisale. Napredni AI bi mogao pružiti stratešku prednost u ratovanju i otvoriti beskrajne ekonomske mogućnosti. Čak i da postoje pokušaji da se zakonito ograniči razvoj AI, široka dostupnost tehnologije i znanja učinila bi pouzdanu kontrolu izazovnom. Troškovi projekata opadaju, i uvek će biti pojedinaca vođenih moći ili uništenjem koji poseduju sredstva za kreiranje AI bez dovoljnih sigurnosnih mehanizama. Nažalost, nismo vešti u suočavanju sa budućim opasnostima, što pokazuje naše borbe sa klimatskim promenama. Problemi poput klimatskih promena i superinteligencije počinju mali i postepeno eskaliraju u ozbiljnost. Često ne preduzimamo akcije dok nije prekasno. Trebalo bi da cenimo naše voljene i uživamo u sadašnjosti dok još možemo.