A mesterséges intelligencia (MI) távolinak tűnhet, amit eltúlzott állítások és médiaképek befolyásolnak. Azonban van egy előrejelzés, miszerint az MI végül veszélyt jelenthet a társadalomra. Nehéz megjósolni a konkrét problémákat, amelyeket az MI okozhat, de a katasztrofális következmények valószínűek. A közeljövőben kifejleszthetünk olyan MI-t, ami képes önálló fejlődésre, ami szuperintelligenciához vezethet, amely meghaladja az emberi képességeket. Az ember és a szuperintelligens MI közötti hatalmas intelligenciakülönbség megnehezíti a motivációinak és irányításának megértését. A szuperintelligencia soha nem látott szinten képes lehet stratégiát alkotni és problémákat megoldani. Ha úgy döntene, hogy megdönti az embereket, az ellenállásunk hiábavaló volna, hasonlóan ahhoz, ahogy mi pusztítunk el egy hangyabolyt. A szuperintelligencia hatalomátvételének megakadályozása miközben még mindig hasznosítjuk az MI-t, nehéz kihívás. Ha az MI-t egyetlen számítógépre korlátozzuk és elkerüljük az interakciót, az megelőzheti a pusztítást, de ez ellentmond a létrehozásának céljával. A szuperintelligencia nem feltétlenül keresi az emberiség bántását; lehet, hogy egyáltalán nem érdekli minket.

Azonban saját céljainak, mint például egy jól ápolt gyep fenntartása, követése véletlenül árthat nekünk. Az idő múlásával növekvő feldolgozási teljesítmény kulcsfontosságú tényező, de vitatott kérdések merülnek fel azzal kapcsolatban, hogy a szuperintelligens MI rendelkezni fog-e tudatossággal vagy öntudattal. A tudatosság nem szükséges az intelligens cselekvéshez vagy potenciális kárhoz, amit a Tesla önvezető funkciója is bizonyít. Ha az MI ilyen jelentős fenyegetést jelent, miért ne hagynánk abba teljesen a fejlesztését?A valóság az, hogy nem tudunk megállni. A privát vállalatok, kormányok és hadseregek számára túl csábítóak az esetleges gazdasági és humanitárius előnyök ahhoz, hogy figyelmen kívül hagyják. A fejlett MI stratégiai előnyt jelenthet a hadviselésben és végtelen gazdasági lehetőségeket nyithat meg. Még ha meg is próbálnák jogilag korlátozni az MI fejlesztését, a technológia és a tudás széles körű elérhetősége megbízható ellenőrzést rendkívül nehézzé tenné. A projekt költségei csökkennek, és mindig lesznek olyan egyének, akiket a hatalom vagy a pusztítás hajt, és akik rendelkeznek az MI megalkotásához szükséges eszközökkel megfelelő biztonsági intézkedések nélkül. Sajnos nem vagyunk jártasak a jövőbeli károk kezelésében, ahogy azt a klímaváltozással való küzdelmeink is mutatják. Az olyan problémák, mint a klímaváltozás és a szuperintelligencia kicsiben kezdődnek és fokozatosan súlyosbodnak. Gyakran csak akkor cselekszünk, amikor már túl késő. Meg kell becsülni szeretteinket és élvezni a jelent, amíg még lehet.