Kunstig intelligens (AI) kan virke som et fjernt koncept påvirket af overdrevne påstande og medieafbildninger. Der er dog en forudsigelse om, at AI til sidst kan udgøre en trussel mod samfundet. Det er svært at forudsige de specifikke problemer, som AI kan forårsage, men katastrofale konsekvenser er sandsynlige. I den nærmeste fremtid kan vi udvikle AI, der er i stand til selvforbedring, hvilket fører til superintelligens, der overgår menneskelige evner. Den store intelligenskløft mellem mennesker og superintelligent AI vil gøre det svært at forstå dens motiver og kontrollere den. Superintelligens kunne strategisere og problemløsning på et hidtil uset niveau. Hvis den valgte at vælte mennesker, ville vores modstand være nyttesløs og ligne vores ødelæggelse af en myrekoloni. Det er en vanskelig udfordring at forhindre en overtagelse af superintelligens, mens vi stadig bruger AI. Begrænsning af AI til en enkelt computer og undgå interaktion kan forhindre ødelæggelse, men dette ødelægger formålet med at skabe den. Superintelligens søger ikke nødvendigvis at skade menneskeheden; det kan være ligeglad med os.

Dog kan dens forfølgelse af egne mål, såsom at vedligeholde en velplejet græsplæne, utilsigtet skade os. Stigningen i datakraft over tid er en afgørende faktor, men kontroversielle spørgsmål opstår med hensyn til, om superintelligent AI vil besidde bevidsthed eller opmærksomhed. Bevidsthed er ikke nødvendig for intelligent handling eller potentiel skade, som demonstreret ved Teslas selvkørende funktion. Hvis AI udgør en så betydelig trussel, hvorfor så ikke stoppe udviklingen helt?Virkeligheden er, at vi ikke kan stoppe. De potentielle økonomiske og humanitære fordele er for fristende for private virksomheder, regeringer og militæret til at ignorere. Avanceret AI kunne tilbyde en strategisk fordel i krigsførelse og åbne endeløse økonomiske muligheder. Selv hvis der var forsøg på juridisk at begrænse AI-udvikling, ville den udbredte tilgængelighed af teknologi og viden gøre pålidelig kontrol udfordrende. Projektomkostningerne falder, og der vil altid være enkeltpersoner drevet af magt eller ødelæggelse, der besidder midlerne til at skabe AI uden tilstrækkelige sikkerhedsforanstaltninger. Desværre er vi ikke dygtige til at tackle fremtidige farer, som demonstreret ved vores kampe med klimaforandringer. Problemer som klimaforandringer og superintelligens starter små og eskalerer gradvist i alvor. Vi tager ofte ikke handling, før det er for sent. Vi bør værne om vores kære og nyde nuet, mens vi stadig kan.