La intel·ligència artificial (IA) pot semblar un concepte distant influenciat per afirmacions exagerades i representacions mediàtiques. Tanmateix, hi ha una predicció segons la qual la IA podria eventualment representar una amenaça per a la societat. És difícil predir els problemes específics que pot causar la IA, però és probable que tinguin conseqüències catastròfiques. En un futur proper, podríem desenvolupar IA capaç d'automillorar-se, donant lloc a una superintel·ligència que superi les capacitats humanes. La gran bretxa d'intel·ligència entre els humans i la superintel·ligència farà que sigui difícil comprendre les seves motivacions i controlar-la. La superintel·ligència podria idear estratègies i resoldre problemes a un nivell sense precedents. Si decidís derrocar als humans, la nostra resistència seria inútil, semblant a la nostra destrucció d'una colònia de formigues. Prevenir una presa de possessió per part de superintel·ligència tot utilitzant la IA és un desafiament difícil. Restringir la IA a un únic ordinador i evitar la interacció pot evitar la destrucció, però això derrota el propòsit de crear-la. La superintel·ligència no necessàriament busca fer mal a la humanitat; pot ser que no li importi gens.

Tanmateix, la seva recerca dels seus propis objectius, com mantenir un jardí ben cuidat, podria danyar-nos de manera no intencional. L'augment de la capacitat de processament amb el temps és un factor crucial, però sorgeixen qüestions controvertides sobre si la superintel·ligència posseirà consciència o conscienciació. La consciència no és necessària per a l'acció intel·ligent o el dany potencial, com ho demostra la funció de conducció automàtica de Tesla. Si la IA representa una amenaça tan significativa, per què no cessar el seu desenvolupament del tot?La realitat és que no podem parar. Els potencials beneficis econòmics i humanitaris són massa temptadors perquè empreses privades, governs i exèrcits els ignorin. Una IA avançada podria oferir un avantatge estratègic en la guerra i desbloquejar oportunitats econòmiques infinites. Encara que hi haguessin intents de restringir legalment el desenvolupament de la IA, la disponibilitat generalitzada de tecnologia i coneixement faria que el control fiable fos un desafiament. Els costos del projecte estan disminuint, i sempre hi haurà individus impulsats pel poder o la destrucció que tenen els mitjans per crear IA sense suficients mesures de seguretat. Malauradament, no som aptes per a abordar danys futurs, com demostren les nostres lluites amb el canvi climàtic. Problemes com el canvi climàtic i la superintel·ligència comencen petits i gradualment s'intensifiquen en gravetat. Sovint no actuem fins que és massa tard. Hem de valorar els nostres éssers estimats i gaudir del present mentre encara podem.