Вештачката интелигенција (АИ) може да изгледа како далечен концепт под влијание на претерани тврдења и медиумски прикажувања. Сепак, постои предвидување дека АИ евентуално може да претставува закана за општеството. Тешко е да се предвидиат конкретните проблеми што АИ може да ги предизвика, но катастрофалните последици се веројатни. Во блиска иднина, можеби ќе развиеме АИ способна за самонаправа, што ќе доведе до суперинтелигенција која ги надминува човековите способности. Огромниот интелигентен јаз помеѓу луѓето и суперинтелигентната АИ ќе го отежне разбирањето на нејзините мотивации и контролирањето на неа. Суперинтелигенцијата може да стратегира и решава проблеми на неслушливо ниво. Доколку одлучи да ги собори луѓето, нашата отпорност би била бесполезна, слично на уништување на колонија од мравки. Спречување на преземање на суперинтелигенција додека ја користиме АИ е тежок предизвик. Ограничувањето на АИ на еден компјутер и избегнувањето интеракција може да спречат уништување, но ова го поништува основното создавање. Суперинтелигенцијата не мора нужно да има цел да и наштети на човештвото; можеби не се грижи за нас на сите.

Сепак, нејзиното стремење кон сопствени цели, како одржување на добро уреден тревник, може ненамерно да ни наштети. Зголемувањето на процесорската моќ со текот на времето е клучен фактор, но контроверзии се појавуваат во врска дали суперинтелигентната АИ ќе поседува свест или сознание. Свеста не е неопходна за интелигентно дејствување или потенцијална штета, како што се покажува со самовозечкиот систем на Tesla. Ако АИ претставува таква значајна закана, зошто да не престанеме со нејзиниот развој?Реалноста е дека не можеме да престанеме. Потенцијалните економски и хуманитарни бенефити се премногу привлечни за приватните компании, владите и армиите да ги игнорираат. Напредната АИ може да понуди стратешка предност во војната и да открие бескрајни економски можности. Дури и да има обиди за легална рестрикција на развојот на АИ, широката достапност на технологијата и знаењето би го направиле тешко контролирањето. Проектните трошоци се намалуваат, и секогаш ќе има поединци мотивирани од моќ или уништување кои ќе имаат средства да создадат АИ без доволно заштити. За жал, ние не сме вешти во справување со идните штети, како што се покажува со нашите борби со климатските промени. Проблемите како климатските промени и суперинтелигенцијата започнуваат мали и постепено се зголемуваат во сериозност. Често не преземаме акции сè додека не е премногу доцна. Треба да ги цениме нашите сакани и да уживаме во сегашноста додека сè уште можеме.