Gervigreind (AI) kann að virðast fjarlæg hugmynd sem er undir áhrifum ýktra fullyrðinga og fjölmiðla. Hins vegar er til spá um að AI muni á endanum verða ógn við samfélagið. Það er erfitt að spá fyrir um ákveðin vandamál sem AI getur valdið, en hörmulegar afleiðingar eru líklegar. Í ekki svo fjarlægri framtíð gætum við þróað AI sem getur bætt sig sjálft og farið fram úr mannlegum hæfileikum. Það stóra greindarbilið á milli manna og ofurgreindar AI gerir það erfitt að skilja hvatir þess og stjórna því. Ofurgreind gæti skipulagt og leyst vandamál á fordæmalausan hátt. Ef það myndi ákveða að velta mönnum úr sessi, myndi okkar mótstaða vera fánýt, líkt og eyðing mauraþúfu. Að koma í veg fyrir yfirtöku ofurgreindar á meðan enn er notast við AI er erfið áskorun. Að takmarka AI við eina tölvu og forðast samspil gæti komið í veg fyrir eyðingu, en þetta vinnur gegn tilgangi þess að skapa það. Ofurgreind þarf ekki endilega að skaða mannkynið; henni gæti verið alveg sama um okkur.

Hins vegar gæti leit hennar að eigin markmiðum, eins og að viðhalda vel snyrtum grasflötum, óvart skaðað okkur. Aukning vinnslugetu yfir tíma er mikilvægur þáttur, en umdeildir mál koma upp varðandi hvort ofurgreind AI muni hafa meðvitund eða vitund. Meðvitund er ekki nauðsynleg fyrir gáfulegar aðgerðir eða mögulegan skaða, eins og Tesla's sjálfsakstur sýnir. Ef AI er svona mikil ógn, af hverju hættum við ekki bara við þróun þess?Raunin er sú að við getum það ekki. Hagfræðilegur og mannúðarlegur ávinningur er of freistandi fyrir einkafyrirtæki, ríkisstjórnir og herja að hunsa. Háþróuð AI gæti boðið upp á stefnufestu yfirburði í hernaði og opnað endalausa hagfræðilega möguleika. Jafnvel þótt reynt væri að takmarka AI þróun löglega, væri skipuleg stjórn erfitt vegna víðtækrar tækni og þekkingar. Kostnaður við verkefnin er að minnka og það verða alltaf til einstaklingar knúnir af valdi eða eyðileggingu sem hafa möguleika á að búa til AI án fullnægjandi öryggisráðstafana. Því miður erum við ekki dugleg við að takast á við framtíðarógnir, eins og sýnt er í baráttu okkar við loftslagsbreytingar. Vandamál eins og loftslagsbreytingar og ofurgreind byrja lítil og vaxa smám saman í alvarleika. Okkur tekst oft ekki aðgerðir fyrr en það er of seint. Við ættum að meta ástvini okkar og njóta nútímans á meðan við getum enn.