Inteligjenca artificiale (AI) mund të duket si një koncept i largët i ndikuar nga pretendime të tepruara dhe përshkrime mediatike. Megjithatë, ka një parashikim që AI mund të paraqesë eventualisht një kërcënim për shoqërinë. Është e vështirë të parashikohet problemet specifike që mund të shkaktojë AI, por janë të mundshme pasoja katastrofike. Në të ardhmen e afërt, mund të zhvillojmë AI të aftë për vetë-përmirësim, duke çuar drejt super inteligjencës që tejkalon kapacitetet njerëzore. Pabarazia e madhe e inteligjencës midis njerëzve dhe AI-së super inteligjente do ta bëjë të vështirë të kuptohet motivimet e saj dhe ta kontrollosh atë. Superinteligjenca mund të strategjizojë dhe të zgjidh probleme në një nivel të paparë. Nëse ajo vendos të përmbysë njerëzit, rezistenca jonë do të ishte e kotë, duke ngjasuar me shkatërrimin tonë të një kolonie milingonash. Parandalimi i një marrjeje nga superinteligjenca ndërkohë që ende përdorni AI është një sfidë e vështirë. Kufizimi i AI-së në një kompjuter të vetëm dhe shmangia e ndërveprimit mund të parandalojë shkatërrimin, por kjo humbet qëllimin e krijimit të saj. Superinteligjenca nuk kërkon domosdoshmërisht të dëmtojë njerëzimin; mund të mos i interesojë fare për ne.

Megjithatë, ndjekja e qëllimeve të saj, si mbajtja e një lulishte të pastër, mund të na dëmtojë pa dashje. Rritja e fuqisë së përpunimit me kalimin e kohës është një faktor vendimtar, por çështje kontraverse lindin lidhur me atë nëse AI super inteligjent do të zotërojë ndërgjegje apo ndërgjegjësim. Ndërgjegjësia nuk është e nevojshme për veprim inteligjent ose dëm të mundshëm, siç demonstrohet nga funksioni vetëdrejtues i Teslës. Nëse AI paraqet një kërcënim kaq të rëndësishëm, pse të mos ndalohet zhvillimi i tij krejtësisht?Realiteti është se nuk mund ta ndalojmë. Përfitimet ekonomike dhe humanitare të mundshme janë tepër tundues për kompanitë private, qeveritë dhe ushtritë që t'i injorojnë. AI e avancuar mund të ofrojë një avantazh strategjik në luftë dhe të hapë mundësi ekonomike të pafundme. Edhe nëse do të kishte përpjekje për të ndaluar ligjërisht zhvillimin e AI, disponibiliteti i gjerë i teknologjisë dhe njohurive do ta bënte të vështirë kontrollin e besueshëm. Kostot e projektit janë në rënie, dhe gjithmonë do të ketë individë të shtyrë nga fuqia ose shkatërrimi që disponojnë mënyrat për të krijuar AI pa masa të mjaftueshme parandaluese. Fatkeqësisht, nuk jemi të aftë për t'u marrë me dëmet e ardhshme, siç demonstrojnë përpjekjet tona për ndryshimet klimatike. Problemet si ndryshimet klimatike dhe superinteligjenca fillojnë të vogla dhe gradualisht intensifikohen në ashpërsi. Shpesh nuk marrim masa deri sa të jetë tepër vonë. Duhet të çmojmë të dashurit tanë dhe të shijojmë të tashmen ndërsa akoma mundemi.