Ang artipisyal na katalinuhan (AI) ay maaaring tila isang malayong konsepto na naapektuhan ng mga pinagrabe na pahayag at mga paglalarawan sa media. Gayunpaman, may isang hula na maaaring magdulot ng banta sa lipunan ang AI. Mahirap hulaan ang mga partikular na problema na maaaring idulot ng AI, ngunit malamang na magdulot ito ng mga kapahamakang resulta. Sa malapit na hinaharap, maaari tayong makabuo ng AI na may kakayahang magpagaling ng sarili, na magdudulot ng superintelligence na lagpas sa kakayahan ng tao. Ang malawak na agwat ng katalinuhan sa pagitan ng mga tao at superintelligent AI ay magpapahirap upang maunawaan ang mga layunin at kontrolin ito. Ang superintelligence ay maaaring magdisenyo ng mga estratehiya at lutasin ang mga problema sa hindi pa naririnig na antas. Kung pipiliin nitong patalsikin ang mga tao, magiging walang saysay ang ating pagtutol, na waring pagsira natin sa isang kolonya ng langgam. Ang pagpigil sa isang takeover ng superintelligence habang ginagamot pa rin ang AI ay isang mahirap na hamon. Ang paghihigpit sa AI sa isang solong kompyuter at pag-iwas sa pakikipag-ugnayan ay maaaring maiwasan ang pagkasira, ngunit sinisira nito ang layunin ng paglikha nito. Ang superintelligence ay hindi kinakailangang maghangad ng masama sa sangkatauhan; maaaring wala itong pakialam sa atin.

Gayunpaman, ang paghabol nito sa sariling mga layunin, tulad ng pagpapanatili ng malinis na damuhan, ay maaaring hindi sinasadyang makasama sa atin. Ang pagtaas ng kapangyarihan sa pagproseso sa paglipas ng panahon ay isang mahalagang salik, ngunit nauuso ang mga isyung kontrobersyal kung ang superintelligent AI ay magkakaroon ng kamalayan o kaalaman. Ang kamalayan ay hindi kinakailangan para sa matalinong aksyon o potensyal na pinsala, tulad ng ipinakita ng self-driving function ng Tesla. Kung ang AI ay nagdudulot ng gayong malaking banta, bakit hindi itigil ang pag-unlad nito nang tuluyan?Ang katotohanan ay hindi natin kayang huminto. Ang mga potensyal na benepisyong ekonomiko at makatao ay masyadong kaakit-akit para balewalain ng mga pribadong kumpanya, mga gobyerno, at mga militar. Ang advanced na AI ay maaaring mag-alok ng estratehikong bentahe sa digmaan at magbukas ng walang katapusang pagkakataong ekonomiko. Kahit na may mga pagsubok na legal na higpitan ang pag-unlad ng AI, ang malawakang pagkakaroon ng teknolohiya at kaalaman ay magpapahirap sa maaasahang kontrol. Ang mga gastos ng proyekto ay bumababa, at palaging may mga indibidwal na pinapatakbo ng kapangyarihan o pagkawasak na may kakayahan na lumikha ng AI na walang sapat na pag-iingat. Sa kasamaang palad, hindi tayo magaling sa pagtugon sa mga panganib sa hinaharap, tulad ng ipinakita ng ating mga pakikibaka sa pagbabago ng klima. Ang mga problema tulad ng pagbabago ng klima at superintelligence ay nagsisimula na maliit at unti-unting tumataas sa grabidad. Madalas tayong nabibigo na kumilos hanggang sa huli na ang lahat. Dapat nating pahalagahan ang ating mga mahal sa buhay at tangkilikin ang kasalukuyan habang kaya pa natin.