Kecerdasan buatan (AI) mungkin kelihatan seperti konsep yang jauh dipengaruhi oleh tuntutan yang berlebihan dan gambaran media. Walau bagaimanapun, terdapat ramalan bahawa AI akhirnya boleh menimbulkan ancaman kepada masyarakat. Sukar untuk meramalkan masalah khusus yang mungkin ditimbulkan oleh AI, tetapi akibat yang dahsyat adalah mungkin. Dalam masa terdekat, kita mungkin membangunkan AI yang mampu penambahbaikan diri, yang membawa kepada kecerdasan super yang melampaui keupayaan manusia. Jurang kecerdasan yang besar antara manusia dan AI superintelligent akan menyukarkan kita untuk memahami motivasinya dan mengawalnya. Kecerdasan superintelligent boleh merancang strategi dan menyelesaikan masalah dengan tahap yang belum pernah terjadi sebelumnya. Jika ia memilih untuk menggulingkan manusia, rintangan kita tidak akan berguna, menyerupai pemusnahan koloni semut oleh kita. Mencegah pengambilalihan kecerdasan super sementara masih menggunakan AI merupakan cabaran yang sukar. Mengehadkan AI kepada satu komputer dan mengelakkan interaksi mungkin menghalang kehancuran, tetapi ini mengalahkan tujuan penciptaannya. Kecerdasan superintelligent tidak semestinya bertujuan untuk mencederakan manusia; ia mungkin tidak peduli terhadap kita sama sekali.

Walau bagaimanapun, tujuan pengejarannya sendiri, seperti menjaga rumput yang rapi, boleh secara tidak sengaja mencederakan kita. Peningkatan kuasa pemprosesan dari masa ke masa adalah faktor penting, tetapi isu kontroversial timbul mengenai sama ada AI superintelligent akan mempunyai kesedaran atau kesedaran. Kesedaran tidak diperlukan untuk tindakan pintar atau potensi kecederaan, seperti yang ditunjukkan oleh fungsi memandu sendiri Tesla. Jika AI menimbulkan ancaman yang begitu ketara, mengapa tidak menghentikan pembangunannya sama sekali?Realitinya adalah, kita tidak boleh berhenti. Manfaat ekonomi dan kemanusiaan yang berpotensi terlalu menggoda bagi syarikat swasta, kerajaan, dan tentera untuk diabaikan. AI yang maju boleh menawarkan kelebihan strategik dalam peperangan dan membuka peluang ekonomi yang tidak terhingga. Walaupun terdapat usaha untuk menghalang pembangunan AI secara sah, ketersediaan teknologi dan pengetahuan yang meluas akan menyukarkan kawalan yang boleh dipercayai. Kos projek semakin menurun, dan akan sentiasa ada individu yang didorong oleh kuasa atau kehancuran yang mempunyai cara untuk mencipta AI tanpa langkah keselamatan yang mencukupi. Malangnya, kita tidak mahir dalam menangani bahaya masa depan, seperti yang ditunjukkan oleh perjuangan kita dengan perubahan iklim. Masalah seperti perubahan iklim dan kecerdasan super bermula kecil dan secara beransur-ansur meningkat dalam keterukan. Kita sering gagal mengambil tindakan sehingga terlambat. Kita seharusnya menghargai orang tersayang dan menikmati masa sekarang selagi kita masih boleh.