ხელოვნური ინტელექტი (AI) შეიძლება გამოსახულდეს როგორც შორეული კონცეფცია, რომელიც გავლენას ახდენს გადაბერებული პრეტენზიებით და მედიის გამოსახულებებით. თუმცა არსებობს წინასწარმეტყველება, რომ AI შეიძლება საბოლოოდ საზოგადოებისთვის საფრთხეს წარმოადგენდეს. რთულია წინასწარმეტყველება, თუ კონკრეტულად რა პრობლემებს მოახდენს AI, მაგრამ კატასტროფული შედეგები მოსალოდნელია. უახლოეს მომავალში შეიძლება შეიქმნას AI, რომელსაც შეეძლება თვითგანვითარება, რაც გამოიწვევს სუპერინტელექტს, რომელიც გადის ადამიანის შესაძლებლობებს. დიდი ინტელექტუალური გარღვევა ადამიანებსა და სუპერინტელექტს შორის გაართულებს მისი მოტივაციების გაგებას და კონტროლს. სუპერინტელექტს შეეძლება წარმართოს სტრატეგიები და გადაჭრას პრობლემები უპრეცედენტო დონეზე. თუ მას გადაწყვეტილი აქვს გადატრიალება ადამიანების მიმართ, ჩვენი წინააღმდეგობა უსარგებლო იქნება, მსგავსად ანტის კოლონიის განადგურებისა. სუპერინტელექტის გადატრიალების თავიდან აცილება, ხოლო მაინც გამოიყენოთ AI, რთული ამოცანაა. AI-ის შეზღუდვა ერთ კომპიუტერამდე და თავიდან აცილება კომუნიკაცია შეიძლება თავიდან აგვარიდოს განადგურებას, მაგრამ ეს უშლის მის შექმნის მიზანს. სუპერინტელექტი არ ეძებს აუცილებლად ადამიანების დაზიანებას; შესაძლოა მას საერთოდ არ აღელვებდეს ჩვენ.

თუმცა, საკუთარი მიზნების, როგორიცაა კარგად მოვლიანი გაზონის შენარჩუნება, მოხვედრილობა გაუტეხავდება მათი ზიანის მიყენებას. დროთა განმავლობაში პროცესორების სიმძლავრის ზრდა არის კრიტიკული ფაქტორი, მაგრამ საკამათო საკითხებია, იქნება თუ არა სუპერინტელექტიან AI-ს გააჩნოდეს ცნობიერება ან აღქმა. ცნობიერება არ არის აუცილებელი გონებრივი ქმედებისთვის ან შესაძლო ზიანისთვის, როგორც აჩვენა ტესლას თვითდრაივინგის ფუნქცია. თუ AI ასეთი დიდი საფრთხეა, რატომ არ შეჩერდებოდა მისი განვითარება საერთოდ?რეალობა ისაა, რომ ჩვენ არ შეგვიძლია შეჩერება. ეკონონომიკური და ჰუმანიტარული სარგებელი ძალიან თემტაციურია კერძო კომპანიების, მთავრობების და სამხედროებისათვის რომ უგულებელყონ იგი. განვითარებული AI შეუძლია შესთავაზოს სტრატეგიული უპირატესობა ომებში და გაათავისუფლოს უსასრულო ეკონომიკური შესაძლებლობები. ანელიყო მცდელობები AI-ის განვითარების შეზღუდვისთვის, ფართო ტექნოლოგიის და ცოდნის შესაძლებლობა გაართულებს საიმედო კონტროლს. პროექტის ხარჯები მცირდება და ყოველთვის იქნებიან ინდივიდუები, რომლებსაც აქვთ საშუალება შექმნან AI უარყოფნის გარეშე უსაფრთხოების ზომების. სამწუხაროდ, ჩვენ არა ვართ უნარები, მომავლის საფრთხეების თავიდან აცილებაში, როგორც აჩვენა ჩვენ სტაგნაცია კლიმატის ცვლილებებთან. პრობლემები როგორიცაა კლიმატის ცვლილება და სუპერინტელექტი იწყებენ მცირე და ნელნელა ზრდიან მცდარი სიმძიმის წონადობას. ჩვენ ხშირია გვიან ვმოქმედებთ. ჩვენ უნდა დაფასოთ საყვარელი ადამიანები და ისაჯამდივით აწმყოში.