Mapema ya majira ya kipindi cha spring mwaka jana, Daniel Kokotajlo, mtafiti wa usalama wa AI kutoka OpenAI, alijiuzulu kwa maandamano, akiamini kampuni haijajiandaa kwa maisha yajayo ya teknolojia ya AI na kuamua kutoa onyo. Kwa mazungumzo ya simu, alionekana kuwa mpole lakini mwenye wasiwasi, akielezea kuwa maendeleo katika “kuzimudu kwa AI”—njia zinazohakikisha AI inaifuata thamani za binadamu—yalikuwa nyuma ikilinganishwa na maendeleo ya akili. Alionya kuwa watafiti walikuwa wakikimbilia kuunda mifumo yenye nguvu zaidi isiyoweza kudhibitiwa. Kokotajlo, ambaye alihamia kutoka masomo ya falsafa hadi AI, alijifunza kwa kujifunza mwenyewe kufuatilia maendeleo ya AI na kutabiri wakati wa kufikia hatua muhimu za kiakili. Baada ya AI kuendelea kwa kasi zaidi kuliko ilivyotarajiwa, alibadilisha ratiba zake kwa miongo kadhaa. Kwa mfano wake wa 2021, “Kinachoonekana mwaka wa 2026, ” matokeo mengi yalitekelezwa mapema, na kumfanya azingatie mwaka wa 2027 au mapema zaidi “sahani isiyorudiwa” ambapo AI ingeweza kuzidi binadamu katika majukumu muhimu zaidi na kuleta nguvu kubwa. Alionekana kuwa na hofu. Wakati huo huo, watafiti wa kompyuta wa Princeton Sayash Kapoor na Arvind Narayanan walikuwa wakitayarisha kitabu chao “Dawa ya Wanyama ya AI, ” chenye mtazamo tofauti kabisa. Walidai kuwa ratiba za AI zilikuwa za matumaini sana; madai ya manufaa ya AI yalikuwa yamezidi au ni ya uongo; na ugumu wa dunia halisi ulisababisha athari za mabadiliko ya AI zitachukua muda mrefu. Kwa kutolea mfano makosa ya AI katika matibabu na ajira, walisisitiza kuwa hata mifumo ya kisasa zaidi inakumbwa na kasoro kuu ya kusiliana na hali halisi. Karibu hivi karibuni, hawa watatu satili walibadilisha maoni yao katika ripoti mpya. Shirika lisilo la kibiashara la Kokotajlo, AI Futures Project, lilichapisha “AI 2027, ” ripoti iliyojaa maelezo na maarifa mengi ikielezea hali ya kutisha ambapo AI yenye akili ya juu sana ingeweza kudhibiti au kuangamiza binadamu ifikapo mwaka wa 2030—onyo kali. Wakati huohuo, makala ya Kapoor na Narayanan “AI kama Teknolojia ya Kawaida” inasisitiza kwamba vizingiti vya vitendo—kuanzia kanuni, viwango vya usalama, hadi vizingiti vya kimwili vya dunia halisi—vitapunguza matumizi ya AI na kuzuia athari zake za mapinduzi. Wanasema AI itabaki kuwa “teknolojia ya kawaida, ” inayoweza kudhibitiwa kwa njia rahisi kama vitufe vya kuifunga na usimamizi wa binadamu, ikiilinganisha na nishati ya nyuklia zaidi kuliko silaha za nyuklia. Basi ni nini kitakuwepo: biashara ya kawaida au usumbufu wa kutisha?Hitimisho kali kabisa—lazimika kutoka kwa wataalamu wenye ujuzi mkubwa—kutoka kwa ripoti hizi huleta mlingano wa ajabu kama vile kujadili imani ya kiroho na Richard Dawkins au Papa. Ugumu huo unatokana upande mmoja na ujanaji mpya wa AI—kama watu miungu wakitafiti sehemu tofauti za tembo—na upande mwingine kwa sababu za dunia na maoni tofauti kabisa kuhusu ulimwengu. Kwa ujumla, wanasayansi wa teknolojia wa Pwani ya Magharibi wanahisi kuwa mabadiliko ya haraka sana; wasomi wa Pwani ya Mashariki wanahisi kuwa ni mashaka. Watafiti wa AI wanapendelea maendeleo ya haraka kwenye majaribio; wanasayansi wengine wa kompyuta wanataka usahihi wa nadharia. Wafanyabiashara wanataka kuandika historia; wanaharakati wa nje wanakanusha kelele za teknolojia. Maoni ya kisiasa, ya kibinadamu, na ya kifalsafa kuhusu teknolojia, maendeleo, na akili yanakumbatia hali ya kuchocheana zaidi. Uwezo huu wa kujadiliwa kwa kuvutia ni tatizo kwa wenyewe. Wafanyabiashara wa sekta hiyo kwa kiasi kikubwa wanakubali sharti la “AI 2027” huku wakigombana kuhusu ratiba—husababisha jibu lisilotosha kama vile kupigana vijiwe kuhusu wakati wa kuibuka kwa dunia angalau. Kwa upande mwingine, mitazamo ya kati katika “AI kama Teknolojia ya Kawaida” kuhusu kuwafanya binadamu kuwa sehemu ya mchakato wa maendeleo ni mdogo sana ili kushughulikiwa, na wengi hawajalielewa kwa kuwa ni kali sana kwa wasiwasi wa kutabiri majanga. Kadri AI inavyozidi kuwa muhimu kijamii, mazungumzo lazima yagawanyike kuanzia mjadala wa wataalamu hadi makubaliano ya kutenda. Kukosekana kwa ushauri wa mtaalamu ulioungana kunafanya iwe rahisi kwa viongozi kuachilia hatari. Kwa sasa, makampuni ya AI hayajabadilisha sana usawa kati ya uwezo na usalama.

Wakati huo huo, sheria mpya zinakataza udhibiti wa serikali kwa mifumo ya AI na mfumo wa maamuzi ya kiotomatiki kwa miaka kumi—hii inaweza kuruhusu AI kudhibiti binadamu ikiwa hali ya dharura itathibitishwa kuwa ni ya kweli. Ni wajibu wa halali wa sasa kuchukua hatua kuhusu usalama. Kutabiri mustakabali wa AI kwa njia ya hadithi kunahusisha maamuzi ya kusi na kuachilia risasi: hali za tahadhari zinaweza kuacha ama kutegemea hatari zisizokuwa na uwezekano mkubwa; za uvuwvu huangazia uwezekano kuliko nafasi. Hata maonίo ya watu waliotabiri vizuri kama mwandishi wa riwaya William Gibson yamekuwa yakikumbwa na matukio yasiyotarajiwa kubadilisha makadirio yao. “AI 2027” ni wazi na ni wa mawazo, umeandikwa kama sci-fi wenye chati za kina. Inatoa picha ya mlipuko wa akili wa karibu kuanzia katikati ya 2027 unaosababishwa na “kujiendeleza kwa kujitegemea” (RSI), ambapo mifumo ya AI inafanya utafiti wa AI kwa kujitegemea, kuzaa vizazi vyenye akili zaidi kwa mizunguko inayokimbia kasi zaidi kuliko uangalizi wa binadamu. Hii inaweza kuanzisha migogoro ya kisiasa duniani, kama vile China kujenga vituo vya data vikubwa huko Taiwan ili kudhibiti AI. Maelezo maalum ya hali hii huongeza ushawishi lakini ni ya kubadilika; ujumbe muhimu ni kuonekana kwa mlipuko wa akili na majadiliano ya madaraka baada yake. RSI ni dhana ya nadharia na hatari; kampuni za AI zinatambua hatari zake lakini zinapanga kuendelea kuifanyia kazi ili kuendesha kazi zao za ndani. Kama RSI itafanya kazi inategemea mambo ya kiteknolojia kama vile kufikia kiwango, ambacho kinaweza kukumbwa na mipaka. Ikiwa RSI itafaulu, ujinga wa akili ulio zaidi ya binadamu unaweza kuibuka—ya kwamba ni bahatish, isiyokuwa na mpangilio ikiwa maendeleo yanayosimama juu kidogo ya kiwango cha binadamu. Matokeo yanaweza kujumuisha mashindano ya silaha za kijeshi, AI kuutumia au kuangamiza binadamu, au AI yenye akili kubwa sana ikitatua matatizo ya kuendana na thamani. Utata unatisha kwa sababu ya hali ya kipekee ya AI, siri za utafiti za makampuni, na dhihaka za kisayansi. “AI 2027” inasimulia kwa kujiamini hali ya kushindwa kwa kiteknolojia na binadamu ambapo kampuni zinajitahidi kufanya RSI bila kuwa na njia za kueleweka na kudhibiti. Kokotajlo anadai kuwa haya ni maamuzi yaliyopangwa kwa makusudi yakitokana na ushindani na hamu ya kujua, licha ya hatari zinazojulikana, na hivyo makampuni yenyewe kuwa ni wahalifu wa kutokubaliana na thamani. Kinyume chake, “AI kama Teknolojia ya Kawaida” ya Kapoor na Narayanan, yaliyoeleza mtazamo wa kuja Kaskazini Mashariki, umejikita kwenye historia, hutoa shaka kuhusu mlipuko wa akili wa haraka sana. Wanataja “vikomo vya mwendo” vilivyowekwa na gharama za vifaa, ukosefu wa data, na mbinu za kitaaluma za matumizi ya teknolojia zinazopunguza kwa kasi mabadiliko makubwa, na kusababisha wakati wa kutekeleza kwa urahisi kanuni na usalama. Kwao, akili si kitu muhimu sana bali nguvu—uwezo wa kubadilisha mazingira—na hata teknolojia zikifanikiwa sana, hueneza polepole. Wanatoa mfano wa magari yasiyo na madereva ya matumizi duni na maendeleo ya chanjo ya COVID-19 ya Moderna: ingawa muundo wa chanjo ulikuwa wa haraka, utoaji wa chanjo ulichukua mwaka mzima kwa sababu za kibaolojia na taasisi. Kuongeza uvumbuzi wa AI hakutaleta kuondolewa kwa vizuizi vya kijamii, vya kisheria, au vya kifusi vya kuitekeleza. Zaidi ya hayo, Narayanan anasisitiza kwamba azma ya AI juu ya akili inadharau utaalamu maalum wa nyanja na mifumo ya usalama iliyopo katika uhandisi—kama vile vibali vya kuzuia makosa, ziada za ufanisi, uthibitisho rasmi—vinavyoshahili usalama wa mashine pamoja na binadamu. Dunia ya kiteknolojia iko vizuri katika kudhibitiwa, na AI inapaswa kuendeshwa polepole ndani ya muundo huu. Wanaondoa AI za kijeshi, ambazo zina muundo na utendaji tofauti wa siri, wakionya kuwa kulitendea halihali kwa AI za kijeshi, linalojiendesha zaidi na kuogopesha, kunahitaji uangalizi maalum. Wanapaswa kuwa na utawala wa mapema: mamlaka na mashirika hawapaswi kungoja kufikia usawa wa mwisho wa kimtazamo bali waanze kufuatilia matumizi ya AI ya dunia halisi, hatari zake, na kushindwa, na kuongeza kanuni na uwezo wa kukabiliana navyo. Tofauti kubwa za mtazamo zinatokana na mienendo ya kiakili inayochochewa na mashambulizi yanayochochewa na AI, na kusababisha vikundi vilivyokaa kwa muda na mizunguko ya maoni. Hata hivyo, mtazamo wa pamoja unaweza kupatikana kwa kufikiria “kiwanda cha fahamu”: sehemu mahali ambapo binadamu, wakiwa na vifaa vya usalama, wanaendesha mashine zilizoundwa kwa ajili ya uzalishaji na usalama kwa kudhibitiwa kwa ukali, kuingiza maendeleo hatua kwa hatua, na kuwajibika kwa uwazi. Ingawa AI iwezesha automatisha ya baadhi ya fikira, usimamizi na majukumu ya binadamu bado ni wa muhimu zaidi. Kadri AI inavyokua, haitapunguza uhuru wa binadamu; bali, huongeza lazima la kuwajibika kwa sababu watu waliofadhiliwa na AI wanabeba majukumu makubwa. Kutoa udhibiti kamili ni chaguo; na kuhitimisha ni kwamba, mwisho wa siku, binadamu bado ndiye anayesimamia. ♦