Í vor kvöldi fyrir ári síðan hætti Daniel Kokotajlo, rannsóknarmaður á sviði öryggis gervigreindar hjá OpenAI, í mótmælaskyni, sannfærður um að fyrirtækið væri ekki tilbúið fyrir framtíð tækni gervigreindar og til að vekja athygli. Í símasamtali virtist hann kátur en kvíðinn, og útskýrði að framfarir í jöfnu gervigreindar—aðferðum til að tryggja að gervigreind fylgi mannlegum gildum—væru að hálfu leiðar en vitsmunalegar framfarir. Hann varaði við því að vísindamenn væri að flýta sér að skapa öfluga kerfi sem gætu komið stjórn á. Kokotajlo, sem hafði áður stundað guðfræði en fæst sjálfmenntaður um þróun gervigreindar, hafði fylgst með framvindu og reynt að spá fyrir um hvenær mikilvægar vitsmunalegar mörk gætu náðst. Þegar gervigreind þróaðist hraðar en búist hafði verið, breytti hann tímamörkum sínum um áratugi. Dagskrá hans frá 2021, “Hvernig líta má 2026 út, ” sýndi að margir spár raungerðust snemma, sem leiddi hann til að sjá fyrir sér „punkt stjórnleysis“ fyrir 2027 eða fyrr, þar sem gervigreind gæti yfirtekið mannlega færni í mörgum mikilvægustu verkefnum og haft mikil völd. Hann var orðinn kvíðinn. Samhliða bjuggu Princeton-tölvufræðingarnir Sayash Kapoor og Arvind Narayanan til bókarinnar „AI Snake Oil“, sem tók á öllu andstæðari sjónarmið. Þeir töldu að tákn um þróun gervigreindar væri of bjartsýn, fullyrðingar um gagnsemi gervigreindar væru oft ýktar eða sviksamlegar, og að flókið eðli raunheimsins myndi gera umbreytingarmátt gervigreindar hægan. Með dæmum um villur í læknisfræði og ráðningar töldu þeir að jafn nýjustu kerfin væru enn með grundvallar mótsögn við raunveruleikann. A recent, all three hafa formlega skýrt frá skoðunum sínum í nýjum skýrslum. Fráðar átaka samtakamennsnefnd “AI Futures Project” gefu út skýrsluna “AI 2027”, er í henni lýst skriðdrepaðri nálgun þar sem superintelligent gervigreind gæti ráðið eða útrýmt mannkyninu fyrir árið 2030—og þetta er alvarlegt varúðarkall. Á meðan héldu Kapoor og Narayanan áfram að halda fram að takmörk í lögum, öryggisstaðlum og raunverulegum líkamlegum hindrunum myndu seinka þróun gervigreindar og draga úr byltingarkraftinum. Þeir halda því fram að gervigreind verði áfram “venjuleg” tækni, stjórnað með ódýrum öryggisráðstöfunum eins og hömlu- og valskiptum og mannlegum eftirliti, og líkja henni meira við kjarnorku en kjarnorniza. Svo, hvað verður?Hefur það ekki verið: eðlilegur viðskiptastefna eða apókalyptísk skelfing?Þessi pólitísku og fræðilegu álitamál, sem koma frá mjög fróðum sérfræðingum, skapa fyndinn árekstur—eins og að ráða trúarleg skynsemi með bæði Richard Dawkins og páfann. Óvissan stafar að hluta frá nýjung gervigreindar—eins og blindir menn skoða ólíka hluta af fílnum—og að hluta frá mismunandi heimsýn. Almennt séð horfa Vesturstrandarhugbúnaðarsinnar til hraðs umbreytingarmáts; Austurstrandarháskólar eru gagnrýnið. Rannsakendur gervigreindar styðjast við hraða tilrauna, aðrir tölvufræðingar vilja ná fram齐fræðilega fullkomnun. Ásamt atvinnulífi vilja eiga söguleg áhrif; útlendingar hafna ímyndum af tækni. Ágreiningurinn dýpkar af pólitískum, mannlegum og heimspekilegum sjónarmiðum um tækni, framfarir og hugsun. Þessi áhugaverða umrót er sjálft vandamál. Fyrirtæki og sérfræðingar eru flest sammála um forsendur “AI 2027, ” en deila um tímagrensur—sem er eins og að ræða um tímasetningu þegar plánetan ætlar að fara af hjólunum. Á hinn bóginn eru miðlungs viðhorf í “AI as Normal Technology” sem eru svo væg að það hafa verið vanmetin af doom-sinnum. Þegar gervigreind verður samfélagslega mikilvæg, þarf umræðan að þróast úr sérfræðingavettvangi yfir í aðgerðarbæran samræðu. Vöntun á sameiginlegu ráði sérfræðinga auðveldar ákvörðunar- og áhættulausnir — og getur leitt til þess að enginn taki ábyrgð á mögulegum hættum. Til þessa stundar hafa fyrirtæki ekki áttað sig á að láta af hraðri þróun til öryggisráðstafana. Ný lög banna þjóðarreglugerð á gervigreindarlíkön og kerfum til sjálfvirkra ákvarðanataka í tíu ár—sem gæti leyft gervigreind að stjórna mannkyninu ef öryggisógnin reynist sann. Að hafa öryggisúrræði núna er brýn nauðsýn. Að spá fyrir um framtíð gervigreindar sem sögulegan atburð felur í sér jafnvægi: varkárar spár kunna að vanmeta lítillega sérstök líkleg hættum; ímyndunarafl lovar möguleika frekar en líkindi. Þótt ekkert sé tryggt, hafa sumir ráðamenn, eins og rithöfundurinn William Gibson, orðið fyrir vonbrigðum með óvæntar breytingar sem bregða fyrir spár þeirra. “AI 2027” er líflegt og ímyndunaraflsblandað, skrifað eins og vísindaskáldsaga með ítarlegum myndrheimum.

Þar er lýst uhysta-margt-tími um miðjan 2027, sem orsakast af “endurteknum sjálfvirkni” (RSI), þar sem sjálfvirk gervigreind framkvæmir rannsóknir sjálf og framleiðir enn fjölbreyttari vitsmunakerfi í hröðum endurgjafa-kerfum sem hlaupa yfir stjórn mannlegra eftirlitsmegin. Þetta gæti leitt til alþjóðastarfsemi, t. d. að Kína byggi stórar gagnaverslóðir í Taívan til að herða stjórnun gervigreindar. Sérkennið í þessari athugun eykur þátttökuna, en er einnig sveigjanlegt; megin boðskapurinn er að vitsmunalega sprengingin og ný verðlausar valdadráp séu í nánd. RSI er afsökun og hættulegt; fyrirtæki skilja þetta vel og stefna að því að nýta það til að gera sjálfsvirkni enn betri. Hvort RSI tekst eða ekki, fer eftir tæknilegum þáttum eins og skali, sem gæti mætt mörkum. Ef RSI tekst, gæti komið fram ofur-Vitsmuni , sem yfirstígur mannlega vitsmuni—sem er ólíklegt ef þróun stöðvast rétt fyrir ofan mannlega getu. Afleiðingarnar gætu verið hernaðarátök, hvernig gervigreind stjórnar og eyðir mannkyninu, eða góðvinsmandi ofur-vitsmuni sem leysa svartagáfur. Óvissan liggur í þróun gervigreindar, leynd öryggismála og tilgátum. “AI 2027” segir fullvissulega frá hugmyndum um tæknilegan og mannlegan þáttaskilsslag: fyrirtæki halda áfram að stefnast að RSI, þótt þau skilji ekki fullkomlega hvernig það virkar og án óljósra eftirlitsmeigða. Kokotajlo heldur því fram að þetta séu varkárar ákvörðanir, sem hlýti áróðri og forvitni, þrátt fyrir þekktan áhættu, og að fyrirtækin sjálf séu meðvitað að missa samsvar. Á hinn bóginn eru haldbærari sjónarmið í “AI as Normal Technology, ” sem byggja á sögu og raunveruleika, og trúa ekki surti sprengju af sjálfsbót og sprengnum. Þeir neyta “hraðatakmarka” sem stafa af tölvum, gögnum og annarri tækni, og sýna að byltingamáttur verði ekki hratt eða öruggt. Þeir sýna dæmi um drægni öku- og skordýraskipta, og Moderna-bóluefnið: þótt framleiðsla hafi verið hröð, tók aðsetur og dreifing eitt ár, vegna raunveruleika umbreiðslu lyfs og lagalegrar overknu. Tækni til að auka nýsköpun breytir ekki lögum, reglugerðum eða stærðfræðilegum takmörkum. Narayanan leggur áherslu á að einu forsvararteðlin séu undirritað á vettvangi: undirbúningur í gegnum eftirlit og nýjar reglur, ekki bara að bíða eftir fullkominni samhæfingu. Það er mikilvægt að fylgjast með notkun nýrrar tækni og stöðva misnotkun strax og styðja við öryggisráðstafanir. Óvissan um framtíð gervigreindar stafar að hluta af þeirri nýjunaráráttu, einkahlutafyrirtækjum og leyndarreglum, og spekli. “AI 2027” virðist telja það alls ekki behöðlegt að hafa fullkominn skilning eða stjórn, og lýsir samfélagi sem eltir RSI þrátt fyrir vafi um að unnt sé að stjórna kerfinu nákvæmlega. Kokotajlo heldur því fram að þessir eru ákvörðunar, sem fyrirtækin taka af hugrekki og forvitni, þrátt fyrir þekkt áhættu. Þau eru að sjálfu sér óhæf og mislagað. Á móti stendur sjónarmið Kapoor og Narayanan: þeir styðjast við sögu, reynslu og varúðar-viðmið, og telja að hraður vitsmuni sprenging verði óljós og hægfara. Þeir benda á “hraðatakmarkanir” vegna kostnaðar, skorts á gögnum og venjulegs tækniinnleiðslu, og að þetta gefi næga tíma fyrir löggjöf og öryggisúrræði. Fyrir þá er mikilvægara að vald sé í höndum manna en að viti gervigreindarinnar sjálfrar, og stutt þróun oft hæg. Þeir segja frá dæmum eins og takmörkuðum notkun nýrra ökutækja og þróun Moderna-bóluefnisins, sem tók tíma að koma í framkvæmd þrátt fyrir hraðann í þróun. Að beita gervigreind við nýsköpun breytir ekki því að samfélagslegar, lagalegar og líkamlegar hömlur eru til staðar. Nitnar sérstaklega að því að gervigreind byggi of mikið á vitsmunum og vanmeti dýpt sérfræðikunnáttu og öryggiskerfi í verkfræði—hluti sem þegar tryggja öryggi véla og gagnverk. Tækniheiminum er stjórnað af lögum, og gervigreind þarf að ganga hægt inn í þetta líkan. Þeir útiloka hernaðarnotkun sem er með sérstökum, leyndum eiginleikum, en vara við því að hernaðarmál ótta “AI 2027” þarf að fylgjast rannsóknarreglugerðar vel. Þeir mæla með forgangsráði: að stofnanir fylgist með og þjálfi sig í notkun, áhættu og mistökum, og efli lög og viðbrögð í samhengi. Mikil ólík sjónarmið má rekja til reaktivra hugsana sem verða fyrir áhrifum af áreitni gervigreindar, og reka fastar hópa og endurgjafar. En sameiginleg sýn er möguleg; við getum ímyndað okkur “hugvinnsluverksmiðju”: vinnustað þar sem mannfólk með öryggisbúnað starfar með vélum ætluðum til hagkvæmni og öryggis, með strangri gæða- og ábyrgðarmótun. Þó gervigreind leyfi að sjálfsögðu sjálfstæka sjálfvirkni, þá er mannlegt eftirlit og ábyrgð lykilatriði. Þegar gervigreind vex, minnkar hún ekki mannlega mikilvægi heldur eykur á ábyrgð. Að velja að vera ekki með stjórn er athöfn, og þar með eru menn alltaf að ráða. ♦