Za kratek čas so tisti, ki so opozarjali na potencialne nevarnosti AI, osvojili pozornost sveta. Lansiranje ChatGPTja leta 2022 je povzročilo valovanje v tehnološki skupnosti: dejstvo, da lahko računalniški programi zdaj izkazujejo človeško podobno inteligenco, je namigovalo, da so morda na obzorju druge pomembne izboljšave. Strokovnjaki, ki so dolgo izražali pomisleke glede AI, predvsem zaradi možnosti za ustvarjanje bioorožij in tveganja grozeče superinteligence, so končno našli poslušalce. Vendar pa ni jasno, ali so njihova opozorila imela kakšen vpliv. Medtem ko so politiki v zadnjih letih organizirali številne zaslišanja in predlagali različne ukrepe glede AI, se razvoj tehnologije nadaljuje večinoma neovirano. Za tiste, ki so se bali destruktivnih možnosti AI, tveganja še vedno obstajajo; le da zdaj nanje ne posveča pozornosti vsakdo.

So zgrešili svojo ključno priložnost, da bi naredili razliko? V nedavnem članku za The Atlantic je moj sodelavec Ross Andersen intervjuval dve ključni osebi iz te skupine: Helen Toner, nekdanjo članico uprave OpenAIja, ki je odstopila po nepričakovanem odstavitvi izvršnega direktorja Sama Altmana lani, in Eliezer Yudkowskyja, soustanovitelja Inštituta za raziskave strojne inteligence, ki obravnava eksistencialne grožnje, ki jih predstavlja AI. Ross je želel raziskati vpoglede, ki sta jih pridobila v svojem kratkem obdobju v središču pozornosti. “Z to skupino sem spremljal zaskrbljenost glede AI in eksistencialnih tveganj že več kot desetletje, in gledati pojav ChatGPTja je bilo nadrealistično, saj se je relativno neznana subkultura dvignila v ospredje, ” je Ross delil z mano. “Zdaj, ko je ta trenutek minil, sem želel ponovno vzpostaviti stik in videti, kaj so se naučili. ” Opozorila glede AI so pustila pečat Napisal Ross Andersen Preberite celoten članek. Kaj prebrati naslednje P. S. Danes se zaključuje letošnji Atlantic Festival, in seje si lahko ogledate na našem YouTube kanalu. Priporočam ogled razprave o novem študiju, ki razkriva nepričakovano povezavo med generativno AI in teorijami zarote, ki jo vodi direktor Atlantica Nick Thompson. — Damon