Ranije ove godine, suosnivač OpenAI-a i bivši glavni naučnik Ilya Sutskever privukao je pažnju nakon što je napustio firmu kako bi pokrenuo vlastiti AI laboratorij, Safe Superintelligence Inc. Dok je od tada bio izvan svjetla reflektora, napravio je rijetko javno pojavljivanje na Konferenciji o sistemima za obradu neuronskih informacija (NeurIPS) u Vankuveru u petak. Govoreći na bini, Sutskever je izjavio: "Predtrening kakav znamo će nesumnjivo prestati. " Ovo se odnosi na početnu fazu razvoja AI modela, gdje veliki jezički model uči iz ogromnih količina neoznačenih podataka, uglavnom preuzetih s interneta, knjiga i drugih materijala. "Dostigli smo vrhunac podataka, i više ih neće biti. " Sutskever je napomenuo da, iako trenutni podaci mogu i dalje unapređivati razvoj AI-a, industrija iscrpljuje nove izvore podataka. Ova ograničenja će na kraju zahtijevati promjenu načina na koji se modeli treniraju. On je situaciju uporedio sa fosilnim gorivima, ističući da, kao i nafta, internet sadrži ograničenu količinu ljudski generiranog sadržaja. Predvidio je da će modeli nove generacije biti "agenti na stvarne načine. " Iako Sutskever nije definisao ovaj termin tokom svog govora, općenito se odnosi na autonomne AI sisteme sposobne da obavljaju zadatke, donose odluke i nezavisno interaguju sa softverom. Osim što će biti "agenti", Sutskever je predložio da će budući AI sistemi imati mogućnosti zaključivanja. Za razliku od današnjeg AI-a, koji se prvenstveno oslanja na prepoznavanje obrazaca, budući sistemi će moći obraditi informacije korak po korak na način sličniji ljudskom razmišljanju. Primijetio je: "Što više sistem zaključuje, to postaje nepredvidljiviji", upoređujući sisteme s velikim kapacitetom zaključivanja sa naprednim AI u šahu, koji čak može biti nepredvidljiv i za vrhunske ljudske igrače. "Razumjet će stvari iz ograničenih podataka, " dodao je. "Neće se zbuniti. " Tokom svog govora, Sutskever je AI skaliranje uporedio sa evolucijskom biologijom, ističući istraživanje koje pokazuje razlike u omjerima mase mozga i tijela kod različitih vrsta.

Primijetio je da dok većina sisara dijeli obrazac skaliranja, hominidi (ljudski preci) pokazuju poseban nagib na logaritamskim skalama. Predložio je da bi AI mogao na sličan način otkriti nove pristupe skaliranju izvan trenutnih metoda predtreninga. Nakon njegovog govora, jedan član publike postavio je pitanje kako stvoriti poticajne mehanizme za razvoj AI-a koji mu dodjeljuje slobode slične onima koje ljudi uživaju. Sutskever je primijetio da, iako su to važna pitanja, nije siguran da može na njih sveobuhvatno odgovoriti, jer bi to moglo zahtijevati "strukturu vlade od vrha prema dolje. " Kada je član publike predložio kriptovalute, soba se nasmijala. "Ne osećam se kao prava osoba da komentarišem kriptovalute, " rekao je Sutskever. "Ali postoji mogućnost da se ono što opisujete može desiti. U nekom smislu, nije loš krajnji rezultat ako imate AI-e koji žele suživjeti s nama i imaju prava. Možda će to biti u redu. . . Mislim da su stvari toliko nevjerovatno nepredvidljive. Oklijevam komentirati, ali potičem na spekulacije. " Ako radite u OpenAI-u i želite razgovarati o tome dalje, molimo vas da me sigurno kontaktirate na Signal @kylie. 01 ili putem e-pošte na kylie@theverge. com.