Fyrr á þessu ári vakti Ilya Sutskever, meðstofnandi OpenAI og fyrrum aðalvísindamaður, athygli eftir að hann yfirgaf fyrirtækið til að stofna sitt eigið AI-labor, Safe Superintelligence Inc. Þó að hann hafi haldið sig fjarri sviðsljósinu frá brottför sinni, birtist hann opinberlega á ráðstefnunni Conference on Neural Information Processing Systems (NeurIPS) í Vancouver á föstudaginn. Á sviðinu lýsti Sutskever yfir: „Forsamþjálfun eins og við þekkjum hana mun óumdeilanlega enda. " Með þessu vísar hann til upprunalega stigs þróunar AI líkana þar sem stórt tungumálamódel lærir af gríðarlegum magni af ómerktum gögnum, venjulega fengnum frá internetinu, bókum og öðru efni. „Við höfum náð hámarksgögnum, og ekkert meira er til. “ Sutskever sagði að þó núverandi gögn geti ennþá ýtt undir framþróun AI, sé iðnaðurinn að þreytast á nýjum gagnaveitum. Þessi takmörkun mun að lokum krefjast breyttrar aðferðar við þjálfun líkana. Hann líkti ástandinu við jarðefnaeldsneyti og sagði að eins og olía hafi internetið takmarkað magn mannlega skapaðs efnis. Hann spáði því að næstu kynslóðir líkana verði „virkar á raunverulegan hátt. “ Þótt Sutskever hafi ekki útskýrt þetta hugtak í ræðunni, vísar það almennt til sjálfstæðra AI kerfa sem eru fær um að framkvæma verkefni, taka ákvarðanir og vinna með hugbúnaði sjálfstætt. Auk þess að vera „virkar“ gaf Sutskever í skyn að framtíðar AI kerfi muni hafa rökstuðningshæfileika. Ólíkt AI í dag, sem aðallega reiðir sig á mynsturgreiningu, munu framtíðarkerfi geta unnið úr upplýsingum stig fyrir stig á hátt sem líkist mannlegum hugsunum. Hann sagði: "Því meira sem kerfi rökstyðja, því óútreiknanlegri verða þau, " og líkti mjög rökhyggjandi kerfum við framsækin AI í skák, sem geta verið óútreiknanleg jafnvel fyrir bestu mannlega leikmenn. „Þau munu skilja hlutina frá takmörkuðum gögnum, “ bætti hann við. „Þau munu ekki rugla. “ Í ræðu sinni bar Sutskever saman stærð AI við þróunarfræði líffræði og lagði áherslu á rannsóknir sem sýna mun á hlutfalli heilans gagnvart líkamsmassa milli tegunda.

Hann nefndi að þó flest spendýr deili ákveðnu stærðarákvari, sýni hominids (forfeður manna) annan hall í logrítnum mælikvörðum. Hann gaf í skyn að AI gæti á sama hátt fundið nýjar nálganir á stærðaraukningu fyrir utan núverandi forsamþjálfunaraðferðir. Eftir ræðuna spurði áhorfandi hvernig hægt væri að skapa hvatatækni fyrir þróun AI sem gefur því frelsi svipað og menn njóta. Sutskever íhugaði að þó þetta séu mikilvæg álitamál, eigi hann erfitt með að svara þeim fullkomlega, þar sem það gæti krafist „ofanfrá stjórnaðs stjórnkerfis. “ Þegar áhorfandinn stakk upp á dulritunargjaldeyri, hló salurinn. „Ég tel mig ekki vera réttan aðila til að tjá mig um dulritunargjaldeyri, “ sagði Sutskever. „En það er möguleiki að það sem þú lýsir muni gerast. Að sumu leyti er það ekki slæm niðurstaða ef þú hefur AI sem vill samlida með okkur og hefur réttindi. Kannski verður það í lagi. . . Ég held að hlutirnir séu afskaplega óútkomulegir. Ég hika við að kommenta en hvet til vangaveltna. “ Ef þú vinnur hjá OpenAI og vilt ræða þetta frekar, vinsamlegast hafðu samband við mig á öruggan hátt á Signal @kylie. 01 eða í tölvupósti á kylie@theverge. com.