Tidligere i år fikk OpenAI-medgründer og tidligere sjefsforsker Ilya Sutskever oppmerksomhet etter å ha forlatt selskapet for å starte sitt eget AI-laboratorium, Safe Superintelligence Inc. Selv om han har holdt seg utenfor rampelyset siden han sluttet, gjorde han en sjelden offentlig opptreden på konferansen om nevrale informasjonssystemer (NeurIPS) i Vancouver på fredag. På scenen erklærte Sutskever: "Fortrening slik vi kjenner den vil utvilsomt ta slutt. " Dette refererer til den innledende fasen av AI-modellutvikling, der en stor språkmodell lærer fra store mengder umerkede data, vanligvis hentet fra internett, bøker og andre materialer. "Vi har nådd topptilgangen til data, og det vil ikke komme mer. " Sutskever bemerket at selv om nåværende data fortsatt kan fremme AI-utvikling, er industrien i ferd med å tømme nye datakilder. Denne begrensningen vil til slutt kreve et skifte i hvordan modeller trenes. Han sammenlignet situasjonen med fossile brensler, og påpekte at, lik olje, internett har en begrenset mengde menneskegenerert innhold. Han spådde at neste generasjons modeller vil være "agentiske på ekte vis. " Selv om Sutskever ikke definerte dette begrepet under sin tale, refererer det generelt til autonome AI-systemer som kan utføre oppgaver, ta beslutninger og interagere med programvare uavhengig. I tillegg til å være "agentiske, " foreslo Sutskever at fremtidige AI-systemer vil ha resonnementsegenskaper. I motsetning til dagens AI, som hovedsakelig stoler på mønstergjenkjenning, vil fremtidige systemer kunne bearbeide informasjon trinn for trinn på en måte som ligner mer på menneskelig tanke. Han bemerket: "Jo mer et system resonerer, jo mer uforutsigbart blir det, " og sammenlignet svært resonnerende systemer med avansert AI i sjakk, som kan være uforutsigbar selv for de beste menneskelige spillerne. "De vil forstå ting fra begrenset data, " la han til. "De vil ikke bli forvirret. " Under sin tale sammenlignet Sutskever AI-skalering med evolusjonsbiologi, og fremhevet forskning som viser forskjeller i hjerne-til-kroppsmasseforhold på tvers av arter.

Han bemerket at mens de fleste pattedyr deler et skaleringsmønster, viser hominider (menneskets forfedre) en distinkt skråning på logaritmiske skalaer. Han antydet at AI på lignende måte kan oppdage nye skaleringsmetoder utover dagens fortreningsmetoder. Etter sin tale spurte et publikum om hvordan man kan skape insentivmekanismer for å utvikle AI som gir det friheter lik de menneskene nyter. Sutskever reflekterte over at selv om dette er viktige spørsmål, mangler han selvtillit til å besvare dem grundig, da det kanskje krever en "top-down regjeringstruktur. " Da publikummedlemmet foreslo kryptovaluta, humret rommet. "Jeg føler ikke at jeg er den rette personen til å kommentere på kryptovaluta, " sa Sutskever. "Men det er en sjanse for at det du beskriver vil skje. På en måte er det ikke et dårlig sluttresultat hvis du har AI-er som ønsker å sameksistere med oss og har rettigheter. Kanskje det vil gå bra. . . Jeg tror ting er så utrolig uforutsigbare. Jeg nøler med å kommentere, men jeg oppfordrer til spekulasjon. " Hvis du jobber på OpenAI og ønsker å diskutere dette videre, vennligst kontakt meg sikkert på Signal @kylie. 01 eller via e-post på kylie@theverge. com.