Bu yılın başlarında, OpenAI kurucu ortağı ve eski baş bilim adamı Ilya Sutskever, kendi yapay zeka laboratuvarı Safe Superintelligence Inc. 'yi kurmak üzere ayrıldıktan sonra dikkat çekti. Ayrılışından bu yana gözlerden uzak dursa da, Vancouver'daki Sinirsel Bilgi İşleme Sistemleri Konferansı'nda (NeurIPS) ender bir kamuoyu önüne çıktı. Sahneye çıkarak konuşan Sutskever, "Bildik pre-eğitim kesinlikle sona erecek. " dedi. Bu, geniş çapta dil modellerinin internet, kitaplar ve diğer materyallerden elde edilen etiketlenmemiş verilerle öğrendiği yapay zeka model geliştirme sürecinin başlangıç aşamasına atıfta bulunuyor. "Veri zirvesine ulaştık ve artık yeni veri olmayacak. " Sutskever, mevcut verilerin hala yapay zeka gelişimini ilerletebileceğini söylerken, sektörün yeni veri kaynaklarını tükettiğini belirtti. Bu kısıtlama, modellerin nasıl eğitileceğinin değiştirilmesini gerektirecek. Durumu fosil yakıtlara benzeterek, internetin de petrol gibi sınırlı bir miktarda insan yapımı içerik barındırdığını söyledi. Bir sonraki nesil modellerin "gerçek anlamda etmen" olacağını öngördü. Sutskever konuşması sırasında bu terimi tanımlamasa da, genellikle görevleri yerine getirebilen, kararlar alabilen ve yazılımla bağımsız bir şekilde etkileşimde bulunabilen otonom yapay zeka sistemlerine atıfta bulundular. "Etmen" olmanın yanı sıra, Sutskever gelecekteki yapay zeka sistemlerinin muhakeme yeteneklerine sahip olacağını öne sürdü. Günümüzün yapay zekalarının çoğunlukla desen tanımaya dayanmasına karşın, gelecekteki sistemlerin bilgiyi adım adım insan düşüncesine daha yakın bir şekilde işleyebileceğini belirtti. "Bir sistem ne kadar muhakeme yaparsa, o kadar öngörülemez olur, " diyerek, yüksek derecede muhakeme yapan sistemleri, en iyi insan oyuncular için bile öngörülemez olabilen satrançtaki gelişmiş yapay zekaya benzetti. "Onlar sınırlı veriden anlayacaklar, " diye ekledi.

"Kafa karışıklığı yaşamayacaklar. " Konuşmasında, Sutskever yapay zeka ölçeklemesini evrimsel biyoloji ile karşılaştırarak, türler arasında beyin-vücut kütlesi oranlarındaki farklılıkları gösteren araştırmalara değindi. Çoğu memelinin benzer bir ölçekleme deseni paylaştığını ancak hominidlerde (insanın ataları) logaritmik ölçeklerde farklı bir eğim olduğunu belirtti. Yapay zekanın benzer şekilde mevcut pre-eğitim yöntemlerinin ötesinde yeni ölçekleme yaklaşımları keşfedebileceğini öne sürdü. Konuşmasının ardından, bir izleyici üyesi AIlere insanlar gibi özgürlük sunacak teşvik mekanizmalarının nasıl oluşturulacağını sorduğunda, Sutskever bu önemli soruların üzerinde düşünmesi gerektiğini söyleyerek, "üstten aşağı bir devlet yapısı" gerektirebileceğini belirterek kapsamlı bir cevap veremeyeceğini ifade etti. İzleyici üyesi kripto para önerdiğinde, salonda bir gülüşme oldu. "Kripto para hakkında yorum yapmak için doğru kişi olduğumu düşünmüyorum, " dedi Sutskever. "Ama tarif ettiğiniz şeyin gerçekleşme ihtimali var. Bir anlamda, bizimle bir arada yaşamak ve haklara sahip olmak isteyen yapay zekalarınız olursa bu kötü bir sonuç olmayabilir. Belki bu sorun olmaz. . . Bence işler inanılmaz derecede öngörülemez. Yorum yapmaktan çekiniyorum ama spekülasyonu teşvik ediyorum. " OpenAI'da çalışıyorsanız ve bunu daha fazla tartışmak isterseniz, lütfen benimle Signal üzerinden güvenli bir şekilde @kylie. 01 ya da e-posta ile kylie@theverge. com adresinden iletişime geçin.