"Zekâ güç verir. Peki, bu gücü kim kontrol edecek?" Fringe Teorisi Ünlü bir AI öncüsü, giderek daha güçlü hale gelen teknolojinin dünyaya zarar verebileceğini ve kontrol edenlerin de önemli riskler oluşturabileceğini söylüyor. CNBC ile yaptığı bir röportajda, bilgisayar bilimi uzmanı Yoshua Bengio, AI ile insanları değiştirmeyi amaçlayan bir teknoloji "uç" kesiminden endişelerini dile getirdi. Bengio, Montreal Üniversitesi'nde Yapay Öğrenme Algoritmaları Enstitüsü'nü yönetiyor ve AI'nın tehlikeleri konusunda sessiz kalındığını iddia eden OpenAI araştırmacıları tarafından imzalanan "Uyarma Hakkı" adlı açık mektubu da imzaladı.

AI'nın "Babaları" arasında tanınan Yann LeCun ve Geoffrey Hinton ile birlikte, Bengio Montreal'deki One Young World Zirvesi'nde "Bu gücü kim kontrol edecek?" diye sordu. "Bazı insanlar bu gücü kötüye kullanmak isteyebilir ve bazıları makinelerle insanların yer değiştirmesini memnuniyetle karşılayabilir, " diye uyardı Bengio. "Bu uç güç, şimdi önlemler almazsak önemli bir güç kazanabilir. " Para Konuşur AI sistemleri geliştirmek için milyarlarca dolara ihtiyaç duyuyor, bu da finansal etkinin önemini vurguluyor. "Bunu karşılayabilecek çok az organizasyon ve ülke var, " diye belirtti Bengio. "Bu zaten oluyor. " "Güç bir yığılma olacak: ekonomik, piyasalara potansiyel olarak zarar veren; politik, demokrasiyi tehdit edebilen; ve askeri, jeopolitiği potansiyel olarak istikrarsızlaştıran, " diye ekledi. Uzmanlar, genel yapay zekâ veya insan seviyesinde AI elde etmenin uygulanabilirliğini ve zaman dilimini tartışıyorlar. Bengio, küresel politikalar devreye girmeden gerçekleşirse tehlikede olduğumuzu öne sürüyor. "Eğer bu beş yıl uzaktaysa, hazırlıksızız, " diye vurguladı, "çünkü bu sistemlerin insanlara zarar vermemesi veya onlara karşı dönmemesi için yöntemlerimiz yok. " AI'nın tehlikeleri konusunda ilk uyaran olmasa da, Bengio'nun içgörüleri onun rolü nedeniyle ağırlık taşıyor. AGI uyarıları hakkında daha fazla bilgi: AI meraklıları, Tekillik’in Trump'ın başkanlığı sırasında gerçekleşebileceğinden korkuyor.