"Интелигенцијата дава моќ. Па кој ќе ја контролира таа моќ?" Маргинална Теорија Познат пионер во областа на вештачката интелигенција предупредува дека не само што сѐ посилната технологија може да му наштетува на светот, туку и дека оние што ја контролираат може да претставуваат значителни ризици. Во интервју за CNBC, експертот за компјутерски науки Јошуа Бенџио изрази загриженост за технолошка "маргина" која се стреми да ги замени луѓето со вештачка интелигенција. Бенџио го води Институтот за алгоритми за учење на Универзитетот во Монтреал и ја потпиша отворената писмо "Право на предупредување" од истражувачите на OpenAI, тврдејќи дека им се забранува да зборуваат за опасностите од вештачката интелигенција. Познат, заедно со Јан ЛеКун и Џефри Хинтон, како "Боговите" на вештачката интелигенција, Бенџио праша: "Кој ќе ја контролира таа моќ?" за време на самитот "One Young World" во Монтреал. "Постојат луѓе кои би можеле да сакаат да ја злоупотребат таа моќ, и некои кои можеби би поздравиле заменување на луѓето со машини, " Бенџио предупреди.

"Оваа маргина може да добие значителна моќ, освен ако не воспоставиме заштитни мерки сега. " Парите се важни Системите за вештачка интелигенција бараат милијарди за развој, истакнувајќи ја важноста на финансиското влијание. "Многу малку организации и држави можат да си го дозволат тоа, " забележа Бенџио. "Ова веќе се случува. " "Ќе има концентрација на моќ: економска, што би можела да биде штетна за пазарите; политичка, со можност да ја загрози демократијата; и воена, што потенцијално ќе ја наруши геополитиката, " додаде тој. Експертите дебатираат за изводливоста и времетраењето за постигнување на вештачка општа интелигенција, или вештачка интелигенција на човечко ниво. Бенџио сугерира дека сме во неволја ако тоа се случи пред да има глобални политики на место. "Ако е пет години оддалечено, ние не сме подготвени, " нагласи тој, "бидејќи ни недостигаат методи за да се осигураме дека овие системи нема да ни наштетат или да се свртат против луѓето. " Иако не е првиот што предупредува за опасностите од вештачката интелигенција, согледувањата на Бенџио носат тежина имајќи ја предвид неговата улога во развојот на истата. Повеќе за предупредувањата за ВОИ: Ентузијастите на вештачката интелигенција стравуваат дека Сингулацијата може да се случи за време на претседателствувањето на Трамп.