"Intelligens gir makt. Så hvem skal kontrollere den makten?" Fringe-teori En fremtredende AI-pioner advarer om at ikke bare kan stadig kraftigere teknologi skade verden, men de som kontrollerer det, kan også utgjøre betydelige risikoer. I et intervju med CNBC uttrykte datavitenskapsekspert Yoshua Bengio bekymring for en teknologisk "fringe" som ønsker å erstatte mennesker med AI. Bengio leder Université de Montréals Institutt for Læringsalgoritmer og signerte "Rett til å advare"-brevet av OpenAI-forskere som hevder at de blir tiet om AI-farer. Kjent sammen med Yann LeCun og Geoffrey Hinton som AI "Gudfedre, " spurte Bengio "Hvem skal kontrollere den makten?" under One Young World Summit i Montréal. "Det finnes mennesker som kanskje vil misbruke den makten, og noen som kanskje ønsker at mennesker erstattes av maskiner, " advarte Bengio.

"Denne fringeen kan få betydelig makt med mindre vi innfører beskyttende tiltak nå. " Penger teller AI-systemer krever milliarder å utvikle, noe som fremhever viktigheten av økonomisk innflytelse. "Svært få organisasjoner og land har råd til det, " bemerket Bengio. "Det skjer allerede. " "Det vil bli en konsentrasjon av makt: økonomisk, potensielt skadelig for markeder; politisk, muligens truende for demokratiet; og militært, potensielt destabiliserende for geopolitikk, " la han til. Eksperter diskuterer muligheten og tidslinjen for å oppnå generell kunstig intelligens, eller AI på menneskelig nivå. Bengio antyder at vi er i trøbbel hvis det skjer før globale retningslinjer er på plass. "Hvis det er fem år unna, er vi uforberedte, " understreket han, "fordi vi mangler metoder for å sikre at disse systemene ikke vil skade eller vende seg mot mennesker. " Selv om han ikke er den første til å advare om AI-farer, er Bengios innsikter betydningsfulle gitt hans rolle i utviklingen. Mer om AGI-advarsler: AI-entusiaster frykter at Singulariteten kan inntreffe under Trumps presidentskap.