"Az intelligencia hatalmat ad. Tehát ki fogja irányítani ezt a hatalmat?" Peremelmélet Egy neves mesterséges intelligencia úttörő figyelmeztet arra, hogy az egyre erőteljesebb technológia nemcsak károsíthatja a világot, hanem azok is jelentős kockázatot jelenthetnek, akik irányítják. A CNBC interjújában Yoshua Bengio számítástechnikai szakértő aggodalmát fejezte ki egy technológiai „perem” miatt, amely az emberek helyettesítésére törekszik a mesterséges intelligenciával. Bengio a Montreáli Egyetem Tanulási Algoritmusok Intézetének vezetője, és aláírta az OpenAI kutatói által megfogalmazott „Right to Warn” nyílt levelet, mely szerint elhallgattatják őket a mesterséges intelligencia veszélyeivel kapcsolatban. Yann LeCun és Geoffrey Hinton mellett az MI „keresztapáinak” számító Bengio a Montreali One Young World Summit rendezvényen tette fel a kérdést: „Ki fogja irányítani ezt a hatalmat?” „Vannak, akik visszaélhetnek ezzel a hatalommal, és olyanok is, akik örömmel vennék, ha az embereket gépek helyettesítenék, ” figyelmeztetett Bengio.

„Ez a perem jelentős hatalomra tehet szert, hacsak nem hozunk létre védelmi intézkedéseket most. ” A pénz beszél Az MI rendszerek fejlesztése milliárdokat igényel, ami kiemeli a pénzügyi befolyás fontosságát. „Nagyon kevés szervezet és ország engedheti meg magának, ” jegyezte meg Bengio. „Ez már most megvalósul. ” „Hatáskonszentráció alakul ki: gazdasági, amely potenciálisan káros lehet a piacokra; politikai, amely esetleg fenyegetheti a demokráciát; és katonai, amely potenciálisan destabilizálhatja a geopolitikát, ” tette hozzá. A szakértők vitatják az általános mesterséges intelligencia elérésének megvalósíthatóságát és időtávját. Bengio szerint bajban vagyunk, ha ez még a globális szabályozások létrejötte előtt bekövetkezik. „Ha öt évre van, felkészületlenek vagyunk, ” hangsúlyozta, „mert nincs eszközünk biztosítani, hogy ezek a rendszerek ne ártsanak vagy forduljanak az emberek ellen. ” Bár nem Bengio az első, aki figyelmeztet a mesterséges intelligencia veszélyeire, meglátásai súlyt hordoznak az ő fejlesztésében betöltött szerepe miatt. További figyelmeztetések az AGI kapcsán: Az MI rajongók attól félnek, hogy a szingularitás Trump elnöksége alatt következhet be.