„Greind gefur vald. Svo hver ætlar að stjórna því valdi?“ Jaðarfræði Framúrskarandi frumkvöðull á sviði gervigreindar varar við því að ekki aðeins gæti æ sterkari tækni valdið skaða á heimsvísu, heldur geti þeir sem stjórna henni einnig skapað verulega áhættu. Í viðtali við CNBC lýsti tölvunarfræðingurinn Yoshua Bengio yfir áhyggjum af tæknilegum „jaðri“ sem reynir að skipta út mönnum fyrir gervigreind. Bengio, sem leiðir Institute for Learning Algorithms við Háskólann í Montreal, undirritaði „Right to Warn“ skjal OpenAI rannsakenda sem kvarta yfir því að þeim sé ekki leyft að tjá sig um hættuna við gervigreind. Bengio, sem ásamt Yann LeCun og Geoffrey Hinton er þekktur sem „Guðfeður“ gervigreindar, spurði: „Hver ætlar að stjórna því valdi?“ á One Young World leiðtogafundinum í Montreal. „Það eru til einstaklingar sem gætu viljað misnota það vald og sumir sem gætu fagnað því að vélmenni komi í stað manna, “ varaði Bengio við.

„Þessi jaðarhópur getur öðlast verulegt vald nema við komum á verndarráðstöfunum núna. “ Peningar tala Gervigreindarkerfi krefjast milljarða í þróun, sem undirstrikar mikilvægi fjárhagsáhrifa. „Aðeins fáar stofnanir og lönd hafa efni á þessu, “ benti Bengio á. „Það er þegar að gerast. “ „Það mun verða samþjöppun valds: efnahagslega, sem getur verið skaðlegt fyrir markaði; pólitískt, sem gæti ógnað lýðræði; og hernaðarlega, sem getur valdið óstöðugleika í alþjóðastjórnmálum, “ bætti hann við. Sérfræðingar ræða um framkvæmanleika og tímaáætlun fyrir að ná almennri gervigreind, eða gervigreind á mannlegu stigi. Bengio leggur til að við séum í vandræðum ef það gerist áður en alþjóðastefnur eru komnar í gagnið. „Ef það er fimm ár í burtu, þá erum við óundirbúin, “ undirstrikaði hann, „vegna þess að við höfum ekki aðferðir til að tryggja að þessi kerfi valdi ekki skaða eða snúi ekki gegn fólki. “ Þótt Bengio sé ekki sá fyrsti til að vara við hættum gervigreindar, þá hefur grein hans mikið vægi vegna þekkingar hans á þróun hennar. Meira um viðvaranir um AGI: Gervigreindar áhugamenn hafa áhyggjur af að Singularity gæti orðið við forsetatíð Trumps.