"Inteligencija daje moć. Dakle, ko će kontrolisati tu moć?" Fringe teorija Istaknuti pionir veštačke inteligencije upozorava da ne samo da bi sve moćnija tehnologija mogla naškoditi svetu, već i oni koji je kontrolišu mogu predstavljati značajne rizike. U intervjuu za CNBC, stručnjak za računarsku nauku Jošua Bendžio izrazio je zabrinutost zbog tehnološke "margine" koja teži da zameni ljude veštačkom inteligencijom. Bendžio vodi Institut za algoritme učenja Univerziteta u Montrealu i potpisao je otvoreno pismo "Pravo na upozorenje" koje su napisali istraživači OpenAI, tvrdeći da su ućutkani po pitanju opasnosti veštačke inteligencije. Poznat zajedno sa Janom Lekunom i Džefrijem Hintonom kao "Bogovi" veštačke inteligencije, Bendžio je postavio pitanje: "Ko će kontrolisati tu moć?" tokom samita One Young World u Montrealu. "Postoje ljudi koji bi mogli želeti da zloupotrebe tu moć, i neki koji bi možda želeli da ljudi budu zamenjeni mašinama, " upozorava Bendžio.

"Ova marginalna grupa može steći značajnu vlast ukoliko sada ne uspostavimo zaštitne mere. " Novac govori Sistemi veštačke inteligencije zahtevaju milijarde za razvoj, što ističe važnost finansijskog uticaja. "Vrlo malo organizacija i zemalja to može priuštiti, " rekao je Bendžio. "To se već dešava. " "Doći će do koncentracije moći: ekonomski, što može štetiti tržištima; politički, što može predstavljati pretnju demokratiji; i vojno, što može destabilizovati geopolitiku, " dodao je. Stručnjaci raspravljaju o izvodljivosti i vremenskim okvirima za postizanje opšte veštačke inteligencije ili AI na nivou ljudi. Bendžio sugeriše da smo u problemu ako se to dogodi pre nego što se uspostave globalne politike. "Ako je to pet godina daleko, nismo spremni, " naglasio je, "jer nemamo metode da osiguramo da ti sistemi neće povrediti ljude ili se okrenuti protiv njih. " Iako nije prvi koji upozorava na opasnosti veštačke inteligencije, Bendžiove uvide imaju težinu s obzirom na njegovu ulogu u njenom razvoju. Više o upozorenjima o AGI: Entuzijasti veštačke inteligencije strahuju da bi Singularitet mogao nastupiti za vreme Trampovog predsedništva.