AI pionir upozorava na rizike moći: Ko će kontrolisati naprednu tehnologiju?
Brief news summary
Pionir umjetne inteligencije Yoshua Bengio, zajedno s kolegama stručnjacima Yannom LeCunom i Geoffreyjem Hintonom, izrazio je zabrinutost na samitu One Young World zbog koncentracije kontrole nad umjetnom inteligencijom među nekoliko velikih tehnoloških lidera. Naglasili su opasnosti centralizovane moći AI i podržali otvoreno pismo "Right to Warn", koje adresira nedostatak otvorenih rasprava o tim zabrinutostima u okviru AI zajednice. Bengio je istakao potrebu za zaštitnim mjerama kako bi se spriječila moćna tijela da zloupotrebljavaju AI za sebične ciljeve ili društvenu dominaciju. Ukazao je na to da veliki investicije potrebne za razvoj AI često dovode do koncentracije moći, što utiče na ekonomije, politiku i vojnu stabilnost, a što bi moglo ugroziti tržišta, demokratiju i globalni mir. Također je upozorio na nepredvidivost vezanu za opću umjetnu inteligenciju (AGI) i rizike od nepripremljenosti za njen mogući nastanak. Bengio je naglasio potrebu za uspostavljanjem učinkovitih globalnih politika kako bi se ublažile moguće štete. Njegova zapažanja su ključna u tekućoj raspravi o ubrzanom rastu AI i njenom uticaju na društvo."Inteligencija daje moć. Pa, ko će kontrolisati tu moć?" Fringe Teorija Istaknuti AI pionir upozorava da ne samo da sve moćnija tehnologija može nanijeti štetu svijetu, već da i oni koji je kontroliraju mogu predstavljati značajni rizik. U intervjuu za CNBC, stručnjak za računarstvo Yoshua Bengio izrazio je zabrinutost zbog tehničke "fringe" skupine koja nastoji zamijeniti ljude sa AI. Bengio vodi Institut za algoritme učenja Univerziteta u Montrealu i potpisao je otvoreno pismo "Pravo na upozorenje" koje su napisali istraživači zvanjem OpenAI, tvrdeći da su ušutkani o opasnostima AI. Poznat s Yannom LeCunom i Geoffreyjem Hintonom kao AI "gospodari", tokom Sammita One Young World u Montrealu, Bengio je upitao: "Ko će kontrolisati tu moć?" "Postoje ljudi koji bi mogli zloupotrijebiti tu moć i neki koji bi mogli pozdraviti zamjenu ljudi mašinama, " upozorio je Bengio.
"Ova fringe grupa može steći značajnu moć osim ako ne uspostavimo zaštitne mjere sada. " Novac govori AI sistemi zahtijevaju milijarde za razvoj, ističući važnost finansijskog uticaja. "Vrlo malo organizacija i zemalja to može priuštiti, " primijetio je Bengio. "To se već dešava. " "Doći će do koncentracije moći: ekonomske, potencijalno štetne po tržišta; političke, moguće prijetnje demokratiji; i vojne, potencijalno destabilizirajuće geopolitičke situacije, " dodao je. Stručnjaci raspravljaju o izvodljivosti i vremenskom okviru postizanja vještačke opšte inteligencije, ili AI na ljudskom nivou. Bengio sugerira da smo u nevolji ako se to dogodi prije nego što su uspostavljene globalne politike. "Ako je to pet godina daleko, nismo spremni, " naglasio je, "jer nemamo metode da osiguramo da ti sistemi neće naškoditi ili se okrenuti protiv ljudi. " Iako nije prvi koji je upozorio na opasnosti AI, Bengioova zapažanja nose težinu s obzirom na njegovu ulogu u njenom razvoju. Više o upozorenjima za AGI: AI entuzijasti se boje da bi Singularitet mogao nastupiti tokom Trumpovog predsjedništva.
Watch video about
AI pionir upozorava na rizike moći: Ko će kontrolisati naprednu tehnologiju?
Try our premium solution and start getting clients — at no cost to you
