Pionier sztucznej inteligencji ostrzega przed ryzykiem związanym z władzą: kto będzie kontrolować zaawansowaną technologię?
Brief news summary
Pionier sztucznej inteligencji Yoshua Bengio, wraz z innymi ekspertami, Yannem LeCunem i Geoffreyem Hintonem, wyraził zaniepokojenie podczas One Young World Summit koncentracją kontroli nad AI w rękach kilku głównych liderów technologicznych. Podkreślili oni niebezpieczeństwa związane ze scentralizowaną władzą nad AI i poparli otwarty list "Prawo do Ostrzegania", który zwraca uwagę na brak otwartych dyskusji na te tematy w społeczności AI. Bengio podkreślił potrzebę wprowadzenia zabezpieczeń, aby zapobiec wykorzystywaniu AI przez potężne podmioty do egoistycznych celów lub dominacji społecznej. Zwrócił uwagę, że duże inwestycje niezbędne do rozwoju AI często prowadzą do koncentracji władzy, wpływających na gospodarki, politykę i stabilność militarną, co może zagrażać rynkom, demokracji i globalnemu pokojowi. Ostrzegł także przed nieprzewidywalnością związaną z ogólną sztuczną inteligencją (AGI) i ryzykiem związanym z brakiem przygotowania na jej potencjalne pojawienie się. Bengio podkreślił konieczność ustanowienia skutecznych globalnych polityk w celu zminimalizowania możliwych zagrożeń. Jego spostrzeżenia są kluczowe w trwającej dyskusji na temat szybkiego rozwoju AI i jej wpływu na społeczeństwo."Inteligencja daje władzę. Kto będzie kontrolował tę władzę?" Teoria Frędzli Znany pionier AI ostrzega, że nie tylko coraz potężniejsza technologia może zaszkodzić światu, ale ci, którzy nią kierują, mogą również stanowić znaczące zagrożenie. W wywiadzie dla CNBC ekspert w dziedzinie informatyki Yoshua Bengio wyraził obawy dotyczące technologicznej "frędzli", która dąży do zastąpienia ludzi sztuczną inteligencją. Bengio kieruje Instytutem Algorytmów Uczących się Uniwersytetu w Montrealu i podpisał otwarty list "Prawo do Ostrzeżenia" opracowany przez badaczy z OpenAI, którzy twierdzą, że są uciszani w sprawie niebezpieczeństw AI. Znany wraz z Yannem LeCunem i Geoffreyem Hintonem jako "Ojczymowie" AI, Bengio zapytał: "Kto będzie kontrolował tę władzę?" podczas szczytu One Young World w Montrealu. "Są ludzie, którzy mogą chcieć nadużyć tej władzy, i tacy, którzy mogą przyjąć zastąpienie ludzi przez maszyny, " ostrzegał Bengio.
"Ta frędzla może zdobyć znaczną władzę, jeśli nie ustanowimy teraz środków ochronnych. " Pieniądze się liczą Systemy AI wymagają miliardów na rozwój, co podkreśla znaczenie wpływów finansowych. "Bardzo niewiele organizacji i krajów może sobie na to pozwolić, " zauważył Bengio. "To już się dzieje. " "Będzie koncentracja władzy: ekonomiczna, potencjalnie szkodliwa dla rynków; polityczna, mogąca zagrozić demokracji; i militarna, która może zdestabilizować geopolitykę, " dodał. Eksperci dyskutują o wykonalności i harmonogramie osiągnięcia ogólnej inteligencji sztucznej, czyli AI na poziomie człowieka. Bengio sugeruje, że będziemy mieć problemy, jeśli to nastąpi, zanim zostaną wprowadzone globalne polityki. "Jeśli to się stanie za pięć lat, jesteśmy nieprzygotowani, " podkreślił, "ponieważ nie mamy metod, aby zapewnić, że te systemy nie zaszkodzą lub nie zwrócą się przeciwko ludziom. " Choć nie pierwszy ostrzega przed zagrożeniami AI, spostrzeżenia Bengio mają znaczenie ze względu na jego rolę w jej rozwoju. Więcej o ostrzeżeniach AGI: entuzjaści AI obawiają się, że Osobliwość może nastąpić za prezydentury Trumpa.
Watch video about
Pionier sztucznej inteligencji ostrzega przed ryzykiem związanym z władzą: kto będzie kontrolować zaawansowaną technologię?
Try our premium solution and start getting clients — at no cost to you
