Nov. 24, 2024, 2:04 p.m.
2236

ЖИ пионері қуат қауптері туралы ескертеді: Озық технологияны кім басқарады?

Brief news summary

AI пионері Йошуа Бенджио, сарапшылар Янн Лекун және Джеффри Хинтонмен бірге One Young World саммитінде бірнеше ірі технологиялық жетекшінің қолында AI басқарусының шоғырлануы туралы алаңдаушылықтарын білдірді. Олар орталықтандырылған AI күшінің қаупін атап өтті және AI қауымдастығында бұл мәселелер жөнінде ашық талқылаудың болмауына назар аударған "Ескерту құқығы" атты ашық хатты қолдады. Бенджио қуатты ұйымдардың AI-ды өзімшіл мақсаттарда немесе қоғамды астамдау үшін қолдануына жол бермейтін қауіпсіздік шараларын қабылдаудың қажеттілігін айқындады. Ол AI дамуына қажет ірі инвестициялардың жиі биліктің шоғырлануына әкелетінін, бұл экономикаға, саясатқа және әскери тұрақтылыққа әсер етіп, нарықтарға, демократияға және жаһандық бейбітшілікке қауіп төндіретінін атап өтті. Сондай-ақ, ол жалпы жасанды интеллектің (AGI) пайда болу мүмкіндігінің алдын ала білмеушілігі және оның мүмкін болатын қауіптеріне дайын болмау туралы ескертті. Бенджио зиянды азайту үшін тиімді жаһандық саясат жасаудың қажеттілігін баса айтты. Оның пайымдаулары AI-дің тез өсуі мен оның қоғамға әсері туралы жалғасып жатқан талқылауда үлкен маңызға ие.

"Интеллект күш береді. Сондықтан бұл күшті кім басқарады?" Шеткі теория Белгілі бір ЖИ жаңашылы тек қана күшейіп бара жатқан технологиялардың дамуы әлемге зиян тигізбек ғана емес, осы технологияларды бақылап отырғандардың өзіндік қауіп дондыруы мүмкін екенін ескертуде. CNBC-мен сұхбаттасқан кезде, компьютер ғылымының сарапшысы Йошуа Бенгио адамдарды ЖИ арқылы алмастыруды мақсат ететін технологиялық "шеткі ағым" туралы алаңдаушылығын білдірді. Бенгио Монреаль университетінің Оқыту Алгоритмдері институтын басқарады және OpenAI зерттеушілері жасаған ЖИ қауіптері туралы "Ескерту құқығы" ашық хатына қол қойды. ЖИ "Құдайлары" ретінде танымал Янн Лекун және Джеффри Хинтонмен бірге танылған Бенгио Монреальда өткен One Young World Саммитінде "Бұл күшті кім басқарады?" деп сұрақ қойды. "Бұл күшті теріс пайдаланғысы келетін адамдар болуы мүмкін, және кейбіреулері адамдарды машиналармен алмастыруды құптауы мүмкін, " деп ескертті Бенгио.

"Бұл шеткі ағым ерекше күшке ие болуы мүмкін, егер қазірден бастап қорғаныс шараларын орнатпасақ. " Ақша маңызды ЖИ жүйелерін дамыту үшін миллиардтар қажет, бұл қаржылық ықпалдың маңыздылығын көрсетеді. "Өте аз ұйымдар мен елдер бұған мүмкіндігі бар, " деп атап өтті Бенгио. "Бұл қазірдің өзінде орын алып отыр. " "Күштің шоғырлануы болады: экономикалық, ол нарықтарға зиянды болуы мүмкін; саяси, ол демократияға қауіп төндіруі мүмкін; және әскери, ол геосаясатты тұрақсыздандыруы мүмкін, " деп қосты ол. Мамандар жасанды жалпы интеллект немесе адам деңгейіндегі ЖИ жетуге болатындығы мен оның уақыты туралы пікірталас жүргізуде. Бенгио жаһандық саясат орнатылмай тұрып бұл болатын болса, қиындық туатынын айтады. "Егер бұл бес жылдық аралықта болатын болса, біз дайын емеспіз, " деп баса айтты ол. "Бұл жүйелер адамдарға зиян келтірмес үшін немесе оларға қарсы шықпас үшін әдістер жоқ. " ЖИ қауіптері туралы ескертулер айтқандардың біріншісі болмаса да, Бенгионың түсініктері оның дамуына қосқан үлесі ретінде ерекшеленеді. AGI ескертулері туралы толығырақ: ЖИ жанкүйерлері Сингулярлық Трамп президенттігінің кезінде болуы мүмкін деп қауіптенеді.


Watch video about

ЖИ пионері қуат қауптері туралы ескертеді: Озық технологияны кім басқарады?

Try our premium solution and start getting clients — at no cost to you

I'm your Content Creator.
Let’s make a post or video and publish it on any social media — ready?

Language

Hot news

Dec. 15, 2025, 1:26 p.m.

AI 336,6 миллиард долларға рекордтық Цифрлық апта…

Salesforce-тың 2025 жылғы Cyber Week сауда кезеңіндегі талдауы рекордтық жаһандық бөлшек сатудың 336,6 миллиард долларға жеткенін көрсетеді, бұл өткен жылмен салыстырғанда 7% өсімді білдіреді.

Dec. 15, 2025, 1:24 p.m.

Жасанды интеллекттің жойылып кету қауіптері: Маск…

Жасанды inteligencia (ЖИ) жылдам даму қарқынды түрде жүріп жатыр, ол мамандар арасында үлкен талқы мен алаңдаушылықты туғызды, әсіресе оның адамзат пен қоғамға ұзақ мерзімді әсері туралы мәселе көтерілуде.

Dec. 15, 2025, 1:21 p.m.

Қарар алдында Уолл Стриттен бұрын кіріспеңіз: Бұл…

Бұл қаржылық демеушілік мазмұн; Barchart төменде көрсетілген веб-сайттар мен өнімдерді мақұлдамайды.

Dec. 15, 2025, 1:16 p.m.

Google DeepMind-тың AlphaCode: Жасанды интеллект …

Google-дің DeepMind компаниясы жақында AlphaCode деп аталатын инновациялық жасанды интеллект жүйесін таныстырды, бұл жасанды интеллект пен бағдарламалық қамтамасыз ету саласында үлкен жарылыс болды.

Dec. 15, 2025, 1:15 p.m.

Жақсы танымал SEO жасанды интеллект агенттері сіз…

Мен агенттік SEO-ның пайда болуын жақыннан қадағалап отырмын, сенімім бойынша, келесі бірнеше жылда мүмкіндіктер дамыған сайын, агенттер саланы айтарлықтай әсеріне алады.

Dec. 15, 2025, 1:10 p.m.

Salesforce-тің Питер Лингтон жасанды интеллект не…

Питер Лингтон, Salesforce-тың соғыс бөлімі бойынша аймақтық вице-президенті, алдағылар үш-бес жылда одаңның саласына озық технологиялар әсері қандай болатынын атап өтті.

Dec. 15, 2025, 9:35 a.m.

Sprout Social-дың Жаңарып жатқан Әлеуметтік Медиа…

Sprout Social әлеуметтік медиа басқару саласында алдыңғы орынға ие болып, озық жасанды интеллект технологияларын қабылдау мен стратегиялық серіктестіктер арқылы инновацияны дамытуға және қызмет көрсетуді жетілдіруге бағытталған.

All news

AI Company

Launch your AI-powered team to automate Marketing, Sales & Growth

and get clients on autopilot — from social media and search engines. No ads needed

Begin getting your first leads today