Қазіргі жасанды интеллекттің (ЖИ) тез дамуы мамандар арасында маңызды талқы мен алаңдаушылық туғызды, әсіресе оның адамзатқа ұзақ мерзімді әсерлері туралы. Tesla және SpaceX компанияларының бас директоры Elon Musk, сонымен қатар AI зерттеу компаниясы Anthropic-тің бас директоры Dario Amodei сияқты көрнекті тұлғалар ЖИ-дің төндіретін ауыр болашақ қауіптері туралы ескертеді, олар адамзаттың жойылуын 10%-дан 25%-ға дейін бағалайды. Бұл шұғыл бағалау ЖИ-дің дамуы мен қолданылуын бақылау үшін күшті реттеу құрылымдары мен қауіпсіздік шараларын енгізудің қажеттілігін айқындайды. Елбі ойлы көзқарасы мен болжаушылық ұстанымы арқылы танымал Musk ұзақ уақыт бойы реттелмеген ЖИ-дің қауіптері туралы ескертіп жүр. Ол ЖИ-дің пайдасын мойындай отырып, дұрыс қадағалау болмаса, ЖИ адамның бақылауынан шығып, апатты салдарға әкелуі мүмкін деп айтады. Musk адам қауіпсіздігін басты назарға алатын ынталандырушыларды регламенттеуді ұсынады. Сол сияқты, Dario Amodei де осы қауіптерді бөлісіп, Anthropic компаниясында адам құндылықтарымен сәйкес келетін интерпретацияланатын ЖИ жүйелерін жасауға көңіл бөлуде, ол автономды ЖИ мінез-құлқының қауіптерін азайтуға бағытталған. Оның қауіп бағалауы, ЖИ-дің бақылаусыз дамуындағы қауіптердің салмақтылығын көрсетеді. ЖИ жүйелері тез жетілдірілуде, олар бұрын ғана адамға тән деп саналатын тапсырмаларды орындайды — табиғи тілді өңдеу, автономды шешім қабылдау сияқты күрделі жағдайларда. Бұл жетістіктер бәсекеге қабілетті индустрияны өзгертуді және өмір сапасын жақсартуды уәде етеді, алайда олар бұрын-соңды болмаған сын-қатерлерді да туындатады. Мамандар егер қауіпсіздік шаралары қолданылмаса, ЖИ қате қолданылуы мүмкін немесе зиянды мінез-құлықтар тудыруы ықтимал деп тұжырымдайды.

Қазіргі заманғы ЖИ-дің күрделілігі барлық мүмкін ақауларды немесе бөгде әсерлерді болжауды қиындатады, бұл қауіптердің өсуіне, апаттар немесе кемсітушілік мақсатында қолданылуының ықтималдығына әкеледі. Осыған орай, ғылым мен саясат салалары ЖИ-ді реттеуге арналған кең көлемді ұсыныстар жасай бастады. Бұл қажеттілік қауіпсіздік жүйелері мен әдептілік қағидаттарын сақтау, құпиялылықты қамтамасыз ету, әрі қоғамға сәйкес келетін ЖИ ерекшеліктерін жүзеге асыру шараларын қарастыруды қамтиды. Әлемдік деңгейде ынтымақтастық маңызды, себебі ЖИ-дің жаһандық даму мен пайдаланылуы жалғасуда. Сонымен бірге, ЖИ қауіпсіздігі мен этикасына арналған зерттеулер жалғастырылуда. Ғылыми және ұйымдар тарапынан күшті, бірақ бақылауға болатын ЖИ құруға бағытталған жұмыстар жүргізілуде, олардың ішінде мінез-құлқын тексеру, оқу түсіну қабілетін арттыру және этикалық әсерлерін бағалау бар. ЖИ қауіптері мен реттеуге арналған талқылаулар жаңартылатын технологияларды дұрыс пайдалану мен адамзаттың болашағын қорғаудың жалпы қиындығын көрсетеді. ЖИ-дің тез даму қарқыны инновациямен сақтықты үйлестіре отырып, ерекше көңіл бөлу маңызды. Musk пен Amodei сияқты жетекшілердің ескертулері, бұл мәселелердің шұғыл назар аударуды талап ететіндігін айқындайды. Қорытындылай келе, жоғарыда аталған мамандардың бағалауы бойынша, ЖИ-дің адамзаттың жою мүмкіндігі 10%-дан 25%-ға дейін жетуі — әлемдік деңгейдегі өзекті мәселе, оны шұғыл түрде бірлесіп шешу қажет. Қауіпсіздік пен құндылықтарға сай ЖИ-ді дамыту үшін тиімді реттеу жүйелері мен қауіпсіздік шараларын құру маңызды. Бұл қауіптерді елемеу, кері әсерлер мен түрлі қауіпсіздік қатерлерін тудыруы мүмкін, сондықтан ойластырылған және көпжақты ЖИ басқару адамзат болашағы үшін аса маңызды.