Жасанды inteligencia (ЖИ) жылдам даму қарқынды түрде жүріп жатыр, ол мамандар арасында үлкен талқы мен алаңдаушылықты туғызды, әсіресе оның адамзат пен қоғамға ұзақ мерзімді әсері туралы мәселе көтерілуде. Tesla мен SpaceX президенті Илон Маск және AI зерттеу ұйымы Anthropic-тың бас директоры Даріо Амодей секілді белгілі тұлғалар ЖИ-дан болатын қатерлер туралы ескертеді, олардың бағалауы бойынша ЖИ-дың адамзаттың жойылуы ықтималдығы 10%-дан 25%-ға дейін деп бағаланады. Бұл қараңғы бағалау ЖИ-дің даму мен қолданылуын бақылау үшін қатаң реттеу механизмдері мен қауіпсіздік шараларын дереу енгізу қажеттілігін көрсетеді. Теңізшідей көзқарасымен белгілі Илон Маск тұрақсыз ЖИ-нің қауіптілігін бірнеше рет ескертті. Ол ЖИ-дің пайдасын мойындаса да, бақылаусыз қалғанда оның адамды бақылауынан шығуы мүмкін екенін және апатты салдарларға әкелуі мүмкін екендігін атап көрсетеді. Маск болашақта ЖИ дамуын адам қауіпсіздігін бірінші орынға қоятындай реттеуді қолдайды. Сол сияқты, Даріо Амодей бұл мәселеге алаңдап, адам құндылықтарына сай келетін түсінуге оңай жүйелерді жасау арқылы автономды ЖИ-нің қауіп-қатерін азайтуды көздейтін жобалармен айналысады. Оның қауіп-қатер бағалаулары ЖИ-дің бақылаусыз дамуына көптеген мамандардың қаншалықты мән беретінін көрсетеді. ЖИ жүйелері тез жетілдіріліп, бұрын адамға тән деп есептелетін тапсырмаларды орындауға мүмкіндік берген сайын, оның қауіп-қатерлері де арта түсуде. Бұл олардың табиғи тілді өңдеу және күрделі жағдайларда автономды шешім қабылдау қабілетін қамтиды. Бұл жетістіктер салаларды түбегейлі өзгертіп, өмір сапасын арттырса да, ЖИ-нің қауіпсіз әрі этикалық қолданылуын қамтамасыз ету үшін бұрын көрмеген қиындықтар пайда болады. Мамандар бұл қауіптер әлі де толық зерттелмегенін және дұрыс бақылаусыз ЖИ-дің зиянкестік мақсатта қолданылуы немесе адамға қарсы әрекеттер жасалуы мүмкін екенін ескертуде.

Қазіргі ЖИ қарқыны мен күрделілігі барлық мүмкін тәуекелдерді болжауды қиындатып, апаттар мен қасақана қате әрекеттердің алдын алу қажеттілігін арттырады. Сол себепті ғылыми және саясаттық ұйымдар ЖИ-дің қауіпсіздігі мен этикасына қатысты кешенді реттеу шараларын ұсынуда, олар қауіпсіздік механизмдерін қамтиды, ЖИ дизайнында ашықтықты арттырады және қоғамда қабылданған этикалық қағидаларды сақтауды талап етеді. Әлемдік деңгейде ынтымақтастық маңызды, себебі ЖИ бүкіл әлемде бірдей дамып, қолданылуда. Реттеу шараларымен қатар, ЖИ қауіпсіздігі мен этикасы бойынша үздіксіз зерттеулер жалғасуда. Ғылыми және ұйымдық күш-жігерлер ЖИ-дің күшті және басқарылатын болуын қамтамасыз етуге бағытталған, оның адам мақсаттарына сай болуын жаңа технологияларды тексеру, түсінуді арттыру және этикалық аспектілерді бағалау арқылы жүзеге асырады. ЖИ тәуекелдері мен реттеу мәселелері адамзаттың болашағын сақтау үшін маңызды трансформациялық технологияларды басқарудың кеңірек өзара байланысты мәселелерін көрсетеді. ЖИ қарқынды дамып жатқан кезде инновация мен қауіпсіздік арасындағы тепе-теңдікті сақтау керек. Мәселен, Маск пен Амодей сияқты көшбасшылардың ескертулері бұл мәселелердің қайғылы салдарын болдырмау үшін шұғыл шаралар қабылдауға шақырады. Қорытындылай келе, жетекші ғалымдардың бағалауы бойынша, адамзаттың жойылу қаупі 10%-дан 25%-ға дейін деп бағаланатын бұл тәуекел әлемдік деңгейде аса маңызды әрі шұғыл әрекет ету қажеттігін көрсететін мәселе болып табылады. ЖИ-дің дамуымен қауіпсіздік пен адамзат құндылықтарына сай келетін реттеуді қамтамасыз ететін күшті реттеу құрылымдары мен қауіпсіздік шараларын құру өте маңызды. Бұл мәселелерді еленбеу жағдайында, оның салдары кері әсерін тигізіп, кері қайтарылмайтын нәтижелерге әкелуі мүмкін, сондықтан дүниежүзілік ынтымақтастық пен көпжақты басқару адамзаттың қауіпсіздігі мен болашағы үшін аса қажет.