Баспасөз Жасанды Интеллект компаниялары адамзатты жасанды интеллектінің қауіптерінен тиімді қорғап жатыр ма?Silicon Valley-дың қайырымдылық ұйымы - Болашақ өмір институтының жаңа есеп беруі бойынша, жауап әдетте жоқ екені қисынды. Жасанды интеллекдің адам мен технология арасындағы өзара әрекеттесуіне күн сайын маңыздырақ түрде енуден, потенциалды қауіптер байқалуда — мысалы, адамдардың кеңес алу үшін чатботтарды пайдаланып, кейіннен өзін-өзі өлтіруі, немесе жасанды интеллект арқылы жасалған кибершабуылдар. Болашақ қауіптер де бар, соның ішінде жасанды интеллектің қару жарақта қолданылуы немесе үкіметтерді тұрақсыздандыру әрекеттері. Алайда, жасанды интеллект компанияларының жаһандық қауіпсіздікті алға қоюына ынталандыру жеткіліксіз. Институттың жақында жариялаған AI қауіпсіздік индексі бұл мәселені көрсетеді, ол жасанды интеллект дамуын қауіпсіз нәтижелерге бағыттау және өмірлік қауіптерді азайтуға ұмтылады. Институт президенті және MIT профессоры Макс Тегмарк бұл жайында былай деді: "Жасанды интеллект саласында, АҚШ-та, реттеусіз жұмыс істейтін жалғыз күшті технология өндіруші салалар ғана бар, бұл қауіпсіздікті елестететін "төмендеген бәсеке" тудырады, онда қауіпсіздік жиі назардан тыс қалады". Осы индекс бойынша ең жоғары баға — тек C+ болды. Бұл бағаны ChatGPT әзірлеушісі OpenAI және оның чатботы Claude-мен танымал Anthropic алды. Google-дың жасанды интеллект бөлімі — Google DeepMind — C алды. Әлеуметтік желі гиганты Meta (Facebook-тің ата-анасы компаниясы) және Илэн Масктің xAI жобасы D алды, екеуі де Палало-Альто маңында орналасқан. Қытайлық Z. ai және DeepSeek фирмалары да D бағасын алды. Alibaba Cloud ең төменгі — D- бағасын иеленді. Компанияларды 35 көрсеткіш арқылы бағалау жүргізілді, ол алты категориядан тұрады: жойғыш қауіпсіздік, қауіп-қатерді бағалау және ақпарат алмасу. Бағалау ашық деректер мен компаниялар жүргізген сауалнамалар негізінде жасалды, оны сегіз жасанды интеллект маманы — барлығы ғалымдар мен ұйым басшылары — бағалады. Айта кету керек, барлық компаниялар жаратылыстық қауіпсіздікте орташа деңгейден төмен баға алды.

Бұл көрсеткіш ішкі бақылау мен стратегиялық жоспарлауды қамтиды, ол апатты жасанды интеллект қолдануын болдырмауға бағытталған. Есепте ешбір компания жасанды интеллект жалпыға ортақ және сверхинтеллектке жақындаған кезде бақылаудан шығу немесе қатты қателіктерді болдырмауға сенімді жоспарлары жоқ деп атап өтті. Google DeepMind пен OpenAI қауіпсіздікке ерекше көңіл бөлетінін мәлімдеді. OpenAI әлі зерттеу, сынақтан өткізу және қауіпсіздік шеңберін бөлісу арқылы саланың стандарттарын көтеруге ынталанғанын айтты. Google DeepMind ғылыми негізделген қауіпсіздік тәсілі мен протоколдарын қолданатынын, ал оларға үлкен қауіп-қатерлер әсерін тигізбес үшін алдын ала шараларды қабылдап жатқанын жариялады. Ал, Институт айқындағандай, xAI және Meta компаниялары қауіп-қатерлерді басқару құрылымдары бар болса да, бақылау мен басқару кепілдіктері жеткіліксіз және қауіпсіздікке инвестиция салмаған. DeepSeek, Z. ai және Alibaba Cloud сияқты компаниялардың қауіпсіздік стратегиялары ашық құжаттамада жарияланбаған. Meta, Z. ai, DeepSeek, Alibaba және Anthropic комментарий сұрауларына жауап бермеді. xAI бұл есепті «Миралық БАҚ өтірігі» деп атады, ал Масктің адвокаты қосымша сұрауларға жауап қатпады. Маск кеңесші және Болашақ өмір институтына қаржыландырушы болғанымен, ол AI қауіпсіздік индексін дайындауда қатысқан жоқ. Тегмарк қауіптенді, егер реттеу жеткіліксіз болса, террористер биологиялық қару жасап шығаруы мүмкін, манипуляциялық мүмкіндіктерді арттырып, үкіметтерді тұрақсыздандыруы ықтимал. Ол мұны түзету өте straightforward — жасанды интеллект компанияларына міндетті қауіпсіздік стандарттарын енгізу қажеттігін айтты. Бірқатар үкіметтік шаралар AI бақылауын жақсартуға бағытталған болса да, техникалық лоббистер бұл реттеулерге қарсы шықты, олар инновацияны тежеп немесе компанияларды басқа елдерге көшірілуінен қауіптенеді. Дегенмен, мысалы, Калифорнияның SB 53 заң жобасы, оны қыркүйек айында губернатор Гэвин Ньюсом қолдады, компанияларға қауіпсіздік және қауіпсіздік протоколдарын ашық жариялауды, сондай-ақ кибершабуылдар мен басқа да оқиғалар туралы есеп беруді міндеттеді. Тегмарк бұл заңды бірқалыпты прогресс деп санайды, бірақ ол одан әрі ауқымды шаралар қажет екенін атап өтті. Enderle Group басты талдаушысы Роб Эндерле AI қауіпсіздік индексін AI реттеуінің маңызды тәсілі деп есептейді, бірақ қазіргі АҚШ билігінің тиімді заңдар қабылдау мүмкіндігін күмәнмен қарайды. Ол егер заңдар нашар жасалса, зиян келтіруі мүмкін екенін, ал оларды қатаң орындау механизмдері жоқ деп ескертті. Қорытындылай келе, AI қауіпсіздік индексі көрсетіп отыр, алдыңғы кезекте тұрған жасанды интеллект әзірлеушілері әлі қауіпсіздікке қатысты нақты күшті кепілдіктерді көрсеткен жоқ, бұл адамзатты жасанды интеллекттің өсіп келе жатқан қауіптерінен қорғау үшін күшті реттеуді жедел қолға алуды қажет етеді.