Компанияларда киберқорғау топтары болуы мүмкін, бірақ көптеген ұйымдар AI жүйелері нақты қашан және қалай сәтсіздікке ұшырайтынына дайын емес екенін AI қауіпсіздігі бойынша зерттеуші айтады. Sander Schulhoff, біріншілердің бірі болып табылатын сұраныс бойынша инженерлік нұсқаулықтың авторы және AI жүйелерінің осал тұстары бойынша маман, «Lenny's Podcast» бағдарламасының соңғы шығарылымында жексенбі күні жарияланғанда, көптеген ұйымдар AI қауіпсіздік қауіптерімен күресу үшін қажетті білікті мамандардан айырылғанын мәлімдеді. Дәстүрлі киберқауіпсіздік командалары қателіктерді түзету және белгілі осал тұстарды өңдеуге оқытылған, бірақ AI әдеттегіден бөлек жұмыс істейді. «Қателікті түзеп қойсаңыз болады, бірақ миға әсер ету қиын», – деп түсіндірді Schulhoff, ол қауіпсіздік командалары мәселелерге қалай қарайтыны мен үлкен тілдік модельдердің сәтсіздікке ұшырауындағы негізгі айырмашылықты атап өтеді. «AI-дың жұмыс істеу тәсілі мен классикалық киберқауіпсіздік арасында айырмашылық бар», – деп қосты ол. Бұл алшақтық нақты қолдануда байқалады. Киберқауіпсіздік сарапшылары AI жүйесін техникалық мәселелер үшін қарап жатқанда, «Ал егер біреуі AI-ды дұрыс емес нәрсе жасауға манипуляция жасаса, не болар еді?» деп ойламайды, дейді Schulhoff, ол сұраныс инженерлігін басқару платформасы мен AI-дің қауіпке қарсы күресетін хакатонын жүргізеді. Дәстүрлі бағдарламалық қамтамасыз ету сияқты емес, AI жүйелерін тіл және ұсақ нұсқаулар арқылы әсерлендіруге болады, деп атап көрсетті ол. Schulhoff, сондай-ақ, AI қауіпсіздігі мен дәстүрлі киберқауіпсіздік саласында тәжірибесі бар адамдар жауап қайтаруды білетінін айтты, мысалы, зиянды кодты шығару үшін AI моделін алдауға тырысқанда — ол кодты оқшауланған контейнерде іске қосу арқылы жүйеге зиян келтіру мүмкіндігін болдырмайды. Оның ойынша, AI қауіпсіздігі мен классикалық киберқауіпсіздіктің біріккен саласы — «болашақтағы қауіпсіздік мамандықтары». AI қауіпсіздігі стартаптарының пайда болуы Schulhoff көптеген AI қауіпсіздігі стартаптарына да сын айтты, олар шынайы қорғаныс қамтамасыз етпейтін сақтандырғыштар мен шектеулерді насихаттайды.

AI жүйелерін шексіз тәсілдер арқылы әсерлендіруге болатынын ескере отырып, бұл құралдар «бәрін ұстап қалады» деген тұжырым жалған екенін мәлімдеді. «Бұл мүлде жалған», — деп болжады ол, нарықтық түзету болатынын, онда «осы сақтандырғыштар мен автоматтандырылған қауіпке қарсы күрес топтарының кірісі айтарлықтай төмендейді» деп болжады. AI қауіпсіздігі стартаптары ірі инвесторлардың қызығушылығын пайдаланып отыр. Жіберлердің сәттілігінен шайқайтын технологиялық ауқымды компаниялар мен венчурлік капитал қоры бұл секторға көп салым салды, себебі компаниялар AI жүйелерін қамтамасыз ету үшін күресіп жатыр. Наурызда Google киберқауіпсіздік стартапы Wiz-ді 32 миллиард долларға сатып алып, бұлтты қауіпсіздік қызметтерін күшейтті. Google бас директоры Sundar Pichai AI-дың «жаңа қауіптерін» енгізетінін мойындады, себебі көп бұлтты және гибридтік орта кеңінен қолданылуда. «Осыған байланысты ұйымдар бірнеше бұлтты қамтитын бұлтты қауіпсіздік шешімдерін іздестіруде», — деді ол.