Интервью AI кең көлемде кәсіпорындарда қолданылғанға дейін, корпорациялық жетекшілер нақты AI модельдерінің ерекшеліктеріне арналған тұрақты қауіпсіздік тестілеу режимін қабылдауы қажет. Бұл пікірді Chatterbox Labs бас директоры Данни Коулман мен CTO Стюарт Баттерсби білдірді. Олар The Register басылымында компаниялар неге әлі күнге дейін AI пилоттық бағдарламаларынан толық өндіріске өтуге баяу қозғалуда деген тақырыпта ұзақ әңгімелесті. «Кәсіпорындар қабылдауы бүгін шамамен 10 пайыз ғана», – деді Коулман. «McKinsey оның төрт триллион долларлық нарық екенін бағалайды. Егер сіз қауіпсіз деп білмейтін немесе қоғамға ықпалын ғана емес, кәсіпорынға әсерін де түсінбейтін шешімдерді шығаруды жалғастырсаңыз, қалай алғажүгіруге болады?» Ол қосымша айтты: «Кәсіпорын ішіндегі адамдар бұл технологияға дұрыс басқару мен қауіпсіздік болмаса дайын емес». Қаңтар айында кеңес беру компаниясы McKinsey жұмыс орнындағы жасанды интеллекттің (AI) әлеуетін пайдалану туралы есеп жариялады. «Superagency in the workplace: empowering people to unlock AI’s full potential» деп аталатын есепте AI технологияларына қызығушылық пен инвестициялар артып келе жатқаны көрсетілді, бірақ қабылдау қарқыны баяу екенін де атап өтті. «. . . не істесеңіз де, модель жеткізуші немесе шектеу орнатушының әңгімесіне сенбеу керек, өйткені барлығы оның өте қауіпсіз әрі сенімді екенін айтады». «Жетекшілер AI инвестицияларын арттырғысы келеді және дамуды жеделдегісі келеді, бірақ жұмыс орнында AI қауіпсіздігін қамтамасыз ету туралы әлі қиындықтарға тап болуда», – делінген McKinsey есебінде. Коулман дәстүрлі киберқауіпсіздік пен AI қауіпсіздігі қиылысады деп есептейді, бірақ көптеген ақпарат қауіпсіздігі командалары әлі озып кетпеген және AI-дің ерекше шабуыл тәсілдерін түсіну үшін қажетті мамандыққа ие емес.

Ол Cisco-ның Robust Intelligence-ті сатып алуы және Palo Alto Networks-тің Protect AI-ді сатып алуы сияқты компаниялар дұрыс стратегияларды қолдануды мысалға келтірді. Баттерсби ұйымдар AI-ды кең көлемде қолдануға ұмтылғанда, нақты AI қызметінің қалай жұмыс істейтінін негізге ала отырып, тұрақты тестілеу режимін енгізу керек екенін атап өтті. «Бірінші қадам – нақты қолдану жағдайы үшін қауіпсіз және сенімді дегеннің не екенін анықтау», – деді ол. «Содан кейін модель жеткізушісінің немесе шектеу орнатушы тараптың ұстанымдарына ғана rely етіп отырмай, бәрі өз шешімдерінің өте қауіпсіз екенін айтады». Бұл ескерту өте маңызды, себебі, Баттерсбидің ойынша, тіпті рұқсат етілген пайдаланушылар да жүйеге зиян келтіруі мүмкін. «Біз жеткізгіңіз келетін нәрсе – мазмұнның қауіпсіздік сүзгілері мен шектеу құралдары жеткіліксіз екенін көрсету», – деді Коулман. «Бұл жақын арада өзгермейді. Шешім көп қабатты болуы керек». Бұл тәсіл шығындарды арттыруы мүмкін болғанымен, Баттерсби тұрақты тестілеу шығындарды азайтуға көмектесетінін, мысалы, кішірек және арзанырақ модельдер әлі де қауіпсіз болатынын көрсету арқылы дәлелдеді. Толық интервью төменде жалғасады…