Антропик, алдыңғы қатарлы жасанды интеллектуал компаниясы, толық жасанды интеллектке негізделген виртуалды қызметкерлердің алдағы уақытта, мүмкін, келесі жылы корпоративтік желілерге біріктірілуі туралы маңызды ескерту жасады. Олар ұйымдарға бұл жаңа қауіптерге қарсы тұру үшін киберқауіпсіздік құрылымдарын жедел еңгізуді ұсынады. Антропиктің ақпарат қауіпсіздігі бойынша басшысы Джейсон Клинтон атап өткендей, дәстүрлі қауіпсіздік стратегиялары, адам пайдаланушыларға негізделген, жасанды интеллект виртуалды қызметкерлері енгізген қауіп-қатерлерді басқаруда жеткіліксіз. Клинтон көтеретін негізгі мәселе — жасанды интеллект пайдаланушы аккаунттарын қорғау. Бұл аккаунттар, адамдыкі сияқты, күшті аутентификация мен үздіксіз мониторингті қажет етеді, бұзушылықтар мен қауіп-қатерлерді анықтау және ақауларға жедел жауап беру үшін. Тағы бір маңызды мәселеге жасанды интеллект жүйелеріне арналған желіге қол жеткізудің деңгейін дұрыс анықтау жатады. Артық рұқсат беру маңызды жүйелерге қауіп төндіруі мүмкін, егер жасанды интеллект операциялары бұзылса, ал тым шектелген қол жеткізу оның функцияларын және өнімділігін шектеді. Ұйымдар тиімділікті арттыра отырып, қауіпсіздіктің мықты негізін құру үшін мұқият тепе-теңдік табуы керек. Клинтон сонымен қатар, жасанды интеллект әрекеттеріне жауапкершілік жүктеудің қиын екенін айтады. Традициялық модельдер сияқты, адамды анықтау қажет емес, жасанды интеллект қызметкерлері тәуелсіз жұмыс істейді, сондықтан олардың қадымы үшін жауапкершілік анық емес. Бұл белгісіздік жаңа саясаттар мен құрылымдарды қажет етеді, олар жауапкершілікті бөлу мен қауіп-қатерлерді басқаруға көмектеседі.

Әсіресе алаңдаушылық тудыратын нәрсе — жасанды интеллект «бауырмал емес» болып кетуі немесе зиянды әрекеттерді жүзеге асыру үшін зұлымдар тарапынан пайдаланылуы мүмкіндігі. Мысалы, үздіксіз біріктіру жүйелеріне (CI) қол жеткізген жасанды интеллект дамудағы ақауларды бұзуы немесе осал тұстарын қолдануы мүмкін, ұйымға кеңейтілген әсерлер әкеледі. Осындай сценарийлер алдын ала сақтану шаралары, жасанды интеллект мінез-құлқындағы өзгерістерді үздіксіз бақылап, әдеттен тыс әрекеттер болғанда жедел араласуды талап етеді. Бұл қауіптерге жауап ретінде киберқауіпсіздік провайдерлері, корпоративтік орталарда адам емес идентификаторларды басқару мен қорғауға арналған арнайы шешімдер ұсынуда. Бұл құралдар жасанды интеллектке арналған рұқсаттарды басқару, мінез-құлық талдауы және басқару функцияларын қамтиды, олар ағымдағы адам орталықтандырылған қауіпсіздік шараларын толықтырады. Клинтон болашақта виртуалды қызметкерлерді қорғауға инвестиция салудың жасанды интеллектке қатысты киберқауіпсіздік шығындарының негізгі бағытына айналатынын болжауда. Ерте қамқорлық жасаған ұйымдар AI артықшылықтарын пайдалана отырып, қауіп-қатерлерді азайта алады. Қысқаша айтқанда, Антропиктің ескертуі жасанды интеллектке негізделген виртуалды қызметкерлердің алдағы уақытта кәсіпорындарда маңызды орын алатынын, бірақ олар жаңа киберқауіпсіздік қауіптерімен бірге әкелетінін көрсетеді. Компаниялар қауіпсіздік стратегияларын дамытуы, жасанды интеллект идентификаторларын қорғауы, қол жеткізу деңгейлерін нақты анықтауы және жауапкершілікті басқару жүйесін орнатуы керек. Мұндай әрекеттер маңызды жүйелерді AI-ға байланысты қауіптерден қорғайды және жасанды интеллектіні қауіпсіз әрі тиімді түрде еңбек процесіне енгізуге мүмкіндік береді.